华为Mate 90系列发布，小艺升级为个人专属智能体，搭载30B端侧大模型；面壁智能开源MiniCPM-V 4.7，让iPhone断网也能跑35B多模态模型，只占3G内存。2026年，端侧大模型正从”旗舰卖点”变成”行业标配”。
为什么端侧是必争之地
云端推理的三座大山——账单、延迟、隐私——迫使AI能力下沉。本地运行意味着数据不出设备、毫秒级响应、离线可用。对用户而言，这关乎隐私安全；对企业而言，这关乎合规与成本。
3B是甜点，带宽是瓶颈
一个反直觉的事实是：端侧主流不是越大越好，而是3B级别最优。大模型逐token解码时每生成一个字都要把权重过一遍内存，是典型的带宽受限负载。3B模型4-bit量化后权重约1.6GB，旗舰机带宽下理论上限每秒50 token；7B模型的天花板立刻掉到20 token/s。内存成本在手机物料中占比已从10%升到30%-50%，进一步压缩了大模型的生存空间。
端云协同是终局
“本地小模型是手，云端大模型是脑子”——端侧处理摘要、翻译、意图识别等高频任务，复杂推理无感升级到云端。阶跃终端发布的大模型原生智能体手机STEPX Neo，正是这一思路的产品化。
端侧AI的竞争，已经从”把模型装进手机”变成”让模型在手机里稳定地工作”。这场较量的胜负手，在内存带宽、量化质量与任务路由的工程细节里。
