两年前，”手机跑大模型”还停留在发布会PPT上。2026年，端侧模型密集上新：vivo预研30B MoE端侧模型，联发科天玑9600 Pro支持本地运行30B参数模型，苹果AFM 3系列随系统更新推送。端侧AI，正从”能不能做”进入”怎么做好用”。
为什么必须上端侧
云端推理的账单、延迟与隐私三座大山，迫使AI能力下沉。本地运行意味着数据不出设备、毫秒级响应、离线可用。对企业级应用，数据合规与成本可控更是刚需——这是端侧AI最坚实的产业机会。
3B是主力，带宽是瓶颈
一个反直觉的事实是：端侧主流不是越大越好，而是3B级别最优。大模型逐token解码时每生成一个字都要把权重过一遍内存，是典型的带宽受限负载。3B模型4-bit量化后权重约1.6GB，旗舰机带宽下理论上限每秒50 token；7B模型的天花板立刻掉到20 token/s。内存成本在手机物料中占比已从10%升到30%-50%，进一步压缩了大模型的生存空间。
端云协同是终局
“本地小模型是手，云端大模型是脑子”——端侧处理摘要、翻译、意图识别等高频低复杂度任务，复杂推理无感升级到云端。端侧不是云端的替代品，而是它的补充。
端侧AI的竞争，已经从把模型装进手机，变成让模型在手机里稳定地工作。这场较量的胜负手，在内存带宽、量化质量与任务路由的工程细节里。
