小米玄戒O100明年商用后，手机端侧AI体验会有哪些升级？

　　小米在8月24日的技术沟通会上正式发布了全球首颗6nm晶圆级垂直堆叠AI加速芯片玄戒O100，这颗芯片以1.22TB/s的超高带宽打破了端侧大模型的“内存墙”瓶颈，计划于明年投入商用。

　　一、为何带宽是端侧AI的关键瓶颈

　　“内存墙”难题：传统手机SoC在运行生成式AI任务时，数据搬运效率低，导致大模型生成卡顿、推理速度受限。

　　带宽数量级跃升：玄戒O100的1.22TB/s带宽是主流旗舰手机的近16倍，甚至已超过HBM3水平，接近英伟达H100。

　　近存计算架构：通过6nm晶圆级垂直堆叠（Wafer on Wafer）与混合键合技术，将计算层与存储层垂直堆叠，使数据“走捷径”，大幅缩短传输路径。

　　

　　二、端侧AI体验的具体升级方向

　　本地大模型流畅运行：可在无网或弱网环境下流畅运行数十亿参数的端侧大模型，实现实时响应。

　　推理速度大幅提升：在运行小米MiMo 3B端侧模型时，推理速度最高可达330 Tokens/s，首字延迟控制在0.5秒以内。

　　智能助手与实时翻译进化：更复杂的AI语音助手、实时翻译、内容创作等功能将不再依赖云端，本地即可快速完成。

　　

　　三、从手机到全生态的算力底座

　　双芯协同架构：展示的原型机采用玄戒O3主SoC与O100协处理器协同工作，O100独立承接高强度端侧AI推理负载。

　　全生态应用：未来可应用于手机、汽车、机器人等全生态品类，是小米“人车家全生态”AI算力底座的核心组件。

　　战略意义：玄戒不只是小米的芯片战略，更是小米AI战略的物理基础，标志着国产芯片在先进封装领域的重要突破。