玄戒O100的端侧AI性能比苹果A18强多少?
小米在8月24日的玄戒芯片技术沟通会上展示了专为端侧大模型打造的玄戒O100原型机,实测推理速度最高达到每秒330 Tokens,远超传统旗舰手机,为端侧AI性能树立了新标杆。
一、端侧AI推理速度与带宽表现
推理速度:玄戒O100内置Xiaomi MiMo端侧模型,实测推理速度最高可达每秒330 Tokens;雷军公布的原型机实测数据为每秒295 Tokens。
超高带宽:采用6nm晶圆级垂直堆叠封装,内存带宽高达1.22TB/s,是传统旗舰手机的16倍,有效突破端侧AI的“内存墙”瓶颈。
性能倍数:官方称整体AI性能较传统方案提升10倍,现场演示时端侧运行无联网、无插卡条件,响应几乎零延迟。
二、核心机制:近存计算架构
行业首款6nm WoW封装:采用Wafer on Wafer晶圆级垂直堆叠与Hybrid Bonding混合键合工艺,键合间距仅1.4微米,TSV硅通孔孔径0.7微米。
创新F2F金属层直连:通过258万个物理键合节点,将两层高速AI专用DRAM晶圆与NPU晶圆垂直堆叠,大幅缩短数据传输路径。
14核高带宽NPU:配合玄戒高带宽矩阵总线,支持多核并行处理与动态路由,算力得以充分释放。

三、性能定位与商用规划
对比传统旗舰SoC:玄戒O100不是通用SoC,而是专攻端侧大模型推理的高带宽AI加速协处理器,与主SoC玄戒O3双芯协同计算,O100独立承接高强度AI推理负载。
小米18 Fold前瞻:O100原型机基于未发布的小米18 Fold魔改,取消影像模块、加入10W主动风冷散热,用于验证双芯极限性能。
量产时间表:玄戒O100已研发完成,预计2027年正式商用,未来将覆盖手机、汽车、机器人等全生态品类;玄戒O3则于今年9月随小米18 Fold首发。