梁赛
26-07-28 09:15 微博认证:AI博主

#月之暗面正式开源KimiK3#

Kimi K3刚刚正式开源发布,昇腾即实现0day极速适配。

在训练侧,基于MindSpeed MM在Atlas 800 A3、Atlas 900 A3 SuperPoD上完成训练复现,在算子、并行加速、显存优化等方面进行专项优化;

在推理侧,通过vLLM Ascend与 SGLang开源推理引擎实现快速部署,同时,昇腾950超节点支持FP8、MXFP8、MXFP4等全系列数值精度格式,原生支持Kimi K3的mxFP4量化权重。

发布于 广东