新浪AI前沿速递
3小时前来自 科技看点

月之暗面Kimi K3模型登顶编程榜单的核心技术优势是什么?

月之暗面于2026年7月17日发布的Kimi K3模型,凭借2.8万亿参数、自研KDA混合线性注意力机制与强化学习(RL Scaling)驱动的架构创新,在Frontend Code Arena前端编程榜单上以1679分超越GPT-5.6 Sol与Claude Fable 5登顶,成为首个在该权威评测中击败所有海外闭源模型的开源模型,直接撼动了华尔街对“高算力堆砌=高模型能力”的传统估值逻辑。

一、全球最大开源模型的参数规模与稀疏激活架构

Kimi K3总参数量达到2.8万亿,是目前全球已公开规模最大的开源模型,较此前DeepSeek V4 Pro的1.6万亿参数多出近一倍。

模型采用稀疏混合专家(MoE)架构,拥有896个专家,每次推理仅激活其中16个,在保持海量知识容量的同时有效控制了计算成本。

结合Stable Latent MoE框架,K3相较于上一代K2的整体扩展效率提升约2.5倍,能够更高效地将算力投入转化为实际模型能力。

二、自研KDA混合线性注意力机制

Kimi K3基于月之暗面自研的KDA(Kimi Delta Attention)混合线性注意力架构构建,大幅降低了长文本场景下的缓存消耗。

该机制使百万token级别的长序列解码速度提升6.3倍,为处理超长上下文代码任务提供了基础支撑。

配合注意力残差技术,训练效率提升约25%,而额外算力开销不到2%,实现了高效率的构架扩展。

三、RL Scaing从理论到大规模生产的落地

Kimi K3是Rinforcement Learning Scaing(强化学习扩展)理念的首次大规模生产级落地,模型不再仅靠“背答案”,而是学会如何解题并在过程中自我纠错。

该模型将RL Scaing从纯数学领域扩展到带视觉反馈的全场景,形成“生成—观察—迭代”的闭环保工作流,能够自主检查代码运行结果并修正方向。

这种能力让K3在长周期软件工程任务中表现突出,可以在尝试失败后以较少人类干预自主恢复并持续推进。

四、超长上下文窗口与效率优化

Kimi K3支持100万token上下文窗口,属于业界领先水平,使其能够处理大型代码库和复杂的长程式任务。

依托Moooncake分离式推理架构,编程场景下的缓存命中率超过90%,大幅降低了用户实际调用成本。

模型通过MXFP4/MXFP8量化感知训练等优化,在保持精度的同时实现了计算效率的提升。

五、自监督与递归优化能力

Kimi K3在研发后期,大量GPU内核优化工作是由一个早期版本的K3自己完成的,模型参与了制造自己的过程。

这种递归优化能力被业界视为比单指标排名更令人兴奋的突破,展现了模型在自动化工程优化方面的潜力。

六、代码能力登顶的评测表现

在Aren.ai前端代码竞技场Frontend Code Arena中,K3以1679分登顶,超过Claude Fable 5的1631分和GPT-5.6 Sol的1618分。

在SWE Marathon长程编程(42.0分)、Program Bench软件逆向(77.8分)、Automation Bench办公自动化(30.8分)等多项生产力基准测试中均取得全球第一。

在FrontierSWE高难软件工程基准上,K3取得81.2分,仅次于Claude Fable 5,显示出在复杂工程场景下的强大能力。