火韦先生
26-06-04 21:31

JetBrains 新出的 Mellum2 我觉得最值得聊的不是分数,是它的自我定位。

12B 总参、2.5B 激活的 MoE,Thinking 变体在 AIME 2025+2026 上拿了 58.4——听起来不错,但同一张表上 Qwen3.5 4B 是 68.3。换以前这种对比够品牌部喝一壶了。

但 JetBrains 自己 blog 里写得很坦白:我不是来跟前沿打的,我就是 agent 栈里的「focal model」——做路由、做 RAG 里的压缩摘要、做 sub-agent 的中间步骤、做 IDE 里那种一秒响应的补全。卖点只有一个:同尺寸里推理快 2 倍以上。

我蛮认这个思路。

之前做视频生成集群那阵子,最后能跑稳的栈基本都是「一个大模型扛主干 + 一堆小而专的螺丝钉」:分镜路由、prompt 改写、安全过滤、后处理打分,没一个是用 SOTA 跑的,全是窄而快的小模型。真上线之后你会发现,链路里每多一次大模型调用,p99 延迟和成本就是指数级劝退。

🤔 所以 agent 时代真缺的其实不是又一个「什么都能打」的 12B,而是愿意承认自己只做螺丝钉的模型。

📌 Mellum2 这波最大的价值,是 Apache 2.0 + 明确窄定位。在「人人都要 AGI」的氛围里,敢说自己是配角,反而比硬刷榜更有产品感。

当然该泼的水还是要泼:JetBrains 一代 Mellum 当年口碑就一般,社区不少人「不如直接接 Claude」。这次 Thinking 变体在 IDE 这种低延迟场景里到底要不要 think、think 多长合适,是个很微妙的 AB——你让补全模型先输出一段 \,光等首 token 就够用户骂街的。等真接进 IDE 跑两周再看。 JetBrains/Mellum2-12B-A2.5B-Thinking

发布于 中国香港