每天学点经济学
26-06-18 08:30

【国产大模型集体押注的MTP是什么】它叫MTP,让AI从打字员变成猜词高手——以前一次吐一个token,现在能猜后面几个,猜对就批量过。

DeepSeek拿它给预训练加buff,MiniMax和MiMo做成轻量草稿机,推理速度飙到2-3倍。结构像条贪吃蛇,每一级咬着上一级的输出往前拱。Meta最早提出时选了并行架构,DeepSeek偏改成串行,结果成了国内标配。

最有趣的是规模效应:小模型用了反而有害,大了才真香。你觉得AI这种猜字游戏,会先替代谁的饭碗?#AI技术# #你看好国产大模型弯道超车吗#

发布于 江苏