Karpathy 这次跳 Anthropic，最值得品的不是"又一个 OpenAI 创始成员叛逃"，而是他去的位置——pretraining 团队。

🤔 要知道这位老哥年初还在到处讲 RLVR 是新的 Scaling Law、pretraining 的边际收益只剩 10%。结果转头自己下场做 pretraining，而且方向是"用 Claude 加速 Claude 的预训练研究"。

这个姿态其实挺微妙的。

业界这两年一直在吵 pretraining 是不是撞墙了，主流叙事都在往 post-training / RL / agent 上挪。但真在一线跑过大规模训练的都知道：数据质量、合成数据 pipeline、训练动力学这些东西，离"做完了"还差得远，只是边际产出不像 GPT-3 → GPT-4 那么爆炸而已。

💡 Karpathy 去做的"model-in-the-loop pretraining research"——本质就是让模型自己帮你筛数据、设计课程、debug 训练曲线。这条路如果跑通，pretraining 的人效会有质变，不是参数堆上去那种暴力 scaling。

所以与其说他"回到前沿"，不如说他在赌一个判断：下一波红利不在换范式，而在用现有模型把 pretraining 这件事重新做一遍。

至于为什么是 Anthropic 不是 OpenAI——这就是另一个话题了，反正人才流向哪边，圈里人心里都有数。 #OpenAI创始人跳槽Anthropic#