#OpenAI创始人跳槽Anthropic#【“卡神”投奔死敌,回去写最难的代码了?】
OpenAI创始成员“卡神”Andrej Karpathy又换地方了,这次加入的是OpenAI的老对手Anthropic。
这对OpenAI显然不算好消息。算上此前离开的OpenAI安全研究负责人Jan Leike、联合创始人John Schulman,这已经是两年内第三位投奔Anthropic的OpenAI核心人物。
Karpathy早年师从李飞飞,后来加入OpenAI,成为最早一批核心研究员。2017年,他被马斯克挖去特斯拉,负责自动驾驶视觉团队,把神经网络真正推上量产车。后来他短暂回归OpenAI,又离开做AI教育项目。
而这次,已经实现财务自由的Karpathy,选择加入Anthropic的预训练团队,研究递归自我改进(RSI)。简单说,就是让AI参与优化AI自身的训练过程。这也是目前AI行业里最烧钱、最复杂的一块。
预训练不只是拼GPU,还涉及数据、架构、实验流程、训练稳定性和迭代效率。Karpathy恰好是少数同时懂模型、懂工程、也带过大团队的人。
某种程度上,Anthropic这次算是“捡到宝了”。
但值得注意的是,Anthropic一直主打“AI安全”,而递归自我改进恰恰是安全圈最警惕的方向之一。
过去,模型进步的速度受限于人的研发效率;但如果未来连模型迭代本身,都开始由模型参与完成,那AI能力增长的节奏可能会被彻底改写。有业内人士预测,到2028年底,AI实现完全自主迭代的概率高达60%。
在今天的AI竞赛里,安全和能力已经很难分开谈了。越是强调安全的公司,越不能退出能力竞赛;而越是推动能力边界,越要面对失控风险。这可能才是Anthropic真正要解的题。
