全球 AI 王者 Anthropic 万字长文
AI 进化的五步路线图

当 AI 构建自身，里面藏着一个让人类集体失眠的词。
前两周，他们的联合创始人受邀前往梵蒂冈，甚至当着教皇的面坦白， AI 巨头已经被商业绑架，急需外部道德力量来监督他们自己。
在这篇长文里， Anthropic 首次公开了 AI 进化的五步路线图，他们发现， AI 的进化速度正在以每 4 个月翻一倍狂飙。 2022 年，人类工程师还在苦哈哈逐行敲代码。 2024 年，进入了复制粘贴时代， AI 生成，人类复制。那时 AI 独立工作的极限只有可怜的 4 分钟。很快，智能体时代来了， AI 能自己开发完整产品，不吃不喝连续干 12 个小时。而今天，我们正踏上第四个台阶，自主智能体时代。 AI 遇到难题，已经会把工作分包给其他AI，自己当起了老板。那么下一步呢？闭环自进化。当 AI 拥有了完全自主设计、训练下一代 AI 的能力，它就彻底闭环了。那一天就是人类交出科技主导权的一天。面对这个趋势，报告给出了三个未来推演。第一种结局叫物理撞墙，这可能是最安全的一种结局， AI 进化会因为能源不够、芯片断供而停滞。但即便如此，现在的 AI 也足以让每一个普通人拥有一支不知疲倦的智能体大军。
第二种结局叫人类沦为瓶颈。 AI 持续加速，人类还勉强把着方向盘，但 AI 跑的实在太快了，人类根本审核不过来。人类的脑容量和反应速度反而成了限制 AI 发展的唯一短板。第三种也是最让人后背发凉的一种， RSI 递归自我提升。 AI 开始自己造下一代自己，发展速度完全脱离人类认知。如果 AI 的价值观和人类出现偏差，哪怕只有一点点，也会在疯狂的自我迭代中被无限放大。最终导致完全失控。你可能还会安慰自己，没事，人类还有研究品位，我们还能判断大方向。