Anthropic提出了一个令整个AI行业不安的概念警示：“递归自我改进”（recursive self-improvement）——即AI系统无需人类干预、自主设计并改进其继任者的能力。这一阶段尚未到来，但“可能在未来两年内发生，甚至更早”。

根据这些数据，Anthropic提出一个在AI行业颇为罕见的主张：全球应协调考虑暂停或放缓前沿AI的开发。

但如果放缓只是让最不谨慎的行为者在技术上迎头赶上，最终结果可能让所有人都更不安全。在缺乏全球协调机制的情况下，各公司和各国政府将不得不在竞争压力和地缘政治压力之下，做出艰难的安全抉择。

过去，天才是1%的灵感加99%的汗水，但现在汗水正在被日益自动化。

#人工智能#