#Anthropic呼吁全球暂停AI开发#

Claude背后的Anthropic开始呼吁全球头部 AI 实验室建立暂停机制。

一旦前沿AI风险上升，尤其是AI开始参与改进 AI 自己，就应该可以协同放慢，甚至暂停开发。

他们可能真正想问的问题可能是：如果顶级AI公司真的觉得前沿AI可能失控，其他公司要不要响应呢？

一家停没意义。
几家都停那谁来监督？
嘴上说这停，怎么证明？
你停我不停，算什么？

所以现在谁有资格按这个暂停键，AI已经快到连做AI的公司自己都开始紧张了。

我的观点是：

AI不一定要一喊风险就全部暂停，这并不现实....

但我觉得必须要尽快出台一个红线机制，什么样的情况要限制，什么样的情况必须限制。

至少要有几条规则：

第一，模型能力达到某个危险等级，要强制第三方评估。

第二，模型如果能帮助研发更强的AI，必须披露测试结果和安全问题。

第三，AI公司不能自己说安全就上线。

第四，如果模型出现明显失控风险，要有行业共同认可的暂停机制。

口头呼吁之后能做到哪一步才是我们关心的问题。

#how i ai##ChatGPT[超话]#