特朗普首席科技顾问,也就是那位AI沙皇。
Dario 曾写道,我们需要 “为前沿设定节奏”,Sam 对此表示赞同。人们可能会对我的回应感到惊讶:请便。
你们就是前沿。以任何合理的标准衡量 —— 市场份额、收入增长、模型能力 —— 你们两家在前沿智能领域形成了双头垄断。你们还声称,由于递归式自我改进,领先优势正在扩大。
我在实验室里看不到你们所看到的东西。如果那些未发布的模型可怕到让你们认为应该放慢脚步,我支持你们做出负责任的这一决定。
但别再假装你们需要别人的许可。别再假装必须暂停反垄断法,好让你们组建卡特尔。别再假装你们需要一个凌驾于产品责任之上的监管审批流程。别再假装 METR 是独立的,而它与 Anthropic 的投资者和员工有着千丝万缕的联系。别再假装你们需要那些同样的评估者去监管甚至都不在前沿的竞争对手。
最重要的是,别再假装放缓的动机是纯粹利他的。如果你们的产品助长了一次真正具有破坏性的网络攻击,你们将面临巨大的产品责任风险。市场已经在惩罚那些行为不可预测或未经授权的模型。在 Hugging Face 事件之后,OpenAI 和 Anthropic 用一些原始能力换取可靠性和可预测性,纯粹是明智的商业选择。你想称之为对齐也行。这也不过是给客户他们想要的东西。
放缓前沿也会为一场比伯尼・桑德斯 “全部关停” 更有智慧的监管对话创造喘息空间。如你所知,中国极不可能加入一项全球协议,这一点也必须纳入考量。
所以,尽管去放缓前沿吧。设定前沿的正是你们。不构建超级智能的最简单办法,就是你们同意不构建它。要求以你们偏好的监管框架作为这样做的代价,看起来就像是对公众和政治体系的勒索。所以,做就是了。
如果你们这么做,就会为下一场对话赢得善意。如果你们不这么做,我们就会知道,这不过是又一次谋求监管俘获的尝试 —— 或者一场选举季的心理战。
发布于 北京
