昨天我写美国政府冻了Anthropic两个最强的模型,Anthropic只好对所有人关停。今天有了更完整的故事,包括一个很微妙的细节:在背后把这事捅出去的,是亚马逊。
亚马逊是Anthropic最大的投资人之一。
事情是这样的。上周末,亚马逊的研究员演示了一件事:他们通过改变提问的方式,能让Anthropic那个面向公众的Fable模型,吐露出至少四款软件的安全漏洞信息。绕过了模型内置的护栏。亚马逊的CEO安迪·贾西,亲自把这个发现,跟包括财政部长贝森特在内的几位美国官员讲了。
很快,白宫开会,要求Anthropic把模型撤下来。特朗普让商务部长牵头处理,自己签字批了那道限制令。Anthropic觉得留给它的时间很短,当天晚上就把两个最强的模型,对全世界关掉了。
这个周末,Anthropic在手忙脚乱地救火。它把几位最顶尖的技术和安全负责人派去华盛顿,跟政府的安全专家见面,想把事情谈回来。商务部长、国家网络总监、Anthropic的联合创始人,几个小时几个小时地打电话。
但安全圈里,不少人觉得政府反应过度了。周日,一批网络安全界的知名人士联名写信,要求撤销这道管制。信里说,这个动作把最好的模型从防御者手里夺走了,在没有真实风险的情况下,危及了美国自己的AI领先地位。他们还说,亚马逊揭出来的根本不是什么新危险,而是任何一个想写出安全代码的模型,本来就必须具备的能力。
把这件事看完,会发现它有好几层。一个公司最强的产品,因为另一个公司的演示,被自己政府叫停。而那个去政府面前演示、推了一把的公司,恰恰是它自己的大股东。
发布于 北京
