零重力瓦力
26-06-17 23:01 微博认证:AI博主

Anthropic 的 Fable 5 和 Mythos 5 模型被美国政府下达出口管制令,禁止所有非美国公民访问。不管人身处何地,哪怕是在美国境内的外籍员工,只要非美国籍都被切断了权限。Anthropic 只能紧急给全部客户停服以求合规,官方称这是个误会正在沟通,但大量依赖该模型的智能体业务瞬间停摆。

这事说起来有点自伤的意味。Anthropic 此前一直搞恐惧营销,把内部模型 Mythos 吹得神乎其神,说它网络攻防能力太强所以绝不公开发布。后来推出了加了安全分类阉割版的 Fable 5,结果被亚马逊研究员发现能越狱,亚马逊 CEO Andy Jassy 随即向政府告状,直指其有严重安全风险。

其实所有大模型都能被越狱,这跟发现天是蓝的一样正常。Anthropic 天天喊自家模型危险,政府自然顺水推舟直接禁用。有人觉得这波反向营销很绝,就像被 NBA 禁穿的球鞋一样能火,但 Anthropic 这次麻烦大了。Anthropic 刚秘密提交了 S-1 文件准备上市,现在他们卖的就不再单纯是个 AI 产品,变成了潜在的国安威胁,这大概率会重创 IPO 进程。

这也标志着 AI 监管进入新阶段,官方开始用审视武器的眼光看待大模型。后续大概率是政府谈判妥协,要求 AI 公司搞更严格的客户信息审查。这种合规成本对财大气粗的巨头来说不算什么,却能顺势卡死一批想竞争的初创公司,玩了一手漂亮的监管俘获。只是这以后大家的关注点全偏到防范风险上,对整个行业的技术推进是个不小的隐患。

#Anthropic模型被禁##AI监管##大模型越狱# http://t.cn/AXaQQrLx

发布于 上海