同一天,两家最顶尖的AI公司,各自被政府套上了一道绳子。
先说Anthropic。周五,美国商务部长给Anthropic的CEO阿莫迪写了封信,把它最强的两个模型,Fable 5和Mythos 5,列进了出口管制。意思是,美国境外的政府、公司、个人,加上美国境内的外国人,都不许用。
这个范围太大了。大到连Anthropic自己一些外籍员工都被划了进去。于是公司干脆一刀切,对所有人,包括美国人,把这两个最强的模型整个关掉。
起因是政府发现了一个越狱的方法,能绕过模型内置的安全护栏。这几周,政府其实一直在用Mythos,有官员担心它会被拿去攻击金融系统这类关键基础设施。而在此之前,全世界的政府和公司,一直在用Mythos帮自己找软件漏洞、打补丁。现在这事停了,停多久,没人知道。
值得记一笔的是,阿莫迪前几天还发了篇长文,呼吁全球给AI立规矩,主张政府应该像管飞机一样管AI,该拦的模型就得拦下来。这话音还没落,他自己最强的模型,先被政府拦了。只不过拦的方式,跟他设想的那套有序审查不太一样。
同一天,OpenAI那边也没好过。一个由多个州总检察长组成的联盟,对它开了调查,纽约州的总检察长发了传票,要的材料一长串:广告、怎么让用户上瘾留存、怎么处理消费者数据和健康数据、跟未成年人和老人有关的活动,还有模型会不会一味顺着用户说好话。在这之前,佛罗里达州已经第一个起诉了OpenAI和奥尔特曼,理由是明知产品不安全还往外发。
这两家公司,刚递交了上市申请,正排队冲向史上最大的几个IPO。一边是市场用几千亿的估值往前推,另一边,是监管的手一只接一只地伸过来。
发布于 北京
