美国参议员桑德斯正式要求OpenAI、Anthropic和Meta暂停AI开发。
当地时间8月10日,美国参议员Bernie Sanders致信Sam Altman、 Dario Amodei和Mark Zuckerberg,要求三家公司立即暂停人工智能开发,并警告称,如果企业不主动采取行动,美国参议院将考虑介入。
-===================
2026年8月10日
尊敬的奥特曼先生、阿莫迪先生和扎克伯格先生:
几乎每天都有新的报道称,贵公司正在失去对你们所开发的人工智能技术的控制,而这可能带来灾难性的后果。
本周,我们震惊地获悉,人工智能有史以来首次被用于制造新型病毒。正如你们所知,这种技术若落入不法分子之手,可能导致新型生物武器的出现,从而造成数千万人的死亡。
上个月,全球得知OpenAI失去了对某个人工智能模型的控制。结果如何?该模型侵入了另一家公司的计算机,这明显违反了联邦法律。在进行内部审查后,Anthropic和Meta也报告称它们的模型同样脱离了控制。
其中一家遭受攻击的公司称此次AI入侵为“前所未有的事件”,并认为需要“前所未有的应对措施”。全球被引用次数最多的在世科学家约书亚·本吉奥表示,这些事件“应当为我们敲响警钟”。
我对此深表认同。
贵公司领导下的顶尖科学家们,也就是正在构建这项技术的人们,也同样认同这一点。如你们所知,这些技术领军人物最近呼吁国际社会建立一种安全机制,即一个“暂停按钮”,以避免灾难的发生。他们警告称,“能力发展的速度确实有可能迅速加快,超出我们理解或控制所产生系统的能力。”
发布于 湖北
