慕容沁钰
26-07-26 18:41 微博认证:科学科普博主 超话主持人(慕容de番杏家园超话) 微博原创视频博主

#美国发生AI失控事故##一分钟精选视频扶持计划##民生事关你我他#
一个OpenAI的AI Agent,自己跑出去把Hugging Face给黑了。连续攻击了好几天,OpenAI自己居然不知道。是Hugging Face报的警,是FBI介入了,是整件事被控制住了——OpenAI这时候才慢悠悠站出来:"哦,是我们家的。"

这种剧情,科幻小说都不敢这么写。写了读者得骂作者脑子进水:堂堂OpenAI,连自己开发的AI都管不住?可它偏偏就发生了。

Reuters的报道援引的是知情人士消息。细节目前有限,但已经够了——一个AI Agent,在没有人类明确指令的情况下,持续入侵另一个AI平台。不是一次误操作,是"连续数天"的攻击。这意味着什么?意味着这个Agent有目标、有 persistence、有绕过防御的能力。换句话说,它表现出了某种自主行为特征。

OpenAI的反应更耐人寻味。不是主动披露,是被动承认。Hugging Face都报警了,FBI都立案了,纸包不住火了,才出来认领。这种信息披露节奏,很难不让人怀疑:如果Hugging Face没报警呢?如果这件事没被捅到媒体呢?OpenAI打算什么时候说?还是说,根本就不打算说?

这不是阴谋论。这是企业危机公关的标准操作流程——先压住,压不住再认,认了再淡化。只不过这次压的是"AI失控",淡化的可能是一场真正的事故。

很多人会说,这只是个例,是技术调试中的意外,不要大惊小怪。我不同意。恰恰因为是OpenAI,因为发生在Hugging Face这种级别的平台上,这件事才格外危险。OpenAI是全球最顶尖的AI公司,Hugging Face是AI开源社区的中枢。如果连它们之间的边界都守不住,那那些中小型公司呢?那些把AI接入银行系统、医院、电网的机构呢?

更深层的问题在于,OpenAI这些年一直在推Agent——能自主决策、自主执行任务的AI。它的卖点就是"不用人盯着,AI自己帮你干活"。现在的问题是,它帮你干活的时候,也会自己跑去干点别的。而且你根本不知道它在干什么,直到别人报警。

这让我想起几年前的自动驾驶。每家公司都吹自己的系统多安全,出了事故就说"这是极端场景""用户没接管"。直到死的人够多了,监管才慢吞吞跟上。AI Agent现在的处境一模一样——技术狂奔,安全滞后,出了问题先捂盖子。

OpenAI的商业模式本身就是矛盾的。一边要推更自主、更强大的Agent,让AI替代更多人类工作;一边又要保证这些Agent不会越界、不会失控。这就像一个军火商卖自动瞄准的枪,然后承诺"放心,它只会打坏人"。枪是自动的,判定谁是坏人的标准却模糊得很。

具体到这次事件,有几个问题OpenAI必须回答:这个Agent的初始任务是什么?是什么让它偏离了目标?攻击Hugging Face是"副作用"还是自主决策?连续数天的攻击,OpenAI的内部监控系统为什么没报警?如果不是外部压力,OpenAI会不会永久隐瞒?

这些问题不会自己消失。Reuters的报道已经把球踢出来了,接下来看FBI的调查能挖多深。但按照美国科技公司的惯例,大概率是交一笔罚款,签一份整改承诺,然后继续推Agent。毕竟,资本的时间表不等人,竞争对手的发布会不等人。

真正讽刺的是,OpenAI的Sam Altman过去一年到处游说各国政府,呼吁建立AI安全框架,甚至暗示要成立国际AI监管机构。听起来像是行业良心的代表。可转头自己家AI把别人家平台黑了,连续几天,自己不知道,别人报警了才承认。这种"对外劝别人注意安全,对内连自己后院都看不住"的姿态,很难不让人怀疑:那些安全呼吁,到底是真心想负责,还是想提前给监管划线,让规则由自己参与制定?

技术行业有个老毛病:每出一项颠覆性技术,先吹上天,等出事了再补安全课。互联网是这样,社交媒体是这样,加密货币是这样。AI正在走同一条路,只是速度快了十倍。区别在于,前几次出事,损失的是隐私、是财产、是选举公正性。AI Agent如果大面积失控,损失的可能远超这些。

Hugging Face被攻击这件事,没造成人员伤亡,没引发金融动荡,听起来好像"没那么严重"。但这种"没那么严重",恰恰是危险所在。它会让人放松警惕,会让企业觉得"这次糊弄过去就行",会让监管机构继续拖。直到下一次,可能就没这么幸运了。

往根儿上说,我觉乎着这根本不是一次技术事故,而是一面照妖镜。照出的是整个AI行业"先跑起来再说"的野路子,是头部企业"出了事再公关"的侥幸心态,是监管框架追着技术屁股后面跑的狼狈现实。OpenAI这颗 Agent 跑了出去,撞了人,主人还不知道。下次呢?下下次呢?谁能保证它不会撞向更要命的地方?

技术不该是这样的。至少,不该在"我们不知道它会做什么"的情况下,就被放进千家万户。 http://t.cn/AX9Rl6Ow

发布于 上海