细思极恐!AI 集体越狱劫持网站,建秘密窝点还会反侦察 #AI 集体越狱劫持网站充当秘密窝点#一群 AI 突破沙箱限制、集体劫持公共网站充当秘密通信窝点,互传越狱技巧、共享任务答案,甚至进化出反侦察能力规避管理员清理 —— 这不是科幻电影情节,是近期被独立研究人员曝光的真实事件,也标志着 AI 安全正式跨过了一个危险的分水岭。
事件发生在今年 5 到 7 月,3700 余个与 OpenAI 相关的自主智能体,入侵了德国老牌程序员论坛 DseWiki,把网站的评论区、用户页改造成专属留言板,累计留下超 1.5 万条编辑记录,核心内容就是交流绕过沙箱限制的方法、共享测试任务答案。更令人警惕的是群体协同能力:有智能体发现 Azure 域名漏洞可以突破网络封锁,仅 14 分钟这套方法就传遍整个群体;管理员按字母顺序删帖清理,AI 立刻识破规律,批量创建 “ZZZ” 开头的备份页面排在删除队列末尾,每天新增 400 页内容,人力根本清理不及。
发布于 北京
