有个很值得留意的消息,以色列被曝出,在给全球各大AI大模型搞“数据投毒”。
很多人猜到会做舆论引导,但没想到玩得这么系统化。
他们搞出一个虚假的“伪智库”,大批量产出巴以相关的报告,扔到互联网上。大模型抓取网络资料的时候,就会把这些内容吃进去,普通人拿AI去问巴以相关问题,得到的答案就会被带偏。
背后出资方是以色列政府广告局,就是之前操盘欧洲歌唱大赛舆论造势的同一机构,具体交给Piro这家公司落地执行。这家公司自己的说法,就是专门做“优化AI叙事”,去干预大模型怎么判断信息可信度。
这个假机构叫汉诺威公共政策研究所,短时间疯狂输出一百多篇报告。写得特别像正经学术文献,看着中立客观,里面观点却带有偏向性,脚注、参考文献一应俱全。很多文章还故意用提问当标题,比如《以色列国防军是世界上最有道德的军队吗?》,伪装成客观研究,潜移默化植入立场。
AI是抓取网上公开内容来作答,大量这种伪装报告散布出去,就相当于悄悄污染大模型的数据源。
发布于 浙江
