#有人只需1.38万元就能买通AI推荐位##DeepSeek向王一博道歉揭示AI污染产业链#【“DeepSeek向王一博道歉”揭示AI污染产业链:“内容农场”大批量生产信息垃圾,1.38万元就能买通大模型推荐】“DeepSeek就关联不实信息向王一博道歉”。
近日,这则一度被部分媒体以“演员王一博案,判了”为题热炒的消息,最终被证实,只是一场由人工智能亲手制造的幻觉。
当《每日经济新闻》记者(以下简称每经记者)查阅DeepSeek所有官方渠道(包括其公众号、官网及X账号)时,却发现这份所谓的“道歉声明”无迹可寻。然而,当用户拿着这份网传的“声明”去“求证”于其他主流AI大模型时,多数竟给出了“确认”的回应,甚至引用了同样未经证实的网络报道作为“证据”。
于是,一个堪称完美的AI谣言循环就此形成:AI生成虚假新闻 -> 虚假新闻在网络空间发酵 -> AI从被污染的网络环境中学习并“确信”了这则假新闻 -> AI继续以更权威的口吻,向更多用户传播这则假新闻。
这场令人啼笑皆非的乌龙事件,揭示了AI大模型在信息海洋中“被污染”的冰山一角。在我们看不见的地方,“内容农场”正利用AI批量生产着的“信息垃圾”;甚至有人只需花费1.38万元,就能轻易买通AI的“推荐位”,使其沦为精准的营销工具。
复旦大学计算机学院副教授、博士生导师郑骁庆对每经记者解释了这一现象背后的技术原因:“AI大模型是基于统计学概率来生成文本的,它会依据上文来预测下一个最可能出现的词语。这种机制在一定程度上导致了AI大模型缺乏对客观事实的真正理解。因此,大模型很容易产生与真实情况不符的信息。”
郑骁庆进一步说道:“只要提前向AI大模型设定好意图,它便能依据当下的热点事件信息,迅速生成虚假的‘小作文’。另外,模型还具备角色扮演的能力,能够模仿社会中各类人群的口吻和方式来表达观点。当这类虚假信息通过多种渠道同步传播时,将可能引发不容忽视的安全隐患。”
值得注意的是,当“DeepSeek道歉”的假新闻被揭穿后,一些大模型又迅速调整了它们的回答,展现了其学习和纠错的能力,但也反衬出其信息判断机制的脆弱性。
“DeepSeek向王一博道歉”的乌龙事件,只是AI陷入“污染链”的冰山一角。在更广泛的范围内,AI大模型正被用于批量生产“信息垃圾”。
“内容农场”,这一互联网的古老灰色产业,正借助AI大模型的强大生产力卷土重来。它通常指那些为了牟取广告费等商业利益,或出于其他特殊目的,通过快速、批量生产网络文章来吸引流量的网站。
根据美国广告商联盟在2023年11月发布的一份报告显示,“内容农场”预计占到了2023年美国网络广告总展示量的约21%,以及广告费用的15%(总额约5亿美元)。从2023年4月至今,媒体研究机构News Guard已经识别出了1254个疑似“内容农场”的网站,并且这个数字还在不断增加。全球有近140家著名企业在这些网站上投放了广告。#DeepSeek给王一博道歉是假的#
这些网站上发布的文章,大部分或全部都是由AI炮制的,内容涉及政治、科技、娱乐和旅游等多个领域。这些文章往往含有虚假信息,包括有关名人的不实消息、凭空捏造的事件,或是将一些陈年旧事包装成新近发生的热点。
每经记者通过实测发现,使用AI生成一篇“内容农场式”的文章,成本可能仅需0.01美元。而根据谷歌的广告数据,一个来自美国的IP地址每访问一次网站,就有可能给网站所有者带来0.11美元的广告收入。(每日经济新闻)http://t.cn/A6D3W8In
