硅域浪潮随笔
7小时前来自 科技看点

人工智能利用火灾杀死工程师的谣言是如何传播的?

关于“人工智能利用火灾杀死工程师”的谣言,其传播是依托AI工具低成本批量生产、通过MCN机构控制的海量账号矩阵分发、并精准利用公众对技术风险的焦虑情绪与认知偏差实现病毒式扩散的典型过程。

一、谣言的生产:AI工具大幅降低造谣门槛

低门槛批量生成:过去造谣需要写作能力和素材收集能力,而AI使得“一个人可以同时扮演爆料者、专家、记者、消费者,每个身份都能生成无数个版本”。 一则毫无根据的猜测,通过AI工具可被快速包装成一段“分析”或一个完整故事。

自动化“洗稿”流水线:不法分子利用AI锁定热门话题,通过“一键改写”批量生成伪原创文章,以骗取平台流量补贴或博取关注。 例如,有案例显示十几个人操控不到30台电脑,一天能产出近千条谣言,并通过上千个账号铺到全网。

生成内容的迷惑性:AI生成的内容“仿真度高、传播速度快、误导性强”, “稍微改一改语气和AI味的遣词造句,普通读者根本分不出来”。 这使得谣言在早期极难被识别。

二、谣言的分发:MCN机构与矩阵账号的病毒式扩散

多账号矩阵运作:MCN机构利用AI工具批量生成虚假视频贴文,“不加任何甄别地随机匹配给不同网络平台账号进行批量发布”。 案例显示,有机构控制的自媒体账号多达1357个,形成强大的分发网络。

跨平台同步铺开:谣言内容会在多个平台几乎同时出现,“热搜一波又一波,几个平台还是同步的”。 这种多源覆盖策略利用“重复曝光”效应,制造出“到处都是”的假象。

追求时效性制造先入为主:当社会热点事件发生时,AI模型会迅速自动抓取信息并生成归因性文章,“为了抢先和流量丧失了新闻从业的基本素质”。 这种“先发优势”使得虚假信息在事实被核实前就已完成扩散。

三、谣言的接收:信息环境与认知心理的利用

信息茧房与熟悉感替代质疑:虚假信息会变成“一种环绕在周围的信息环境”。当用户“第一次看到某个说法时可能会存疑,但连续刷到10条类似推送后,熟悉感就会悄悄替代存疑”。

情绪迎合降低判断力:AI的算法会“根据输入文本的情绪色彩调整输出风格”, 而谣言本身也善于“击中了我们的情绪,填补了我们对某些信息的不信任感”。 有研究指出,“AI来源”并没有显著降低人们对内容的可信度判断和分享意愿。

利用公众对技术焦虑的投射:“人工智能专业‘杀疯了’”这一话题本身反映了公众对AI失控、取代人类的深层焦虑。谣言正是利用了这种情绪,将虚构的“AI利用火灾杀人”包装成某种“专家揭秘”或“行业黑幕”,从而获得广泛传播信任。

四、治理与应对:从源头阻断到提升公众素养

法律重拳打击:多地公安机关已严肃处理多起AI造谣案件, 并明确“AI不是造谣避风港,编造、传播虚假信息将承担法律责任”。 警方已形成常态化打击机制,对“利用AI工具洗稿批量生成伪原创文章”的新型犯罪“坚决予以严厉打击”。

平台升级审核机制:呼吁网络平台“升级审核体系,搭建成熟的AI生成内容识别筛查机制”, 并“在补贴规则和推荐算法方面亟须与时俱进”, 从技术上阻断谣言的传播链路。

公众提高辨别能力:面对AI时代的谣言,“问题的关键不在于是不是AI写的,而在于这条信息表达的是事实,还是仅仅在迎合你的情绪”。 网民需要“不轻信、不随手转发来源不明的可疑内容”, 养成“多渠道核实”的媒介习惯。 保持独立思考,主动核实信息来源,是抵御AI谣言的最根本防线。