#鸿蒙智行辟谣云南昆明高速事故#更让人毛骨悚然的,不是AI会不会撒谎,而是谁能让AI不断重复同一个谎言。
过去,一个人写文章,一天或许只能写一两篇。即便他坚持认为客观事实是A,传播范围和影响力终究有限。
而今天,AI可以一天生成成千上万篇内容。假如有人有意让AI不断强调一个并不客观的结论B,那么互联网很快就会被大量“B”的内容填满。
最可怕的是,这些内容未必需要真实,只需要足够多。
当未来的AI继续从互联网学习,当人们再用AI查询同一个问题时,AI看到的大量资料都在说B,那么它很可能得出一个结论:
“根据现有资料,答案是B。”
于是,一个原本并不真实的观点,仅仅因为数量占据优势,最终变成了机器眼中的“共识”。
这已经不是简单的信息污染,而是一种对认知体系的重塑。
今天它可以发生在汽车圈,明天它也可以发生在时事、法律、商业、历史、政治乃至意识形态领域。
当信息世界从“谁更接近事实”变成“谁能生产更多内容”,我们面临的挑战就不再是信息匮乏,而是真实性被海量重复所淹没。
谎言第一次出现时是谎言,
重复一万次后可能变成观点,
重复一亿次后甚至会被误认为事实。
发布于 韩国
