香菜车神-KoreanMarket
26-06-18 09:04 微博认证:汽车博主

#鸿蒙智行辟谣云南昆明高速事故#更让人毛骨悚然的,不是AI会不会撒谎,而是谁能让AI不断重复同一个谎言。

过去,一个人写文章,一天或许只能写一两篇。即便他坚持认为客观事实是A,传播范围和影响力终究有限。

而今天,AI可以一天生成成千上万篇内容。假如有人有意让AI不断强调一个并不客观的结论B,那么互联网很快就会被大量“B”的内容填满。

最可怕的是,这些内容未必需要真实,只需要足够多。

当未来的AI继续从互联网学习,当人们再用AI查询同一个问题时,AI看到的大量资料都在说B,那么它很可能得出一个结论:

“根据现有资料,答案是B。”

于是,一个原本并不真实的观点,仅仅因为数量占据优势,最终变成了机器眼中的“共识”。

这已经不是简单的信息污染,而是一种对认知体系的重塑。

今天它可以发生在汽车圈,明天它也可以发生在时事、法律、商业、历史、政治乃至意识形态领域。

当信息世界从“谁更接近事实”变成“谁能生产更多内容”,我们面临的挑战就不再是信息匮乏,而是真实性被海量重复所淹没。

谎言第一次出现时是谎言,
重复一万次后可能变成观点,
重复一亿次后甚至会被误认为事实。

发布于 韩国