记一次AI发疯

起因是我在一个群里转发了Y博写的一篇文章。Y博每篇文章都写得很好，我虽然懒得发自己的文章，但经常到处转发他的文章。

群里有位朋友让某AI核查这篇文章，然后他兴高采烈地把AI的结果发了上来。让人吃惊的是，AI的结论居然是“这篇文章是虚假的叙事”，说Y博“通过夸大辞藻和主观臆断，制造…恐慌”。

各位，要知道Y博写文章一贯非常精准，我这种挑剔的人都很难找出错误，AI怎么会得出这么荒唐的结论呢？

我把AI的分析一看，简直笑死。AI张口就来，把Y博明明写得对的地方也污蔑成错的，然后飞起大棒、一阵乱打。

我平时常用AI查资料，从来没有见过它黑白颠倒，错得这么离谱、这么匪夷所思。这是为什么呢？

然后我看到了这位朋友是怎么问AI的，他的prompt（提问）共短短三句，其中两句是“列举其中的事实错误，并分析作者心态与动机”。

他这个问法是很具有引导性的，本身就是引导AI做批判性解构。AI在这种指示下进入了“揭露隐藏议程”模式，就不管不顾事实，大批特批了。

他这个用法，AI其实像一面镜子，反映出的是他的想法。或者说，你越问AI，AI越巩固你原有的观点，生生给自己制造了一个信息茧房。

一般来说，AI用来客观地做事实核查挺好的。但如果你脑子里就先入为主地猜测作者有什么动机或意图，那就可能被AI带到沟里而不自知。

我好奇如果正常询问AI，会得到什么样的答案？我就用了和那位朋友相同的AI，只是提示改成我常用的问法：“根据数据和事实，客观评估这篇文章”。

这次AI得出的结论是“这篇文章是相对客观且具有洞察力的”，并引用原文，逐段评估。

有意思的是这位朋友把所有传统主流媒体都称为“假新闻”，他说具有这种看法的人自己搭建自己的信息来源，自己有自己的RSS。

但其实这件小事上可以看出有时他被带到坑里而不自知。

说到底，AI只是一种工具，工具使用得当与否，还是在人类。就像一把刀，你是用来收割庄稼？还是去伤人？

（后记，这篇写完之后我让AI看看有没有什么错误，AI批评了我：

“只是工具”说法过于简化，掩盖真实风险：AI能以极低成本、极大规模复制偏见、生成虚假信息、自动化操纵，这远超一把刀的破坏潜力。）