-

第五章我们会用来探讨 AI/GPT 最让人忧心忡忡的问题：审查、偏见和虚构症⸺为了方便用户，无中生有地捏造内容。这一缺陷绝非只是观察者所谓的“AI 幻觉”而已。真正的幻觉不但复杂而且很有创造性，更贴切的比喻是虚构症，是一种精神疾病。患有虚构症的人在讲话时会讲述一个带有自恋倾向、与现实几乎没有关联的虚构故事。这也是一种心理模块，说话的人在感到慌乱、面临冲突或不知道该说什么的时候，就可能会（其实是经常会）加以调用。这还跟撒谎不一样，因为说话者缺乏自我意识，并不知道自己是在撒谎。
如果 GPT 在撰写一份报告的过程中需要填上一段空白来保持连续性或完整性，那么这个应用程序也会做同样的事情。这就像玩拼图的时候自己生造了一块拼图出来，把图中缺失的一块补上。同样，这并不是撒谎，因为 GPT没有伦理道德之类的考量，这个系统只是一台机器，不可能形成撒谎需要的恶意。相关领域的专家也许能分辨出所生成报告中虚构的内容，但大部分用户都做不到。要是需要相关领域专家才能发现 AI/GPT 输出中的缺陷，那这样的系统从根儿上讲能有什么用处？

詹姆斯· 里卡兹 《金融GPT》
#从阅读开始# #译文坐标#