黑咖无糖冰可乐
26-05-22 10:23 微博认证:体育博主

#AI胡说八道的原因找到了##ai幻觉大揭秘#
AI“胡说八道”通常被称为幻觉,就是模型自信满满地生成看似合理、实则错误或无意义的答案。几个经典例子:

·📌律师引用虚构案例:2023年,美国律师用ChatGPT准备法律简报,引用的几个过往判例,经查证竟完全是AI编造的。律师“很惊讶”,法官则开了罚单。
·📌 张飞打岳飞:问“张飞和岳飞谁厉害”,AI可能头头是道地分析时代、战绩,甚至编出“张飞穿越战岳飞”的典故。本质是把两个不相干的人物强行关联。
·📌 虚构产品说明书:问某款不存在的手机参数,AI能编出完整型号、处理器、摄像头规格和评测总结,描述得跟真的一样。
·📌 误认常识:曾有名例“奥巴马是穆斯林”(其实他是基督徒)或“地球是平的”,这些违背基本事实的断言,模型有时会因训练数据中的虚假信息而输出。
·📌 数学和逻辑错误:3.11和3.8哪个大?AI可能回答3.11大,因为“11大于8”,忽略了小数位概念。

这些“胡说”的本质,是语言模型根据概率预测下一个最可能出现的词,并不知道“对与错”。

好的。上面的例子也是ai生成的,是胡说八道吗?[笑cry] http://t.cn/AX6yejRX

发布于 湖南