才晓秋
26-04-15 08:50 微博认证:科技博主

#什么是AI幻觉#
简单说,AI幻觉就是AI有时候会一本正经地瞎编乱造、撒谎。

记住一句话,任何AI给出的答案都不是权威,关键信息一定要自己核实。

它跟你说的话、给的答案,读起来可能特别顺、特别像真的,但有时候实际上是假的、没依据的。比如瞎报数据、编不存在的资料、乱说常识,而且说得理直气壮,一点不心虚。

为什么会这样?

1. 它学的资料本身就有错、不全、过时,记混了就乱输出。

2. 它不是真懂知识,只是靠概率凑句子,只求通顺不管真假。

3. 就算不知道答案,它也不会直说,硬着头皮也要编完。

怎么避免被坑?

重要信息让它标注来源,自己再动手查一遍。

问问题别模模糊糊,表达不要有歧义。

拿不准就直接追问:你确定是对的吗?让他反省一下。

AI就是个工具,不是万能百科,更不是权威专家。用的时候留个心眼,别被它骗了,虽然它也不是故意的。

发布于 上海