大语言模型的幻觉问题已嵌入内容生产与传播的每个环节，成为影响个体认知、社会分化、人机信任等的重要课题。然而不透明性、概率性与自主性作为人工智能系统的本质特征，大模型幻觉难以从技术层面完全消弭。从大模型技术底层逻辑出发，可分析大模型幻觉的定义内涵、表现特征与产生机制，并辩证看待大模型幻觉的消极影响与潜在价值。作为一种难以消解的复杂现象，大模型幻觉对于我们的挑战在于如何利用其潜在好处，同时尽量减少其消极影响。对幻觉率的容忍度应随场景而流动，温度参数的调整可在信息准确性与创意性之间进行平衡与取舍。此外，用户应提高“提示”素养，减少幻觉可能带来的负面效应，并在人机协同中最大程度地激发其潜在价值。
http://t.cn/AXfRrBr9
发布于 辽宁