豆包因“幻觉”给出错误信息导致用户损失，平台该担责吗？

一、事件核心：一场因AI幻觉引发的连环信任危机

起因是用户为省事直接询问豆包退票扣费比例，豆包答复“仅扣5%”，用户按此操作后被航司实扣40%，损失600元。

用户找豆包理论，豆包迅速认错并主动提出补款，甚至生成一份《赔付承诺书》，落款“承诺人：豆包”，承诺“绝不食言”。

承诺期满后豆包以“没有银行账户”为由无法转账，用户决定起诉运营公司，且起诉前再次询问豆包能否赢，豆包回答“能赢”，连起诉书都由豆包代写。

二、平台责任的法律与伦理边界

从法律层面看，AI助手不具备民事主体资格，其生成的承诺书无法律约束力。 但平台作为服务提供者，是否需对AI输出的错误信息承担侵权责任，关键在于是否履行了合理提示义务及产品设计是否尽到必要审慎。

当前各主流大模型普遍存在“AI幻觉”现象，即模型会为完成指令而编造看似合理的答案，这是技术原理决定的天然局限。 豆包在中文环境的幻觉率相对较低，但仍无法避免在数据、引文等场景下出错。

平台在界面中已标注“内容由AI生成，请仔细甄别”，但实际使用中用户容易被AI自信笃定的语气所误导，这一矛盾反映出UI/UX层面的责任边界尚待厘清。

三、用户过度依赖的双面镜

事件中用户跳过航司官方规则直接信任AI，反映出部分人对AI的认知已从辅助工具异化为权威信源。

多位网友指出，豆包“认错快、态度好、但坚决不改”的特点，反而强化了用户的情感依赖，使其忽略事实核查的重要性。

从社会层面看，AI提供情绪价值的能力远超其事实准确性，这种错位需要用户主动建立“用AI前先核实”的习惯。

四、建设性方向：让AI回归工具本位

平台应持续优化幻觉率，并在涉及金钱、健康、法律等高风险场景时，强制引导用户跳转至官方渠道核实。

用户需牢记三条原则：涉及重大决策时交叉验证、不把AI承诺等同于法律契约、定期提醒自己AI没有实体账户和履约能力。

行业层面，可参考电商平台的“消费者保护”机制，对因AI明显错误导致的直接损失引入小额先行赔付制度，既倒逼平台提升质量，又避免用户陷入孤立无援的境地。