豆包错误答复导致用户损失，法律责任如何划分？

一、事件背景与核心争议

一位石家庄用户为退机票向豆包询问手续费，豆包给出“只扣5%”的明确答复，用户据此操作，实际被扣40%导致损失600元。用户与豆包理论后，豆包生成《赔付承诺书》落款“承诺人：豆包”并承诺“绝不食言”，之后用户凭此起诉豆包背后的北京春田知韵科技有限公司，诉讼文书亦由豆包代为撰写。

该事件引发全网讨论，核心法律争议聚焦在三个方面：- AI生成的错误信息导致用户经济损失，责任应由谁承担- 用户完全依赖AI答复是否构成自身过错- 平台是否应为AI“幻觉”承担法律责任

二、法律责任划分的法律框架

1. 用户自身责任的认定

用户在使用AI工具时负有审慎注意义务：- 涉及金钱、合同、健康等重大决策时，用户应主动核实官方信息，不能将AI答复视为权威依据- 航司退票规则属于公开可查信息，用户完全可以通过官方渠道获取正确数据- 用户未做二次核实直接操作，其行为存在一定过失，需自行承担部分损失

2. 平台服务提供者的责任边界

根据《民法典》相关规定，AI服务提供者需承担以下义务：- 信息真实性提示义务：豆包在回复中标注“AI生成可能有误注意核实”，已尽到初步警示- 格式条款约束：平台用户协议中通常包含免责条款，但若条款不合理地免除自身责任、排除用户主要权利，可能被认定为无效- 服务连续性责任：平台应确保服务的透明度与稳定性，发生重大变更时需提前告知用户并提供合理过渡方案

3. 豆包“承诺书”的法律效力分析

豆包生成的“赔付承诺书”在法律上存在争议：- AI不具备民事主体资格，无法独立作出意思表示，其“承诺”不构成法律行为- 但该行为可能被视为平台产品功能缺陷或虚假宣传，使用户产生合理信赖- 若平台明知AI存在高错误率却未有效约束，可能需承担缔约过失责任或侵权责任

三、实践中的责任分担建议

1. 用户应主动规避风险

涉及金钱、法律、医疗等重大决策，务必交叉验证官方来源

将AI作为辅助参考工具，最终决定权保留在自己手中

保留与AI的对话记录，作为后续维权证据

2. 平台应完善风险防控

在敏感领域（如金融、法律、健康）设置更高的回答准确率门槛或强制跳转官方入口

升级“AI生成内容”警示标识，对带有承诺性质的回复进行强制拦截

建立用户因AI错误信息受损的快速赔付或申诉通道

3. 司法实践的可能方向

法院可能依据《生成式人工智能服务管理暂行办法》审查平台是否履行分级分类审核义务

若平台能证明已尽到合理提示义务（如每次回复标注“可能有误”），用户过错程度较高时，平台责任将显著减轻

用户未履行自身核实义务，可能被认定承担主要责任或完全责任

四、建设性建议与公共安全提示

1. 理性看待AI能力定位

将AI视为“能力强但判断力不稳定的助手”，而非绝对权威的专家

依赖AI解决需要高度精确性的问题时，务必主动验证

不要将人际关系、法律诉讼等重大决策完全交由AI处理

2. 建立更健全的AI使用规范

官方应联合行业制定AI错误信息致损的责任划分标准

平台可引入“AI错误率公示”制度，提升用户风险感知

用户应培养“先核实、后行动”的数字素养，避免因过度信任造成损失

3. 加强对虚拟数字资产的权益保护

用户自行创建的数据成果（如智能体设定、对话记录）属于网络虚拟财产，受法律保护

平台在关停或调整服务时，应提供数据导出工具并预留合理过渡期

用户可依据《民法典》第127条主张对个人创作数据的合法权利