【从AI“判刑”律师案看生成式AI的责任边界：技术幻觉不能成为侵权挡箭牌】近日，南京执业律师李小亮起诉百度AI“智能回答”虚构其“因爆炸罪被判三年有期徒刑”一案，经二审终审落槌，百度被判构成名誉侵权并需书面道歉。这起国内首例AI幻觉名誉侵权生效判决，如同一声惊雷，炸响在AI技术狂飙突进的时代浪潮中，为生成式AI的责任划定了清晰的法律红线。

AI幻觉不是“免罪金牌”，平台责任不容回避

在这起案件中，百度以“AI技术局限性”“提示词诱导”“技术中立”等理由进行抗辩，但法院的判决掷地有声：AI生成内容并非被动信息聚合，而是平台通过技术加工、合成、定向推送的主动输出行为，已超出“技术中立”范畴。当AI生成的虚假信息明确指向特定个人，且配以具有辨识度的个人照片时，其对当事人名誉权的损害是直接且严重的。

这一判决打破了“AI幻觉不可控，平台无责”的迷思。生成式AI作为一种服务产品，平台提供者并非技术的“甩手掌柜”，而是负有法定的注意义务。正如北京互联网法院在另一起AI生成内容侵权案中所指出的，AI服务使用者和提供者都负有对信息真实性进行必要核实的义务，不得以“内容由AI生成”作为免责借口。

技术发展不能突破法律底线，容错空间不等于法外之地

当前，生成式AI技术正处于高速迭代期，“幻觉”作为技术固有局限确实难以完全避免。但这并不意味着平台可以以此为借口，逃避对用户合法权益的保护责任。最高人民法院工作报告中强调的“促进人工智能规范发展”，核心在于辩证把握科技创新的“容错”机制：既要包容技术探索的未知风险，又要严守权益保护的法定底线。

在杭州互联网法院审理的全国首例AI“幻觉”侵权案中，法院驳回了原告的诉讼请求，并非认可AI幻觉的合法性，而是因为该案中AI服务提供者已充分履行了显著提示说明义务和功能可靠性保障义务，且未对原告造成实际损害。这一判决与南京律师案形成了鲜明对比，清晰地划定了AI平台责任的边界：当平台已善尽合理注意义务时，可给予技术发展必要的容错空间；但当平台存在明显过错，导致AI生成内容侵犯他人合法权益时，必须依法承担侵权责任。

AI法治生态构建需多方合力，技术向善需法律护航

随着AI技术在医疗、法律、金融等领域的广泛应用，AI幻觉带来的风险日益凸显。从律师被AI“判刑”，到主播离世后被AI虚构“带病直播”，再到高考生被AI误导报考信息，这些案例警示我们，AI技术的发展必须与法治建设同频共振。

对于AI平台提供者而言，应加大技术研发投入，提升AI生成内容的准确性，建立健全内容审核机制，对涉及个人名誉、隐私等敏感信息的AI输出进行严格把关。对于AI使用者来说，应理性看待AI生成内容，不盲目轻信，更不能利用AI生成虚假信息侵害他人权益。对于监管部门而言，应加快完善AI监管法律法规，明确AI服务提供者的权利义务，为AI产业的健康发展提供清晰的规则指引。

南京律师案的判决，不仅是对个体权益的保护，更是对AI产业健康发展的规范。它提醒我们，AI技术的创新发展不能以牺牲他人合法权益为代价，技术向善需要法律的保驾护航。唯有在法治的框架内，AI技术才能真正成为推动社会进步的新质生产力，为人类创造更多福祉。