社会广角镜
AI工具开发者需要承担哪些合理注意义务?
一、核心义务:尊重平台规则与竞争秩序
明确“技术中立抗辩不成立”:法院指出,技术本身中立不代表应用中立,关键要看技术用在哪儿、针对谁、怎么用、是否盈利。本案中,被告工具专门针对某社交平台设计,模块名称直接使用该平台名称,宣传语强调“符合平台调性的分享文案”,已超出通用技术范畴。
保护平台真实内容生态:平台投入人力物力积累的真实种草内容生态,属于受法律保护的竞争性权益,AI工具不得破坏。开发者需意识其服务可能破坏其他平台的长期投入成果。
二、应用层管控:定向功能需审慎设计
禁止针对性诱导功能:法院通过“四要素判定法”审查——服务是否属于生成式AI、是否以特定场景为应用层、是否带有指向性和诱导性、是否营利。被告工具“一键生成”适配平台风格的文案并诱导发布,构成违规。
避免成为侵权工具:法院要求AI服务提供者应根据具体场景合理设定注意义务,杜绝帮助或诱导用户实施虚假宣传等行为。
三、内容责任:建立全链路管控机制
加强内容标识与风险提示:开发者应显著标注AI生成内容,提示用户“内容可能不准确,需核实”,尤其是涉及产品推荐、消费决策的高风险场景。
建立投诉纠错机制:提供便捷渠道供权利人举报虚假或侵权内容,并及时采取删除、屏蔽等处置措施。
合规训练数据与模型:确保训练数据合法真实,不得定向优化生成特定平台的违规内容,避免模型被用于批量编造虚假信息。
