小红书如何识别AI魔改的毒动画？

　　小红书通过AI模型、主动标识与跨场景追踪，实现对AI魔改毒动画的精准识别

　　一、升级风险识别模型，前置拦截变种内容

　　模型自动识别：小红书升级了“风险识别模型”，专门针对利用AI批量炮制猎奇短剧和“毒动画”的行为进行主动巡查与拦截。

　　识别恶意变种：模型具备发现刻意使用圈层暗语、变种图片等恶意逃避审核的变种内容的能力。

　　数据支撑：截至2026年8月4日，在全面排查数十类涉未成年人高发风险的过程中，平台已累计处置违规笔记8.4万余篇、违规评论10.5万余条。

　　常态化治理：平台已明确将AI魔改视频纳入常态化治理，并持续从存量清理、拦截策略增补与AIGC识别策略优化等方面推进识别工作。

　　

　　二、强制内容标识，建立透明创作与审核机制

　　强制打标要求：根据小红书发布的AI内容治理规则，平台要求创作者如实标识AI生成或经AI润色的内容。对于未主动标识的AI内容，平台会通过技术识别后统一添加“AI生成”标识。

　　限制未标识内容：未主动标识的AI生成合成内容，将被限制分发，无法进入推荐流。

　　鼓励与禁止并重：平台一方面鼓励有叙事逻辑和情感导向的AI视觉、角色及知识科普创作；另一方面，明确禁止利用AI进行违规运营、造假、侵权及生产低质同质化内容。

　　

　　三、全链路跨场景追踪，斩断传播与引流链条

　　跨场景连带查处：针对“毒动画”的传播，小红书实施全链路摸排，对相关的笔记、评论、群聊进行跨场景追踪与连带查处，从而斩断传播与引流的完整链条。

　　从重处罚机制：对于屡教不改、利用AI魔改动漫内容恶意引流牟利的账号，平台会予以永久封禁。仅7月，平台就新增清理处置了1255条AI魔改视频违规内容，处置了27个违规账号，涉及魔改《西游记》《海绵宝宝》等经典动画。

　　多方联动：对于涉嫌违法犯罪的线索，平台会移交公安机关依法追究法律责任。