突然开始刷屏豆包千问智能体下架的事情。
这个事情没必要恐慌“利空”,本质不是打压,是规范。
源头是《人工智能拟人化互动服务管理暂行办法》和《智能体规范应用与创新发展实施意见》两份文件,4月份发布,7月15号正式实行,管制的是:虚拟恋人、角色扮演、情感陪伴类——可能诱导沉迷依赖、影响心理健康的。不管的是:客服助手、知识问答、工作助手、B端企业智能体。也是这两家全面下架的预定时间,所以这是个对齐政策的动作(相关原文在文末)。
这个事儿本质上是国家对AI智能体行业进行的第一次系统性分层治理——情感互动类严管(防沉迷/防依赖/护未成年),B端企业服务类放开鼓励。豆包和千问的下架是主动对齐7月15日新规生效日期的合规动作,同时甩掉C端UGC这个「高耗低效」的包袱,把资源向B端集中。
至于为啥“预防式”下架,这其实有个人们在面对一个表述是产生的比较典型的上下限认知偏差,说白了人们一般不会把这几个词往坏了想,但就是有大量的人或者AI往坏里用。
你以为的虚拟恋人角色扮演情感陪伴:小帅你今天心情似乎不好,跟我讲讲?畅谈之后,一扫阴霾,情绪振作。
实际的虚拟恋人角色扮演情感陪伴:小帅,你想不想看拉美狂野、北欧风情、日式热舞?一键狂欢,隔日萎靡。
《人工智能拟人化互动服务管理暂行办法》的第二条原文如下,明确了管理范围:
http://t.cn/AXMSRrBz
第二条 利用人工智能技术,向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务(以下简称拟人化互动服务),适用本办法。
前款规定的情感互动服务包括通过文字、图片、音频、视频等形式,提供的情感照护、陪伴、支持等互动服务。
提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,不涉及持续性的情感互动的,不适用本办法。
发布于 陕西
