AI换脸伪造明星带货视频,普通人如何辨别真伪?
AI换脸带货最露馅的地方在口型对不上——吴越被仿冒的假视频里,“她”说着“这个产品不是他们找我,是我找他们”,嘴型却和声音明显有出入。这类账号还专挑凌晨三点开播,因为那时平台审核最松。普通人只要盯住画面与声音的细微错位、反常的直播时段,就能在掏钱前多一道判断。
一、这场骗局是怎么被戳穿的
本尊亲自下场:10月18日凌晨三点,演员吴越发文怒斥账号“花姐美肤日记”用AI换脸和声音克隆伪造其直播带货,直接喊话“骗了多少人的钱,请如数奉还”。
造假链条曝光:涉事视频以“明星同款、吴越推荐”为噱头推销护肤品,同一账号还发布了仿冒邓亚萍的带货画面,并标注“含AI生成内容”的小字试图免责。
平台火速处置:微信视频号回应称该账号已被永久封禁,内容清空不可见。
二、为什么普通人容易上当
门槛低得惊人:一张公开照片喂给AI工具就能生成带货视频;记者实测发现,平台审核拦截的是姓名关键词,而非照片中的人脸本身。
定制成本更低:普通还原度的AI换脸视频报价一分钟150元,高精度“真人感”版本也不过700至1000元,造假者可批量生产、快速换号重来。
标识形同虚设:角落打一行“含AI生成”的小字,字体小、位置偏,消费者第一眼看到的仍是熟悉的明星面孔和逼真声音,根本来不及注意。
三、治理为什么不能只靠明星喊打
维权速度跑不过造假:吴越发声后账号被封,但类似骗局中,温峥嵘曾亲自进入假直播间质问,结果被对方秒拉黑,她无奈坦言“我现在就很难证明我是我”。
平台责任亟待前移:专家建议,平台不能仅凭“已标AI”就放松审核,应对“名人肖像+购物链接”的组合主动核验授权关系,从源头拦截而非等举报再封号。
法律已有明确依据:《民法典》第1019条禁止利用信息技术伪造他人肖像,第1023条将声音纳入同等保护;2026年9月最高法已明确,AI仿冒名人带货构成欺诈的,消费者可主张退一赔三。