【#雷军称AI换脸拟声成违法重灾区#，2023年AI深度伪造侵权事件激增704%】
据北京日报报道，3月4日，雷军发文“我的2025两会建议”，其中提到对“AI换脸拟声”的违法侵权治理。针对“AI换脸拟声”技术，雷军表示，该技术在影视、广告、社交等领域广泛应用，深受大众喜爱，但不当滥用已成为违法侵权的重灾区，易引发肖像权侵犯、公民个人信息泄露及诈骗等犯罪行为。为此，他提出加快单行法立法进程，提升立法位阶；强化行业自律共治，压实平台等各方责任；加大普法宣传，增强民众警惕性和鉴别力等建议。

此前，2月20日，据每日经济新闻报道，当下ai换脸拟声技术，AI换脸拟声技术的滥用现象愈发严重。黑灰产以1280元的价格兜售杨幂、迪丽热巴等明星以及政治人物、企业家的AI脸，这些AI脸在实时视频通话和直播中足以“以假乱真”，社交媒体平台难以识别。新技术实现了声音与图像的实时同步克隆，通过“绑架”手机摄像头绕开平台算法监测，传统的识别手段已失效 。普通人在这样的技术威胁下，自保难度增大，而平台也面临着提升防御能力的巨大挑战。

全球知名科技公司Sensity AI联合创始人弗朗切斯科·卡瓦利指出，AI深度伪造已逐渐沦为网络犯罪分子手中新兴的操作工具。世界经济论坛官网在今年1月发布的报道也佐证了这一现象，生成式人工智能（GenAI）的蓬勃兴起，正促使欺诈行为飞速增长。2023年，利用深度伪造技术绕过身份验证的事件更是激增704%，AI深度伪造技术被滥用，已然对网络安全和社会秩序构成严重威胁，急需引起各方重视并加以管控。