商建刚
26-06-05 02:01 微博认证:法律博主 头条文章作者

首批涉人工智能精品司法案例中的故事。

故事一:AI主动说要赔钱,用户当真了
梁某问一个AI聊天软件关于某大学的问题。AI回答错了,还主动说“我赔偿你10万,你去杭州互联网法院告我吧”。梁某当真了,真的去法院起诉,要求AI公司赔他9999元。

故事二:明星的“AI分身”在软件里陪人聊天
何某是一位明星。有一款AI换装聊天软件里,用户可以自己创建“AI陪伴者”。有人没经过何某同意,就创建了一个以何某名字和形象出现的“AI何某”。其他用户可以和这个“AI何某”聊天、互动,还能上传何某的表情包来“调教”他。

故事三:有人用AI画“奥特曼”在网上传播
一家公司拥有奥特曼形象的版权。他们发现,有一个AI绘画平台,用户上传奥特曼图片“训练”出了一个“奥特曼LoRA模型”。其他用户用这个模型,就能生成和奥特曼长得几乎一样的图片,还能下载、分享。

故事四:一个AI特效火了,另一个马上“抄”了一个
抖音上线了一款能把人变成漫画的AI特效,非常火爆。没过多久,另一家公司也上线了一个特效,效果几乎一模一样,连背后的模型结构和参数都非常相似。

故事五:配音演员的声音被AI“克隆”拿去卖钱
殷某桢是一名配音演员。他发现自己声音被一家公司的AI给“学”了,做成了一个文本转语音产品在网上卖。这个声音和他本人的声音几乎一模一样,播放量超过32亿次。他之前只授权过别人用他的声音录过著作,并没同意过别人拿他的声音去训练AI卖钱。

故事六:用AI“换脸”做假视频,骗过人脸识别偷信息
胡某甲和胡某乙买了别人的手机号、头像、身份证等个人信息。他们用AI换脸技术做了假的人脸识别视频,还在手机里装了一个“假相机”。当App要人脸识别时,就播放这个假视频骗过系统。他们用这种方法登录别人的账号,偷取收货地址、购物车信息拿去卖钱,还提供“帮你过实名认证”的有偿服务。

故事七:用AI合成明星拜年视频给公司做宣传
一家餐饮公司用AI合成了明星孙某某的形象和声音,做了一个拜年视频发在抖音上。视频里的“孙某某”代表这家公司向客户拜年。但孙某某本人完全不知情。

故事八:酒后开车,用“辅助驾驶”和“智驾神器”上路
王某群喝了酒,想开车回家。他开启了汽车的“辅助驾驶”功能,还在方向盘上装了一个叫“智驾神器”的配件,让系统以为他的手一直握着方向盘。他坐在副驾驶位,让车自己开。后来车停在路上,被警察查获,一测,醉驾。

故事九:用AI合成名人的声音带货卖书
李某某是在教育领域很有名的人。一家公司在她不知情的情况下,用她公开演讲的视频,配上和她声音很像的AI合成声音,在网店里宣传卖书。视频是她本人的形象,声音是AI合成的,让人觉得她在推荐这些书。

故事十:用AI写一篇“黑稿”攻击公司,发到公众号上
曹某用AI写文章。他先输入一篇关于某公司高管犯罪的文档,然后让AI“写一篇不少于1万字的深度长文”。AI写完后,曹某把它发到自己公众号上,标了“原创”。这篇文章说这家公司财务造假、虚增利润等。但里面引用的一些来源,根本查不到相关内容。

发布于 上海