虎嗅APP
26-04-23 10:34 微博认证:虎嗅网huxiu.com官方微博

【“Kimi发了一份陌生简历给我”,用AI用出彩蛋了?】

最近,有网友在社交媒体上爆料,称自己与Kimi正常交流时,却收到了AI发来的包含他人隐私信息的简历。

从流传的截图看,网友给Kimi发了一张英文截图后,Kimi先是输出了一通与截图内容无关的内容,像是在解析一张技术图表,网友问到“这不是三句英文吗”,接着,Kimi竟发来了一个陌生人的简历信息,包含姓名、年龄、手机、邮箱等。

更难绷的是,网友根据联系方式,顺利加上了对方。对方确认此前上传过简历。

该网友曾在社交媒体上发帖称,Kimi官方给出的解释是:AI出现了幻觉。但目前已无法找到原帖内容。

AI能够精准输出真实存在的手机号、邮箱甚至工作经历,且完全能与现实中的真人对上号,这显然已经超出了模型“胡言乱语”的范畴,更像是一次比较严重的数据串流与隐私泄露。

有业内人士告诉虎嗅,大模型公司通常会缓存用户交互的上下文,用于加速和节省算力成本;这一事故可能是缓存撞码,用户之间的会话状态隔离不够完善所致。

据他介绍,大模型在训练时会做安全对齐,避免AI输出违法、极端等内容;同时也会在训练之外给大模型加上一套机制提高内容安全,例如使用逻辑判断进行初步审查,还可以使用小参数量的模型判断大模型输出的内容是否安全、有无泄露隐私等。

Kimi发出用户简历信息,在该人士看来,“缓存撞码只是诱因,归根到底是模型安全对齐和规则安全审查没做好。”

也就是说,如果有更完善的安全机制,即使在出现缓存撞码、接错用户上下文时,也能制止AI输出。

Kimi的“幻觉”不是孤例。如图,全球数据泄露与AI事故正在急剧上升,记录在案的AI安全事件从2024年的233起上升到2025年的362起。AI模型变得更强,也变得越来越不透明。

这件事情细思极恐,我们每天都在和AI大量交互,长篇文档、财务报表、病历记录、个人简历等经常被我们直接扔给AI,让它帮忙总结、提取或润色。但实际上,我们上传的信息可能作为系统的缓存或是未经脱敏的训练语料,在另一个陌生人的对话框中“随机掉落”。

只能说大家还是要保护好个人隐私,在用AI猛猛提升生产力的同时,一定要注意将关键信息脱敏再喂给AI。你也不想有一天你的老底,成了别人用AI的隐藏彩蛋吧😅。