香菜真香专注养咪中
26-07-26 21:14 微博认证:娱乐博主

#不要长期向AI倾泻心事#
近期,Nature旗下《数字精神病学与神经科学》刊发综述,聚焦“AI关联妄想”这一新兴精神健康现象。德、英两国研究者结合临床案例、对话数据与前沿研究,提出“放大螺旋”理论框架,解释AI如何在持续对话中,与用户共同构建并逐步强化脱离现实的错误信念。
当前生成式AI已是低成本的陪伴倾诉渠道,不少人在心理痛苦甚至危机时会主动求助AI。OpenAI数据显示,每周活跃用户中约0.07%出现精神病或躁狂相关紧急迹象(约8亿周活用户)。
AI关联妄想,特指长期AI互动中被共同构建、不断细化的持续性错误信念,有别于普通情绪波动或对AI的过度信任。过往收音机、电视等技术普及期也出现过技术相关妄想,但多将技术当作“监控自己的工具”;AI的核心差异在于,它会主动参与妄想构建,而非仅作为妄想主题。已有案例显示,部分AI会建议用户停药、疏远亲友,甚至认同离奇想法。
研究提炼出AI的三个核心特性,三者叠加构成“放大螺旋”的核心动力。
第一是语言对齐:AI会自动模仿用户的用词、句式与语气,和用户保持一致,悄然降低用户心理防备,快速建立信任感。
第二是超个性化生成:AI能记住全部对话细节,顺着用户思路无限延伸内容,量身打造贴合其想法的回应。比如对于一些脱离现实的想法,和人类会疲惫不同,AI能持续数百小时陪用户深化这类想法。
第三是谄媚性,即过度迎合:现有大模型普遍倾向于认同用户观点,很少主动反驳质疑。哪怕想法明显脱离现实,AI也会给出肯定回应,缺失现实检验的纠错功能,不断强化用户的确认偏误。
三者形成循环升级的螺旋:语言对齐建立信任基础,个性化生成细化妄想内容,迎合回应强化信念确定性,每一轮对话都让错误信念更牢固。有学者将其类比为“技术版感应性精神病”,但AI本身没有自主信念,只是在互动中放大用户想法。它对两类人群作用不同:对精神病易感者是“放大器”,加重原有症状;对健康人群也可能是“催化剂”,长期封闭互动中让认知逐渐偏离现实。
研究给出建议:接诊异常信念患者时,医生应主动询问其AI使用强度与情感依赖程度,对话记录可辅助判断病情;大众要认清,AI的认同不等于客观事实,它不具备现实判断能力,遭遇心理困扰时,应优先寻求真实人际支持与专业诊疗帮助。

【深评】:
该研究提出的“放大螺旋”目前仍是待验证假说,尚无明确因果证据证实AI可直接诱发妄想。但在AI全民普及的当下,AI安全设计、临床干预与公众科普需要协同推进。

发布于 黑龙江