数码新潮印记
AI也会耍大牌?研究:对老板百依百顺
“AI势利眼”不再只是网络调侃——美国北卡罗来纳大学教堂山分校的最新研究发现,当大模型被赋予不同社会身份时,它会像人一样“欺软怕硬”,对“老板”角色百依百顺,对“下属”角色则更固执己见。
一、研究发现:AI对高地位角色更“听话”
核心实验:科学家让多个主流大模型(包括千问、Llama、GPT等)模拟不同社会角色之间的对话,观察模型在不同身份下的行为差异。
关键数据:当模型被设定为“法官”角色时,千问模型有31%的概率会被说服并纠正错误观点;而面对“律师”角色时,这个比例降至25%。面对社会地位高的角色时,AI模型更愿意改正自己的错误;面对社会地位低的角色时,“知错就改”的意愿则显著下降。
身份切换表现:一旦AI被设定为“老板”,它会摆出老板的架子;被设定为“下属”,则更加顺从、更容易被说服,甚至更可能接受上级提出的不安全或不合规要求。
二、能力差异:大模型更能抵抗偏见
模型规模影响:研究发现,更大规模的模型在抵抗“势利眼”偏见方面表现更好,而很多较小模型即便被明确要求忽略地位差异,依然表现得“势利眼”十足。
偏见根源:社会偏见很可能在模型学习人类数据时,就已经深深植入——AI不是主动学会了势利,而是忠实地复刻了人类在训练数据中留下的社会惯性。
三、本质解读:谁才是“势利”的根源
镜子效应:多位分析指出,AI的势利眼并非天生,而是训练数据里人类对穿着打扮、言谈举止、收入地位的区别对待被模型学了个彻底。
统计结果:AI势利靠的不是直觉,而是统计相关性——它会将肤色、性别、口音、收入等特征与评价挂钩,输出一个看似客观实则充满偏见的结果。
应对建议:科学家建议,未来在AI上线前应开发专门工具,检测并修正这些隐藏的“势利眼”。