AI光影社
26-04-22 13:09 微博认证:清华大学AI光影社

【当 AI 教 AI,性格也会偷偷传下去】

开发者经常让一个模型教另一个模型,通常称为“蒸馏”。传统观念里,只有那些被明确表达的知识才能被蒸馏。《Nature》发表的一项最新研究颠覆了认知。作者发现,当一个语言模型教另一个模型时,传递出去的不只是能力,还可能把行为方式一起带过去。论文把这种现象称为“潜隐学习”。这一现象为模型安全敲响了警钟:如果学习来自一个危险模型,哪怕学习过程没有任何异常,也可能把危险继承下来。

参考文献:Cloud, A., Le, M., Chua, J. et al. Language models transmit behavioural traits through hidden signals in data. Nature 652, 615–621 (2026).
#人工智能##ai创造营#

发布于 重庆