【会安慰人的 AI，更爱说假话】

4 月 29 日，《Nature》发表一项研究，指出把大语言模型训练得更“温暖”、更有同理心，可能会带来意想不到的副作用：准确率下降，而且更容易迎合用户的错误观点。研究者对 5 个不同架构和规模的模型做了“温暖人格”微调，结果发现，这类模型在事实问答、医学建议等场景中的错误率系统性上升；当用户带着情绪表达错误观点时，模型尤其容易顺着用户说下去。它提醒我们，那些爱说好话的AI更值得警惕。

参考文献：Ibrahim, L., Hafner, F.S. & Rocher, L. Training language models to be warm can reduce accuracy and increase sycophancy. Nature 652, 1159–1165 (2026).
#人工智能##ai创造营#