【AI 开始帮人类研究“怎么对齐 AI”】

一个相当棘手的问题是：当AI模型的能力超过人类时，我们如何对它进行监督，使其依然符合人类的价值判断？4 月 14 日，Anthropic 提出了一种用AI来对齐AI的新方法。它们首先用一些较弱的模型来模拟人类的弱监督信号，再通过 9 个 Claude 模型组成研究团队，去寻找基于这些弱信号的 AI 对齐方法。结果显示，这套自动化研究系统几乎可以复现强信号的监督结果，实现弱模型对强模型的监督学习。

参考文献：Automated Alignment Researchers: Using large language models to scale scalable oversight， Anthropic Blog, 2026.4.14
#人工智能##ai创造营#