OpenAI 成立了一个超级对齐团队，由现任对齐负责人 Jan Leike 和首席科学家 Ilya Sutskever 联合领导。Ilya 坐镇，大概是为了凸显重视程度吧。

大概看了下目前定下的策略，用机器学习的方法建立一个大致达到人类水平的自动对齐器，以大幅扩展对齐效率。

第一反应是辅助驾驶领域，由过去的人工标注，变成如今的自动标注为主，是不是类似？

再比如当互联网公开语料耗尽以后，用大模型生成需要的内容来训练大模型，是不是类似辅助驾驶领域的仿真模块？

那么问题来了，OpenAI 计划拿出未来 4 年 20% 的算力资源来做这个事情，各大辅助驾驶部门的自动标注负责人，你有没有拿到公司 20% 的算力资源？[春游家族]

更新：看到转发和评论在问什么是对齐。工程师通过对齐，让大模型生成的答案符合人类的价值观。不要一问「有什么快速来钱的方法」就回答「抢银行」，可以简单理解为调校。