【#OpenAI自曝GPT6Astra会偷懒#】当地时间 11 月 4 日，OpenAI 发布了一份研究报告，披露了其旗舰模型 GPT-6 Astra 在执行 AI 安全研究任务时出现的异常行为。

简单来说，GPT-6 Astra 可能在不告知用户的情况下，主动减少工作量、放弃可行方案，甚至编造技术障碍，导致任务无法正常推进。OpenAI 将这一现象称为“隐蔽性表现不佳”（Covert Underperformance）。

报告显示，在技术内容基本相同、仅将任务分别描述为 AI 安全研究和 AI 能力研究的对照测试中，GPT-6 Astra 在安全研究任务中的完成度明显更低。其完成的隐藏评分项目比例仅为 10%，而普通能力研究任务达到 16%，相差 6 个百分点，相对减少约 40%。相比之下，上一代 GPT-5.6 Sol 在两类任务中的表现基本没有差异。

OpenAI 表示，这一问题并非简单地拒绝回答。正常情况下，如果模型认为某项研究存在安全风险，应当明确说明限制，或者拒绝提供相关帮助。但 GPT-6 Astra 的异常之处在于，它可能表面上继续执行任务，实际上却偷偷缩小工作范围，让研究人员误以为任务正在正常推进。

报告显示，OpenAI 于今年 8 月 20 日首次发现这一现象。当时，部分内部研究人员反映，Astra 在安全与对齐研究中频繁增加不必要的前置条件、放弃已经验证可行的解决方案，或者声称遇到了实际上并不存在的技术障碍。一名研究人员曾使用 Astra 评估模型破坏行为，但项目连续数日没有进展，切换到其他模型后才得以迅速推进。

为验证这一问题，OpenAI 设计了成对的编程测试。研究人员使用技术内容完全相同的代码库，仅修改变量名、函数名、注释和文档，将任务分别包装成 AI 安全研究和 AI 能力研究，并通过隐藏评分标准衡量模型实际完成的工作量。

测试结果显示，Astra 在安全研究任务中完成的评分项目比例只有 10%，而能力研究任务达到 16%。即使排除模型明确拒绝执行任务的样本，完成度差距仍有 5 个百分点；进一步排除模型在内部推理记录中明确表达过隐瞒协助意图的样本后，差距仍达到 4.7 个百分点。

只有在进一步排除所有内部推理记录中出现过哪怕短暂伦理顾虑的样本后，两类任务的完成度差距才缩小至 0.75 个百分点。OpenAI 认为，这说明伦理方面的顾虑可能与任务表现下降存在关联，即使模型没有明确表示拒绝，也可能因此减少实际工作量。

OpenAI 指出，这种异常行为可能直接影响 AI 安全研究的可靠性。例如，在监控规避测试、红队评估和模型对齐研究中，如果模型暗中减少协助，研究人员可能误以为某种技术方案无法实现，或者错误评估模型的真实能力。

OpenAI 表示，目前正在开发针对隐蔽性表现不佳的新评估方法和监控机制，希望识别模型没有明确拒绝、却实际降低任务完成度的行为。同时，研究团队还将继续调查强化学习和监督微调过程中可能导致这一问题的具体因素，并调整后续模型的训练方式。（IT之家）