【大模型的下半场：后训练为什么是今年的关键？】

过去几年，#大模型# 的发展主要围绕预训练（Pre-training）展开。模型公司不断扩大模型规模、增加互联网数据、投入更多算力，希望让模型获得更多知识和更强的通用能力。如今，这条路线仍在继续，但越来越多公司的竞争重点已经转向模型开发的下一阶段——后训练（Post-training）。

与预训练主要学习通用知识不同，后训练关注的是模型如何完成具体任务。它发生在预训练完成之后，通过强化学习、人类反馈、工具调用等方式，进一步优化模型的推理、规划、行动和工具使用能力。

这种变化已经开始体现在头部模型公司的研发重点上。相比过去发布模型时更多强调参数规模、训练数据和算力投入，今年几家公司公开介绍新模型时，更关注模型是否能够完成复杂任务、持续调用工具、解释自己的决策过程，以及从失败中不断改进。 Anthropic 已经将重点放在模型的推理和行为上。

今年 5 月发布的研究《Teaching Claude Why》发现，仅训练模型采取正确行动，只能有限降低失范率；如果进一步要求模型解释自己的推理过程，说明行为背后的价值和伦理依据，模型在多个安全评测中的表现会显著提升。研究团队认为，后训练不仅需要教会模型“做什么”，也需要帮助模型理解“为什么这样做”。

戳链接查看详情：http://t.cn/AXCUDPAD