⚡️ TRL 再升级,多模态对齐进入新阶段! 现在,视觉语言模型 (VLM) 不仅能用 SFT 和 DPO 微调,还新增三种强力方法 —— MPO、GRPO、GSPO,让模型看图说话更聪明、推理更稳。
🔍 三大新方法
MPO:在 DPO 基础上加“质量评分”和“生成”两种额外损失,像给模型加了三重指南针,减少胡言乱语,MathVista 分数提升 6.2 分!
GRPO:把训练样本分组更新,抵消奖励噪声,让模型少走弯路,整体答题水平更高。
GSPO:改进 GRPO 的采样策略,更稳定,特别适合 MoE 大模型。
🛠 即用生态
SFTTrainer 已原生支持 VLM,直接加载图文数据集就能训
vLLM 深度集成:可边训边推理,既能省 GPU,又能实时生成样本
提供现成脚本和 Notebook,三步就能试跑新方法
💡 为什么重要
这意味着你的多模态模型能更好地理解图像、解释推理过程,并稳定输出高质量答案,无论是科研题、数学题还是多轮视觉问答,都能更靠谱。
🤗 欢迎加入我们的中文社区:Chinese LLMs on Hugging Face,带着问题来,带着成果走,一起玩转多模态模型!
#人工智能##Hugging Face##多模态#
发布于 美国
