PPO 那套 ratio clipping 搬到 flow matching 生成模型上,是结构性不合适——这事总算被人正面挑明了。
Flow-DPPO 这篇的核心 insight 特别工程师味:
flow 模型每步策略本来就是 Gaussian,KL 散度可以闭式精确算,根本不需要用 single-sample ratio 去近似一个噪声很大的 divergence。
PPO 的 clipping 本质是用 noisy ratio 间接约束 KL。LLM 上勉强 work,是因为多步平均把噪声压下去了;到 flow 上 denoising 步数少,噪声直接被放大——有些 arXiv: 2606.11025
发布于 中国香港
