[LG]《Symmetry-Aware Steering of Equivariant Diffusion Policies: Benefits and Limits》M Park, J Chang, J Choi, R Horowitz [Yonsei University] (2025)
近年来,机器人学习领域充分利用几何对称性,通过群等变网络显著提升样本效率与泛化能力。Equivariant Diffusion Policies(EDPs)融合了扩散模型的生成表达力与等变结构的高效性,已成为前沿方法。然而,单纯依赖示范数据训练的政策往往存在性能瓶颈,需通过强化学习(RL)在线微调。
传统的扩散策略强化微调(Diffusion Steering via RL,DSRL)虽能避免基模型反向传播带来的计算开销,但忽视了EDP固有的对称性,导致样本效率低下、训练不稳定。本论文理论证明:EDP的扩散过程保持等变性,诱导出一个群不变的潜在噪声MDP,极适合利用等变RL进行策略引导。
基于此理论,作者提出了对称感知的引导框架(Equivariant Diffusion Steering),设计了严格等变和近似等变的RL算法,并在多种对称性不同的机器人操作任务中验证。结果表明:
1. 等变引导大幅提升样本效率和训练稳定性,防止价值函数发散,即使基策略仅用极少示范训练也能实现显著性能提升。
2. 在存在现实环境对称性破坏(如机械关节限制)时,近似等变方法更具鲁棒性,兼顾约束与灵活性。
3. 通过约束价值函数满足群不变性,显著抑制了离散分布外动作的过估计,避免引导策略陷入次优状态。
实验证明,在任务空间涉及旋转等几何变换时,利用对称性原则尤为关键,如物体堆叠和插入等复杂操作。相比之下,简单抓取任务对等变性的需求较弱,效果不如复杂任务明显。
未来展望中,作者建议将对称性先验推广至非等变策略的引导过程,进一步拓展方法适用范围。
本文不仅提供了等变扩散策略引导的理论基础(arxiv.org/abs/2512.11345),更为机器人领域样本高效学习开辟了新路径。它告诉我们:拥抱对称性,是破解复杂控制任务数据瓶颈的关键。
完整阅读请见:arxiv.org/html/2512.11345
