知识蒸馏

DiffusionOPD：扩散模型中基于在线策略蒸馏的统一视角

本文提出DiffusionOPD新范式，用于在扩散模型中进行多任务强化学习训练，以解决任务间干扰、训练繁琐和灾难性遗忘等挑战。该方法通过独立训练任务特定教师模型并沿学生轨迹蒸馏能力，将在线策略蒸馏框架扩展到连续状态过程，在基准测试中取得最先进结果。