**HuggingFace每日论文：On-Policy Delta Distillation**

_On-Policy Delta Distillation_

> 该研究提出了一种新的强化学习后训练方法On-Policy Delta Distillation (OPD^2)。通过引入“delta信号”作为蒸馏奖励，捕捉指令微调带来的推理能力变化，而非直接模仿教师模型输出。实验表明，该方法在数学、科学和代码推理任务上显著优于传统在线蒸馏，能以较短的后训练时间实现强大的推理性能。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-07-20 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2607.15161)