**先筛选，再重加权：重新思考在线策略蒸馏中的优化粒度**

_Filter, Then Reweight: Rethinking Optimization Granularity in On-Policy Distillation_

> 本文提出FiRe-OPD方法,针对大语言模型在线策略蒸馏,联合轨迹级过滤与token级软重加权:先滤除低质量轨迹,再对保留轨迹中的信息量大的token进行软加权。相比硬性token选择,该方法减少信息损失,提升优化稳定性。实验在强到弱、单教师和多教师设置下均取得显著提升,如AIME 2024 +6.25, Miner +18.81。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-06-04 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2606.02684)