**蒸馏强化学习:LLM后训练的新范式**

_Distilled Reinforcement Learning for LLM Post-training_

> 针对现有强化学习(RL)信用分配困难及策略蒸馏(OPD)知识迁移受限的问题,HuggingFace社区提出“蒸馏强化学习”(Distilled RL)。该方法将教师监督融入RL目标,通过反向重要性采样、负样本重置和序列级几何归一化三大组件,实现细粒度指导与选择性知识转移。实验表明,该技术在跨家族蒸馏场景下显著优于传统RL和OPD方法。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-07-21 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2607.17247)