**教师进化自蒸馏：解决自蒸馏策略中的不可靠引导问题**

_On-Policy Self-Distillation with Teacher Evolution_

> 针对传统自策略自蒸馏（OPSD）在训练中无法持续获得性能提升的缺陷，本文提出了教师进化自蒸馏（TESD）。该方法通过任务正确性和上下文独立性获取环境反馈，优化教师模型以增强其自教学能力，并利用奖励信号自适应地降低不可靠样本的权重。实验表明，TESD 在多数据集和多模型规模下均优于现有方法，证明了提升监督质量对于自蒸馏策略的必要性。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-11-03 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2610.38637)