**SAF-OPD:稳定优势融合实现在线策略蒸馏** _SAF-OPD: Stable Advantage Fusion for On-Policy Dist
原帖
**SAF-OPD:稳定优势融合实现在线策略蒸馏**
_SAF-OPD: Stable Advantage Fusion for On-Policy Distillation_
> HuggingFace社区论文提出SAF框架,通过稀疏化压缩与预热退火机制解决强化学习验证奖励(RLVR)与在线策略蒸馏(OPD)融合时的熵坍塌问题。在Qwen3系列模型上的数学推理与代码生成任务中,该方法较固定系数融合策略提升0.51%-2.70%,训练更稳定。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-08-03 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2607.29209)