**RSTG:自适应教师指导恢复负RL组的蒸馏学习信号** _Distill Where You Fail: Recovering Learning Sign
原帖
**RSTG:自适应教师指导恢复负RL组的蒸馏学习信号**
_Distill Where You Fail: Recovering Learning Signals of Negative RL-Groups from Adaptive Teacher Guidance_
> 针对GRPO在强化学习中奖励信号稀疏、全组同奖励时梯度丢失的问题,提出RSTG方法。该方法在样本层面仅对负零方差提示进行蒸馏并按教师置信度加权,在token层面仅针对高学生熵或大师生分歧的token进行蒸馏,并结合教师正确轨迹的SFT注入正梯度信号。实验表明,RSTG在数学和代码任务上分别比朴素GRPO+OPD提升4.02%和3.05%。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-08-06 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2608.00782)