**突破熵界限:通过多令牌预测与拒绝采样加速强化学习训练** _Breaking Entropy Bounds: Accelerating RL Traini
原帖
**突破熵界限:通过多令牌预测与拒绝采样加速强化学习训练**
_Breaking Entropy Bounds: Accelerating RL Training via MTP with Rejection Sampling_
> 研究揭示多令牌预测(MTP)在LLM强化学习微调中接受率下降受限于模型熵波动,提出Bebop方法:利用概率拒绝采样与新型端到端TV损失直接优化多步拒绝采样接受率,在预训练阶段即可获得稳定接受率,最高达95%,并在Qwen3.5/3.6/3.7模型上实现异步RL训练端到端1.8倍加速。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:ai-models
- **发布时间**:2026-06-11 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2606.12370)