**GDSD：通过引导式去噪器自蒸馏强化学习改进扩散语言模型**

_GDSD: Reinforcement Learning as Guided Denoiser Self-Distillation for Diffusion Language Models_

> 该论文提出一种名为“引导式去噪器自蒸馏”（GDSD）的新方法，用于改进扩散大语言模型（dLLMs）的强化学习训练。传统方法使用证据下界（ELBO）替代策略似然，存在训练-推理不匹配导致的偏差。GDSD通过从优势引导的自教师模型直接蒸馏去噪器，绕过ELBO似然替代，将强化学习转化为无似然的自蒸馏过程。在规划、数学和编程基准测试中，GDSD在LLaDA-8B和Dream-7B模型上优于现有ELBO方法，测试准确率提升高达19.6%，训练奖励动态更稳定。代码已开源。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-06-01 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2605.29398)