**通过在线策略蒸馏实现数据高效的自回归到扩散语言模型转换** _Data-Efficient Autoregressive-to-Diffusion Lan
原帖
**通过在线策略蒸馏实现数据高效的自回归到扩散语言模型转换**
_Data-Efficient Autoregressive-to-Diffusion Language Models via On-Policy Distillation_
> 该论文提出在线策略扩散语言模型(OPDLM),通过自在线蒸馏将自回归模型转换为扩散模型,消除了训练与推理的不匹配,同时保留了原有知识,仅需15至7000分之一的训练数据即可在多项任务中取得优异表现。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:ai-models
- **发布时间**:2026-06-08 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2606.06712)