**谁该主导解码?追踪掩码扩散语言模型集成中的可靠轨迹**

_Who Should Lead Decoding Now? Tracking Reliable Trajectories for Ensembling Masked Diffusion Language Models_

> 掩码扩散语言模型(MDLMs)是一种重要的序列生成范式。随着模型多样性增强,如何集成不同MDLM的知识成为关键问题。本研究发现,成功生成在答案相关位置上展现稳定的置信度动态,而不可靠轨迹可通过注入其他模型的有前景中间状态来修正。基于此,提出TIE(轨迹迭代集成)框架,通过追踪置信度动态,识别当前解码步骤中哪个模型处于更可靠轨迹,并在模型间传递部分去噪序列。由于主导模型在去噪步骤中常发生变化,TIE允许不同模型在生成的不同阶段贡献互补优势。在多种推理任务上的优异表现表明,TIE为少有人探索的MDLM集成问题提供了实用方法。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-06-16 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2606.16281)