语言生成

统一扩散模型再探：留一去噪器与吸收态重构

本文重新审视了统一扩散模型（UDM），提出基于留一去噪器的新方法，解决了标准插值桥参数化与去噪后验的不匹配问题，并通过吸收态重构将UDM分解为类似掩码扩散的采样操作。实验表明，留一参数化能提升UDM语言生成质量，吸收态构造可匹配甚至超越掩码扩散，揭示了参数化和采样设计比边际分布选择更关键。