**HuggingFace 论文:通过自然语言解读扩散 Transformer 中的上下文 Token** _Learning to Read the Con
原帖
**HuggingFace 论文:通过自然语言解读扩散 Transformer 中的上下文 Token**
_Learning to Read the Contextual Tokens in Diffusion Transformers_
> 该研究提出了一种框架,利用轻量级瓶颈网络将多模态扩散 Transformer (MM-DiTs) 中的动态上下文 Token 映射至冻结 LLM 的输入空间,从而通过自然语言问答解读生成过程中的隐藏表示。研究发现,上下文 Token 在去噪早期即编码了丰富的全局场景语义,且即使提示词为空,视觉表示本身也能积累大量可解码的图像特定信息。基于此,作者提出了“上下文对齐”训练技术,通过强化视觉-语义信息来提升生成质量与分布覆盖度,证实了上下文 Token 既是可解释的内部动态视图,也是改进生成模型的有效目标。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-10-07 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2610.06844)