**扩散Transformer新解：模板令牌实为隐式语义寄存器**

_Text Template Tokens Are Implicit Semantic Registers in Diffusion Transformers_

> 该研究提出针对大规模扩散Transformer（DiT）的因果可解释性框架。分析表明，结构化模板令牌并非直接传递提示词信息，而是作为“隐式语义寄存器”在去噪阶段主导注意力机制并维持对象身份。身份信息通过图像潜变量间接注入。据此，团队设计了免训练剪枝规则，移除主要关注提示词的注意力头可削减20%计算量，且GenEval评分仅微降。该工作揭示了DiT内部语义路由与视觉合成的组织规律，为理解生成模型内部机制提供了全新因果视角。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-07-22 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2607.19139)