**MC-Sparse：弥合扩散Transformer中稠密与稀疏注意力差距**

_MC-Sparse: Deconstructing and Closing the Dense-Sparse Attention Gap in Diffusion Transformers_

> 针对扩散Transformer在长序列生成中稀疏注意力导致的质量下降问题，研究提出免训练框架MC-Sparse。该方法通过元数据缓存机制，在后续去噪步骤中复用查询分组、精确选定的KV索引及残差信息，实现了高效GPU执行。实验表明，MC-Sparse在视频和3D生成任务中显著提升了保真度，分别实现1.80倍和2.32倍的加速，且无明显质量损失。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-10-09 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2610.06801)