**LVSA:面向长视频扩散模型的免训练稀疏注意力机制** _LVSA: Training-Free Sparse Attention for Long Vi
原帖
**LVSA:面向长视频扩散模型的免训练稀疏注意力机制**
_LVSA: Training-Free Sparse Attention for Long Video Diffusion_
> 本文提出Long Video Sparse Attention (LVSA),一种无需训练、模型无关的块稀疏注意力机制,专为视频扩散Transformer设计。它通过结构化窗口模式与旋转全局锚点相结合,消除了导致长程时间伪影的固定网格偏差。LVSA结合FlashInfer内核,在Wan 2.1 1.3B(6倍时域)、Wan 2.1 14B(6倍时域)和HunyuanVideo 1.5(1.5倍时域)上,相较于密集注意力分别实现了高达3.17倍、2.98倍和3.33倍的计算量减少。它不仅降低了计算成本,还使得HunyuanVideo 1.5能在单GPU上生成2倍时域的视频(否则会内存溢出)。在NPU上的应用也展示了显著的加速效果。为公平评估质量,作者引入了VQeval工具,用于正确评估循环视频失败问题。LVSA在训练时域长度下保持质量中性,在扩展时域下则提升了质量。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-06-02 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2605.31057)