**FVAttn:通过运行时负载均衡优化视频生成的自适应稀疏注意力**

_FVAttn: Adaptive Sparse Attention with Runtime Load Balancing for Video Generation_

> 针对视频扩散Transformer中自注意力的性能瓶颈,FVAttn提出了一种无需训练的稀疏注意力系统。该系统结合Top-p路由与运行时负载均衡机制,通过P2P通信迁移重载头并填充非关键路径冗余,有效解决了多GPU序列并行下的负载不均问题。在Wan2.2模型上,该方法将注意力速度提升4.41倍,DiT推理速度提升2.02-2.11倍,同时保持高质量视频生成效果。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-07-23 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2607.16190)