**FlashMask-3：面向 Hopper 架构的高效分布式注意力掩码优化**

_FlashMask-3: Efficient and Expressive Mask-Aware Distributed Attention_

> FlashMask-3 提出了一种针对 Hopper 架构的掩码感知分布式注意力机制。该模型通过列式稀疏掩码将复杂度从 O(n^2) 降至 O(n)，并集成了掩码感知的 Hopper 内核与分布式扩展技术。实验显示，在 H100 GPU 上，其相比现有主流方案实现了 45% 至 141% 的算力提升，并在大规模模型训练中显著提高了吞吐量。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-10-16 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2610.17901)