**层级稀疏注意力机制:实现无限上下文建模**

_Hierarchical Sparse Attention Done Right: Toward Infinite Context Modeling_

> HuggingFace 推荐论文提出 HiLS 注意力机制,通过端到端学习分块选择解决长上下文扩展难题。该方法在保持域内性能的同时,将上下文长度外推能力提升 64 倍以上,并打破效率与性能的权衡,使长文本大模型更高效且准确。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-07-08 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2607.02980)