**JSSA：提升长上下文解码效率的联合子空间稀疏注意力机制**

_Joint Subspace Sparse Attention for Efficient Long-Context Decoding_

> 研究提出联合子空间稀疏注意力（JSSA），通过学习共享低维子空间解决令牌级选择的准确性问题，并开发无聚集（gather-free）内核提升执行效率。在 128K 上下文下，JSSA 在保持接近全 KV 精度的同时，显著提升解码吞吐量，且在 700B 参数模型上仍保持高效。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-10-15 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2610.19026)