**LSA 架构实现超长上下文加速：1000 万 token 下保持全注意力精度且快 22.7 倍**

_Accelerating Attention for Ultra-Long Context_

> 针对超长上下文（如 1000 万 token）下注意力机制计算成本过高（二次方增长）的瓶颈，LSA 提出了一种基于潜在空间聚类的新架构。该方法将键（keys）聚类，使查询（queries）仅需对层级化的聚类进行评分，而非遍历所有键。实验表明，LSA 在保持与全注意力机制相同精度的同时，推理速度提升了 22.7 倍，且内存占用略低，有效解决了智能体在长周期任务中的性能限制。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-models
- **发布时间**：2026-11-03 03:31（北京时间）
- **原文**：[打开原文](https://prefrontal.ai/news/lsa)