**研究提出5000万Token长期记忆方案，比重新计算更快更省能**

_Long-Term Memory for AI:50M-Token Window,Is Faster,Cheaper Than Recompute_

> arXiv新论文测试了一种名为galahad-kv的记忆层，通过将KV状态加密存储至本地NVMe磁盘实现5000万Token的长期记忆。在NVIDIA H100上运行Gemma 4模型测试显示，该方案加载速度比重新计算快2.8至4.3倍，GPU能耗降低8.8至12.3倍，且能准确回忆数百万Token前的信息，无需扩大注意力窗口。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：论文
- **发布时间**：2026-10-09 08:25（北京时间）
- **原文**：[打开原文](https://arxiv.org/abs/2610.10845)