**SparseEngine：面向长上下文智能体的稀疏优先推理引擎**

_SparseEngine: Sparse-First Inference Engine_

> SparseEngine 是一款专为长上下文 LLM 智能体设计的稀疏优先推理引擎，旨在解决 KV 缓存内存与注意力计算瓶颈。该引擎支持 15 种稀疏注意力方法，通过 Chain Cache 和可控前缀缓存修剪实现跨请求状态管理。实验显示，其在保持模型质量的同时，相比 vLLM 实现了超过 10 倍的吞吐量提升和 2.5 倍的解码加速。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-10-09 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2609.39068)