**TokenPilot：面向LLM智能体的缓存高效上下文管理框架**

_TokenPilot: Cache-Efficient Context Management for LLM Agents_

> 长会话中上下文累积导致LLM推理成本激增。现有剪枝或淘汰方法会破坏前缀匹配与缓存连续性。TokenPilot采用双粒度管理：全局“摄入感知压缩”稳定前缀并滤除环境噪声，局部“生命周期感知淘汰”监测上下文残留效用，仅在任务相关性过期时卸载内容。实验显示，在孤立和连续模式下成本分别降低61%/56%和61%/87%，且保持竞争力性能。已集成至LightMem2。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-06-16 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2606.17016)