**缓存工程赋能智能体：无需修改轨迹即可动态控制 KV 缓存**

_Cache Engineering for Agents_

> 针对大语言模型智能体在处理长轨迹时面临的 KV 缓存 I/O 瓶颈及上下文长度限制，本文提出了一种新的“缓存工程”方案。该方案允许智能体在不修改原始轨迹或触发昂贵重填充的前提下，直接通过“丢弃”和“重定位”操作主动控制活跃缓存。研究通过设计状态无接口兼容的状态有缓存复用引擎，解决了历史依赖带来的缓存复用难题。实验表明，该方法相比传统策略显著提升了基准分数并大幅降低了成本，同时实现了输出吞吐量和延迟的显著优化。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：ai-models
- **发布时间**：2026-10-22 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2610.28577)