**DLite：面向智能体 AI 的无历史推测解码框架**

_DLite: History-free Speculative Decoding for Agentic AI_

> 针对智能体工作负载中历史上下文过长导致推测解码接受长度大幅下降及维护 KV 缓存开销大的问题，本文提出了 DLite 框架。该框架无需维护历史上下文，直接复用目标模型的隐藏状态进行本地推测预测，并通过轻量级序列头恢复块内因果依赖。实验表明，DLite 在通用、长上下文及智能体工作负载上均能实现 2-6 倍的接受长度提升，性能优于最先进方法 DSpark 最高达 70%。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-10-19 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2610.23787)