**SpecAgent：通过语义验证实现工具使用智能体的轨迹级推测，显著降低延迟与内存占用**

_Trajectory-Level Speculation with Semantic Verification for Tool-Using Agents_

> SpecAgent 提出了一种新的协作协议，将强模型从每一步的生成者转变为由弱模型起草步骤后的审查者。弱模型负责执行只读工具调用以生成基于真实观察的草稿，而强模型则通过单次并行预填充进行语义验证，仅保留有效前缀并修复首个被拒绝的步骤。该方法将串行自回归解码替换为并行预填充，在保持接近强模型成功率的同时，显著降低了内存流量和推理延迟，有效缩小了强弱模型间的性能差距。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：ai-products
- **发布时间**：2026-10-16 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2610.21463)