**SpecPilot：自主算法发现与系统优化实现推测解码性能倍增**

_SpecPilot: Autonomous Algorithm Discovery and Systems Optimization for Speculative Decoding_

> 针对现有推测解码系统在单请求和批处理场景下无法充分发挥并行草稿优势的问题，SpecPilot 提出了一种自主智能体循环框架。该系统通过成本模型定位性能瓶颈，利用并行智能体探索优化方向，并结合令牌强制机制防止奖励黑客行为，实现了针对特定部署环境的自适应优化。实验表明，SpecPilot 在无需训练且无质量损失的前提下，将单请求场景下的加速比从 4.46 倍提升至 10.87 倍，批处理场景下从 1.94 倍提升至 3.93 倍。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：ai-models
- **发布时间**：2026-11-04 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2611.02501)