**SpecOPD:基于分支并行的同策略蒸馏加速推测解码**

_SpecOPD: Branch-Parallel On-Policy Distillation for Speculative Decoding_

> 针对推测解码中接受长度受限的瓶颈,研究提出了 SpecOPD 框架。该方法通过分支并行策略,利用参考前缀和采样历史对草稿块进行独立监督,并借助提案树共享计算资源。实验表明,SpecOPD 在不同规模模型和任务上显著提升了接受长度与生成速度,实现了比传统自回归解码更高的吞吐量。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:ai-models
- **发布时间**:2026-11-05 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2611.02846)