**DScout：通过因子化策略优化扩散草稿推测解码，实现大模型推理加速**

_Factorization-Guided Training and Inference for Diffusion-Drafted Speculative Decoding_

> 针对扩散草稿推测解码（Diffusion Drafting）中因早期拒绝导致后续正确预测失效、进而限制吞吐量提升的问题，研究提出了 DScout 框架。该框架通过训练与推理两个维度的因子化策略进行优化：在训练阶段，将位置损失分解为包含、加权与预测损失，以对齐监督信号并提升平均接受令牌数（MAT）；在推理阶段，将吞吐量定义为 MAT 与每轮延迟的比值，据此动态调整目标条件深度、草稿深度及推理块大小。实验表明，DScout 在 Qwen3 系列模型上分别实现了 3.84 倍和 4.14 倍的加速，且其自适应配置策略在不同并发设置下可进一步带来最高 9.75% 的额外加速。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：ai-models
- **发布时间**：2026-10-20 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2610.23935)