**WaveFront Decoding:面向循环语言模型的并行自推测解码框架**

_WaveFront Decoding: Parallelized Self-Speculative Decoding for Looped Language Models_

> 针对循环语言模型因多次递归调用导致的解码延迟问题,提出免训练的 WaveFront Decoding (WFD) 框架。WFD 利用中间递归输出作为草稿预测,并通过权重共享将不同深度的状态组织成对角波前,实现草稿生成与验证在同一递归调用中的并行批处理。在 Spec-Bench 基准测试中,WFD 在 Ouro-2.6B 和 Huginn-3.5B 模型上分别实现了 2.42 倍和 3.54 倍的加速,结合跨递归 KV 共享后最高可达 4.81 倍,显著优于传统的先草稿后验证策略。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-09-29 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2609.23033)