**ReaDy：利用混合线性注意力中的循环状态实现高效推测解码**

_ReaDy: Recurrent States as Dynamic Context for Speculative Drafting in Hybrid Linear Attention Large Language Models_

> ReaDy 是一种新的推测解码方法，首次利用混合线性注意力（HLA）模型中的循环状态作为动态上下文，以解决基于特征的传统草稿生成器上下文对齐不足的问题。该方法通过轻量级状态读取器为每个草稿位置检索补充上下文，并在 DSpark 架构基础上进行了优化。实验表明，ReaDy 在 Qwen3.8-27B 模型上实现了 3.16 倍的解码速度提升，且在各项基准测试中均优于 DSpark，显著提高了吞吐量与接受长度。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-10-19 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2610.20503)