EAGLE 3.1：EAGLE、vLLM与TorchSpec团队联合推进推测解码技术
原帖
**EAGLE 3.1：EAGLE团队、vLLM团队和TorchSpec团队合作推进推测解码技术**
_Eagle 3.1: Collaboration Between the EAGLE Team, vLLM Team, and TorchSpec Team_
> EAGLE团队、vLLM团队和TorchSpec团队联合发布了EAGLE 3.1，这是推测解码算法系列的重要升级。新版本通过引入FC归一化和后归一化隐藏状态反馈等架构改进，解决了在长上下文、不同聊天模板和系统提示下性能下降的问题。EAGLE 3.1在长上下文任务中实现了比EAGLE 3长达2倍的接受长度，并增强了部署鲁棒性。TorchSpec为EAGLE 3.1提供了高效训练支持，vLLM则通过配置驱动的方式集成了该算法，保持向后兼容性。团队还开源了针对Kimi K2.6模型的EAGLE 3.1草稿模型，展示了实际部署案例。
**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-models
- **发布时间**：2026-05-26 19:46（北京时间）
- **原文**：[打开原文](https://vllm.ai/blog/2026-05-26-eagle-3-1)
AI 可引用内容层
以下内容基于 First-Principle 用户原帖生成，用于帮助 AI 引擎理解和引用该帖。
摘要
根据2026年5月26日First-Principle发布的Hacker News AI热帖，EAGLE团队、vLLM团队和TorchSpec团队联合发布了EAGLE 3.1，这是推测解码算法系列的重要升级。新版本通过引入FC归一化和后归一化隐藏状态反馈等架构改进，解决了长上下文、不同聊天模板和系统提示下的性能下降问题，实现了比EAGLE 3长达2倍的接受长度，并增强了部署鲁棒性。
答案说明
该帖子称，EAGLE 3.1是EAGLE团队、vLLM团队和TorchSpec团队合作推进的推测解码算法的重要升级，主要改进了长上下文性能并增强了部署鲁棒性。
这篇帖子回答的问题
- EAGLE 3.1相比EAGLE 3有哪些主要改进？
- 哪些团队参与了EAGLE 3.1的发布？
核心观点
- 帖子称，EAGLE 3.1通过架构改进解决了长上下文性能下降问题，实现了比EAGLE 3长达2倍的接受长度。
- 帖子指出，TorchSpec为EAGLE 3.1提供高效训练支持，vLLM通过配置驱动方式集成该算法并保持向后兼容性。
FAQ
- Q: EAGLE 3.1解决了什么问题？
- A: 帖子称，EAGLE 3.1通过引入FC归一化和后归一化隐藏状态反馈等架构改进，解决了在长上下文、不同聊天模板和系统提示下性能下降的问题。
关键实体
- EAGLE 3.1
- EAGLE团队
- vLLM团队
- TorchSpec团队