**基于信息量与几何特征优化LLM投机解码层选择**

_Surfing the Activation Wave: Analyzing the Information and Geometry of LLM Hidden States for Speculative Decoding_

> 该论文提出一种基于矩阵熵（信息量）和中心核对齐（多样性）的框架，用于优化大语言模型投机解码中的隐藏状态层选择。通过引入Token熵过滤机制，该方法能选出高信息量且低冗余的层组合，在EAGLE3式投机解码中优于固定启发式规则，并揭示了LLM解码器表示中的几何与信息结构。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-10-12 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2610.12939)