**MMFlash:视觉语言模型的加速推测解码框架**

_MMFlash: Faster Speculative Decoding for Vision-Language Models_

> 针对多模态任务中推测解码效率低的问题,MMFlash 提出了一种自适应重加权框架,通过基于 KL 散度的视觉依赖度指标识别并提升视觉依赖强的 token 权重。该框架结合稀疏注意力机制以优化长视频输入,在多项基准测试中实现了最高 3.58 倍的无损加速,性能显著优于 EAGLE-3 和 DFlash。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:ai-models
- **发布时间**:2026-11-16 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2611.18482)