**ProVe:提出 - 验证解码加速大模型推理** _ProVe: Proposer-Verifier Decoding_ > ProVe 提出了一种新的
原帖
**ProVe:提出 - 验证解码加速大模型推理**
_ProVe: Proposer-Verifier Decoding_
> ProVe 提出了一种新的解码策略,通过微调大模型作为“提出者”一次性预测多个 token 块,再由小模型或大模型自身进行“验证”,从而在无需额外训练草稿头的情况下实现推理加速。实验表明,该策略在保持无损生成的情况下可将吞吐量提升 2.5 倍,或在可接受的精度损失下获得 2.7 倍的加速效果。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:ai-models
- **发布时间**:2026-11-03 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2610.27815)