**PreSTO：通过预测性子树预取加速 LLM 幂采样**

_PreSTO: Predictive Subtree Prefetching for Fast LLM Power Sampling_

> 针对 LLM 测试时推理中幂采样（Power Sampling）因 Metropolis-Hastings 更新串行导致的效率瓶颈，论文提出 PreSTO 方法。该方法将未来 MH 决策视为接受/拒绝树，通过批量预取子树提案并设计预测性遍历规则，在不改变 MH 转移核的前提下加速采样。实验显示，PreSTO 在多个数据集和基座模型上实现了 1.71 至 2.33 倍的中位加速，并显著减少了模型调用次数。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-10-12 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2610.13171)