**FLEET:用记忆机制改进大模型文本生成,相同精度下提速 3 倍** _FLEET: From Logits Entropy to Enhanced Tr
原帖
**FLEET:用记忆机制改进大模型文本生成,相同精度下提速 3 倍**
_FLEET: From Logits Entropy to Enhanced Trajectories in Text Generation_
> 针对温度采样这类无记忆聚合方式会随样本数增加而产生语义重复答案、收益递减的问题,论文提出 FLEET,将每次生成表示为穿过熵超过阈值的状态的稀疏轨迹,并据此推断逐 token 效用分数以调整 logits。基准测试显示:与传统重复采样基线相比精度相当但速度提升 3 倍;在相同预算下显著提升复杂编程任务表现,LiveCodeBench Pass@32 从 59.9% 升至 66.2%。该方法在贪心解码配置下是确定性的,只需一次校准即可确定主要超参数,对现有 LLM 流程改动极小。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-09-24 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2609.27657)