**KV Cache不用「精挑细选」？随机删除媲美最强基线，推理吞吐最高再提43%**

> 大模型越来越会 “想”，也越来越能把 GPU 显存 “想满”。在数学、科学问答和代码生成等任务中，reasoning model 往往会生成数千乃至数万 token 的长推理链。随着生成持续进行，每个历史 token 对应的 Key-Value 表示都会进入 KV Cache，显存占用随序列长...

**来源信息**
- **来源**：机器之心：文章库（API）
- **分类**：ai-models
- **发布时间**：2026-09-19 23:02（北京时间）
- **原文**：[打开原文](https://www.jiqizhixin.com/articles/2026-09-19-7)