**KV Cache 优化砍掉 99% 显存，单卡吞吐飙 6 倍，港科 CMU 联手岩山科技开源新模型**

_KV Cache砍掉99%，单卡吞吐飙6倍，港科CMU联手岩山科技开源新模型_

> 港科与 CMU 联合岩山科技开源新模型，通过优化 KV Cache 将显存占用减少 99%，实现单卡支持 512 路长推理，单卡吞吐量提升 6 倍。

**来源信息**
- **来源**：量子位（RSS）
- **分类**：ai-models
- **发布时间**：2026-10-26 14:45（北京时间）
- **原文**：[打开原文](https://www.qbitai.com/2026/10/505407.html)