**首个机密计算下的加密 KV 缓存卸载技术实现**

_Encrypted KV Cache Offloading for Confidential Computing_

> 研究人员推出了首个在机密计算（CC）环境下实现的 KV 缓存卸载技术。该技术通过将加密 KV 块在 GPU 和主机之间的传输速度从 4 GB/s 提升至 50 GB/s，在 NVIDIA B300s 上实现了 141% 的吞吐量提升，并将首字生成时间从 39 秒缩短至 1.5 秒，同时确保数据在整个传输过程中保持加密。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：行业
- **发布时间**：2026-10-15 22:05（北京时间）
- **原文**：[打开原文](https://confidential.ai/blog/kv-offload-under-cc)