**Vantage V-AI:首款无状态图引擎实现 2 比特三元 KV 缓存与注意力汇流**

_Show HN: Vantage-V-AI – 2-bit ternary KV-cache with attention sinks_

> Vantage V-AI 是一款开源的有界内存推理运行时,采用纯数学架构,支持 CPU、边缘设备及多 GPU 加速器。其核心创新包括 2 比特三元 KV 缓存(相比 FP16 存储减少 7.97 倍)和注意力汇流机制,有效解决了长上下文下的 KV 缓存爆炸问题,实现了 10^12 节点规模下的无状态图引擎性能,并在多 GPU 环境下保持 100% 的精确令牌一致性。

**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:论文
- **发布时间**:2026-11-15 17:50(北京时间)
- **原文**:[打开原文](https://github.com/khoadev-vn/VANTAGE-V-AI)