**英伟达破局 AI 内存瓶颈:HBM 仅增约 3%,每美元智能体吞吐量最高提升 30 倍**

> 针对大模型参数增长与 HBM 供应趋紧的矛盾,英伟达提出“全栈协同设计”理念,通过 NVFP4 低精度压缩、NVL72 架构分散权重、Vera CPU 就近缓冲及 Dynamo 软件动态迁移等策略,优化数据在存储与计算间的流动。实测显示,该方案在 HBM 容量仅增加约 3% 的情况下,实现了每美元智能体吞吐量最高 30 倍的提升,标志着 AI 算力竞争核心从单纯堆砌显存转向提升每字节有效产出。

**来源信息**
- **来源**:IT之家(RSS)
- **分类**:ai-products
- **发布时间**:2026-11-06 07:30(北京时间)
- **原文**:[打开原文](https://www.ithome.com/1/023/025.htm)