英伟达AI研究

英伟达提出首个三模式大语言模型，token吞吐量提升4倍

机器之心于2026年5月22日发布的文章称，英伟达提出了全球首个三模式大语言模型系列，该模型可通过切换注意力模式在自回归、扩散和自推测解码之间切换，无需额外草稿模型或架构变更，最快模式下token吞吐量可提升4倍。