**Thinking Machines 实现端到端 4 比特训练:在 GB300 架构上平衡速度与精度** _Thinking Machines: End‑t
原帖
**Thinking Machines 实现端到端 4 比特训练:在 GB300 架构上平衡速度与精度**
_Thinking Machines: End‑to‑End 4‑Bit Training_
> Thinking Machines 展示了在 NVIDIA GB300 平台上进行端到端 4 比特(NVFP4)大模型训练的新方法。该方案利用 NVFP4 格式在 GB300 上比 BF16 快 6 倍的优势,通过针对预训练、强化学习采样及微调等不同阶段动态调整数值精度(BF16、MXFP8、NVFP4),有效解决了低精度带来的量化误差与计算速度之间的矛盾,实现了在大幅降低显存占用和加速训练的同时保持模型性能。
**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:论文
- **发布时间**:2026-11-15 00:23(北京时间)
- **原文**:[打开原文](https://thinkingmachines.ai/blog/end-to-end-4-bit-training)