**Nemotron 3 Ultra：开源高效混合专家模型，专为智能体推理打造**

_Nemotron 3 Ultra: Open, Efficient Mixture-of-Experts Hybrid Mamba-Transformer Model for Agentic Reasoning_

> Nemotron 3 Ultra是总参数550B、活跃参数55B的混合专家模型，融合Mamba与注意力机制。在20万亿token预训练后，扩展上下文至100万token，并通过SFT、RL和多教师在线蒸馏优化。采用LatentMoE、多token预测、NVFP4等技术，推理吞吐量高达主流开源LLM的6倍，精度持平。全面开源模型、数据及训练配方，适合长时间自主智能体任务。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：ai-models
- **发布时间**：2026-06-16 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2606.15007)