**罗福莉官宣小米 MiMo-V3 全新架构,核心 HySparse 2 今日发布**

_罗福莉官宣小米 MiMo-V3 采用全新架构,核心 HySparse 2 今日发布_

> 小米 MiMo 大模型负责人罗福莉宣布,MiMo-V3 将采用全新架构,其核心 HySparse 2 于今日发布。官方数据显示,该架构在 1M Token 长度下预填充计算量(FLOPs)降低 5.02 倍,KV 缓存缩小 4.5 倍,并拥有更高的 MRCRv2 与 RULER-v2 评分,同时 AgentPPL 和 LongPPL 更低,长上下文检索能力更优。罗福莉指出,智能体推理是截然不同的工作负载:每轮交互中简短动作可能返回需要预填充的长文本观察结果,上下文持续增长,使预填充成本、KV 缓存大小和检索准确率同时处于关键路径上。为此 HySparse 2 引入 KV 桥接(遵循 YOCO 思路,交叉解码器全注意力层利用自解码器隐藏状态构建 K/V)与 KV 重用(稀疏层复用前一层全注意力层的 KV 缓存和选择索引),并以 Token 级选择替代块级选择、用近期 Token 强制窗口替代独立 SWA 分支,使本地与全局 Token 共享同一 KV 缓存,预填充可在自解码器完成时停止。此前小米刚发布并开源 MiMo-V2.6 系列的 Pro 与 Flash 原生全模态模型,称其为探索 RSI 路径的关键一步。

**来源信息**
- **来源**:IT之家(RSS)
- **分类**:ai-models
- **发布时间**:2026-09-23 23:05(北京时间)
- **原文**:[打开原文](https://www.ithome.com/1/006/502.htm)