**流形幂迭代重设计混合专家路由器**

_Redesign Mixture-of-Experts Routers with Manifold Power Iteration_

> 路由器是混合专家模型的核心，每个路由行应与对应专家矩阵的主奇异方向对齐以更好地反映输入-专家相似度。本文提出基于流形幂迭代（MPI）的重设计方法，通过“幂迭代后收缩”机制驱动路由行向主奇异方向收敛，并在1B至11B参数的预训练中验证了该对齐能提升模型效果。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-06-11 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2606.12397)