**超越几何互补性:稀疏MoE路由中的相干重叠现象**

_Beyond Geometric Complementarity: Coherent Overlap in Sparse Mixture-of-Experts Routing_

> 该研究重新审视了稀疏混合专家(MoE)语言模型的路由机制,发现专家子空间存在显著几何重叠,但实际路由仍能更好解释token表示。通过专家子空间分离指数(ESSI)和控制实验,研究区分了路由相干性、候选质量与上下文交互效应,提出

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-07-31 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2607.28308)