**SAE 揭示 MoE 专家的可解释性：展现人类可理解的细粒度分工**

_SAE Interprets MoE: Sparse AutoEncoders Reveal That MoE Experts Exhibit Human-Interpretable Fine-Grained Specialization_

> 针对混合专家模型（MoE）专家职责不明确的问题，研究提出使用稀疏自编码器（SAE）对 MoE 层输出进行解码，从而在特征空间而非预定义的领域标签中分析专家贡献。实验表明，SAE 能精准定位每个专家主导的潜在变量，揭示出如编程语言或数学运算等细粒度的专家分工，且这种分工比传统的门控机制更为集中。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-11-06 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2611.08089)