**MoE 解码无需校准数据：Top-k 通道选择与无参读者实现高效推理**

_Channel Selection for Mixture-of-Experts Decoding Needs No Calibration Data_

> 研究指出混合专家模型（MoE）的解码瓶颈在于内存加载，而传统的基于离线数据校准的阈值通道选择策略存在缺陷，无法保证固定的读取预算和一致的精度提升。论文提出使用 Top-k 策略选择通道，该方案无需校准数据即可在精度和效率上超越阈值法，并解决了重复循环崩溃问题。此外，作者还开发了一种完全基于模型权重的“读者”架构，通过三元草图筛选通道，在仅读取 17.8% 路由专家权重的情况下，保留了 98.1% 的完整模型精度，并在小批量场景下比 vLLM 快 1.6 至 2.7 倍。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：ai-models
- **发布时间**：2026-10-28 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2610.37386)