**SlimWise:解耦预填充与解码专家剪枝以提升MoE推理效率**

_SlimWise: Decoupling Expert Pruning Across Prefill and Decode for Efficient MoE Serving_

> SlimWise提出一种针对混合专家(MoE)模型的服务框架,通过解耦预填充和解码阶段的专家剪枝策略优化推理性能。该框架在预填充阶段使用完整模型,在解码阶段使用剪枝模型并直接复用KV缓存,无需转换。结合低成本蒸馏阶段,SlimWise在Qwen3.6-35B-A3B模型上实现了50%专家剪枝下解码吞吐量提升1.81倍,且精度损失极小。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-10-07 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2609.34117)