**Whisper 编码器剪枝：去掉六层并用无标签蒸馏恢复性能**

_Six Layers Less: Encoder Pruning for Whisper with Label-Free Recovery_

> 该研究提出对 Whisper 编码器进行层剪枝：按“逐层移除后 WER 变化”对编码器层排序，去掉影响最小的六层（占编码器栈 18.5%），得到更浅的编码器，无需定制推理代码。为弥补零样本剪枝带来的性能损失，作者使用无标签单语语音进行蒸馏，使四种语言的平均 WER 由零样本的 21.9% 降至 20.1%（原始基线为 18.2%）。代码与剪枝模型已开源。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-09-24 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2609.27980)