**DeepSeek mHC多流残差坍塌失效了?** > 核心结论:mHC 的四条残差流并未被均匀使用 —— 读写权重集中在约两条流上;深层(22–42 层)
原帖
**DeepSeek mHC多流残差坍塌失效了?**
> 核心结论:mHC 的四条残差流并未被均匀使用 —— 读写权重集中在约两条流上;深层(22–42 层)残差混合已接近单位矩阵。干预实验显示:去掉最弱读写路径六任务平均分最多下降 0.38 个百分点,深层残差混合矩阵替换为单位矩阵后六任务平均分基本不变(84.22 → 84.26),浅层固定为平均...
**来源信息**
- **来源**:机器之心:文章库(API)
- **分类**:ai-models
- **发布时间**:2026-09-27 22:57(北京时间)
- **原文**:[打开原文](https://www.jiqizhixin.com/articles/2026-09-27-7)