**xHC：突破限制的高效超连接扩展架构**

_xHC: Expanded Hyper-Connections_

> HuggingFace 每日论文推荐：针对 Transformer 残差流扩展中存在的性能收益递减和训练成本激增问题，研究提出 xHC（Expanded Hyper-Connections）。该方法通过时间特征增强和稀疏残差流架构，在 18B 和 28B MoE 模型上实现了 N\>4 的有效扩展，显著降低计算开销并提升下游任务表现。同时推出的 xHC-Flash 进一步减少了内存流量，使大规模残差流扩展在大语言模型预训练中更具实用性。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-07-20 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2607.14530)