**循环回传 Transformer:迈向残差循环架构的统一视角** _Loopback Transformer: Towards a Unified Vie
原帖
**循环回传 Transformer:迈向残差循环架构的统一视角**
_Loopback Transformer: Towards a Unified View of Residual Looped Transformers_
> 该论文提出循环回传 Transformer(Loopback Transformer),通过深度 - 记忆视角分析参数共享后的结果复用机制。与传统方法不同,该架构将块输出拆分为输入与更新两部分,分别控制输入强度、总更新权重及更新分配。实验表明,在 ClimbMix 基准测试中,Loopback Transformer 仅需标准 Transformer 40%-75% 的参数量即可达到更低的验证损失,并在多个下游任务中表现出更高的平均准确率。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-11-16 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2611.07226)