**reViT:单块循环视觉Transformer实现深度编程专家混合**

_One Block, Multiple Depths: Recurrent Vision Transformers with Depth-Programmed Experts_

> 该研究提出reViT架构,通过循环应用单个Transformer块并结合深度编程的专家混合机制,在无需中间特征蒸馏的情况下,以相近的推理FLOPs匹配全深度视觉编码器的精度。实验表明,reViT-B/16在ImageNet-1k上以约70%更少的存储参数达到DeiT III精度,且支持弹性深度训练,单检查点可适配多种深度部署。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-10-09 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2610.12448)