**HuggingFace 论文：提出检索中心深度学习范式，构建增长型非参数神经网络**

_Retrieval-Centric Deep Learning in Growing Nonparametric Neural Networks_

> 该论文提出了一种通用的“检索中心深度学习”（RCDL）层，通过为每个数据点存储键值对并在推理时利用注意力机制检索重组，构建了随数据增长的非参数神经网络。研究填补了将线性注意力扩展至 RBF 和 Softmax 等高级核函数的优化理论空白，开发了基于函数梯度的学习规则。实验表明 RCDL 在图像分类和合成任务中表现优异，并揭示了其与 MesaNet/DeltaNet 等优化器之间的形式化联系。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-10-09 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2610.03858)