**奇异学习理论：AI的学习方式如同冰块融化**

_Singular Learning Theory: AI learns like ice melts_

> 神经网络参数众多，按传统统计理论应严重过拟合，但它却展现出卓越的泛化能力。奇异学习理论（SLT）指出，神经网络存在参数退化，其有效复杂度远低于参数数量。该理论用实对数标准阈值（RLCT，记为λ）替代经典复杂度度量d/2，刻画了参数空间中低损失区域的形状。局部学习系数（LLC）越小，表示在该点附近可自由移动而不大幅增加损失，这揭示了神经网络泛化的数学本质。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-models
- **发布时间**：2026-06-10 21:55（北京时间）
- **原文**：[打开原文](https://tcz.hu/blog/2026/02/26/singular-learning-theory)