**深度学习的哈密顿-雅可比理论**

_The Hamilton-Jacobi Theory of Deep Learning_

> 本文将神经网络训练严格对应到哈密顿-雅可比初值问题的搜索：每个梯度步选择粘性哈密顿-雅可比方程的初始数据，其Hopf-Cole传播子最拟合观测；推理时输入是空间点，初始条件已编码在权重中。该对应对log-sum-exp层精确成立，对残差网络、Transformer、RNN等架构结构性成立，架构依赖哈密顿量和粘性。统一变形参数ε整合网络、热带代数、粘性PDE和凸优化四种视角，构成Lipschitz条件下交换图。定量结果包括：固定t时最优泛化率O(n^{-1/(d+2)})；ε控制对抗鲁棒性；反向传播即残差网络的哈密顿系统协态方程；PDE求积与数据内在维度一致的标度指数；以及闭式O(N)影响函数，其softmax归因权重π\_j的熵景观随ε增加经历折叠分岔。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-06-02 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2605.28983)