**语义空间的几何学：Transformer架构的连续几何框架**

_The Geometry of Semantic Space: A Continuous Geometric Framework for the Transformer Architecture_

> 该研究提出了一种连续几何框架，将Transformer的离散代数运算建模为语义纤维丛上的积分微分方程。通过将RMSNorm、RoPE、注意力机制等核心组件转化为微分几何和随机微积分语言，该框架成功预测了注意力机制的熵最优传输特性及SGD的非平衡热力学行为。在Qwen3、LLaMA-3.1等五种架构上的实验验证了该理论预测的定量一致性，为理解大语言模型的稳定性极限、上下文边界及优化动力学提供了新的描述性词汇。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-07-21 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2607.17146)