**NoRA：归一化低秩适配，让LoRA训练更稳定高效**

_Normalized Low-Rank Adaptation_

> HuggingFace Daily Papers 社区热门论文提出 NoRA（Normalized Low-Rank Adaptation），通过归一化 LoRA 的下投影矩阵来优化训练动态。该方法可在训练全程或仅在初始化时应用，无需额外参数或推理开销，即可加速收敛、提升性能与稳定性，并有效缓解灾难性遗忘，适用于预训练、SFT 和强化学习等多种场景。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-09-01 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2608.31036)