**LoRA优化中缩放因子的隐藏力量：新框架LoRA-α释放学习潜力**

_The Hidden Power of Scaling Factor in LoRA Optimization_

> 研究揭示LoRA中缩放因子α是优化主导驱动力，不同于学习率。通过谱抑制平滑优化景观，α可放大任务信号而不增加漂移，最优α与秩呈平方根关系。提出LoRA-α框架，使LoRA兼容小学习率，性能提升且超参数搜索简化。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-06-15 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2606.12883)