**LoRA微调完全指南：性能对比与超参数调优**

_LoRA Primer_

> 本文详解LoRA微调技术，指出在小数据集和强化学习任务中，LoRA性能与全量微调相当；但在大数据集上表现较差。关键要点包括：LoRA需使用约10倍于全量微调的学习率；应用于所有权重矩阵（尤其是MLP和MoE层）效果更佳；小rank即可满足RL需求，而监督学习需根据数据量调整rank大小。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-models
- **发布时间**：2026-08-29 20:50（北京时间）
- **原文**：[打开原文](https://tinker-docs.thinkingmachines.ai/tinker/lora-primer)