**HuggingFace论文:利用On-Policy更新方向提升SFT泛化能力** _On-Policy Parameter Update Directio
原帖
**HuggingFace论文:利用On-Policy更新方向提升SFT泛化能力**
_On-Policy Parameter Update Direction Underlies Generalization in LLM Post-Training_
> 该研究揭示了On-Policy后训练范式泛化优势源于其参数更新方向的动态调整。作者提出OPSFT方法,通过约束SFT更新方向以匹配On-Policy特征,成功将泛化优势迁移至SFT。该方法结合了On-Policy的强泛化性与SFT的高训练效率,并能利用高质量轨迹持续优化模型而不破坏已学能力。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-10-05 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2609.36659)