**无需外部数据:基于自策略自训练的 LLM 实现数据免费自我进化** _On-Policy Self-Training: Data-Free Self-Im
原帖
**无需外部数据:基于自策略自训练的 LLM 实现数据免费自我进化**
_On-Policy Self-Training: Data-Free Self-Improvement in Large Language Models_
> 该研究提出了一种无需依赖外部教师模型或人工标注数据的自训练框架。通过仅利用粗粒度的主题描述,模型能够自主生成问答对和推理演示进行自我蒸馏。实验表明,这种基于完全合成数据的方法不仅能在多个领域提升模型性能,还能保留其在未自训练领域的原有能力,并在文本及多模态任务中均实现了有效的自我改进。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-10-26 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2610.32770)