**偏好蒸馏新发现:小模型生成的拒绝样本优于自生成样本**

_Smaller Models, Better Rejects: Preference Distillation Scaling_

> 研究指出在偏好蒸馏中,使用较小的冻结模型生成的拒绝样本(Rejects)比学生模型自生成的样本更具信息量,且推理成本更低。该结论在7B至72B规模的代码生成与数学推理任务中得到验证。理论分析表明,有效的拒绝样本应保留任务结构并降低对参考策略的耦合,小模型能以低成本提供此类高质量负样本。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-10-02 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2609.38987)