**苹果研究:数据受限下双语预训练优于超参数搜索**

_Mix, Don't Tune: Bilingual Pre-Training Outperforms Hyperparameter Search in Data-Constrained Settings_

> 苹果机器学习团队提出,在低资源语言模型预训练中,混合高资源辅助语言数据比激进调整超参数(如权重衰减)更有效。该方法通过扩展训练分布和多样化信号,显著提升了数据受限场景下的模型泛化能力。

**来源信息**
- **来源**:Apple Machine Learning Research(RSS)
- **分类**:论文
- **发布时间**:2026-10-13 08:00(北京时间)
- **原文**:[打开原文](https://machinelearning.apple.com/research/mix-dont-tune)