**HuggingFace论文:野生成AI文本对预训练的影响及新扩展定律**

_How Much Is an AI Token Worth? Scaling Laws for Wild AI-Generated Web Text_

> 该研究分析了网络预训练数据中日益增多的AI生成文本(Wild AI Text)对语言模型的影响。通过预训练800个模型,研究发现对于数据受限模型,适量AI文本可降低人类文本损失,但过量则产生负面影响;而对于大数据量模型,AI文本几乎立即增加损失。研究提出了包含收益与损害项的新扩展定律,能更准确预测AI文本对模型性能的影响,并建议根据目标数据类型过滤或重复人类文本。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-10-01 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2609.40295)