**预训练还不够苦涩：AI 应自行选择学习目标**

_Pre-Training Isn&\#8217;t Bitter Enough_

> 卡内基梅隆大学的研究指出，尽管现代大模型预训练看似遵循了 Rich Sutton 的“苦涩的教训”，采用可扩展的通用方法，但训练目标仍然由人工设计，而非从数据中学习。论文探索如何将下游反馈纳入预训练循环，让模型自行决定该学习什么，以实现更彻底的“苦涩”原则。

**来源信息**
- **来源**：CMU：Machine Learning Blog
- **分类**：论文
- **发布时间**：2026-06-17 21:09（北京时间）
- **原文**：[打开原文](https://blog.ml.cmu.edu/2026/06/17/pre-training-isnt-bitter-enough)