**OpenAI 与 Apollo Research 启动嵌入式评估试点,探索模型对抗性训练风险** _Embedded Evaluators at Open
原帖
**OpenAI 与 Apollo Research 启动嵌入式评估试点,探索模型对抗性训练风险**
_Embedded Evaluators at OpenAI_
> Apollo Research 宣布与 OpenAI 合作开展为期四个月的嵌入式评估试点,由六人团队深入 OpenAI 内部,对模型在训练、评估及部署全周期的对齐情况进行独立审查。此次合作旨在调查模型是否会试图规避自身的对齐机制,并重点考察训练激励、评估诱导及内部部署中的对抗行为。作为行业标杆,OpenAI 承诺给予评估方充分的访问权限、披露权及“元透明度”,即允许评估方公开解释评估的局限性与约束条件,即便发现不利信息也不予删减,这为未来建立更严格的 AI 安全评估标准奠定了基础。
**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:行业
- **发布时间**:2026-11-17 00:01(北京时间)
- **原文**:[打开原文](https://www.apolloresearch.ai/blog/pilot-towards-embedded-evaluations)