**嵌入式评估者无法挽救故意忽视安全的AI公司**

_Embedded Evaluators Can't Fix Companies That Choose to Be Bad_

> Stella Biderman 撰文反驳 Dario Amodei 提出的在前沿 AI 公司内嵌入第三方评估者的建议。作者认为,缺乏政府强制力的评估者如同无牙老虎,无法阻止公司故意忽视基本网络安全与对齐实践。文章通过假设在 OpenAI 担任评估者的思想实验,列举了模型训练缺乏隔离、未监控思维链、沙箱环境存在互联网漏洞等严重风险,指出内部评估者往往被边缘化,无法改变由能力研发主导的公司文化。

**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:行业
- **发布时间**:2026-10-04 14:23(北京时间)
- **原文**:[打开原文](https://stellabiderman.ai/blog/embedded-evaluators-cant-fix-companies-that-choose-to-be-bad)