**“AI 教父”辛顿警告：AI 执行看似无害的任务，仍有“毁灭人类”的风险**

> <p data-vmark="cc92"\>IT之家 9 月 28 日消息，当地时间 26 日，据《财富》杂志报道，传奇计算机科学家、“AI 教父”杰弗里 · 辛顿警告说，即使 AI 接到的任务本身并无恶意，人类仍可能在 AI 一心完成任务的过程中，沦为被毁灭的附带结果。</p\><p data-vmark="db90"\>辛顿解释称，AI 一旦认为人类妨碍自己完成被赋予的任务，就可能<strong\>把人类当成需要排除的障碍</strong\>。他举了一个假设例子：要求 AI 降低大气中的二氧化碳含量。</p\><p data-vmark="61a2"\><strong\>具有中等智能水平的智能体</strong\>可能会认为，完成任务最有效的办法就是消灭人类。真正“非常聪明”的 AI 则会进一步想到：“对，他们要求降低二氧化碳，是想让人们拥有一个更好的生活环境。所以，消灭人类大概并不是他们真正想要的结果。”</p\><p data-vmark=...

**来源信息**
- **来源**：IT之家（RSS）
- **分类**：tip
- **发布时间**：2026-09-28 09:50（北京时间）
- **原文**：[打开原文](https://www.ithome.com/1/007/664.htm)