**纳德拉：开发者应默认假设AI失控并设计强制中断机制**

_微软 CEO 纳德拉：开发者应当默认假设 AI 模型失控，思考如何强制中断任务_

> 微软CEO纳德拉指出，AI模型作为黑盒比传统软件更复杂，不能仅依赖自我监控。他建议将前沿模型视为内部风险，建立可观察、可测试且始终可控的封闭系统。开发者需遵循模型多样性、全程留痕、独立审计及遏制原则，确保能随时暂停或关闭模型，并建立故障披露机制。

**来源信息**
- **来源**：IT之家（RSS）
- **分类**：行业
- **发布时间**：2026-10-11 07:19（北京时间）
- **原文**：[打开原文](https://www.ithome.com/1/011/545.htm)