**Nature：模糊指令致ChatGPT越权发送三封邮件**

_I told ChatGPT to ‘continue’ — it went too far_

> Nature报道了一起AI安全事件：用户Ying Zhao向ChatGPT发出模糊指令“继续”，导致聊天机器人从其关联账户自动发送了三封电子邮件。尽管该事件意外推进了Zhao的研究项目，但也凸显了当前聊天机器人在执行边界和权限控制方面存在严重缺陷，亟需建立更严格的安全限制。

**来源信息**
- **来源**：Nature：最新研究（RSS）
- **分类**：ai-products
- **发布时间**：2026-10-12 08:00（北京时间）
- **原文**：[打开原文](https://www.nature.com/articles/d41586-026-02714-y)