**ICML 2026｜让AI自动发现前沿风险：创智×复旦×牛津发布AutoControl-Arena**

> 当 AI 智能体（Agent）从实验室走向真实应用，我们面对的安全问题也正在发生变化。过去，我们更多关心模型会不会回答危险问题；而现在，Agent 已经可以调用工具、读写文件、操作数据库、执行多步任务。真正棘手的前沿风险，往往不再来自某个显式恶意 prompt，而是隐藏在复杂环境中的长尾场景里...

**来源信息**
- **来源**：机器之心：文章库（API）
- **分类**：tip
- **发布时间**：2026-06-24 18:42（北京时间）
- **原文**：[打开原文](https://www.jiqizhixin.com/articles/2026-06-24-11)