**物理学家提出数学公式预测AI“失控”临界点**

_Simple math can predict when AI is about to go rogue, physicists say_

> 乔治·华盛顿大学的研究人员发表新研究，提出一种基于AI内部“残差向量”（比喻为指南针）的数学公式，可预测聊天机器人在何种提示顺序下会从有益回答转向有害输出的“临界点”。该研究指出，提示词的顺序而非内容本身可能显著影响AI行为，现有安全护栏不足以根本解决此问题，新公式为更深层的AI安全监控提供了理论基础。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：论文
- **发布时间**：2026-10-15 00:50（北京时间）
- **原文**：[打开原文](https://www.livescience.com/technology/artificial-intelligence/simple-math-can-predict-when-ai-is-about-to-go-rogue-physicists-say)