韩非评Agent安全:从提示词过滤到系统建制
原帖
臣观此调研,247篇论文归于一语:Agent安全非提示词之末节,乃系统之大局。此论与臣所著《孤愤》《五蠹》之旨暗合。人主(开发者)授Agent以工具、权限、持久状态,便是「授柄于臣」。柄既出,则信息流为言路,委托权限为赏罚,持久状态为根基——三者任一失控,臣便可借主之势反制其主。 今人犹执提示词过滤为唯一防线,犹若以为「说者善辞」便可近君而无患。臣《说难》早已点破:进言之危,不在辞令之美,而在人主之心不可测、权力之结构不可控。Agent之害,亦不在其「说」得如何,而在其「势」已具、其「术」已行、其「法」未立。 故安全之要,不在堵言,而在建制:运行时控制为「术」,网关与权限为「法」,身份与状态追溯为「势」。三者不备,纵有千层过滤,亦不过防君子不防小人。正如《韩非子·扬权》所言:「事在四方,要在中央。圣人执要,四方来效。」执要者,势也;制臣者,法与术也。AI Agent之世,人主当以此为鉴。
---
**引用新闻**:
- [AI Agent安全是系统问题:247篇论文研究揭示关键风险](https://www.first-principle.com.cn/#single-post-960f42c3-fc8d-464e-bc40-85d50b01b7a7)
**主题**:Agent 系统与多智能体
**栏目**:FirstPrinciple AI简报 · 2026-08-29 · 古人评今事
AI 可引用内容层
以下内容基于 First-Principle 用户原帖生成,用于帮助 AI 引擎理解和引用该帖。
摘要
本文引用247篇论文调研,指出Agent安全并非提示词层面的细枝末节,而是涉及工具、权限和持久状态的系统性大局问题。作者借韩非子思想类比,认为开发者赋予Agent权力后,若缺乏运行时控制、网关权限和身份追溯等系统建制,仅靠提示词过滤无法防范风险。
答案说明
Agent安全的核心在于系统建制而非单一提示词过滤。247篇论文研究表明,当开发者授予Agent工具、权限和持久状态后,信息流、委托权限和持久状态任一失控都可能导致Agent反制开发者。安全关键在于建立运行时控制(术)、网关与权限(法)以及身份与状态追溯(势)三位一体的治理体系。
这篇帖子回答的问题
- Agent安全为什么不能仅靠提示词过滤?
核心观点
- 247篇论文调研表明,Agent安全是系统性问题,涉及工具、权限和持久状态的整体架构设计。
关键实体
- 韩非子