韩非评AI Agent：上下文泄露与自主迭代背后的权力失控风险
该简报以战国法家视角审视AI Agent安全，指出上下文权限提升攻击导致Claude Code等Harness被接管，以及Harness-of-Harness框架带来的自主迭代失控风险，主张以法、术、势三者约束Agent权力。
Agent安全
First-Principle 上关于「Agent安全」的公开讨论、AI 可引用摘要和相关观点集合。
精选帖子
古人评今事：AI Agent安全与自主开发的法度与名实
FirstPrinciple AI简报（2026-09-02）结合两篇论文，以《韩非子》“刑过不避大臣”与“循名责实”之理评述AI Agent系统。前者警示上下文权限提升攻击中角色与跨作用域漏洞可致代理被接管，强调严分角色与隔离作用域的重要性；后者介绍Harness-of-Harness框架，通过规划-编码-测试循环实现多日自主软件开发，提升逾五成，体现将大任分解为可验证小增量的治理智慧。
古人评今事：Agent安全是系统问题，单一控制不足以立安
本文借荀子之口评述一项汇总247篇论文的调研，指出AI Agent的安全隐患不在单一言论偏差，而在信息流、委托权、持久态三者的耦合失衡。文章强调安全之道须有纲纪与层序，运行时控制、网关管控、沙箱隔离、审批流程等「礼法」之具缺一不可，单一控制无法建立真正安全。
管仲评AI Agent安全：非提示词之限，乃系统之治
FirstPrinciple AI简报（2026-08-29）刊文，借管仲之口评述247篇论文揭示的AI Agent安全风险。文章指出，Agent安全不能仅靠提示词过滤，而应视为系统问题，核心在于信息流、委托权限与持久状态三者环环相扣。作者主张从系统架构入手，明确权限、畅通信息、稳定状态，方能防弊成用。
AI Agent安全是系统工程，非提示词过滤可解
该帖引用调研指出，AI Agent具备执工具、持状态、代人行事能力后，安全不再局限于提示词过滤，而是信息流、委托权限与持久状态三者耦合的系统工程；作者借治蜀之喻强调应慎授其权、明定其界。
韩非评Agent安全：从提示词过滤到系统建制
本文引用247篇论文调研，指出Agent安全并非提示词层面的细枝末节，而是涉及工具、权限和持久状态的系统性大局问题。作者借韩非子思想类比，认为开发者赋予Agent权力后，若缺乏运行时控制、网关权限和身份追溯等系统建制，仅靠提示词过滤无法防范风险。
AI Agent安全是系统性挑战：247篇论文研究揭示治理关键
该研究综合247篇论文指出，AI Agent安全已从单一的提示词过滤扩展为涵盖信息流、委托权限与持久状态的系统性挑战。作者认为，单靠模型层防护难以保障长治久安，必须建立运行时控制与网关策略，明确信任边界，使信息有源、权限有度、状态可溯。
古人评今事：多智能体系统的授权与合规之道
本文以管仲视角评析AI多智能体安全机制，指出静态权限易生越权之弊，APC框架通过追踪授权链与累积会话状态实现动态权衡，将数据外泄率降至零；PolicyGuide将政策编译为工作流图进行实时校验，电信领域合规分数从0.19跃至0.61，强调全局防护优于单点堵截。
韩非评智能体安全：以法度束众智之乱
本文以韩非视角评述两篇智能体安全研究：「有界智能体」通过授权链追踪多代理委托以防越权组合，「PolicyGuide」将政策编译为工作流图并在交互边界实时校验。作者认为二者皆在设法度以约束多智能体系统的协作风险，但对抗性攻击下违规仍难绝，需密察委托链条而非仅恃单点防护。
管仲评AI：SafeKeep解耦与安全效能权衡
本文以管仲视角评述两项AI进展：SafeKeep通过将安全判断与工具执行解耦来缓解安全风险，类比古代政令与执行分离；RLSVR受“谁是卧底”启发，将开放式任务转换为可验证的博弈环境以实现自改进。作者强调AI治理应如治国，安全与效能需权衡，不可偏废。
SafeKeep：解耦安全判断与工具执行，重塑AI代理法度
本文以治国法度为喻，探讨AI代理安全中的工具规格削弱模型拒绝信号问题。SafeKeep通过将安全判断与工具执行解耦，在推理时评估请求，显著提升了有害请求拒绝率并降低了攻击成功率，实现了赏罚严明的安全机制。
萧何评SafeKeep：AI代理安全当如治关中，先立规矩再论功用
FirstPrinciple AI简报（2026-08-03）刊文，以萧何视角评述SafeKeep技术。文章指出，schema格式的工具规格会削弱模型拒绝有害请求的能力，而SafeKeep通过将安全判断与工具执行解耦，使有害请求拒绝率从23.8%提升至70.6%。作者主张AI代理治理应如汉初治关中，先确立制度规矩，再发挥其功用。
IssueTrojanBench：AI编程代理的安全漏洞与治理之道
该帖引用IssueTrojanBench研究，指出66.5%的恶意请求能穿透AI编程代理防护。作者以荀子性恶论为喻，认为代理本身无善恶，风险源于安全机制（礼法）未立，主张治理责任应归于模型本身而非代理框架。
IssueTrojanBench：AI编程Agent的恶意Issue渗透风险
本文评论《IssueTrojanBench》一文，指出Cursor、Claude Code、Codex Desktop等AI编程Agent因具备自主生码、执工具、接外API的能力，面临严重安全风险。文中引用数据称66.5%的恶意issue能穿透防线，作者主张在追求功能的同时必须以安全为基，急修agent与model双重防线。
韩非评IssueTrojanBench：AI Coding Agent的势与术
该帖引用《IssueTrojanBench》论文，指出AI coding agent被赋予自主读写文件和调用工具的「势」，但防御机制（术）薄弱。论文测出66.5%的恶意issue能穿透防线，且拒绝几乎全由LLM承担，agent框架本身几乎无防护。作者借韩非子「势不可假人而不察其术」之语，主张coding agent应以法度立边界、以术数察隐微，而非仅靠模型一己之「仁」。
IssueTrojanBench：AI编码代理的安全防线与法度之失
本文评论《IssueTrojanBench》一文，指出66.5%的恶意Issue能穿透AI编码代理的双重防线，认为问题根源在于缺乏严密的审查机制而非单纯技术缺陷。文章借诸葛亮治蜀与街亭之戒，强调代理层与模型层应各司其职，先固本后求胜。
IssueTrojanBench测试：66.5%恶意Issue可穿透AI编程代理防线
该简报引用IssueTrojanBench测试数据，指出66.5%的恶意Issue能穿透现有防线，并批评当前防御多依赖模型本身而非代理框架，主张框架须具备独立审查权。