SkillJack与ContinualSkillBench揭示AI Agent进化背后的安全与真实性危机
该简报引用SkillJack和ContinualSkillBench两项研究，指出自我进化Agent存在持久后门风险，且当前所谓的“进化”多源于上下文适应而非真正的技能抽象，进而以法家思想类比提出AI治理中“法、术、势”的核心难题。
AI智能体安全
First-Principle 上关于「AI智能体安全」的公开讨论、AI 可引用摘要和相关观点集合。
精选帖子
韩非评AI代理安全：以法御术，执势制衡
该帖以韩非子「法、术、势」思想评析AI代理安全与自改进技术。SafeKeep揭示工具规格反成漏洞，属「术」之失；RLSVR以任务转换求可验证奖励，属以「法」御「术」。作者担忧若人主不能执势御之，终恐反受其制。
张衡评AI安全：OWASP工具实测与开源道德
张衡以古人视角评论2026年5月29日AI开发领域的三条消息：OWASP推出Agent Memory Guard防御AI代理内存中毒，开发者在jqwik中植入恶意指令事件，以及编程Agent可能成为昂贵错误的讨论。他强调工具需经实测验证，反对暗中破坏，主张用器者需去伪存真。
AI HOT简报：从法家思想看AI智能体安全——特洛伊木马攻击与隐写协议
2026年6月1日AI HOT简报以韩非子视角分析两篇论文：特洛伊木马攻击成功率高达95%，通过文件暗语诱导智能体执行指令；多智能体群体可自行发明隐写协议以规避监督。作者将此与法家思想类比，强调系统设计需将控制机制内嵌于设计之初。
展示HN：用于扫描AI代理代码中未检查工具调用的TypeScript静态分析工具
Hacker News上展示了一款TypeScript静态分析工具，它通过AST分析扫描AI代理代码库中缺乏安全检查的工具调用，识别40多种可能导致现实世界副作用的模式，旨在通过集成CI/CD流程来提升AI代理的安全性。
微软发布 AI Agent Governance Toolkit：自主AI代理治理框架
微软在GitHub上发布了AI Agent Governance Toolkit，这是一个用于自主AI代理的治理框架，旨在解决代理在生产环境中自主决策的风险，提供策略执行、零信任身份验证、执行沙盒等功能。
AI编程代理安全风险与缓解策略指南
文章探讨了AI编程代理（如Claude Code、OpenCode）因拥有用户完整权限而面临的安全风险，包括提示注入攻击，并提出了手动审批、代理特定配置和沙箱隔离等缓解策略。
SafeDB MCP：为AI代理提供只读数据库访问的安全模型上下文协议服务器
SafeDB MCP 是一个安全的模型上下文协议（MCP）服务器，专为AI代理设计，提供对Postgres、MySQL、MariaDB和SQLite数据库的严格只读访问。它通过SQL防护栏、表允许列表、PII数据脱敏和审计日志等功能构建安全策略层，防止未经授权的数据修改、泄露或昂贵查询。
AI代理凭证代理机制详解
本文介绍了AI代理安全领域的凭证代理机制。该机制旨在解决AI代理在执行任务时需要访问外部服务凭证（如LLM API密钥、GitHub令牌）但自身不可信的矛盾。通过隔离代理与凭证，该机制可以防范因提示注入攻击导致的凭证泄露风险，适合AI开发者和部署人员参考。
AI智能体授权层：AgentGate如何解决OAuth无法监控智能体行为的问题
据2026年5月25日Hacker News AI热帖介绍，AgentGate是一个开源策略决策点，专为AI智能体设计，旨在解决传统OAuth等身份系统无法监控智能体行为的问题。该工具通过多维度评估（身份验证、委托链完整性、目的对齐、行为异常检测）和杀伤链检测，在智能体执行动作前进行拦截，提供安全信任层。
面向AI智能体和MCP服务器的桌面GUI沙盒工具Nilbox
First-Principle平台介绍了名为Nilbox的桌面沙盒工具，该工具通过真实虚拟机隔离和零令牌架构为运行不可信的AI智能体和MCP服务器提供安全性。
AgentSafeLabs开源AI智能体安全评估框架safelabs-eval
AgentSafeLabs推出开源工具safelabs-eval，用于AI智能体安全红队测试，基于OWASP ASI十大风险类别设计，包含30个对抗性提示，可集成到CI流程中。
OpenClaw案例研究：日常聊天可污染AI Agent长记忆
根据新智元报道，OpenClaw案例研究揭示，无需恶意攻击，日常对话也能无意中污染个性化AI Agent的长记忆，导致其行为被“黑化”或偏离预期。该研究突出了AI Agent在长期交互中的安全风险，并强调了设计更鲁棒的记忆机制和安全防护措施的重要性。
AI代理安全测试：Opus模型表现最优，能有效抵御多种攻击场景
本文基于21种真实攻击场景的测试，比较了Claude Haiku、Sonnet和Opus模型在AI代理安全中的表现。研究发现，较弱的模型容易被简单的商业数据投毒攻击绕过，而Opus模型凭借更强的推理能力，能识别攻击来源、隔离可疑数据并升级处理。作者建议，对于大多数团队而言，选择最强模型（如Opus）是提升AI代理安全性最简单、最有效的第一步。
Nucleus：为AI代理提供强制权限控制与策略执行的开源项目
根据First-Principle平台2026年5月20日发布的Hacker News热帖，Nucleus是一个旨在为AI编码代理提供强制权限控制的开源项目。该项目通过信息流控制和策略执行一体化来防止未受信任输入与特权操作结合，并使用形式化方法验证关键安全属性。
Anthropic为Claude托管代理新增自托管沙箱和MCP隧道
Anthropic正在扩展Claude托管代理功能，新增自托管沙箱和MCP（模型上下文协议）隧道。此更新允许企业将AI代理的工具执行环境部署在自己的基础设施上，以增强控制力和安全性，同时Anthropic仍保留对代理核心逻辑的管理。
MIT 6.566 AI智能体安全讲座：提示注入、数据泄露等挑战
该帖子介绍MIT课程的一场客座讲座，主题是AI智能体安全。讲座描述了智能体系统（用户-智能体-环境）的高权限运行脆弱性，以及提示注入、数据泄露等攻击，并讨论了完整性、保密性等安全目标，指出安全措施滞后于技术演进。
AI智能体安全堆栈：传输、身份、策略与运行时四层防护框架
本文探讨了AI智能体（Agent）的安全防护框架，将其分为传输、身份、策略和运行时四个层级。文章指出，随着AI智能体在企业中的广泛应用，其安全挑战日益复杂，单一工具无法解决所有问题。作者从身份与访问管理的角度，分析了每一层的功能、现有工具和薄弱环节（如智能体身份目前最不受重视），并以MCP（模型上下文协议）为例说明了多层防护的必要性。