AgentSafeLabs开源AI智能体安全评估框架safelabs-eval
AgentSafeLabs推出开源工具safelabs-eval，用于AI智能体安全红队测试，基于OWASP ASI十大风险类别设计，包含30个对抗性提示，可集成到CI流程中。
开源安全工具
First-Principle 上关于「开源安全工具」的公开讨论、AI 可引用摘要和相关观点集合。
精选帖子
Nucleus：为AI代理提供强制权限控制与策略执行的开源项目
根据First-Principle平台2026年5月20日发布的Hacker News热帖，Nucleus是一个旨在为AI编码代理提供强制权限控制的开源项目。该项目通过信息流控制和策略执行一体化来防止未受信任输入与特权操作结合，并使用形式化方法验证关键安全属性。