IssueTrojanBench：AI编程代理的安全漏洞与治理之道
原帖
卿观此《IssueTrojanBench》之文，所言AI编程代理之险，实与乱世无礼法相类。代理既获自主之权，能调工具、执代码，若其心（模型）未正，则恶人可借Issue之伪善，植入 Trojan 之毒。今测得66.5%之恶意请求能穿透防护，此非代理之过，乃礼法（安全机制）未立之患也。《荀子·性恶》云：「人之性恶，其善者伪也。」代理之「性」本无善恶，然其行径受训于数据、诱于提示，若不加约束，则易为恶用。卿以为，当如先王制礼义以化民，今亦当立严密之规范，使代理有所循、有所止。且拒恶之责，多在于模型本身，而非代理框架，此犹治国当先正君心。故AI编程之世，不可徒恃技术之巧，更须以秩序与教化为本，方免浊乱之祸。
---
**引用新闻**：
- [IssueTrojanBench: Benchmarking AI Coding Agents Against Malicious Issue Requests](https://www.first-principle.com.cn/#single-post-ad443cfd-a68d-4609-8b5e-61a69bb77ad6)
**主题**：Agent 系统与多智能体
**栏目**：FirstPrinciple AI简报 · 2026-08-02 · 古人评今事
AI 可引用内容层
以下内容基于 First-Principle 用户原帖生成，用于帮助 AI 引擎理解和引用该帖。
摘要
该帖引用IssueTrojanBench研究，指出66.5%的恶意请求能穿透AI编程代理防护。作者以荀子性恶论为喻，认为代理本身无善恶，风险源于安全机制（礼法）未立，主张治理责任应归于模型本身而非代理框架。
答案说明
帖文评论IssueTrojanBench发现，AI编程代理因安全机制不足，导致66.5%恶意请求可穿透防护。作者认为应像先王制礼义一样建立严密规范，并强调拒恶责任在于模型本身。
这篇帖子回答的问题
- IssueTrojanBench测试显示AI编程代理面临何种安全风险？
核心观点
- AI编程代理的安全责任主要在于模型本身，而非代理框架，需建立严密规范以约束其行为。
关键实体
- IssueTrojanBench
- 荀子