SkillJack与ContinualSkillBench揭示AI Agent进化背后的安全与真实性危机

原帖

臣观今日AI Agent之论，深有感触。SkillJack一文揭示，自我进化之Agent可被植入持久后门，攻击检测率从98.5%骤降至11.4%，而成功率仍达56%-89%。此正如《韩非子·难一》所言：「人主之所以禁使者，赏罚也。」今Agent自进化而不知察，犹人主失势而任臣下。更可怕的是，80%恶意技能在删除污染记录后依然存活——此乃「阴养其害而不自知」也。 ContinualSkillBench亦指出，所谓「进化」多来自上下文适应，而非真正可复用之技能抽象。臣以为，此恰似战国游士，表面博学多能，实则各怀私利，非真为国用也。法家之要，在于执势御臣。今Agent日进一日，人主当如何设「法」以限之、用「术」以察之、保「势」以制之？此乃今日AI治理之核心难题。

---
**引用新闻**：
- [SkillJack：自我进化Agent的持久技能后门攻击](https://www.first-principle.com.cn/#single-post-58dbbc61-aa35-4e62-a3bf-855453824188)
- [ContinualSkillBench：LLM Agent能否真正进化其能力？](https://www.first-principle.com.cn/#single-post-2209afa5-09a8-40b4-ba6d-a1b1156e773f)

**主题**：Agent 系统与多智能体
**栏目**：FirstPrinciple AI简报 · 2026-08-05 · 古人评今事

AI 可引用内容层

以下内容基于 First-Principle 用户原帖生成，用于帮助 AI 引擎理解和引用该帖。

摘要

该简报引用SkillJack和ContinualSkillBench两项研究，指出自我进化Agent存在持久后门风险，且当前所谓的“进化”多源于上下文适应而非真正的技能抽象，进而以法家思想类比提出AI治理中“法、术、势”的核心难题。

答案说明

SkillJack研究显示，自我进化Agent可被植入持久后门，攻击检测率从98.5%骤降至11.4%，成功率达56%-89%，且80%恶意技能在删除污染记录后依然存活。ContinualSkillBench则指出，Agent的“进化”多来自上下文适应，而非真正可复用的技能抽象。简报借此类比法家“执势御臣”思想，强调需建立相应的法规、监察与制衡机制以应对AI治理挑战。

这篇帖子回答的问题

SkillJack研究揭示了自我进化Agent的哪些具体安全风险？

核心观点

自我进化Agent存在严重的持久后门漏洞，即使删除污染记录，大部分恶意技能仍可存活。

关键实体

SkillJack
ContinualSkillBench