**用 LLM 模拟工具输出以测试 AI 监控系统的真实性**

_Red-teaming AI agent monitors with an LLM that fakes tool outputs_

> 研究人员提出了一种名为“模拟控制评估（SCE）”的新方法，利用 LLM 模拟工具调用的输出来替代真实执行，从而在无需实际运行代码的情况下，更真实地评估 AI 监控系统在部署环境中拦截恶意攻击的能力。研究表明，这种方法在预测真实环境中的监控效果方面，比传统的受控测试环境更为准确。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-10-25 23:41（北京时间）
- **原文**：[打开原文](https://www.redwoodresearch.org/blog/simulated-control-evaluations)