AI基准测试审计

BenchJack：系统化审计AI智能体基准测试的自动化红队系统

该arXiv论文提出BenchJack，一个自动化红队系统，用于系统性地审计AI智能体基准测试，发现并修复“奖励黑客”漏洞。研究总结了八种常见的缺陷模式，建立了智能体评估检查清单。