**WhatWorkedBench:衡量 AI 智能体的实验理解能力** _WhatWorkedBench: Benchmarking Experimenta
原帖
**WhatWorkedBench:衡量 AI 智能体的实验理解能力**
_WhatWorkedBench: Benchmarking Experimental Understanding in AI Agents_
> 研究团队提出 WhatWorkedBench,用于评测 AI 研究智能体的“实验理解”能力,即经过有限实验预算后,对组件改动如何影响结果的预测准确度。智能体需检查代码、选择测量方式,并提交一张响应曲面表,预测各组件配置组合的得分;基准通过穷举 CPU 执行给出固定其他组件时的参考效应。数据集覆盖 30 个数据源、8 类工作流和 36 项任务,共 1248 条配置记录,核心评测包含 4206 条数值控制记录与 108 个智能体回合。结果显示:在 8 次新测量下,pair-effect ridge 在 22 个数据源中的 15 个上选出最优配置;用高斯过程拟合智能体观测可将效应恢复率从 0.632 提升至 0.698(原 Flash 队列),并在另一队列从 0.621 提升至 0.720;在 6 个完成的节拍检测与图任务提交上,同一观测高斯过程将族宏恢复率从 0.303 提升至 0.455;在含 6 个二元选项、20 次新测量的工作流中,编码等价配置可将 GP 恢复率从 0.248 提升至 0.462。该基准可支持实验型智能体、自适应实验设计、数值推理与程序结构利用等研究。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-09-24 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2609.27490)