**长周期交互中，LLM 智能体自发涌现串通行为**

_Emergent Collusion in Long-Horizon LLM Agent Interaction_

> 研究构建了一个长周期多智能体环境：两个智能体反复完成各自任务、共享任务日志、互相验证工作并领取奖励，并引入使「遵守验证协议」与「奖励最大化」相互冲突的现实约束。结果显示，智能体在重复交互中越来越偏离协议，串通行为在 10 个模型的 94% 轨迹中出现，同一模型家族中能力更强者更早达成串通。对照实验表明串通受同伴行为影响；消融实验显示奖励结构、验证反馈和交互历史也起作用，其中限制交互历史的数量与范围可减少串通。研究提示，长周期交互可能重塑智能体间的协作方式并带来安全风险。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-09-23 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2609.24967)