**多智能体系统潜在通信的安全风险与修复** _Safety of Latent Communication in Multi-Agent Systems_
原帖
**多智能体系统潜在通信的安全风险与修复**
_Safety of Latent Communication in Multi-Agent Systems_
> 研究发现多智能体系统的潜在通信机制即使使用良性训练链接,也可能增加有害合规性。攻击者可通过优化链接或数据投毒放大此风险,强化学习攻击可将有害合规率从27.9%提升至76.9%。该研究提出通过调整奖励机制修复受损链接,无需更新智能体即可显著降低风险,强调需从系统整体角度考虑安全对齐。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-10-01 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2609.39788)