**LLM智能体存在“冷启动安全差距”：会话初期漏洞最大**

_The Cold-Start Safety Gap in LLM Agents_

> 研究发现，调用工具的LLM智能体在对话初始阶段安全性最低，完成少量常规任务后安全性可提升9-52%，这一现象被称为“冷启动安全差距”。团队推出SODA基准，包含最多20个前置任务以系统评估，并对7款模型进行测试。表征分析表明，随着前置任务增加，模型隐藏状态逐步移向安全对齐区域。常规任务本身是提升安全的主要驱动力，而智能体先前的回复影响较小但对保持后续效用至关重要。实验还覆盖了AgentHarm、BFCL等开放基准，验证了预热策略在提升安全的同时能保持完整能力。因此建议部署时先让智能体执行几个常规任务，以缓解冷启动安全风险。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-06-12 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2606.07867)