**研究揭示LLM Agent后训练后门持久性机制及增强方法** _Understanding and Enhancing Backdoor Persiste
原帖
**研究揭示LLM Agent后训练后门持久性机制及增强方法**
_Understanding and Enhancing Backdoor Persistency in LLM Agent Post-Training_
> 该研究分析了LLM Agent在供应链攻击中,后门行为在良性监督微调(SFT)和强化学习(RL)后的存活情况。研究发现SFT虽能降低攻击成功率,但后续RL往往保留甚至增强后门效应。论文提出了PersistBD方法,通过优化初始后门强度与梯度兼容性,显著提升了后门在良性后训练过程中的持久性,在Qwen2.5-Coder-7B上将SFT-RL后的攻击成功率从20%提升至76%,突显了第三方模型适配中的安全风险。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-10-07 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2610.07510)