**当上下文反噬:通过文档级注意力坍缩检测 RAG 中毒攻击** _When Context Bites: Detecting RAG Poisoning v
原帖
**当上下文反噬:通过文档级注意力坍缩检测 RAG 中毒攻击**
_When Context Bites: Detecting RAG Poisoning via Document-Level Attention Collapse_
> 检索增强生成(RAG)系统日益面临对抗性文档注入的中毒攻击威胁。传统方法依赖困惑度等输出侧信号进行检测,但攻击者常制造虚假低困惑度使检测失效。研究团队发现攻击会导致生成过程中的注意力熵降低、注意力过度集中于中毒文档,提出 D-SCAN 轻量级检测框架,通过监控注意力动态识别攻击,即使在攻击未改变最终答案时也能有效检测。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-08-18 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2608.06947)