**HuggingFace论文：聊天模板中保留Token的表示差异加剧提示注入风险**

_Same Bytes, Different Authority: Reserved-Token Representations in Chat-Template Prompt Injection_

> 研究发现，LLM代理面临的提示注入攻击强度受聊天模板中保留Token（Reserved Token）表示形式的影响。当伪造的模板标记被编码为单个保留控制Token而非普通子词序列时，模型会赋予其更高的“权威性”，从而显著提升攻击成功率。实验显示，将标记编码为子词可使InjecAgent基准上的攻击成功率降低39至66个百分点。研究指出，这种权威性源于保留Token的学习向量，且指令微调会强化模型对保留标记的偏好。目前标准的Tokenizer缓解措施存在覆盖盲区，在Hugging Face上大量热门模型中，工具协议Token仍易受此漏洞影响。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-09-30 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2609.35932)