**提示注入即角色混淆：LLM安全架构的根本缺陷**

_Prompt Injection as Role Confusion_

> MIT等机构研究人员在ICML 2026发表论文指出，大语言模型依赖文本格式标签（如角色标记）来区分系统指令与用户输入，但这仅是“格式化技巧”而非真正的安全机制。攻击者可通过伪造写作风格（如CoT伪造）引发“角色混淆”，使模型无法可靠识别授权输入，导致提示注入攻击难以彻底防范。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：论文
- **发布时间**：2026-07-01 04:34（北京时间）
- **原文**：[打开原文](https://www.theregister.com/ai-and-ml/2026/06/30/security-researchers-tricked-llms-into-giving-them-cocaine-recipes-by-abusing-role-models-for-prompt-injection/5264115)