**大模型也有“多动症”！词表一长，注意力就崩了**

> 最新研究揭示，Transformer大模型的注意力机制在词表长度增加时会出现性能崩溃，类似于人类的注意力缺陷。该发现对优化长上下文模型和设计更高效词表有启示意义。

**来源信息**
- **来源**：麻省理工科技评论中文版：资讯（API）
- **分类**：论文
- **发布时间**：2026-06-04 18:54（北京时间）
- **原文**：[打开原文](https://www.mittrchina.com/news/detail/16467)