**动态线性注意力:基于信息感知的自适应多状态记忆框架**

_Dynamic Linear Attention_

> 为解决长上下文多状态线性注意力中固定状态合并策略导致的误差累积问题,本文提出动态线性注意力(DLA),引入信息感知动态状态合并与容量受限记忆建模,在保持关键信息的同时高效管理内存。预训练并评估于两个模型和16个数据集,性能超越现有最优方法。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-06-10 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2606.10650)