**NeurIPS 2026:STILL 架构首创内容感知的层内混合注意力,告别位置伪混合** _NeurIPS 2026 | 层内混合注意力:告别位置「伪混
原帖
**NeurIPS 2026:STILL 架构首创内容感知的层内混合注意力,告别位置伪混合**
_NeurIPS 2026 | 层内混合注意力:告别位置「伪混合」,STILL首个内容感知的层内混合注意力架构_
> 针对大模型长上下文处理中 Softmax 注意力的平方复杂度瓶颈,哈尔滨工业大学(深圳)孟维康与张正团队提出了 STILL 架构。该架构作为首个内容感知的层内混合注意力模型,有效解决了传统线性注意力中存在的“位置伪混合”问题,为高效基础模型架构提供了新方向。
**来源信息**
- **来源**:机器之心:文章库(API)
- **分类**:论文
- **发布时间**:2026-10-17 14:49(北京时间)
- **原文**:[打开原文](https://www.jiqizhixin.com/articles/2026-10-17)