**KronLSTM:基于克罗内克德尔塔规则的线性注意力架构**

_Kronecker Delta Rule for Long Context Linear Attention_

> 论文提出了 KronLSTM,这是一种基于克罗内克德尔塔规则的新型线性注意力架构。该架构通过记忆修订机制扩展了 xLSTM 家族,能够在修改记忆的同时纠正目标关联,且仅沿矩阵空间的单一方向进行更新。这种最小侵入式的更新方式减少了与先前存储信息的干扰,特别适合长上下文语言建模。实验表明,KronLSTM 在长上下文基准测试中表现优异,往往优于现有的线性注意力架构(如 Gated DeltaNet 家族)。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:ai-models
- **发布时间**:2026-10-20 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2610.26834)