**HuggingFace 论文:利用结合代数层优化 Transformer 吞吐量** _Change the Product, Keep the Para
原帖
**HuggingFace 论文:利用结合代数层优化 Transformer 吞吐量**
_Change the Product, Keep the Parameters: Associative Algebra Layers for Transformers_
> 该论文提出一种基于结合代数的 Transformer 架构变体,通过替换标准矩阵乘法为更稀疏的交互表,在保持参数量的同时实现二次方算术复杂度。实验显示,在 1.1 亿参数模型中,该方法虽导致下游指标轻微下降,但端到端生成吞吐量提升了 6.2% 至 7.8%,验证了其在小尺度下的可行性。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-09-29 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2609.32814)