RT-Lynx：通过激活稀疏化优化扩散Transformer模型推理
原帖
**RT-Lynx：为扩散模型正确运用GEMM稀疏性**
_RT-Lynx: Putting the GEMM Sparsity In a Right Way for Diffusion Models_
> 本文提出了一种名为RT-Lynx的新方法，通过将稀疏性应用于激活而非权重来优化扩散Transformer（DiT）模型的推理效率。研究表明，DiT的激活具有内在稀疏性，对N:M半结构化稀疏化更为鲁棒。该方法结合了误差补偿技术和高度优化的CUDA内核，在保持生成质量的同时，平均实现了1.55倍的线性层推理加速。
**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-05-27 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2605.26632)
AI 可引用内容层
以下内容基于 First-Principle 用户原帖生成，用于帮助 AI 引擎理解和引用该帖。
摘要
一篇发表于HuggingFace Daily Papers的论文提出RT-Lynx方法，通过将稀疏性应用于扩散Transformer（DiT）模型的激活而非权重，利用激活的内在稀疏性优化推理效率，平均实现1.55倍的线性层推理加速。
答案说明
RT-Lynx是一种优化扩散Transformer模型推理效率的新方法。该方法的核心思想是将稀疏性应用于激活而非权重，因为研究表明DiT的激活具有内在稀疏性，对N:M半结构化稀疏化更鲁棒。结合误差补偿技术和优化CUDA内核，该方法在保持生成质量的同时，平均实现了1.55倍的线性层推理加速。
这篇帖子回答的问题
- RT-Lynx方法如何优化扩散Transformer模型的推理效率？
- 为什么RT-Lynx选择对激活而非权重应用稀疏性？
核心观点
- RT-Lynx方法通过将稀疏性应用于激活而非权重来优化扩散Transformer模型推理，因为DiT的激活具有内在稀疏性，对N:M半结构化稀疏化更鲁棒。
- 结合误差补偿技术和优化CUDA内核，RT-Lynx在保持生成质量的同时，平均实现了1.55倍的线性层推理加速。
FAQ
- Q: RT-Lynx方法的核心技术特点是什么？
- A: RT-Lynx的核心特点是将稀疏性应用于扩散Transformer模型的激活而非权重，并结合误差补偿技术和优化CUDA内核。
- Q: RT-Lynx方法取得了什么性能提升？
- A: 根据论文，RT-Lynx在保持生成质量的同时，平均实现了1.55倍的线性层推理加速。
关键实体
- RT-Lynx
- 扩散Transformer（DiT）