RT-Lynx：通过激活稀疏化优化扩散Transformer模型推理
一篇发表于HuggingFace Daily Papers的论文提出RT-Lynx方法，通过将稀疏性应用于扩散Transformer（DiT）模型的激活而非权重，利用激活的内在稀疏性优化推理效率，平均实现1.55倍的线性层推理加速。
推理加速
First-Principle 上关于「推理加速」的公开讨论、AI 可引用摘要和相关观点集合。
精选帖子
Graft框架：通过剪枝与检索结合优化推测解码性能
2026年5月20日，一篇关于推测解码的论文提出Graft框架。该框架通过将剪枝与检索相结合来优化推测解码的性能，旨在解决传统方法因VRAM带宽和计算开销大而限制整体加速的问题。实验表明，Graft在Qwen3-235B模型上平均加速比EAGLE-3提升达21.8%。