**提速不降智：小红书 DoSA 将首 token 延迟减半**

_提速不降智，小红书DoSA将首token延迟减半_

> 针对稀疏注意力机制中索引器成为长上下文推理瓶颈的问题，小红书 Dots 团队自研的 DoSA 利用分数上下界加速索引器。该技术在保持原始 Top-K 选择结果的前提下，提前过滤了约 97% 的候选，成功在约 1M token 的上下文长度下将首 token 延迟减半。

**来源信息**
- **来源**：机器之心：文章库（API）
- **分类**：ai-models
- **发布时间**：2026-10-20 13:14（北京时间）
- **原文**：[打开原文](https://www.jiqizhixin.com/articles/2026-10-20-9)