**FlashPrefill V2:面向长上下文LLM推理的块稀疏预填充注意力** _FlashPrefill V2: Block-Sparse Prefil
原帖
**FlashPrefill V2:面向长上下文LLM推理的块稀疏预填充注意力**
_FlashPrefill V2: Block-Sparse Prefill Attention for Long-Context LLM Serving_
> FlashPrefill V2将FlashPrefill从算法原型推向生产部署,通过均值修正项抑制近似误差、重新设计稀疏注意力算子以支持FP8推理,并原生集成paged KV cache与continuous batching。在NVIDIA H20 GPU上,128K上下文长度下相比FlashAttention-2实现最高47.26倍(FP8)和27.19倍(BF16)加速。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:ai-models
- **发布时间**:2026-08-21 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2608.19758)