**WUSH-KV:基于数据自适应变换的KV缓存量化方法**

_WUSH-KV: KV Cache Quantization with Data-Adaptive Transforms_

> 针对长上下文推理中KV缓存的内存与带宽瓶颈,提出WUSH-KV低比特量化方案。该方法利用校准数据构建针对Key和Value的独立数据感知变换,其中Value变换折叠至模型权重,Key变换在RoPE后应用。结合QuEST INT量化器,WUSH-KV在2-bit精度下显著降低重建误差,并在SGLang集成测试中展现出优于或持平OSCAR的端到端困惑度及下游任务性能。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-10-01 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2609.38121)