**RestoreKV:轻量级恢复机制突破KV缓存压缩瓶颈** _RestoreKV: Recovering Full-Cache Behavior Unde
原帖
**RestoreKV:轻量级恢复机制突破KV缓存压缩瓶颈**
_RestoreKV: Recovering Full-Cache Behavior Under Aggressive Query-Agnostic KV Cache Eviction_
> HuggingFace社区热门论文提出RestoreKV方法,在保持原有KV缓存驱逐策略不变的前提下,仅用0.4%参数的LoRA适配器即可恢复被压缩丢失的上下文信息。该方法通过参数高效的自蒸馏训练,在Qwen3-4B等四个骨干模型上显著提升了长上下文基准测试性能,在5%预算下将KVzip的RULER-4K准确率从38.2提升至73.2,在16倍压缩下达到86.4的RULER准确率。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-08-05 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2608.01247)