**KV4-RL:通过 INT4 KV 缓存量化加速强化学习推理** _KV4-RL: Unlocking Faster Asynchronous Rollo
原帖
**KV4-RL:通过 INT4 KV 缓存量化加速强化学习推理**
_KV4-RL: Unlocking Faster Asynchronous Rollouts for RLVR with INT4 KV Cache Quantization_
> 研究提出 KV4-RL 技术,通过对 KV 缓存进行 INT4 量化并结合选择性 INT8 保护,显著提升具有可验证奖励的强化学习(RLVR)效率。在 Qwen3 模型训练中,该方法在保持与 BF16 训练接近的准确率的同时,实现了显著的累计推理速度提升。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-10-15 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2610.14448)