**PReCache:基于低秩预计算的多LoRA智能体高效KV缓存共享框架**

_PReCache: Efficient KV Cache Sharing for Multi-LoRA Agents via Low-Rank Precomputation and Neutral Reconstruction_

> 针对多LoRA智能体系统中KV缓存冗余及角色特异性减弱问题,提出免训练框架PReCache。该框架通过预计算低秩缓存(PreLRShared)和中性重建(ReBaseShared)实现高效共享,在保持精度的同时,将首字延迟(TTFT)加速最高达3.1倍,单请求吞吐量提升2.3倍。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-09-29 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2609.34054)