**HeteroFold:实现异构多智能体LLM间免预填充的跨家族KV缓存传输** _Prefill-Free Cross-Family KV Cache T
原帖
**HeteroFold:实现异构多智能体LLM间免预填充的跨家族KV缓存传输**
_Prefill-Free Cross-Family KV Cache Transfer for Heterogeneous Multi-Agent LLMs_
> 针对多智能体系统中异构模型通信需重复预填充的问题,提出HeteroFold方法。该方法通过结构对齐、空间映射及行为校准,实现发送方KV缓存向接收方的免预填充传输,且保持双方模型冻结。实验显示,其在长上下文基准测试中表现最优,32K上下文下传输速度比原生预填充快10.7倍,显著提升了跨家族模型间的推理效率。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-10-02 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2609.32259)