**Draft-KV:通过潜在键值状态实现高效跨模型通信** _Draft-KV: Learning Useful Latent Communication
原帖
**Draft-KV:通过潜在键值状态实现高效跨模型通信**
_Draft-KV: Learning Useful Latent Communication Between Language Models_
> 针对现有潜在通信方法中接收方未真正利用消息内容的问题,Draft-KV 提出发送共享方在起草答案时形成的键值状态。该方法通过线性投影和门控注意力分支将状态置于侧边内存,仅需训练 105 万参数(比 C2C 少 348 倍)。实验显示,冻结的 Qwen2.5-0.5B 接收方在 MMLU-Redux 上准确率从 37.45% 提升至 78.04%,且通信效果可迁移至未见任务。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-09-29 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2609.34754)