**GORGO:面向跨区网络感知的LLM在线调优服务架构** _GORGO: Online Tuning for Cross-Region Network-A
原帖
**GORGO:面向跨区网络感知的LLM在线调优服务架构**
_GORGO: Online Tuning for Cross-Region Network-Aware LLM Serving_
> HuggingFace每日论文推荐GORGO,一种通过联合优化KV缓存局部性、副本负载和网络延迟来提升LLM推理性能的代理架构。研究团队还发布了ART-Chat-2.5M合成数据集,利用进化策略调优参数,使p95首字延迟降低6.9%-15.5%,端到端延迟降低14.3%-30.9%。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-07-07 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2602.11688)