**Muna AI 提出 GPU 协同多任务调度方案,解决推理利用率低与芯片短缺矛盾** _Fighting the chip shortage with o
原帖
**Muna AI 提出 GPU 协同多任务调度方案,解决推理利用率低与芯片短缺矛盾**
_Fighting the chip shortage with old school cooperative multitasking on GPUs_
> 文章指出 AI 推理 GPU 平均利用率仅约 35%,主要受限于按峰值容量配置导致的资源闲置。Muna AI 提出通过“老式协同多任务”(Colocation)技术,在单 GPU 上同时运行多个模型或任务,以打破单模型部署的利用率天花板,从而在不增加硬件投入的情况下提升整体吞吐量,缓解芯片短缺压力。
**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:行业
- **发布时间**:2026-10-07 01:51(北京时间)
- **原文**:[打开原文](https://www.muna.ai/blog/colocation)