**消费级硬件LLM并发测试：RTX 5060能扛多少并发Agent？**

_Testing LLM Concurrency on Consumer Hardware (RTX 5060)_

> 作者在RTX 5060（8GB显存）上测试了15个LLM模型的并发性能，最高并发达24个Agent。最佳结果MiniCPM5 1B吞吐量提升8.7倍，达983 tok/s；而Qwen3.5 0.8B启用MTP后无法扩展。测试在真实日常使用环境下进行，360次运行零错误。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-models
- **发布时间**：2026-08-02 14:57（北京时间）
- **原文**：[打开原文](https://ai.2it.onl/posts/concurrency-sweep)