**vLLM 宣布原生支持 Kimi K3：推理速度高达 370 Tokens/秒**

_Kimi K3 on vLLM: Up to 370 Tokens/sec_

> vLLM 团队发布对 Moonshot AI Kimi K3 模型的 day-0 原生支持。该模型为 2.8 万亿参数 MoE 架构，支持 1M token 上下文窗口。vLLM 通过混合 KDA 前缀缓存、DSpark 推测解码及生产级解离技术，实现了单用户最高 370 Tokens/秒的推理性能，并提供了详细的 Docker 部署指南与优化配置。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-models
- **发布时间**：2026-07-27 23:44（北京时间）
- **原文**：[打开原文](https://vllm.ai/blog/2026-07-27-k3)