**万亿参数模型推理突破千Token每秒：TileRT的两次范式飞跃**

_Two Leaps to 1000 Tokens/s on a 1T-Parameter Model_

> TileRT 通过创新的持续执行引擎和瓦片级流水线，结合与小米MiMo团队的软硬件协同设计，将万亿参数大模型推理速度从数十TPS提升至1000+ TPS，开启了低延迟推理新时代。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-models
- **发布时间**：2026-06-09 00:24（北京时间）
- **原文**：[打开原文](https://www.tilert.ai/blog/breaking-1000-tps.html)