**Inferact 开源 TPU v7 巨内核：Kimi K3 推理速度碾压 GB200 基线**

_TPS on Kimi K3 with TPU Megakernels_

> Inferact 发布了开源的 TPU v7 巨内核（megakernels），在 Kimi K3 模型上实现了每秒超过 700 个 token 的推理速度，显著超越了 NVIDIA GB200 的 452 token/s 基线。该成果得益于 TPU 独特的片上向量内存（VMEM）架构，通过软件管理的内存池和异步流水线技术，有效消除了传统 GPU 内核在权重加载与计算间的带宽气泡，从而大幅提升了端到端性能。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-11-08 04:40（北京时间）
- **原文**：[打开原文](https://inferact.ai/news/tpu-megakernels)