**Cerebras 部署万亿参数 AI 模型，实现每秒千级 Token 推理**

_Cerebras Deploys Trillion-Parameter AI Models_

> Cerebras 展示了如何在 WSE-3T 晶圆级芯片上部署万亿参数前沿模型。通过利用线性注意力层节省显存、将模型分层映射至多个芯片以及利用 RDMA 进行片间激活传递，该技术成功在 59 片晶圆集群上运行 Kimi K3（约 3 万亿参数），实现了每秒 1000 至 2000+ 的 Token 生成速度，并展现出超越主流专有模型的推理能力。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-10-23 06:41（北京时间）
- **原文**：[打开原文](https://www.cerebras.ai/blog/how-we-deploy-trillion-parameter-frontier-models-on-cerebras)