**Lithos-Metal 实现 Qwen3.8-27B 在 M5 Max 上 168 tokens/s 的极速推理**

_Lithos-metal: Qwen3.8-27B on 40-core M5 Max at 168 tokens/s_

> 开源推理引擎 Lithos-Metal 专为 Apple Silicon 设计，通过层混合巨核（mixer megakernels）、GPU 驻留生成控制及 DSpark 投机采样技术，显著降低了延迟并提升了吞吐量。实测显示，该引擎可在 40 核 M5 Max 芯片上以 168 tokens/s 的速度运行 Qwen3.8-27B 模型，并原生支持本地化代码代理（Coding Agents）服务。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-10-17 12:06（北京时间）
- **原文**：[打开原文](https://github.com/lithos-ai/lithos-metal)