**ZML 发布通用 LLM 服务器 LLMD，支持五大硬件平台**

_The Universal LLM Server_

> ZML 推出名为 LLMD 的自包含 LLM 推理服务器，支持 LLaMa、Gemma、Qwen 和 Mistral 模型。该工具兼容 NVIDIA CUDA、AMD ROCm、Google TPU、Intel oneAPI 及 Apple Metal 五大平台，具备连续批处理、分页注意力、张量并行及 DFlash 推测解码等生产级特性，旨在提供跨硬件的高效统一推理服务。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-10-12 05:03（北京时间）
- **原文**：[打开原文](https://zml.ai/llmd)