**《推理工程》:一本免费的AI推理系统指南**

_Inference Engineering: A free book on the systems behind AI inference_

> Philip Kiely撰写的免费书籍《推理工程》系统介绍了在生产环境中运行AI模型所需的硬件、软件、技术和基础设施。内容涵盖推理前的准备工作、模型架构、GPU硬件、软件框架、性能优化技术(如量化、推测解码、KV缓存复用),以及多模态推理和生产部署实践。

**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:ai-models
- **发布时间**:2026-08-20 02:00(北京时间)
- **原文**:[打开原文](https://www.baseten.co/inference-engineering)