**免费 vLLM 课程：推理、压缩与基准测试** _Free vLLM Course: Inference, Compression, Benchmarks

**免费 vLLM 课程：推理、压缩与基准测试**

_Free vLLM Course: Inference, Compression, Benchmarks_

> DeepLearning.AI 与 Red Hat 合作推出的免费短课程，时长约 1 小时 38 分钟，教授如何使用 vLLM 高效部署开源 LLM，涵盖量化压缩、连续批处理、PagedAttention、前缀缓存等关键技术，并通过 GuideLLM 和 lm-eval 进行基准测试与质量评估。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-06-04 01:27（北京时间）
- **原文**：[打开原文](https://www.deeplearning.ai/courses/fast-and-efficient-llm-inference-with-vllm)