**Red Hat AI 与 vLLM 支持 DiffusionGemma 实现低延迟决策模型**

_Run Decision Models on vLLM and Red Hat AI Using DiffusionGemma_

> Red Hat AI 与 vLLM 社区合作，利用 Google 的 DiffusionGemma 模型构建自托管的“System One”决策引擎。该方案通过结构化读取模式，在单次去噪步骤内并行生成带概率的 typed 决策，解决了 Jev 等托管 API 在受监管行业中的合规与延迟痛点，适用于工单路由、风险评分等高频低延迟场景。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-09-29 11:13（北京时间）
- **原文**：[打开原文](https://developers.redhat.com/articles/2026/09/28/run-decision-model-vllm-and-red-hat-ai)