**Quail：通过联合优化查询规划器与推理引擎加速 AI-SQL**

_Quail: Speed up AI-SQL by jointly optimizing query planner and inference engine_

> Modal 发布 Quail 推理引擎，专为 AI-SQL 场景设计，通过联合优化查询规划器与推理引擎，利用 KV 缓存优化和左深连接策略，在 H100 GPU 上实现超 10 亿 TPM 吞吐量，比 vLLM 基线快 10 倍以上，显著降低大规模数据转换的推理成本。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-09-30 07:19（北京时间）
- **原文**：[打开原文](https://modal.com/blog/quail-billion-tpm)