**开源轻量级侧边车 Sturnus：基于延迟自动路由 LLM 流量，零基础设施部署**

_Show HN: Sturnus, a latency-based LLM load balancer_

> Sturnus 是一款开源的轻量级侧边车工具，支持 OpenAI、Azure、Vertex AI 和 Anthropic 等多家大模型提供商。它通过单静态二进制文件运行，无需额外基础设施，即可根据实时延迟和可用性自动将流量路由至最优的 LLM 提供商。该工具具备会话亲和性、透明透传及内存保护等特性，且完全兼容 OpenAI API，是构建低成本、高可用 LLM 网关的理想选择。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-10-26 23:20（北京时间）
- **原文**：[打开原文](https://github.com/sturnus-dev/sturnus)