**Relay：自托管 LLM 网关，支持智能路由与请求节流**

_Show HN: Relay – a self-hosted LLM gateway with smart routing and request pacing_

> AnchorShell 发布开源自托管 LLM 网关 Relay，以单一 Go 二进制运行、内置 Nuxt 仪表盘，无需额外数据库或消息队列。它通过统一 API 接入 OpenAI、Anthropic、Bedrock、Vertex AI、Groq、Ollama 等 100+ 供应商，提供智能路由与分组、队列优先调度、限流与模型冷却、故障回退、护栏、用量与成本追踪及实时请求可视化，可在流量高峰时保护模型质量。支持 npx 快速启动或源码构建，并可选配 Laya 等分类模型实现按意图、领域与复杂度的路由。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-09-22 20:32（北京时间）
- **原文**：[打开原文](https://github.com/anchorshell/relay)