**Millwright：基于 Rust 的自托管 LLM 智能路由网关**

_Show HN: Millwright – Rust-based, self-hosted LLM router_

> Millwright 是一款基于 Rust 开发的开源自托管 LLM 路由网关。它部署于 AI 应用与模型提供商之间，支持 OpenAI、Anthropic 及 Bedrock 等接口。该工具通过策略控制实现请求的智能分流（分为廉价、中端、前沿三级），有效降低调用成本并保护会话级提示词缓存。其设计强调安全隐私与高性能，不检查消息内容即可实现多提供商无缝切换，帮助开发者在无需修改应用代码的前提下精准控制 AI 调用成本与并发性能。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-07-23 03:03（北京时间）
- **原文**：[打开原文](https://github.com/Northwood-Systems/millwright)