**开源项目 Modelship：基于 Ray 的自托管 OpenAI 兼容推理集群**

_Show HN: Modelship – an open source ray backed model cluster_

> Modelship 是一款基于 Ray Serve 的开源自托管推理网关，专为智能体时代设计。它提供完全兼容 OpenAI 的 /v1/responses API，支持推理 LLM、通用工具调用、MCP 服务器及多模态模型（嵌入、语音、图像）。该项目允许在自有硬件上共享 GPU 资源，通过单一网关管理多个模型，并通过了 17/17 的独立 Open Responses 合规性测试，支持零停机部署。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-10-11 15:28（北京时间）
- **原文**：[打开原文](https://github.com/modelship-ai/modelship)