**YC backed 公司推出高性能 AI 推理平台,实现开源模型极速部署与优化** _Show HN: Own your AI at full spee
原帖
**YC backed 公司推出高性能 AI 推理平台,实现开源模型极速部署与优化**
_Show HN: Own your AI at full speed_
> RightNow AI 是一家获得 YC 支持的 GPU 研究实验室,推出了专为开源模型设计的 AI 推理平台。该平台通过统一 API 提供多种开源模型(如 DeepSeek、GLM、Qwen 等),并拥有自研的多模态决策模型。其核心优势在于将模型推理优化至 GPU 内核级别,显著提升了吞吐量(最高达 540 tokens/s)并降低了延迟。此外,平台支持按量付费、零数据留存策略,并针对特定模型和硬件进行了五层服务栈的深度调优,在保持高缓存命中率的同时大幅降低了 Token 成本。
**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:ai-products
- **发布时间**:2026-11-17 03:54(北京时间)
- **原文**:[打开原文](https://www.rightnowai.co/)