**腾讯发布 Hy4：首个支持万亿参数模型的开源推理引擎**

_Tencent Hy4_

> 腾讯推出开源推理引擎 Hy4，旨在解决大模型推理中的显存瓶颈。该引擎通过混合精度量化、动态批处理及显存复用技术，显著提升了推理吞吐量并降低了延迟，目前已在开源社区获得广泛关注。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-models
- **发布时间**：2026-11-04 15:05（北京时间）
- **原文**：[打开原文](https://hy.tencent.ai/research/hy4?langVersion=en)