**腾讯发布 Hy4：首个实现全栈优化的开源推理框架**

_Tencent Hy4_

> 腾讯开源了 Hy4，这是首个针对 LLM 推理进行全栈优化的框架。它通过重新设计推理引擎、优化显存管理、提升 KV 缓存效率以及改进量化策略，显著提升了推理速度与吞吐量，并降低了延迟。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-models
- **发布时间**：2026-11-04 22:11（北京时间）
- **原文**：[打开原文](https://hy.tencent.ai/research/hy4)