**Together AI 推出 TKCC 编译器，利用智能体实现 AI 推理持续优化**

_Together AI Compiler for Inference_

> Together AI 发布了 Together Compiler (TKCC)，这是首个利用高吞吐量智能体实现持续优化的 AI 推理编译器。TKCC 通过“持久化引擎”架构解决了传统智能体系统启动慢的瓶颈，能在 24 小时内针对动态变化的流量、模型和硬件环境自动调整优化策略。测试显示，TKCC 在主流开源模型上实现了高达 2.6 倍的吞吐量提升，并在延迟基准测试中创下新纪录，同时具备跨领域（如气象、生物）的泛化能力。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-11-05 23:07（北京时间）
- **原文**：[打开原文](https://www.together.ai/blog/together-compiler-continual-compilation-for-ai-inference)