**自优化代理加速端到端推理，LLM性能提升16%**

_Speeding up end-to-end inference with self-improving agents_

> Asari AI 推出自改进代理（co-inventor agents），针对 DeepSeek v4 Pro 和 GLM 5.2 等开源大模型在 NVIDIA B200 上的推理栈进行全链路优化。通过内核、调度器、负载均衡器等组件的协同调优，吞吐量与交互性最高提升 16%，且保持模型输出分布正确性。该过程依赖严格分布匹配验证而非传统基准测试，并具备跨模型复用的自我进化能力。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-07-30 02:47（北京时间）
- **原文**：[打开原文](https://asari.ai/blog/inference-optimization)