**AI系统监控应告别Web服务模式**

_Stop Monitoring AI Systems Like Web Services_

> AI系统不应沿用Web服务监控方式。LLM等AI系统逐token生成，延迟分为TTFT（首token时间）、ITL（token间隔）和端到端延迟，成本随token变化，质量故障无声无息。文章主张从速度、扩展、正确、稳定和智能体行为五方面监控，并按用例细分延迟，智能体链式调用会加剧延迟。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：tip
- **发布时间**：2026-06-14 20:27（北京时间）
- **原文**：[打开原文](https://www.newsletter.swirlai.com/p/stop-monitoring-ai-systems-like-web)