**为何 AI 消耗大量 Token？揭秘上下文窗口与缓存机制**

_Why is your AI using so many tokens?_

> 文章深入剖析了 LLM 应用中 Token 消耗巨大的原因。尽管用户仅输入少量内容，但系统提示词、工具定义及完整对话历史会被重复发送，导致请求规模随轮次呈平方级增长。此外，模型内部的推理过程（Thinking tokens）也会产生大量计费输出。文章指出，虽然缓存机制能显著降低短期内的重复计算成本，但其短暂的有效期（如 5 分钟）及工具变更导致的缓存失效，使得长时间中断或修改配置后，用户需承担高昂的重新计算费用。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-11-05 04:23（北京时间）
- **原文**：[打开原文](https://blog.raed.dev/posts/context-window)