**Viktor智能体如何通过提示缓存将长线程成本砍掉八成**

_How to cut the cost of long AI agent threads (without making the agent dumber)_

> 大模型API无状态，智能体每次调用须重传全部历史，导致成本随步数二次增长。Viktor采用提示缓存技术，通过追加式线程、SDK定义工具、在缓存有效期内压缩摘要等方式确保前缀稳定，使缓存命中率大幅提升。一个40步的真实案例中，成本从11.35美元降至2.07美元，降幅达81.8%，且不牺牲智能体能力。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：tip
- **发布时间**：2026-06-09 01:26（北京时间）
- **原文**：[打开原文](https://viktor.com/blog/how-we-built-viktor-around-prompt-caching)