**主动破坏 LLM 缓存：解决 AI 基准测试成本偏差的巧妙方案**

_The one time we break the LLM cache on purpose_

> 文章指出，在 AI 基准测试中，共享提示词缓存会导致后续测试成本被低估，从而产生偏差。Induction AI 提出了一种解决方案：通过为每个测试用例（Trial）生成唯一的工具名称（包含 Trial ID），利用缓存机制的特性，确保不同测试用例之间无法共享缓存，从而获得准确的成本测量。同时，文章提醒开发者需注意模型可能误调用此“占位工具”的风险，并建议通过实现无害的默认响应来保证测试流程的稳定性。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-10-24 04:41（北京时间）
- **原文**：[打开原文](https://www.induction.ai/blog/benchmark-cache-isolation)