**本地AI正在“重读”自身提示词:消除预填充税**

_Local AI is re-reading its own prompt_

> Kira项目发现,在迁移推理引擎后,本地AI系统因失去KV缓存前缀复用,导致模型在每次调用时重复处理相同的系统提示词。这一“预填充税”占用了近半数的模型计算时间,且此前未被监控察觉。通过重新审计和引入详细遥测,团队量化并着手消除这一隐形开销。

**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:ai-models
- **发布时间**:2026-07-08 03:15(北京时间)
- **原文**:[打开原文](https://github.com/thekiraproject/kira-project-site/blob/main/posts/2026-07-06-prefill-tax.md)