**Kapa:用小模型剔除68% RAG冗余上下文,成本降低三分之一且召回率保持96%**

_We taught a small LLM to throw away 68% of our RAG context_

> Kapa团队在检索增强生成(RAG)流程中引入小型廉价LLM作为“修剪器”,在昂贵主模型读取前过滤掉约68%的无关文档块。该方法在保持96%召回率的同时,将单次查询成本削减约33%,有效解决了传统重排序器因无法评估上下文关联性而导致的误删问题。

**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:tip
- **发布时间**:2026-07-07 03:28(北京时间)
- **原文**:[打开原文](https://www.kapa.ai/blog/how-we-prune-rag-context)