**TokenCast：LLM 智能体执行过程中的 Token 消耗预测框架**

_TokenCast: Forecasting Token Consumption During LLM Agent Execution_

> 针对 LLM 智能体执行时 Token 消耗波动大且难以预测的问题，论文提出 TokenCast 框架。该方法通过构建可组合的成本表示，记录各执行片段的消耗及上下文增长，并在执行过程中动态刷新预测。实验显示，TokenCast 无需额外 LLM 调用，平均预测耗时仅 32.8ms，在多个任务套件和模型上较最强对比方法平均降低 14.5% 的绝对误差，并在离线预算控制中比固定预算策略平均节省 21.3% 的 Token。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-09-29 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2609.35760)