**STROT：一次编译 LLM 意图，本地运行确定性决策，零边际成本**

_Show HN: Strot – Compile an LLM's intent once, run decisions locally_

> STROT 是一种编译时 LLM 代码合成框架，旨在解决大模型运行时幻觉与成本问题。用户仅需使用 LLM 将业务意图编译一次，即可生成包含概率与置信度的类型安全 JSON 决策模型。在生产环境中，系统不再调用 LLM，而是运行本地冻结的决策模型进行推理，实现了 92.5% 的准确率（对比传统方法的 74.8%），并将每条记录的延迟控制在约 60 毫秒，同时彻底消除了运行时幻觉和 API 调用费用。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-10-19 12:32（北京时间）
- **原文**：[打开原文](https://github.com/strot-ai/Project-STROT)