**57.5万次API调用揭示:Jev决策模型在无知时仍保持高置信度**

_Can Jev be trusted when it is confident? Half a million API calls say not always_

> 研究人员对TypeSafe AI的决策模型Jev进行了约57.5万次API调用测试,发现其在熟悉任务中置信度与准确率匹配良好,但在缺乏依据或超出知识边界时,置信度往往未降低。这表明Jev无法可靠地识别自身何时在“猜测”,可能导致自动化系统错误地放行错误决策,挑战了其“认知诚实”的承诺。

**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:ai-models
- **发布时间**:2026-10-02 22:01(北京时间)
- **原文**:[打开原文](https://www.synthpop.ai/resources/does-a-decision-model-know-when-it-is-guessing-post-1)