**UCR研究揭示AI模型置信度与正确性源于不同内部特征** _Study: Path discovered to make AI models red-fl
原帖
**UCR研究揭示AI模型置信度与正确性源于不同内部特征**
_Study: Path discovered to make AI models red-flag their doubtful answers_
> 加州河滨大学(UCR)计算机科学家发现,大语言模型中的置信度与答案正确性由不同的内部特征驱动,挑战了“高置信度即高准确率”的传统假设。研究团队通过稀疏自编码器分析Llama-3.1和Gemma-2模型,识别出与不确定性、错误答案及两者混淆相关的特征。实验表明,在推理阶段抑制特定的“混淆特征”可在无需重新训练的情况下,将模型准确率提升1.1%,同时降低75%的不确定性,为构建更可靠、可自我警示的AI系统提供了新路径。
**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:论文
- **发布时间**:2026-10-05 17:22(北京时间)
- **原文**:[打开原文](https://news.ucr.edu/articles/2026/09/23/making-ai-more-trustworthy)