**实证检验Scientist AI的“损失带稀疏性”安全假设** _Probing the loss-band sparsity assumption in
原帖
**实证检验Scientist AI的“损失带稀疏性”安全假设**
_Probing the loss-band sparsity assumption in Scientist AI_
> 本文针对Bengio等人提出的Scientist AI安全理论中的核心几何直觉——即危险预测器在损失带中占据的体积比例极小——进行了实证检验。作者指出原理论依赖于几乎无样本的初始化分布,因此改用局部实验,通过Llama-3.1-8B模型进行无向随机扰动,以探究在保持损失水平不变的情况下,参数空间内危险状态的实际占比,从而区分“距离”与“体积”对安全性的不同影响。
**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:论文
- **发布时间**:2026-07-06 01:02(北京时间)
- **原文**:[打开原文](https://www.lesswrong.com/posts/zJGGZQdtfoNye5ywe/probing-the-loss-band-sparsity-assumption-in-scientist-ai)