**Just Ask Jev：用强化学习校准决策零样本检测 AI 对齐失效**

_Just Ask Jev: Reinforcement Learning for Calibrated Decisions as a Zero-Shot Detector of AI Alignment Failures_

> 研究者提出 RLCDAlignBench，评测经强化学习校准决策（RLCD）训练的模型 Jev 在对齐失效检测上的表现，覆盖谄媚、越狱、欺骗、提示注入、幻觉、隐私侵犯、社会偏见、奖励黑客、隐瞒不确定性与权力追逐十类问题，涉及 44 个基准与 5 个目标模型。核心思路是将“提问内容”与“输入内容”分开变动：问题措辞影响很小，上下文影响更大，尤其当字段本身编码标签时。单一通用问题即可实现零样本中位 AUROC 0.886，在多数基准上超过监督基线，与参考评分器在人类标注上的一致性相当，成本比 LLM 评审评分器低 63 倍。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-09-25 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2609.29429)