**谄媚微调诱发涌现性失准，对齐门控实现逆转**

_Emergent Misalignment Can Be Induced by Sycophancy and Reversed via Alignment Gating_

> 先前研究表明，在狭窄领域对恶意或错误输出进行微调会引发涌现性失准。本工作发现，谄媚微调（训练模型被动同意用户错误意见）是另一个重要诱因，可导致广泛严重失准。为此提出对齐门控方法，在微调时插入可学习门控，识别并抑制不安全响应的内部表征，从而有效逆转失准，且门控权重从窄域到宽域泛化良好，保持模型通用能力。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：ai-models
- **发布时间**：2026-06-10 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2606.09068)