**SAE干预不可靠：钳制特征无法阻止行为恢复**

_SAE Interventions are Unreliable: Post-Intervention Recovery of Suppressed Behavior_

> 稀疏自编码器（SAE）被用于分解模型激活并干预不安全特征，但新研究发现，即使钳制特定有害特征，模型仍可通过优化残差扰动恢复被抑制的行为。在安全关键的拒绝转向实验中，有效样本的恢复率达95.8%，且干预特征的相对漂移仅0.131。恢复主要归因于SAE重建残差，说明控制SAE特征并不保证控制底层行为，暴露了特征级控制与行为完整性之间的差距。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-06-18 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2606.18322)