**ICA Lens：无需额外训练即可解读语言模型的内在方向**

_ICA Lens: Interpreting Language Models Without Training Another Dictionary_

> 该研究重新审视独立成分分析（ICA）在语言模型可解释性中的应用，提出ICALens框架，无需训练稀疏自编码器即可从激活几何中稳定、高效地提取可解释的方向。ICA在稀疏探测和探针扰动任务上表现出与稀疏自编码器相当甚至更优的性能，成为探索语言模型表征的高效首选透镜。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-06-11 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2606.11722)