**探测与引导方向在语言模型中是否一致?研究揭示二者存在显著差异**

_Do Probing and Steering Favor the Same Directions Within and Across Language Models?_

> 该研究对比了语言模型中用于概念探测(probe)和概念引导(steer)的方向,发现在指令微调模型中,最佳探测方向并不总是最佳引导方向。引导操作更倾向于均值差异方向,且其效果受文本匹配度和旋转算子的影响较大。此外,探测方向在不同模型间转移时保持较高性能,而引导方向的转移效果则较差。应用测试显示,引导至“未知”方向能有效增加模型在不确定错误上的放弃回答率。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-11-20 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2611.19499)