**词汇参考系:以原生语义解读大模型残差流** _Lexical Reference Frames: Interpreting LM Residual Str
原帖
**词汇参考系:以原生语义解读大模型残差流**
_Lexical Reference Frames: Interpreting LM Residual Streams in Native Semantics_
> 该研究提出“词汇参考系”(Lexical Reference Frames),通过利用模型自身剩余层来近似隐藏状态的原生语义参考系,解决了现有方法(如固定透镜或点云处理)无法以模型原生方式解读状态的问题。实验表明,该方法在 SmolLM3-3B 和 OLMo3-7B 模型上显著提升了状态解读的连贯性(0.97),优于传统透镜方法,并能更精准地归因预测、引导生成以及实现高效的早期退出。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-10-19 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2610.22169)