**Neuronpedia:开源AI可解释性平台,支持模型内部机制探索与可视化**

_Neuronpedia, an open source platform for AI interpretability_

> Neuronpedia是一个开源的可解释性平台,旨在帮助用户探索、可视化和控制AI模型的内部运作。该平台提供超过36,000个注意力头的数据,涵盖Gemma、Qwen、Llama等主流模型,并集成了稀疏自编码器(SAE)、电路追踪及自然语言自动编码器等前沿工具,助力研究人员深入理解大语言模型的推理过程。

**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:ai-models
- **发布时间**:2026-07-08 03:42(北京时间)
- **原文**:[打开原文](https://www.neuronpedia.org/)