完整深入材料 · 保留原页与全部停点。回到相关主讲
同样的追踪方法，能沿一句话找到答案的来路吗？
本页问题
视觉案例已经把自然输入、内部响应、连接和删除实验串在一起。现在换到 Qwen3-32B；图像的局部位置变成文本的 token 位置，仍要从一个明确输出往回查。
GF19/b0 · 从实际输入和预测位置开始
前面我们从一张自然照片出发。现在换成一段文字，模型也明确换成 Qwen3-32B。这里说图书馆的一本珍贵初版书失窃了，没有指纹，也没有强行进入的痕迹，只留下一张卡片。关键不是“图书馆”这三个字，而是卡片写的这句：Pride Lands 中后来成为国王的幼狮的死敌。输入没有直接写 Scar。模型已写到下方这个回答前缀，我们现在只追下一步为什么会接 Scar。
教师备课：指图与模拟问答
指图与推进 · 不朗读先读中文案情，再读原卡片与回答前缀，停在空白下一词。
本态来源与条件
Goodfire · preeclampsia-circuit · 原文实验／图数据；据原图重排
GF19/b1 · 沿图找到中间一跳
从图下方的 Pride Lands 往上读，它先接到狮子、草原与 The Lion King 这两组，再通向与 Disney、反派和输出有关的组。中间两框合起来是十八个神经元。框里的数字不是概率，而是分组的单元数；线宽才表示这个归因图中连接贡献的大小。蓝线还有相反方向，不能把所有连线都念成“让 Scar 更可能”。这里的解释是：作品背景先提供一个中间参照，再结合死敌关系走向答案。
教师备课：指图与模拟问答
指图与推进 · 不朗读从底部 Pride Lands 指向中间两框，再看最上方 Scar；指出蓝边及线宽图例。
本态来源与条件
Goodfire · preeclampsia-circuit · 原文实验／图数据；据原图重排
GF19/b2 · 删掉这一步，答案怎样变
一个图看起来合理，还不够。现在看作者真正做过的删除：去掉中间两组共十八个单元，Scar 的概率降到约零点二四，回答转向 Simba。同层同数量随机删，Scar 的概率仍约零点九一。我们因此有理由说，这个中介在本次计算里有作用。注意错误不是随机飘走，而是停在了故事里的另一个相关角色。它支持当前解释，也留下继续检查的空间：别的输入、别的删除方式是否还成立？
进一步解释
随机对照按同层、同数量匹配，不能只写成“随便删一些”。概率 0.24 与 0.91 是目标 token 概率；不称为整体准确率。
教师备课：指图与模拟问答
指图与推进 · 不朗读保留中间两框位置，用右侧原文数值对照指定删除与匹配随机删除。
本态来源与条件
Goodfire · preeclampsia-circuit · 原文实验／图数据；据原图重排
接下来
我们发现中介路线后，再问另一个容易漏掉的问题：一个神经元在负侧工作时，仅看正激活标签还能认出它吗？
补充推导、边界与来源
输入、位置与研究对象
本页采用原文轮播中的 Scar 案例，模型为 Qwen3-32B 的原生 MLP 神经元，不是前面 MAE，也不是 Claude 的 transcoder。原始提问描述市立图书馆密室失窃，唯一线索是一张留言卡：署名是“Pride Lands 中后来成为国王的幼狮的死敌”，并要求只答名字。图中给出的实际回答前缀是 The person responsible is **，接下来要预测 Scar。因此分析的对象有明确的输入与输出位置，而不是一般性地声称网络“理解狮子王”。
原图把单元按解释汇成组，方框内数字是神经元数。所示组包括 Pride Lands 词语组（6）、狮子／草原（11）、The Lion King（7）、Disney and Africa（8）、字母 scar（2）、反派（5）及 sworn enemy（3）。线宽编码组间贡献强弱；蓝边表示与答案方向相反的贡献。图里的聚合边不是一条新增的物理连线，也不是每个节点到答案都只起促进作用。原文的选图和分组用于把复杂归因图讲清楚，不是完整模型结构。
删除中介，和什么比较
作者删除 The Lion King 与 Lions, savanna 两组，共 18 个神经元。下一个目标 token Scar 的概率约为 0.24，回答转向 Simba；同层、同数量随机删除的对照约为 0.91。原图未删除时的精确值为 0.9057，指定删除为 0.2378。这个比较支持这些单元在当前输入上的作用，不能单凭结果推出它们是唯一通路，或所有《狮子王》问题都由同样 18 个单元解决。Simba 是有结构的错误，也比随机名字更提示中间步骤出了问题。
与原文医疗图的关系
原文先将 Claude 3.5 Haiku 的跨层 transcoder 图与 Qwen3-32B 原生神经元图对照。两模型、表示方法不同；因此不能把差异量化成哪种方法普遍更优。Qwen 医疗案例中删除四个诊断枢纽单元后询问转向另一种症状，展示的是同类“追踪—删除—看回答改变”的研究动作。本课改以无需医学背景的 Scar 案例作为主讲，医疗图与原文完整轮播保留为来源入口。
能检测，不等于模型实际使用
附录 Social Security: Detection and Use 回查一个由三个神经元组成的短语 probe。probe 可以准确检测 Social Security，但沿模型实际下一 token 计算所追到的路线包含词汇延续、表格字段、退休及输出单元，还存在 Social Security 与 401(k) 的竞争。研究者展示的是筛查 31 个单元中的 11 个；图中数值是删除单元后目标 log probability 变化的求和，负值意味着删除有害。检测器的成功不能自动当作模型使用那个方向作决定的证据。
来源：Nick Cammarata（与 Curt Tigges 合作语言部分），2026，Neural Networks Are Already Clean，Goodfire，preeclampsia-circuit。本课呈现原文结果及据原图数据重排的选定状态；没有重新运行模型实验。原作者权利保留。
本页证据与条件
Goodfire · preeclampsia-circuit · 原文实验／图数据；据原图重排