为什么一个单元既响应猫，也响应车？

这里我们暂时离开语言模型，进入一个视觉网络。来源是Goodfire对InceptionV1的分析，研究对象是编号四e五十五的单元。作者先给出一些猫脸和车头的例子。如果只拿物体类别给它起名，会觉得很奇怪：它到底是认猫，还是认车？这一步我们先不急着给神经元一个概念名字。屏幕上的照片帮助我们认识输入对象，但照片本身不等于激活图。真正要追问的是，网络响应落在什么结构上，而不是这些照片被人分在哪个文件夹。

接下来把视线从整个物体移到局部。猫脸中的某些轮廓，车头中的某些结构，都可能形成尖锐、向两边展开的形状。这样就出现了一个候选解释：这个单元并不需要把猫和车混成同一个物体概念，它可能响应的是二者共享的局部形状。这里要克制一点。人非常擅长在图片里找相似轮廓，如果只是我自己在照片上画一个V，那只能说明我找到了一个解释，不能说明网络确实用了它。所以要继续看作者提供的更直接证据。

作者接着检查这个单元从上游哪些特征接收输入，又被下游哪些单元读取。为什么这有帮助？因为一个好的解释不应只适合两张精选图片，也应当与网络里的计算关系相容。如果上游形成的边缘和形状能组合成这种结构，而下游又在相应对象中利用它，我们对解释的信心就增加。这里的连接和可视化提供了不同侧面的约束，但并不是只要画出一根线，就已经证明所有输入都遵循同一种因果过程。我们是在逐步排除过于随意的命名。例如作者图中，上游有狐狸吻部、狼脸和车头相关单元，下游有火焰或喷流、郊狼脸、马提尼杯等不同对象。物体名字还是很多样；正因为如此，共同形状这一解释才值得认真检查，而不是直接按一个类别命名。

再看相反的一侧。作者报告，尖形对这个单元提供正向响应，较圆的结构提供负向响应。负向不是简单的“什么都没发生”，而是对这个特征的表达方向相反。这组对照比只看几张看起来像V的照片更有约束力：如果我们提出的是尖形或V形结构解释，那么圆形的一侧也应该能在证据里得到说明。把局部形状、输入输出连接和正负对照放在一起，才得到作者的解释。我们没有在本课重新训练这个网络，也没有声称完成了新的因果干预。

这个发现最值得带走的，不是记住某个单元编号，而是改变我们看表示的方式。一个对多种对象都好用的中间特征，可能是局部结构，而不是“猫神经元”或“车神经元”。训练为了完成目标，形成了可以复用的计算材料。回到语言模型，我们也可以提出类似研究问题：哪些关系被表示，怎样参与任务？但不能把视觉网络这一例直接扩写成每个语言概念都对应一个单元，也不能从博客标题推出所有网络都已经解释完了。任务成绩和内部机制要各自拿证据。下一页把这个边界带回我们最初那份文字材料。