完整深入材料 · 保留原页与全部停点。回到相关主讲
猫和汽车,为什么会出现在一起?
本页问题
先以普通物体类别看同一组自然图,不提前显示作者的新答案。
GF02/b0 · 先按物体名字看
先不谈模型。只看这两张照片,左边是一只猫,右边是一辆车。按日常物体分类,它们确实差得很远。如果我告诉你这两张图都出现在同一个内部单元的强响应示例中,你会怎样解释?一个很自然的猜想是:这个单元兼做了两件不相干的事。先把这个猜想留下,不急着判它对错。
教师备课:指图与模拟问答
指图与推进 · 不朗读先指两张整图;短暂停留后自行给出候选猜想,无需等待回答。
本态来源与条件
Goodfire · Cammarata 2026 · #v-figure
GF02/b1 · 定位到同一个单元
现在补上定位:这是视觉网络 InceptionV1 的 4e 层,第五十五号单元。原文作者以前也把它当成猫与汽车混在一起的例子。关键是,模型接收到的是图像中的结构,并不知道我们希望用哪个物体名来概括它。接下来仍用这些照片,只把观察范围缩到它实际响应的局部。
教师备课:指图与模拟问答
指图与推进 · 不朗读显示 InceptionV1 · 4e:55;强调这是同一单元,不是分别挑了一个猫单元和一个车单元。
本态来源与条件
Goodfire · Cammarata 2026 · #v-figure
接下来
保留这两张照片,下一页只改变观察尺度。
补充推导、边界与来源
这里展示作者选取的自然照片:猫来自 p47742,汽车来自 pCarX5。二者均是原文 InceptionV1 单元 4e:55 的正响应例子。照片不是本课生成的,也不是激活热图。层名 4e 与单元编号 55 用于定位研究对象,编号不代表语义标签。
作者曾参与的旧解释把它看成猫与车的多义混合;重新观察后修正了这个判断。本页先保留旧困惑,是为了让下一页的局部结构真正改变解释,而不是先给答案再找图片。这里没有把两张选例当作全部响应分布。
来源:Nick Cammarata(2026),Goodfire,Neural Networks Are Already Clean。 原图/段落 v-figure。 图与原始照片保留原作者权利;本课按原图选择固定状态、重排并加中文标注,未重跑原文模型实验。
本页证据与条件
Goodfire · Cammarata 2026 · #v-figure