返回课堂

完整深入材料 · 保留原页与全部停点。回到相关主讲

猫和汽车,为什么会出现在一起?

本页问题

先以普通物体类别看同一组自然图,不提前显示作者的新答案。

GF02/b0 · 先按物体名字看

两张自然照片猫自然照片汽车自然照片猫汽车为什么会出现在一起?照片是响应示例,不是激活热图
先按物体名字看

先不谈模型。只看这两张照片,左边是一只猫,右边是一辆车。按日常物体分类,它们确实差得很远。如果我告诉你这两张图都出现在同一个内部单元的强响应示例中,你会怎样解释?一个很自然的猜想是:这个单元兼做了两件不相干的事。先把这个猜想留下,不急着判它对错。

教师备课:指图与模拟问答

指图与推进 · 不朗读先指两张整图;短暂停留后自行给出候选猜想,无需等待回答。

本态来源与条件

Goodfire · Cammarata 2026 · #v-figure

GF02/b1 · 定位到同一个单元

InceptionV1 · 4e:55 · 原文选取的自然正响应例猫自然照片汽车自然照片猫汽车同一个单元4e:55位置编号,不是语义标签照片是响应示例,不是激活热图
定位到同一个单元

现在补上定位:这是视觉网络 InceptionV1 的 4e 层,第五十五号单元。原文作者以前也把它当成猫与汽车混在一起的例子。关键是,模型接收到的是图像中的结构,并不知道我们希望用哪个物体名来概括它。接下来仍用这些照片,只把观察范围缩到它实际响应的局部。

教师备课:指图与模拟问答

指图与推进 · 不朗读显示 InceptionV1 · 4e:55;强调这是同一单元,不是分别挑了一个猫单元和一个车单元。

本态来源与条件

Goodfire · Cammarata 2026 · #v-figure

接下来

保留这两张照片,下一页只改变观察尺度。

补充推导、边界与来源

这里展示作者选取的自然照片:猫来自 p47742,汽车来自 pCarX5。二者均是原文 InceptionV1 单元 4e:55 的正响应例子。照片不是本课生成的,也不是激活热图。层名 4e 与单元编号 55 用于定位研究对象,编号不代表语义标签。

作者曾参与的旧解释把它看成猫与车的多义混合;重新观察后修正了这个判断。本页先保留旧困惑,是为了让下一页的局部结构真正改变解释,而不是先给答案再找图片。这里没有把两张选例当作全部响应分布。

来源:Nick Cammarata(2026),Goodfire,Neural Networks Are Already Clean。 原图/段落 v-figure。 图与原始照片保留原作者权利;本课按原图选择固定状态、重排并加中文标注,未重跑原文模型实验。

本页证据与条件

Goodfire · Cammarata 2026 · #v-figure

进入主题正文