返回课堂

全图类别不同,局部结构可能相通

本页问题

猫和汽车的整体类别不同,但同一单元的响应可能来自较小的局部结构。先在原自然照片上定位,再放大同一片区域,最后加入台球桌和新干线,检验“尖形/V形”候选解释能否跨过类别。

RG03/b0 · 先在整图定位

InceptionV1 · 4e:55 · 同一照片的区域定位与局部放大猫汽车响应区域先看圆框
先在整图定位

还是刚才的猫与汽车。看这两个圈落在哪里:猫脸的中间和汽车前脸的相应部位。圆框来自原图的响应局部定位,不是一幅逐像素热图。先把整张照片的类别名放到一旁;下一步只放大圈里的同一部分。

进一步解释

圆框由原图交互的区域坐标确定。比较时应先找到圈内实际对象,保留整图作为定位;圆框范围不表示激活的精确支撑区域。

教师备课:指图与模拟问答

指图与推进 · 不朗读沿两张整图指原圆框;先定位,不预先给出形状结论。

本态来源与条件

Goodfire · Cammarata 2026 · #v-figure

RG03/b1 · 放大同一局部

InceptionV1 · 4e:55 · 同一照片的区域定位与局部放大猫汽车同一局部向下收尖候选解释尖形/V形
放大同一局部

现在把同一局部放大,两边都有向下收尖的结构。于是有了另一个解释:这个单元可能在区分尖与圆。它能把两个物体名连接起来,但现在还只解释了两张图。我们把它作为候选,让它接着面对新的对象。

进一步解释

两处局部都有向下收尖的轮廓,这是候选描述的共同依据。V形不是脱离自然输入的数学判别式,也没有由两张照片证明充分或必要条件。

教师备课:指图与模拟问答

指图与推进 · 不朗读比较猫脸与车头放大的同一局部,随后指“尖形/V形:候选解释”;不把它说成任意数学V的检测器。

本态来源与条件

Goodfire · Cammarata 2026 · #v-figure

RG03/b2 · 换类别,检查结构

InceptionV1 · 4e:55 · 同一照片的区域定位与局部放大猫 · 局部汽车 · 局部台球桌 · 局部新干线 · 局部跨过物体类别,仍出现相似的局部结构
换类别,检查结构

物体换成台球桌和新干线,尖形结构仍然出现。下方的小图让我们保留局部来自哪里的定位。现在检查的是跨类别的共同模式,而不只是给猫与车换一个更宽泛的名称。接着反过来问:什么会把同一个单元推向另一侧?

进一步解释

台球桌和新干线补充跨类别的自然例,使“猫或车”这个类别并集不再是最简描述。图下整图缩略保留局部来路;要进一步缩小解释空间,还需相反侧与连接证据。

教师备课:指图与模拟问答

指图与推进 · 不朗读先指新干线、台球桌整图定位,再比较放大局部;四张自然选例均沿用原源。

本态来源与条件

Goodfire · Cammarata 2026 · #v-figure

接下来

形状解释还要面对相反响应与上下游关系。

补充推导、边界与来源

本页全图中的圆框、下一态的局部放大均按照原图交互给定的位置和三倍放大参数。圆框是原图的响应区域定位,不是本课算出的热图;颜色也不是激活值色标。原图未在此提供逐像素热图,不凭空绘制一幅。

猫与汽车局部都支持“尖形/V 形”的候选读法,但只有两张图还不够。作者给出的台球桌与新干线例子跨越了动物/车辆的常用类别,扩大了候选解释要覆盖的范围。泛化可能沿几何结构发生,而不是按人的名词表发生。新的自然例仍是作者选取的检验例,本课没有独立进行盲测。

来源:Nick Cammarata(2026),Goodfire,Neural Networks Are Already Clean。 原图/段落 v-figure。 图与原始照片保留原作者权利;本课按原图选择固定状态、重排并加中文标注,未重跑原文模型实验。

继续沿这个问题阅读

本例的完整图、原逐态说明与推导。

本页证据与条件

Goodfire · Cammarata 2026 · #v-figure

进入主题正文