返回课堂

完整深入材料 · 保留原页与全部停点。回到相关主讲

全图类别不同,局部结构可能相通

本页问题

同一单元、同一照片。变化的是观察尺度,模型与输入没有改变。

GF03/b0 · 在整图中定位

同一单元 4e:55 · 同一自然照片 · 改变观察尺度猫汽车区域定位圆框:原图的响应区域定位;不是热图
在整图中定位

还是刚才那只猫和那辆车。现在出现的圆框,标出原图让我们看的响应局部。它不是“整张图里有猫或有车”的标签,也不是把整张图片每个像素的激活都测了一遍。先看圆框落在哪里:猫脸的中部和车头的相应结构。下一步只把这两个区域放大。

教师备课:指图与模拟问答

指图与推进 · 不朗读先看整图,再指圆框;不要称其为热图。

本态来源与条件

Goodfire · Cammarata 2026 · #v-figure

GF03/b1 · 放大同一局部

同一单元 4e:55 · 同一自然照片 · 改变观察尺度猫汽车局部放大候选解释:尖形/V 形结构
放大同一局部

这一次没有换照片,也没有换模型。我们把原图指定的局部放大,猫脸与车头中都有向下收尖的结构。作者由此提出一个不同解释:它可能在区分尖形与圆形,而不是把“猫”和“汽车”任意塞在一起。注意现在我们得到的是一个可检验的候选解释;看起来相似,还不足以宣布机制已经证明。

教师备课:指图与模拟问答

指图与推进 · 不朗读对比两个放大局部,最后显示“候选:尖形/V 形”。

本态来源与条件

Goodfire · Cammarata 2026 · #v-figure

GF03/b2 · 换类别,保留结构

同一单元 4e:55 · 同一自然照片 · 改变观察尺度猫 · 局部同一张整图汽车 · 局部同一张整图台球桌 · 局部同一张整图新干线 · 局部同一张整图换类别,检验共享结构是否仍然成立
换类别,保留结构

如果解释只是在猫和车之间硬凑出来的,换到别的类别就很容易失败。现在看作者给出的台球桌和新干线局部。物体名称又变了,尖形结构仍能给出相连的读法。这比两个名词的并列更有解释力,但我们还需要看相反一侧:什么会把同一个单元推向负方向?

教师备课:指图与模拟问答

指图与推进 · 不朗读先看整图来源小图,再读四个局部;说明新例身份。

本态来源与条件

Goodfire · Cammarata 2026 · #v-figure

接下来

形状解释还要经受相反响应和连接证据。

补充推导、边界与来源

本页全图中的圆框、下一态的局部放大均按照原图交互给定的位置和三倍放大参数。圆框是原图的响应区域定位,不是本课算出的热图;颜色也不是激活值色标。原图未在此提供逐像素热图,不凭空绘制一幅。

猫与汽车局部都支持“尖形/V 形”的候选读法,但只有两张图还不够。作者给出的台球桌与新干线例子跨越了动物/车辆的常用类别,扩大了候选解释要覆盖的范围。泛化可能沿几何结构发生,而不是按人的名词表发生。新的自然例仍是作者选取的检验例,本课没有独立进行盲测。

来源:Nick Cammarata(2026),Goodfire,Neural Networks Are Already Clean。 原图/段落 v-figure。 图与原始照片保留原作者权利;本课按原图选择固定状态、重排并加中文标注,未重跑原文模型实验。

本页证据与条件

Goodfire · Cammarata 2026 · #v-figure

进入主题正文