返回课堂

完整深入材料 · 保留原页与全部停点。回到相关主讲

一个解释,要同时接住输入、读出与反方向

本页问题

把正响应候选解释带到相反一侧,再沿真实节点检查连接。

GF04/b0 · 看同一单元的相反侧

InceptionV1 · 4e:55 · 自然例与原文精选连接正侧猫汽车台球桌新干线负侧狗蜗牛高尔夫球钟尖与圆的相反侧;不是 ReLU 后出现负输出
看同一单元的相反侧

上排仍是正侧的尖形局部,下排现在换成原文的负侧:圆脸、蜗牛壳、球和钟。不是“所有狗都正、所有车都正”这样的物体名单;甚至狗也可以出现在相反一侧。尖与圆的对照让形状解释接受了新的约束。这里说负侧,是原文记录的该单元相关信号方向,不是在说 ReLU 的输出变成了负数。

教师备课:指图与模拟问答

指图与推进 · 不朗读先读正负侧标签,再逐张比局部。

本态来源与条件

Goodfire · Cammarata 2026 · #v-figure

GF04/b1 · 沿上游找到它怎样形成

InceptionV1 · 4e:55 · 自然例与原文精选连接4d:493 · 尖嘴原文图像原文图像4d:477 · 尖耳脸原文图像原文图像4d:201 · 车辆前部原文图像原文图像原文图像4e:55尖形侧优化图来自不同上游的共享结构左:自然例 右:优化图输入线宽在每侧各自表示相对强度;两侧指标口径不同
沿上游找到它怎样形成

现在看左边三个上游节点。图标是优化可视化,旁边的小图是自然输入例,两者用途不同。尖嘴、尖耳脸与车头等路线汇入同一个 4e:55。线真正落在这些节点上,粗细沿用原图的相对强度。这个连接结构与刚才的共享尖形解释能对上,不能再简单把猫和车说成毫无关系。

教师备课:指图与模拟问答

指图与推进 · 不朗读沿左侧三个真实节点到4e:55;区分自然图和优化图。

本态来源与条件

Goodfire · Cammarata 2026 · #v-figure

GF04/b2 · 再看下游怎样使用

InceptionV1 · 4e:55 · 自然例与原文精选连接4d:493 · 尖嘴原文图像原文图像4d:477 · 尖耳脸原文图像原文图像4d:201 · 车辆前部原文图像原文图像原文图像4e:55尖形侧优化图5a:94 · 火焰/水柱/狐脸原文图像原文图像5a:352 · 尖脸原文图像原文图像5a:317 · 长嘴/V形杯原文图像原文图像输入:自然例/优化图读出:优化图/自然例线宽在每侧各自表示相对强度;两侧指标口径不同
再看下游怎样使用

沿右侧继续看,使用它的不是一个泛泛的“猫或车”标签。我们看见火焰、尖脸、长嘴与 V 形杯的相关节点。一个候选解释现在同时要解释自然正例、相反响应和两端连接。作者认为这些证据支持同一个尖形区分。我们可以保留这个判断,也保留它的范围:这是特定单元与选定连接的研究案例,不是所有概念都一一对应神经元。

教师备课:指图与模拟问答

指图与推进 · 不朗读沿中心到右侧真实读出节点;口头回顾 b0 已看过的正负对照,再把两端连接与同一个尖形区分联系起来。

本态来源与条件

Goodfire · Cammarata 2026 · #v-figure

接下来

但有些优化图会误导观察。另一个汽车电路就是例子。

补充推导、边界与来源

原文同时展示 4e:55 的正、负侧。正侧的尖形与负侧的圆形是相对同一单元、原文所测响应量的两端,不是在宣称 ReLU 后输出为负。本课遵从原文“pushes it negative”的说法;理解时必须区分非线性前信号与经过整流后的输出。

上游节点为 4d:493(尖嘴)、4d:477(尖耳脸)、4d:201(车辆前部);下游为 5a:94(火焰、消防船水柱与狐脸)、5a:352(尖脸)、5a:317(长嘴与 V 形杯)。本课保留这些节点与方向,线宽在每一侧按原图元数据相对缩放。输入侧 data-w 为 0.321/0.031/0.029;读出侧为 38.3/34.1/22.1,原图提示分别是 drive 比例与去掉 4e:55 后下降量,口径不同,不跨两侧比较粗细,也不当作完整网络全部边。

优化图负责提出候选,自然例说明其实际响应,上下游关系检查这个区分如何被构建与使用。几类证据相互制约,是支持作者解释的理由;不是仅凭箭头存在就宣称全网机制已经证明。P05 的五步材料继续保留,GF02—04把其中困惑、局部、连接、负极与回收展开为主讲。

来源:Nick Cammarata(2026),Goodfire,Neural Networks Are Already Clean。 原图/段落 v-figure。 图与原始照片保留原作者权利;本课按原图选择固定状态、重排并加中文标注,未重跑原文模型实验。

本页证据与条件

Goodfire · Cammarata 2026 · #v-figure

进入主题正文