完整深入材料 · 保留原页与全部停点。回到相关主讲
同一个神经元,换显微镜会看到什么?
本页问题
固定研究对象,比较原文的三套可视化风格;年份是工具风格标签,不是模型出生年份。
GF07/b0 · 同一中层单元,三种设置
先看上面这一行,研究对象始终是 InceptionV1 的 mixed4d:161。左边是较早风格的优化,纹理杂乱;中间加上更合适的设置,结构逐渐可辨;右边现代设置更集中。最右侧自然照片里有灯座、壶和瓶盖一类形状。我们用自然图检查优化图在提示什么,不把优化图直接当成训练照片。
教师备课:指图与模拟问答
指图与推进 · 不朗读逐列读2009-style/2017/2026,再指自然例。
本态来源与条件
Goodfire · Cammarata 2026 · #microscope-timeline, #inception-last-layer
GF07/b1 · 晚层也要单独检查
第二行换成同一网络的晚层 mixed5a:400。早期风格仍很混杂,二〇一七式设置也还有很多难读结构,二〇二六式设置显出更集中的形态。旁边的自然图是相机、插座、加油泵与吸尘器等例。先让照片与优化图相互限制,不急着用一个名词覆盖所有细节。
教师备课:指图与模拟问答
指图与推进 · 不朗读看晚层一行;提醒这行与上行是不同单元,但每行三列固定。
本态来源与条件
Goodfire · Cammarata 2026 · #microscope-timeline, #inception-last-layer
GF07/b2 · 把工具变化和模型变化分开
这一页真正建立的结论很窄:同一个神经元可能因为显微镜调得更合适而变得容易解释。如果我们跳过这个对照,就容易把旧图的混乱全部归罪于网络。但反过来也不能说所有问题都来自工具。下一页再换网络与训练条件,看看哪些比较已经不再是同一对象。
教师备课:指图与模拟问答
指图与推进 · 不朗读保留两行,显示“同一模型/同一单元;改变可视化设置”。
本态来源与条件
Goodfire · Cammarata 2026 · #microscope-timeline, #inception-last-layer
接下来
工具之外,网络本身的学习条件也可能不同。
补充推导、边界与来源
原图使用两个固定 InceptionV1 单元:中层 mixed4d:161 与晚层 mixed5a:400。三列分别标为2009-style、2017、2026,表示可视化方法/设置的历史风格。同一行没有重新训练网络,也没有换成这三个年份的模型。自然照片另列,提供与优化结果独立的输入参照。
正文指出变换鲁棒性、正则设置和优化容易陷入特定路线会影响图像。具体可视化组合的改变不应硬解为每一项独立贡献;这是“相同对象,用不同工具看”的比较。进一步从原文附录可知,高响应图寻找的是提高某个优化目标的输入,它未必与自然输入常用路线相同;应该对照自然强例与上下游。
晚层另一幅复杂单元图保留在GF08说明并用于主屏对照。作者关于可解释率的历史粗估不在本页画成精确时间曲线。
来源:Nick Cammarata(2026),Goodfire,Neural Networks Are Already Clean。 原图/段落 microscope-timeline。 原图/段落 inception-last-layer。 图与原始照片保留原作者权利;本课按原图选择固定状态、重排并加中文标注,未重跑原文模型实验。
本页证据与条件
Goodfire · Cammarata 2026 · #microscope-timeline, #inception-last-layer