完整深入材料 · 保留原页与全部停点。回到相关主讲
汽车为什么会经过看起来像“狗”的单元？
本页问题
第二个旧案例：先读自由优化图，再改变可视化约束，最后查自然照片。
GF05/b0 · 先读旧的优化图
上方是汽车相关单元 4c:447，下方四个并行读出单元用自由优化图表示。四条箭头都从同一个汽车单元出发，不是这四个读出依次相连。有的看起来像狗，有的混着动物与车。旧解释于是猜测：汽车的信息是不是被放进一组不相关的狗单元，再等下游取出来？这是一种解释，但先不要让这套故事代替证据。图中的这些鲜艳纹理不是训练集照片，是优化出来的高响应图。
教师备课：指图与模拟问答
指图与推进 · 不朗读先指上方4c:447汽车单元，再沿四条分开的箭头指下方4d:417、167、295、241；强调是同一层四个并行读出，不是串联。
本态来源与条件
Goodfire · Cammarata 2026 · #car-circuit, #late-layer-feature-visualization
GF05/b1 · 只改变观察工具
现在保留同一模型和同一批单元，下面换成沿自然汽车输入路线引导的优化结果。四个单元都能显出汽车结构。作者的解释是：自由优化曾掉进容易提高响应的狗路线；轻微引导后，当前汽车路线才看得更清楚。因此变化发生在显微镜里，不是网络在这一步重新学会了汽车。
教师备课：指图与模拟问答
指图与推进 · 不朗读逐列比较同一编号的上下两图；指出模型未重训。
本态来源与条件
Goodfire · Cammarata 2026 · #car-circuit, #late-layer-feature-visualization
GF05/b2 · 回到自然照片核对
最后看自然照片，而不是再看一张漂亮优化图。4d:417 的强响应例主要是方头车辆；原图的前一千张里，汽车约百分之九十七。4d:295 则同时有狗与车辆，两类姿态相通。它们并不是四个一模一样的狗单元。作者据此修正为汽车专门化和共享姿态，而不是汽车被藏进任意空间。
教师备课：指图与模拟问答
指图与推进 · 不朗读先417自然三图，再295自然狗车对照；读百分比对应的Top1000分母。
本态来源与条件
Goodfire · Cammarata 2026 · #car-circuit, #late-layer-feature-visualization
接下来
如果共享姿态真有用，扩大模型后一定会消失吗？
补充推导、边界与来源
本页对象为 InceptionV1：汽车单元 4c:447 的四个读出 4d:417、167、295、241。原文旧图把它们画成“汽车进入狗的存储空间，再取回汽车”；新的自然输入路线分析不支持这种解释。
特征可视化通过优化像素或参数化图像来提高单元响应。自由优化容易进入高收益路径，晚层 InceptionV1 常走入狗相关路线；这不等于某张自然汽车图也走这条路线。原文尝试从强响应自然例追踪路线，再给优化过程一个沿该路线的偏置，常只在前 64 步施加；没有声称存在唯一最佳设置。更改的是观察工具的目标／正则与引导，模型没有重新训练。
原交互 Top 1,000 自然照片构成：4d:417 汽车96.9%、狗0.3%；4d:167 汽车97.0%、狗1.6%；4d:295 汽车52.6%、狗42.8%；4d:241 汽车50.7%、狗46.5%。这些是该图筛选集构成，不是分类准确率。两者主要为汽车，两者具有狗车共享姿态。主屏选择417与295的照片核对，完整四组数据与图示在此保留。
进一步阅读附录 Feature Visualization in Later Layers：应把自由优化、自然路径引导、自然图响应及完整电路图放在一起读；一条路线不是神经元的全部功能。
来源：Nick Cammarata（2026），Goodfire，Neural Networks Are Already Clean。 原图／段落 car-circuit。 原图／段落 late-layer-feature-visualization。 图与原始照片保留原作者权利；本课按原图选择固定状态、重排并加中文标注，未重跑原文模型实验。
与本页相关的深入阅读
A03｜晚层优化图怎样受自然路径约束
自由优化只问怎样提高目标激活，可能进入自然输入很少走的路径。本文利用强自然例的路线，给优化一个沿这些路线走的激励；有时只在前 64 步这样做就足够离开“狗盆地”。作者没有宣称找到唯一最优配方。对 4c:447 的四个读出者，应同时读自由优化、路径引导优化和自然汽车输入的连接；一条成功路线仍不是一个单元的全部用途。
本页证据与条件
Goodfire · Cammarata 2026 · #car-circuit, #late-layer-feature-visualization