本页学习说明
原图对象为从头训练的 InceptionV1末层单元338、使用相同数据和训练配方并含LayerNorm与残差的ConvNeXt末层单元399。原图包含epoch0.7、1.5、3、6、12；本页课堂先读0.7、1.5、12三个固定状态，完整中间轨迹与图例见下方本地原图。每行图组背后的灰带表示该组占神经元最强响应例的份额；主屏只选真实照片定位观察，不重画没有复算的比例曲线。
InceptionV1最初主要响应油菜花田与山谷，花田里也有狗；随后到球、果实、狗，后来延伸到西兰花。ConvNeXt也短暂触及球和水果，但随后保留田野主线，分枝较少。这是两个实际记录的案例，不是所有单元必然遵循的定律。
补充材料中的iy→diy→do it yourself是原文概念插图的中文重排；这里不声称拥有语言模型的训练checkpoint。文章 Watching Neurons Develop 描述沿重训InceptionV1追踪坐标，作者也记录曾因缩放不当误以为出现任意混合。附录 Relation to Conjoined Features 承认2021年Multimodal Neurons已有从共享侧面向多方向泛化的线索；新命名突出多层分枝与发展过程。本文尚未完成整模型的严格发展审计。
来源：Nick Cammarata（2026），Goodfire，Neural Networks Are Already Clean。 原图／段落 neuron-overflow。 原图／段落 recursive-generalization。 原图／段落 conjoined-features。 图与原始照片保留原作者权利；本课按原图选择固定状态、重排并加中文标注，未重跑原文模型实验。
与本页相关的深入阅读
A16｜训练轨迹怎样帮助检验分枝
重训 InceptionV1 suffix 的图让同一坐标按 checkpoint 并排显示，优化图下方配最强响应处的自然裁剪。它能区分一个成品单元里的邻近反应是怎样逐步出现的；但观察尺度错误仍可能把轨迹看成任意混合。作者临近发布时再次误调显微镜的经历，是提醒我们保留自然例、位置与工具设置，而不是为了一个发展故事挑几张顺眼的图。
原文 Watching Neurons Develop · 完整训练显微镜 · GF09
A24｜递归泛化与 conjoined features 的关系
Multimodal Neurons 已描述从共同侧面向多个方向泛化的 conjoined features。本文承认这一先行观察，并选择“递归泛化”强调分枝还能再分枝、过程发生于生长而不是两个静态概念被接起来。早期只有成品，曾猜是训练早期的残留；后来的视觉轨迹显示分枝还会继续生长。名称变化本身不是新证据，应把发展记录和概念解释分别保留。
原文 Relation to Conjoined Features · GF09
A26｜怎样让“递归泛化”自身也可以失败
一个有约束的递归泛化解释应预测语义空间中的局部来路、分枝方向及训练次序，而不是见到任何两个响应都补一个共同祖先。本文承认没有严谨证明所有重度多义例都如此，也没有大语言模型所需的完整 checkpoint。成品上的路径一致性可以增加信心，但要确证发展因果仍需要时序数据。保留这一限制，才能避免把“任意打包的空隙解释”换成另一个无所不包的故事。
原文 Is Recursive Generalization Hard to Vary? · GF09 · GF24
继续沿这个问题阅读
本例的完整图、原逐态说明与推导。
语言分枝的概念示意：iy → diy → do it yourself；这张图不是语言模型训练的checkpoint。
阅读完整讲义