完整深入材料 · 保留原页与全部停点。回到相关主讲
分数提高了，内部究竟学出了什么？
本页问题
从 N19 的 MAE 分类结果进入。训练带来的任务收益已经成立；接下来换一个问题，并明确换一组研究对象。
GF01/b0 · 从一个实际结果出发
前面这组分类结果里，ViT-L 从八十二点六到八十五点九，提高了三点三个百分点。我们也已经计入额外的一千六百轮预训练。因此至少在这些条件下，模型确实学到了能迁移到分类任务上的东西。现在往里面追问：这个提升对应什么内部变化？是形成更细的区分，是复用已有结构，还是我们还没有想到的组织方式？单凭这两个分数，分不开这些解释。
教师备课：指图与模拟问答
指图与推进 · 不朗读先读左侧同一模型的两个数，再读中间问号；不先命名机制。
本态来源与条件
MAE · He 等（2022）· Table 3；Goodfire · Nick Cammarata（2026）
GF01/b1 · 明确这次换了研究对象
为了看清这个问题，我们暂时离开 MAE 的成绩表，换到右边这组可以深入观察的网络。第一例来自 InceptionV1，后面还有作者自训的 ConvNeXt 和具体语言模型。模型名称会跟着图出现。我们不会因为看懂其中一个视觉单元，就声称刚才的 MAE 已经被完整解释。
教师备课：指图与模拟问答
指图与推进 · 不朗读指右侧三个研究对象的名称与“不是对 MAE 的逐层解释”；把前页模型与本段模型分开。
本态来源与条件
MAE · He 等（2022）· Table 3；Goodfire · Nick Cammarata（2026）
GF01/b2 · 每张图都问两件事
接下来每张图都留住两件事：图里究竟测到了什么，作者又据此提出什么解释。解释不能只是一句听起来顺的名字。它还要面对新例子、相反响应、上下游连接，必要时还要做干预。我们先从一个最直观的困惑开始：猫和汽车为什么会出现在同一个单元的响应例子里？
教师备课：指图与模拟问答
指图与推进 · 不朗读沿四种证据逐项指认，接下一页自然照片。
本态来源与条件
MAE · He 等（2022）· Table 3；Goodfire · Nick Cammarata（2026）
接下来
先打开一个长期被称为“猫和汽车”的视觉单元，看看困惑是怎样产生的。
补充推导、边界与来源
N19 的 85.9% 是 MAE 预训练后 ViT-L 在给定分类微调设置下的 top-1 准确率；与同模型从头监督训练的 82.6% 相差 3.3 个百分点。额外 1600 epoch 预训练仍计入比较条件。这一结果支持容量能够被训练利用，不直接说明哪一个中间单元在做什么。
本段使用 Goodfire 文章中的 InceptionV1、作者自训的 ConvNeXt，以及文中语言模型案例。这里不是对前一页 MAE 的逐层机制验证。我们沿作者的观察和修正过程学习四类证据：自然输入上的响应、可视化工具产生的图、连接与干预，以及新的检验例。作者将其整体主张表述为工作假说；局部观察与全网判断分开。
来源：Nick Cammarata（2026），Goodfire，Neural Networks Are Already Clean。 图与原始照片保留原作者权利；本课按原图选择固定状态、重排并加中文标注，未重跑原文模型实验。
本页证据与条件
MAE · He 等（2022）· Table 3；Goodfire · Nick Cammarata（2026）