本页学习说明
N19 的 85.9% 是 MAE 预训练后 ViT-L 在给定分类微调设置下的 top-1 准确率；与同模型从头监督训练的 82.6% 相差 3.3 个百分点。额外 1600 epoch 预训练仍计入比较条件。这一结果支持容量能够被训练利用，不直接说明哪一个中间单元在做什么。
本段使用 Goodfire 文章中的 InceptionV1、作者自训的 ConvNeXt，以及文中语言模型案例。这里不是对前一页 MAE 的逐层机制验证。我们沿作者的观察和修正过程学习四类证据：自然输入上的响应、可视化工具产生的图、连接与干预，以及新的检验例。作者将其整体主张表述为工作假说；局部观察与全网判断分开。
来源：Nick Cammarata（2026），Goodfire，Neural Networks Are Already Clean。 图与原始照片保留原作者权利；本课按原图选择固定状态、重排并加中文标注，未重跑原文模型实验。
阅读完整讲义