返回课堂

完整深入材料 · 保留原页与全部停点。回到相关主讲

如果把瓶颈放到最后一层呢?

本页问题

这是一个独立实验:对象变为本文medium ConvNeXt,指定最后一层1024→13,并阻断残差绕行,再从头训练。不是继续修改上一页的Inception。

GF14A/b0 · 把模型与干预重新对齐

独立实验 · 本文 ConvNeXt medium · 7.06M 参数最后一层 1,024 → 13从头训练 · 阻断残差绕行单元 5单元 4单元 9单元 1单元 8单元 6单元 2单元 7单元 10单元 12单元 3单元 11单元 0十三个单元的强正响应概览;下一态看单元 3 的两侧
把模型与干预重新对齐

先重设比较条件:本文中型 ConvNeXt,七百零六万参数;最后一层由一千零二十四个神经元缩到十三个,从头训练,并阻止信息通过残差绕过瓶颈。右边是十三个单元的强正响应概览。它们有的偏昆虫,有的偏仪表,有的把交通工具与小动物放到一起。仅凭这个概览还不够,下一态看一个单元的两侧。

教师备课:指图与模拟问答

指图与推进 · 不朗读读模型和层数改变,随后指十三张强正例;不报告原文未给的准确率。

本态来源与条件

Goodfire · 2026 · 原文结果;固定状态据原图重排

GF14A/b1 · 读一个宽泛而不整齐的单元

独立实验 · 本文 ConvNeXt medium · 7.06M 参数正侧负侧单元 3:交通工具与小型哺乳动物 / 苏格兰梗保留不整齐之处;最强例不能穷尽这个单元的功能
读一个宽泛而不整齐的单元

放大单元3。正侧是电车、机车、警车,也出现小型哺乳动物;负侧被苏格兰梗占据。它不像一个教科书上整齐的“交通工具”标签。作者的描述也保留了这个粗糙性,并指出删掉它对街车、邮袋和背包的影响超出了最强图像的表面范围。因此“较宽泛”是观察方向,不是给混合起个名字就算解释结束。

教师备课:指图与模拟问答

指图与推进 · 不朗读逐图核对交通工具与犬,读负侧四张苏格兰梗,再读局限。

本态来源与条件

Goodfire · 2026 · 原文结果;固定状态据原图重排

接下来

末层可能有自己的特殊性。接着在晚层之间追踪连接,看看组织是否只在最后一层才突然出现。

补充推导、边界与来源

原文What Neurons Do Under Pressure与#crushed-last-layer展示medium ConvNeXt末层1024→13的独立重训实验,并在正文说明阻止残差绕行。该图没有给出足够信息报告与上页完全一致的准确率比较,本课不补造其成绩。

主讲固定选中id=3,原图名“Transit & small mammals”。正例的原标签为trolleybus、electric locomotive、Dandie Dinmont、police van;负例四张均为Scotch terrier。原元数据指出,最强图像并不能穷尽功能,消融对streetcars、mailbags、backpacks也有影响。原站另有12个单元供切换,本课把全部13个正侧概览保留为入口,不声称完整搬运原站所有响应热图交互。

两个压缩实验共同支持作者对“压力下变宽”的解释,但实验架构和层位不同,不能把两个结果作为单一严格控制的因果拆分。

来源:Nick Cammarata,2026,Neural Networks Are Already Clean,Goodfire。crushed-last-layer。原图及研究结果归原作者;本课选取、裁剪或重排固定状态,未重新运行训练或消融实验。

本页证据与条件

Goodfire · 2026 · 原文结果;固定状态据原图重排

进入主题正文