本页学习说明
左侧保留原文 InceptionV1 晚层单元的优化图与自然例;自然图包含车栅格、衣领、器物等,说明旧网络的晚层确有不容易立即解释的响应。右侧采用作者自训的7.06M ConvNeXt、末层单元127:从50,000张图中按响应排出的前20例,三例原标签是leaf beetle,其余为ladybug。它们视觉相近,不能把类标差异直接视为任意混杂,也不能把20个选例当全分布。
正文有三个不同层次的比较:同一旧 checkpoint 换工具;相同 InceptionV1架构重新训练并采用更合理的现代正则;参数量与数据相当、但引入残差、LayerNorm等改进的 ConvNeXt。作者粗估旧工具约0–5%、改工具约50%、重新训练约70%、相当规模ConvNeXt约99%,这不是统一抽样与评审协议下的可复算进步曲线。本页不把这些数画成柱状图,更不把差值当作某项架构改动的独立因果效应。

图中优化目标、自然例与多样化视图分区保留;主屏选择局部,不增加新实验。
来源:Nick Cammarata(2026),Goodfire,Neural Networks Are Already Clean。 原图/段落 inception-last-layer。 原图/段落 ladybug-figure。 图与原始照片保留原作者权利;本课按原图选择固定状态、重排并加中文标注,未重跑原文模型实验。
阅读完整讲义