本页学习说明
原图使用两个固定 InceptionV1 单元:中层 mixed4d:161 与晚层 mixed5a:400。三列分别标为2009-style、2017、2026,表示可视化方法/设置的历史风格。同一行没有重新训练网络,也没有换成这三个年份的模型。自然照片另列,提供与优化结果独立的输入参照。
正文指出变换鲁棒性、正则设置和优化容易陷入特定路线会影响图像。具体可视化组合的改变不应硬解为每一项独立贡献;这是“相同对象,用不同工具看”的比较。进一步从原文附录可知,高响应图寻找的是提高某个优化目标的输入,它未必与自然输入常用路线相同;应该对照自然强例与上下游。
晚层另一幅复杂单元图保留在GF08说明并用于主屏对照。作者关于可解释率的历史粗估不在本页画成精确时间曲线。
来源:Nick Cammarata(2026),Goodfire,Neural Networks Are Already Clean。 原图/段落 microscope-timeline。 原图/段落 inception-last-layer。 图与原始照片保留原作者权利;本课按原图选择固定状态、重排并加中文标注,未重跑原文模型实验。
阅读完整讲义