本页学习说明
本页全图中的圆框、下一态的局部放大均按照原图交互给定的位置和三倍放大参数。圆框是原图的响应区域定位,不是本课算出的热图;颜色也不是激活值色标。原图未在此提供逐像素热图,不凭空绘制一幅。
猫与汽车局部都支持“尖形/V 形”的候选读法,但只有两张图还不够。作者给出的台球桌与新干线例子跨越了动物/车辆的常用类别,扩大了候选解释要覆盖的范围。泛化可能沿几何结构发生,而不是按人的名词表发生。新的自然例仍是作者选取的检验例,本课没有独立进行盲测。
来源:Nick Cammarata(2026),Goodfire,Neural Networks Are Already Clean。 原图/段落 v-figure。 图与原始照片保留原作者权利;本课按原图选择固定状态、重排并加中文标注,未重跑原文模型实验。
继续沿这个问题阅读
本例的完整图、原逐态说明与推导。
阅读完整讲义