本页学习说明
本页使用#convnext-sae-residual的原始figure-data.json。典型例固定f3475+及匹配neuron310+;新增例固定f6717−“Animals at the water’s surface”。典型例与组合例来自同一个图的数据源,但不是同一特征的训练前后状态。该图的 JSON 与前台脚本均未明确型号,故不由单元数量或编号推测 small/medium/large。典型 f3475+ 与 neuron310+ 的元数据相关 r=0.99、最大单神经元解码权重份额0.70;这是该例数据,不外推为全部近复制方向的判据。
元数据eventShareA=0.8775164,正文取约88%。其分母是SAE活动事件,不是“88%的字典方向”,也不等于正确率或可解释性认证。全部展示池含11,837个被分类方向;原文按是否近复制、是否有神经元匹配及幅度等划分,不能从前台16个清晰组合推算整体占比。
新增视图是在57个非微弱且无单神经元匹配方向中,人工识别的16个清楚分组、分八种主题;不是随机代表所有字典方向。节点下方只显示最多四个≥0.1的主要正解码权重;负权重为清晰起见省略。主屏明确“主要正分量”,避免假装这是完整式子。
作者报告旋转搜索稀疏方向会回到原生神经元、删除无神经元对应的字典方向不变总体准确率;这支持其在所测层中“基本组件原生可见”的解释,但不保证其他层、所有SAE或所有架构成立。
来源:Nick Cammarata,2026,Neural Networks Are Already Clean,Goodfire。convnext-sae-residual。原图及研究结果归原作者;本课选取、裁剪或重排固定状态,未重新运行训练或消融实验。
阅读完整讲义