完整深入材料 · 保留原页与全部停点。回到相关主讲
换成 SAE 字典，会多看见什么？
本页问题
字典分解给同一层活动提供另一套表示。现在比较“接近原单元的特征”与“由几个单元组合的特征”，不要把字典条目数直接叫机制数。
GF16/b0 · 先看一个近似复制的例子
左边是SAE特征3475正方向的强响应自然图，右边是匹配的原神经元310正极。两边都是雪橇。这个例子说明字典可以重现一个已有单元的主要工作；它不是证明所有SAE特征都只是复制，也不是说明SAE没有用途。我们先让两种视图在同一个对象上对齐。
教师备课：指图与模拟问答
指图与推进 · 不朗读按左SAE右原单元读雪橇自然例，并明确正方向。
本态来源与条件
Goodfire · 2026 · 原文结果；固定状态据原图重排
GF16/b1 · 再看新增的组合：水面上的动物
这个特征的强响应是水面上的动物：水鸟、龟和鸭嘴兽。下面列出它的几个主要正解码分量，来自黑天鹅、水域地形和涉水鸟等原神经元。图上零点一九、零点一七是解码权重，不是概率。这里的“新”是一个组合视角；不能因为字典条目有新名字，就断定网络原先没有相关组件。
进一步解释
固定原站feature6717−。展示最大正decoder weights的前4项：neuron733 0.19、170 0.17、920 0.17、482 0.15。原图为简明省略负权重及其余分量，所以不是完整线性重建式。其198/2,450,000验证位置有激活，最大code约11；近复制特征可达40–100。
教师备课：指图与模拟问答
指图与推进 · 不朗读先读四张特征自然例，再向下对应四个原单元及权重；指出省略其他项和负权重。
本态来源与条件
Goodfire · 2026 · 原文结果；固定状态据原图重排
GF16/b2 · 怎样读“88%”及方法的用途
作者报告末层SAE活动中大约百分之八十八来自近似单神经元复制，余下部分较弱。分母是活动事件的份额，不是字典条目数，更不是“模型理解了百分之八十八”。他还移除没有神经元对应的字典方向，报告总体准确率不变、少数翻转多为接近打平的答案。SAE依然可以帮助回答一张图里有什么，尤其在较小模型里；作者偏好原单元研究机制，是任务取向的判断。
教师备课：指图与模拟问答
指图与推进 · 不朗读读清活动份额；把“解释图像”和“理解机制”分成两个问题。
本态来源与条件
Goodfire · 2026 · 原文结果；固定状态据原图重排
接下来
这些检验多从常见结构出发。罕见输入、错误识别甚至故意教错的标签，会不会另走一条隐藏路线？
补充推导、边界与来源
本页使用#convnext-sae-residual的原始figure-data.json。典型例固定f3475+及匹配neuron310+；新增例固定f6717−“Animals at the water’s surface”。典型例与组合例来自同一个图的数据源，但不是同一特征的训练前后状态。该图的 JSON 与前台脚本均未明确型号，故不由单元数量或编号推测 small／medium／large。典型 f3475+ 与 neuron310+ 的元数据相关 r=0.99、最大单神经元解码权重份额0.70；这是该例数据，不外推为全部近复制方向的判据。
元数据eventShareA=0.8775164，正文取约88%。其分母是SAE活动事件，不是“88%的字典方向”，也不等于正确率或可解释性认证。全部展示池含11,837个被分类方向；原文按是否近复制、是否有神经元匹配及幅度等划分，不能从前台16个清晰组合推算整体占比。
新增视图是在57个非微弱且无单神经元匹配方向中，人工识别的16个清楚分组、分八种主题；不是随机代表所有字典方向。节点下方只显示最多四个≥0.1的主要正解码权重；负权重为清晰起见省略。主屏明确“主要正分量”，避免假装这是完整式子。
作者报告旋转搜索稀疏方向会回到原生神经元、删除无神经元对应的字典方向不变总体准确率；这支持其在所测层中“基本组件原生可见”的解释，但不保证其他层、所有SAE或所有架构成立。
来源：Nick Cammarata，2026，Neural Networks Are Already Clean，Goodfire。convnext-sae-residual。原图及研究结果归原作者；本课选取、裁剪或重排固定状态，未重新运行训练或消融实验。
本页证据与条件
Goodfire · 2026 · 原文结果；固定状态据原图重排