学到了什么:让解释接受新证据
本页问题
从猫车观察到 Scar 干预,每一步增加了什么证据?比较时保留不同模型与实验条件。
CL02/b0 · 观察提出解释,新例、反例与干预检验解释。
InceptionV1 的猫车高响应图像首先构成内部观察,促使研究者提出“局部尖形/V形”这一跨物体类别的候选解释。另一个 Qwen3-32B 的保存案例,对指定下一 token Scar 比较未删除、指定删除和同层同数量随机删除:概率由0.9057降至0.2378,匹配随机删除约0.91。该受控差异支持所删两组单元对当前预测起作用。两组材料来自不同模型与实验;它们说明观察、解释和检验各增加了什么证据,而不是证明所有模型已经完全可解释。
进一步解释
Scar 案例中被指定删除的是 The Lion King 与 Lions/savanna 两组共18个单元(7+11);概率变化不是整体准确率下降。该结论限于保存的输入、指定下一词位置、归因和干预协议。自然样例、优化图、归因、消融与近反例的证据强度不同;新例或反例仍可能修正原有解释。
教师备课:指图与模拟问答
指图与推进 · 不朗读先指猫车照片,点出其观察身份和局部尖形/V形的候选解释;再指 Scar 三个比较条件,尤其保留随机对照。最后指出两个模型身份,不把它们串成同一模型的连续实验。
本态来源与条件
Goodfire 原始材料;猫车为 InceptionV1,Scar 为 Qwen3-32B 保存案例,数值沿用已校准 RG19。
接下来
把有证据的能力放回设备,收益还要和执行代价一起判断。
补充推导、边界与来源
再想一步
如果随机删除产生相近下降,原来的指定解释就会削弱;如果新例与解释预期不符,解释也需修正。对照和反例的作用,是让一种看似合理的说法承担可能被推翻的风险。
从本页继续阅读
- 从猫车观察到可检验解释:重看高响应图像及解释如何接受后续观察。
- Scar 归因与受控消融:查看原图、两组18单元、指定删除和随机对照的条件。
- 近反例怎样修正解释:比较表面相似但结构不同的输入,检查解释边界。
本页证据与条件
Goodfire 原始材料;猫车为 InceptionV1,Scar 为 Qwen3-32B 保存案例,数值沿用已校准 RG19。