返回课堂

学到了什么:让解释接受新证据

本页问题

从猫车观察到 Scar 干预,每一步增加了什么证据?比较时保留不同模型与实验条件。

CL02/b0 · 观察提出解释,新例、反例与干预检验解释。

内部观察 → 候选解释InceptionV1 · 同一单元 4e:55局部尖形/V形:跨物体类别从具体响应中提出解释有对照的干预 · P(Scar)Qwen3-32B · 同一下一 token 位置未删除0.9057指定删除18单元0.2378同层同数量随机删除约 0.91同一输入、同一测量位置解释要面对新证据;局部机制不等于全模型已完全可解释
观察提出解释,新例、反例与干预检验解释。

InceptionV1 的猫车高响应图像首先构成内部观察,促使研究者提出“局部尖形/V形”这一跨物体类别的候选解释。另一个 Qwen3-32B 的保存案例,对指定下一 token Scar 比较未删除、指定删除和同层同数量随机删除:概率由0.9057降至0.2378,匹配随机删除约0.91。该受控差异支持所删两组单元对当前预测起作用。两组材料来自不同模型与实验;它们说明观察、解释和检验各增加了什么证据,而不是证明所有模型已经完全可解释。

进一步解释

Scar 案例中被指定删除的是 The Lion King 与 Lions/savanna 两组共18个单元(7+11);概率变化不是整体准确率下降。该结论限于保存的输入、指定下一词位置、归因和干预协议。自然样例、优化图、归因、消融与近反例的证据强度不同;新例或反例仍可能修正原有解释。

教师备课:指图与模拟问答

指图与推进 · 不朗读先指猫车照片,点出其观察身份和局部尖形/V形的候选解释;再指 Scar 三个比较条件,尤其保留随机对照。最后指出两个模型身份,不把它们串成同一模型的连续实验。

本态来源与条件

Goodfire 原始材料;猫车为 InceptionV1,Scar 为 Qwen3-32B 保存案例,数值沿用已校准 RG19。

接下来

把有证据的能力放回设备,收益还要和执行代价一起判断。

补充推导、边界与来源

再想一步

如果随机删除产生相近下降,原来的指定解释就会削弱;如果新例与解释预期不符,解释也需修正。对照和反例的作用,是让一种看似合理的说法承担可能被推翻的风险。

从本页继续阅读

本页证据与条件

Goodfire 原始材料;猫车为 InceptionV1,Scar 为 Qwen3-32B 保存案例,数值沿用已校准 RG19。

进入主题正文