回到 MAE:表示怎样落成一轮计算?
本页问题
把三个层次重新接在一起:记忆装置展示结构的承载与读取,MAE 独立评测检验训练收益,Goodfire 案例追踪内部区分与作用。接下来回到先前 MAE 的可见 patch 表示,让这些向量进入实际矩阵计算,讨论并行、存储与搬运。
RG32/b0 · 回收已经走过的证据
记忆装置帮助我们理解承载与读取的可能性;视觉训练检验这种可能性有没有转成任务收益;猫与车、Scar 这些案例进一步追内部形成了什么、怎样参与计算。这三类证据接起来,才逐步回答模型怎样学到并用上知识。它们相互补充,不能拿其中一类替另外两类作答。现在把表示放回一轮真正要执行的计算。
进一步解释
三行分别回指默认课堂已经展示的联想记忆装置、MAE分类结果、猫车与Scar,不依赖迁到深入层的其他案例。MAE与Goodfire是不同模型与研究设置,三类证据只能按各自对象连接。
教师备课:指图与模拟问答
指图与推进 · 不朗读按容量/任务/机制三行,分别回指已讲AM装置、MAE分类结果、猫车与Scar;不引用未主讲耳朵电路。
本态来源与条件
AM 随机向量检索装置;MAE · He 等(2022)· Figure 2 / Table 3;Goodfire 原文局部机制案例
RG32/b1 · 同一批可见patch,准备计算
回到前面这张校车图。进入这一轮 MAE encoder 的是可见 patch,每个位置成为一个向量,排成矩阵 X。后面一层层的变换,要靠共享权重和这些表示实际算出来。下一步就沿这一批向量看:哪些计算能一起做,训练时要保存什么,数据又要怎样搬运。同一个W会作用于X的许多行,这就是下一页要打开的多行计算。
进一步解释
X在此表示已经嵌入的MAE可见token向量,不是整幅原始像素。W表示接下来要看的某层共享变换;图只定位对象,没有为MAE另造维度或测量。计算桥继续沿X与W展开,而不重讲视觉实验。
教师备课:指图与模拟问答
指图与推进 · 不朗读指校车mask图的可见部分→表示矩阵X→共享权重W;停在乘法前,下一页沿用同一对象和位置。
本态来源与条件
MAE · He 等(2022)· Figure 2 校车遮挡输入;X 与 W 为教学计算定位示意
接下来
沿同一X与共享W展开多行计算。
补充推导、边界与来源
本页先回收记忆装置、MAE任务结果和Goodfire局部机制各自回答的问题,再明确返回MAE encoder的计算对象。校车遮挡图沿用MAE Figure 2的原图证据,X与W图形只定位计算关系,没有新增模型测量。
本课既有 N11–N19 与后续 N20。此桥接图为教学定位图;校车图沿用本课 MAE Figure 2 既有证据资产,不引入新模型结果。
继续沿这个问题阅读
本页证据与条件
AM 随机向量检索装置;MAE · He 等(2022)· Figure 2 / Table 3;Goodfire 原文局部机制案例