训练时补图，之后拿走的是哪一部分？

上一页看过重建与目标的差异，现在把生成重建的路径打开。左侧蓝色可见块进入大 encoder；白色空位帮助我们标识遮挡位置，并不表示遮住的真实像素也被送进去。大 encoder 先只处理可见块，形成它们的表示。

然后把这些表示和被遮位置的占位信息一起交给较小的解码器，预测完整图像。请注意，大编码器并没有在这一阶段把所有被遮住的 patch 都按完整输入算一遍。

训练结束后，如果我们要做分类，就不必继续使用那个补图的解码器。把编码器留下来，接上分类头；这时输入的是完整图像的全部 patch，不再只给它看预训练时的可见子集。然后用带标签的分类数据继续微调整个分类模型。这样，前一页的重建任务和下一页的识别成绩之间，才有一条具体的连接：通过重建训练得到的参数和表示，被拿去支持另一项任务。

这还顺带露出了一个工程选择。设计学习任务时，不仅要问目标有没有信息，还要问最昂贵的部分究竟处理多少输入。MAE 让较大的编码器先只处理可见块，就是把任务设计和计算路径放在一起考虑。我们稍后会继续打开硬件上的计算与搬运。现在先回到教学判断：这些训练出来的表示，在同一项分类评测上有没有带来收益？