本页学习说明
MAE预训练时，encoder处理可见patch，decoder结合其表示与mask占位预测像素；被遮位置的预测与原图目标形成loss，经反向传播更新参数。分类迁移保留encoder、移除重建decoder、接上分类头。完整图像全部patch进入模型，类别标签提供新的微调目标，之后由独立验证图片评价。可迁移的是训练后的参数与表示，并非那一张重建图或凭空出现的类别知识。
MAE预训练的大encoder处理可见子集，小decoder结合mask token重建；下游保留encoder，输入全图，去除重建decoder，再微调和评测。两条路径在相同encoder处接续。
与本页直接相关的完整材料
条件、推导与来源
N17 · 训练时补图，之后拿走的是哪一部分？
MAE 的大 encoder 仅处理可见图像块。编码表示与 mask token 一起交给较小的重建 decoder，生成像素预测。下游分类保留 encoder，去掉重建 decoder，输入完整图像的全部 patch，添加分类头，进行带标签微调与独立评测。本结构图采用方法常见的 75% 遮挡说明，不将上页示例的 80% 混进方法配置。重建 decoder 与上一讲翻译 decoder 的接口不同。
来源：MAE v3，物理 p.1 Figure 1 与 §3。
相关的完整阅读材料保留原有公式、引用和原始图解。
阅读完整讲义