返回课堂

完整深入材料 · 保留原页与全部停点。回到相关主讲

只看这些碎片,模型要补回什么?

N15/b0 · 模型实际看到什么

MAE Figure 2 校车模型此轮输入
模型此轮输入只给可见 patch
MAE Figure 2 校车论文重建
论文重建根据可见部分预测
MAE Figure 2 校车原始图像
原始图像被遮位置的目标像素
模型这一轮只看左边的零散图块

此轮输入:可见 patch

MAE v3 Figure 2 · 本图约80%遮挡(常见训练:75%)

模型实际看到什么

这张完整的校车照片你刚才见过,但模型在这一轮实际得到的,只有左边这些零散小块。我们先把自己知道的全图,与模型真正收到的输入分开。

教师备课:指图与模拟问答

指图与推进 · 不朗读只指左侧模型输入;中、右图位尚未揭示。

N15/b1 · 39/196 可见 patch

MAE Figure 2 校车模型此轮输入
模型此轮输入只给可见 patch
MAE Figure 2 校车论文重建
论文重建根据可见部分预测
MAE Figure 2 校车原始图像
原始图像被遮位置的目标像素
可见 39 / 196 个 patch · 本图约 80% 遮挡

此轮输入:可见 patch

MAE v3 Figure 2 · 本图约80%遮挡(常见训练:75%)

39/196 可见 patch

这是 MAE 论文的一张真实展示:一百九十六个 patch 中只给模型看三十九个,约有百分之八十被遮住。

教师备课:指图与模拟问答

指图与推进 · 不朗读指39/196和本图约80%遮挡,分清本图与常用75%训练配置。

N15/b2 · 由原图产生重建题

MAE Figure 2 校车模型此轮输入
模型此轮输入只给可见 patch
MAE Figure 2 校车论文重建
论文重建根据可见部分预测
MAE Figure 2 校车原始图像
原始图像被遮位置的目标像素
可见 39 / 196 个 patch · 本图约 80% 遮挡

任务:根据可见部分,预测被遮挡位置的像素。

MAE v3 Figure 2 · 本图约80%遮挡(常见训练:75%)

由原图产生重建题

任务很具体:根据可见部分,预测那些被遮住的内容。黄色车身、窗户边缘和轮廓能提供线索,但不少细节没有直接出现。要在大量不同图片上完成这种预测,模型需要利用局部之间的关系,而不是每次都把一个固定的“校车”答案贴回去。关键在于,这种题目可以从已有图片制造出来。我们先有完整图片,再随机遮挡,输入与要比较的目标就都有了,不需要另请人为每个被遮住的块写说明。这里百分之八十是这张展示图的条件;方法常见训练示意用百分之七十五,两者不要混为一谈。下一页把论文实际重建结果揭出来,先观察它补出了什么,再看哪些地方仍与原图不同。

进一步解释

本图39/196可见,遮挡约80%;MAE常见训练配置是75%。图片被遮是产生学习任务的办法,不能把这两个不同对象的数字互换。

教师备课:指图与模拟问答

指图与推进 · 不朗读指左侧可见块和“被遮像素”目标短句;保持重建和原图不揭示。

补充推导、边界与来源

本页左图是 MAE v3 Figure 2 校车行的真实遮挡输入,196 个 patch 中可见 39 个,约 80% 被遮住。观众之前见过全图,不代表模型该轮得到全图。遮挡人为构造了输入限制,原始图片同时提供预测目标;这里的 mask 是构造重建训练题,不是因果 attention mask。

来源:MAE v3,物理 p.2 Figure 2 校车行。

相关的完整阅读材料保留原有公式、引用和原始图解。

本页证据与条件

MAE v3 · Figure 2 · 真实遮挡输入/重建/原图;本图约 80% 遮挡

进入主题正文