返回课堂

完整深入材料 · 保留原页与全部停点。回到相关主讲

扩大训练以后，同一对模型的排序变了

N14/b0 · 追踪同一对模型

ViT Figure 3 原图：三个预训练数据集、ImageNet top-1准确率与模型图例
ViT v2 · Figure 3 · 原坐标与图例
追踪同一对模型

上一页的结论只适用于左列条件。现在仍追踪同一对 B/16 和 L/16，用相同颜色找到右边 JFT-300M 这一列；模型身份与下游评价没有换，预训练条件变了。

教师备课：指图与模拟问答

指图与推进 · 不朗读先认相同的 B/L 颜色，再将视线移到 JFT-300M 列。

N14/b1 · 右列排序改变

ViT Figure 3 原图：三个预训练数据集、ImageNet top-1准确率与模型图例L/16 ↑ B/16
ViT v2 · Figure 3 · 原坐标与图例
右列排序改变

刚才落后的 L/16，已经高于 B/16；更大的 ViT 在这组扩大后的训练条件下也取得了很强的结果。两页之间最有价值的变化，是同一对模型的排序发生了改变，而不是终于找到一个最高分。

教师备课：指图与模拟问答

指图与推进 · 不朗读沿 L/16↑B/16 标记比较排序变化。

N14/b2 · 更大 ViT 与 BiT

ViT Figure 3 原图：三个预训练数据集、ImageNet top-1准确率与模型图例L/16 ↑ B/16
ViT v2 · Figure 3 · 原坐标与图例
更大 ViT 与 BiT

再看这一列更大的 ViT-H/14，它高于图中灰色 BiT 范围。这是对扩大训练条件下表现的补充观察，并不把 H/14 和 B/16、L/16 当成只改一个变量的严格对照。选架构不能只问它在一个很小起点上谁赢，也要问在准备投入的条件下能走多远。接下来把这张图不能单独证明的部分也说明白。

教师备课：指图与模拟问答

指图与推进 · 不朗读指更大 ViT-H/14 与灰色 BiT 范围，避免把所有配置称成等规模。

N14/b3 · 扩展判断的条件

ViT Figure 3 原图：三个预训练数据集、ImageNet top-1准确率与模型图例L/16 ↑ B/16
ViT v2 · Figure 3 · 原坐标与图例
扩展判断的条件

它同时换了数据数量和组成，也没有把各配置的总计算强行配成一样，因此不能把改善全部归为纯粹多了多少样本。原文另有同源 JFT 子集的实验，可以在说明中继续比较。同样，这不构成“卷积不能扩展”的证明。现代卷积结构和训练配方也能继续受益。我们要带走的是结构、材料和训练方式要一起看。接下来就追问训练方式：如果不断增加有标签图片很困难，能否让图片本身持续给出学习任务？这会把问题从“找到更多标签”，推进到“怎样从已有材料里构造监督”。

进一步解释

原论文 Fig.4 的同源 JFT 子集与冻结表征后的少样本线性分类评价，可在本页相关完整阅读中继续看。那里的5-shot不是后面语言模型的提示内示例学习。

教师备课：指图与模拟问答

指图与推进 · 不朗读读数量/组成/计算三项限定；由训练投入接到下一页学习目标来源。

补充推导、边界与来源

JFT-300M 列中 L/16 高于 B/16，修正了仅凭左列得出的扩展判断。该图换了数据集数量和组成，训练计算也不完全相等，因此不把全部增益归为纯样本数。

ViT 同源子集实验 Figure 4

Figure 4 在同源 JFT 子集上补充研究规模变化，其 5-shot 指冻结表征后拟合线性分类器，并非语言模型的提示 ICL。

ConvNeXt Table 1

现代卷积同样可以从结构与训练配方获益；本段不主张卷积不能扩展。原图完整条件见视觉扩展正文。

来源：ViT v2，Figure 3/4；ConvNeXt，Table 1。

相关的完整阅读材料保留原有公式、引用和原始图解。

本页证据与条件

ViT v2 · Figure 3 · ImageNet 微调评测；数据集数量与组成同时变化

进入主题正文