同一组已知输入，可以一起做哪些运算？

刚才我们从具体图像和文本出发，追到了内部的响应、区分和计算路线。要把解释讲可靠，还要检查它在新例子和干预下是否成立。现在切回前面 MAE encoder 接收的可见 patch 表示，不是刚才 ConvNeXt 的通道或语言模型神经元。把每个已知位置的表示排成 X 的一行。图中的色块是表示坐标的教学示意，不是测量到的像素值或性能数据。这些表示的计算最终要在设备上执行；我们先打开一个矩阵算子，看看哪些工作能一起做，再算存储和搬运的代价。

把它们的表示排成矩阵 X，每行一个位置，同一个投影矩阵就能作用在许多行上。这种规整的大矩阵运算，可以利用并行硬件提供的大量计算单元。

文字里的已知输入位置，也能用类似的批量方式处理。

这里的“同时”有范围。我们说的是一个算子可以处理许多已知位置，并不是下一层能在上一层输出还没产生时先算完。看这条路径：先有 attention 的输出，MLP 才接着计算，再把结果送往下一层。计算之间的依赖仍然存在。这让我们看见 Transformer 扩大训练的一项实际优势：不少工作能组织成硬件擅长的大批量运算。不过马上会遇到上一讲那个问题：文字模型预测后词时，明明不能看未来，为什么训练又能把整段文字一起算？“数据已经在文件里”和“每个位置允许看见什么”是两件事。下一页保留同样的多行输入，只打开允许读取的范围。