同一组表示，怎样变成可执行的运算？

正在载入课堂画面…

本页学习说明

一批已知位置的表示可排成矩阵 X，共用投影 W 形成 XW。位置并行是计算的组织方式，attention、MLP 和后续层仍有先后依赖。图像与文字可共享这类算子接口；可读取的位置则由各自任务规定。

以下从计算对象、条件与原始证据继续展开。

同一投影作用于已知输入的许多行，可实现为大矩阵乘法。GPU 矩阵计算单元及 CUDA、Triton 等实现层负责组织具体执行；它们不改变数据依赖。图像 encoder 与因果文本模型可共用部分矩阵算子，但可见性规则不同。算子内的位置并行不能取消 attention、MLP 与层之间的先后依赖。

来源：Transformer 矩阵计算；L5 T34。

相关的完整阅读材料保留原有公式、引用和原始图解。