返回课堂

把结构上的可能性,交给真实训练检验

本页问题

手工关联例建立了结构怎样承载与读取信息的可能性,不能单独证明真实训练会形成何种能力。attention与MLP都处理当前表示、使用训练参数;它们在完整网络中共同作用。接下来的视觉证据分两步回答新问题:照片怎样成为结构可接收的输入,以及实际训练后的表示能否在独立任务上取得收益。

AR10/b0 · 放回熟悉的Transformer

Transformer block · 简化定位输入表示当前序列attention读取当前条目MLP参数中的关联下一层继续变换能表示什么?训练学到什么?任务用得怎样?小例子:线索与内容由我们手工指定真实模型:这些表示要从数据与目标中形成
放回熟悉的Transformer

回到上一讲的Transformer框图,attention与MLP现在多了一层可以计算的含义。前者按当前条目读取,后者可以从训练参数中的关联来理解;它们都在变换表示,协同影响后续结果。我们已经回答了怎样可能承载与读取,却还没有回答真实训练到底学成了什么。能表示、能学到、能在任务上用好,是三个需要分别检查的问题。

进一步解释

线性层梯度更新ΔW=−η(∂L/∂y)xᵀ也是外积形式,但误差信号不是原始事实value;不能把一步更新说成写入一条完整知识。

教师备课:指图与模拟问答

指图与推进 · 不朗读沿输入→attention→MLP→下一层;只强调已解释的两个部件。

AR10/b1 · 把观察对象交给同一张照片

Transformer block · 简化定位输入表示当前序列attention读取当前条目MLP参数中的关联下一层继续变换同一张校车照片真实训练数据 · 目标 · 更新独立任务评测实际表现怎样?先解决图像输入,再读训练结果
把观察对象交给同一张照片

刚才的小例子由我们亲手安排线索和内容,真实模型要从数据与目标中形成这些表示。现在换成能直接看见对象与结果的视觉任务。眼前是一张校车照片:我们先问它如何接入同类结构,再用实际训练和独立评测看效果怎样。结构提供可能性,成绩检验它是否在这些条件下被用起来。先别急着讨论内部含义,下一步从照片怎样变成输入开始。

进一步解释

校车照片只是将研究问题交给可观察输入;本页不提前切patch或给出分类结果,避免与VR01/VR02重复。

教师备课:指图与模拟问答

指图与推进 · 不朗读保持Transformer图,新增原校车照片和待检验的任务结果;不提前切patch。

接下来

一张二维照片,怎样成为Transformer可以处理的输入?

补充推导、边界与来源

attention与MLP的计算结构可以承担读取与关联,但结构上的可能性还不能证明真实训练已经形成了所需能力。前面的手工例子中,key和value由我们指定;真实模型要从数据和训练目标中形成表示,再用独立任务评测检验。接下来先看图像如何进入模型,以及不同训练条件下的实际表现。

与本页直接相关的完整材料

条件、推导与来源

AM17 · 有承载机制,还要把知识学进去

机制分析完成后,回到开场的另一条线:训练实际形成了什么能力?

对线性层y=Wx,一步梯度下降是ΔW=−η(∂L/∂y)xᵀ,形式上也是外积更新。它说明梯度可以怎样改变输入与输出方向的关联;−η∂L/∂y是误差信号,不是原始事实value,不能说每一步梯度把一条完整知识原样存入。整网的非线性、表示变化和优化历史还需另论。

来源与继续阅读

Alex Wang:对应原文小节。

M04 原阅读材料。旧阅读材料保留自身的算例与记号;不要将旧三条目行向量例与本节两条目列向量例混算。

完整推导与实验口径 · 原文配套源码入口。

AM18 · 机制说得通以后,去视觉实验中看结果

增加模型与材料是否改善任务表现,需要真实训练和评测来回答。

来源与继续阅读

Alex Wang:对应原文小节。

X01 原阅读材料。旧阅读材料保留自身的算例与记号;不要将旧三条目行向量例与本节两条目列向量例混算。

完整推导与实验口径 · 原文配套源码入口。

本页证据与条件

Transformer计算关系的教学示意

进入主题正文