把结构上的可能性,交给真实训练检验
本页问题
手工关联例建立了结构怎样承载与读取信息的可能性,不能单独证明真实训练会形成何种能力。attention与MLP都处理当前表示、使用训练参数;它们在完整网络中共同作用。接下来的视觉证据分两步回答新问题:照片怎样成为结构可接收的输入,以及实际训练后的表示能否在独立任务上取得收益。
AR10/b0 · 放回熟悉的Transformer
回到上一讲的Transformer框图,attention与MLP现在多了一层可以计算的含义。前者按当前条目读取,后者可以从训练参数中的关联来理解;它们都在变换表示,协同影响后续结果。我们已经回答了怎样可能承载与读取,却还没有回答真实训练到底学成了什么。能表示、能学到、能在任务上用好,是三个需要分别检查的问题。
进一步解释
线性层梯度更新ΔW=−η(∂L/∂y)xᵀ也是外积形式,但误差信号不是原始事实value;不能把一步更新说成写入一条完整知识。
教师备课:指图与模拟问答
指图与推进 · 不朗读沿输入→attention→MLP→下一层;只强调已解释的两个部件。
AR10/b1 · 把观察对象交给同一张照片
刚才的小例子由我们亲手安排线索和内容,真实模型要从数据与目标中形成这些表示。现在换成能直接看见对象与结果的视觉任务。眼前是一张校车照片:我们先问它如何接入同类结构,再用实际训练和独立评测看效果怎样。结构提供可能性,成绩检验它是否在这些条件下被用起来。先别急着讨论内部含义,下一步从照片怎样变成输入开始。
进一步解释
校车照片只是将研究问题交给可观察输入;本页不提前切patch或给出分类结果,避免与VR01/VR02重复。
教师备课:指图与模拟问答
指图与推进 · 不朗读保持Transformer图,新增原校车照片和待检验的任务结果;不提前切patch。
接下来
一张二维照片,怎样成为Transformer可以处理的输入?
补充推导、边界与来源
attention与MLP的计算结构可以承担读取与关联,但结构上的可能性还不能证明真实训练已经形成了所需能力。前面的手工例子中,key和value由我们指定;真实模型要从数据和训练目标中形成表示,再用独立任务评测检验。接下来先看图像如何进入模型,以及不同训练条件下的实际表现。
与本页直接相关的完整材料
- AM17 · 有承载机制,还要把知识学进去:原图、逐态说明与已校准推导。
- AM18 · 机制说得通以后,去视觉实验中看结果:原图、逐态说明与已校准推导。
条件、推导与来源
AM17 · 有承载机制,还要把知识学进去
机制分析完成后,回到开场的另一条线:训练实际形成了什么能力?
对线性层y=Wx,一步梯度下降是ΔW=−η(∂L/∂y)xᵀ,形式上也是外积更新。它说明梯度可以怎样改变输入与输出方向的关联;−η∂L/∂y是误差信号,不是原始事实value,不能说每一步梯度把一条完整知识原样存入。整网的非线性、表示变化和优化历史还需另论。
来源与继续阅读
M04 原阅读材料。旧阅读材料保留自身的算例与记号;不要将旧三条目行向量例与本节两条目列向量例混算。
AM18 · 机制说得通以后,去视觉实验中看结果
增加模型与材料是否改善任务表现,需要真实训练和评测来回答。
来源与继续阅读
X01 原阅读材料。旧阅读材料保留自身的算例与记号;不要将旧三条目行向量例与本节两条目列向量例混算。
本页证据与条件
Transformer计算关系的教学示意