本页学习说明
二维A/B例固定β=4,原匹配分数[1,0.6]经指数成为[54.598,11.023]。B/A由0.6降为约0.202,因此选择性增强;两项绝对值变大不妨碍相对干扰减小。再除以共同总和65.621,得到[0.8320,0.1680],比例不变、总和为一。最后用这两个权重汇总value,仍然得到混合输出。它与常用attention公式的尺度写法不同,计算职责一致。
本页整个默认过程固定二维[1,0.6]、β=4。指数与幂次的联系完整保留在AM12深入阅读;AM13保留缩放、稳定实现和原公式。
与本页直接相关的完整材料
条件、推导与来源
AM12 · 指数怎样拉开强匹配和弱匹配?
提高幂次以外,指数也可以改变强弱匹配间的相对贡献。
exp(βs)=Σ_(p≥0)(βs)^p/p!。所有指数项整体除以目标权重后,非目标项相对权重为exp(β(s_i−1))。本页β=4仅为二维演示,后面的随机64维容量实验另用β=8,切换处必须明示。
来源与继续阅读
Alex Wang:对应原文小节。
I04 原阅读材料 · M03 原阅读材料。旧阅读材料保留自身的算例与记号;不要将旧三条目行向量例与本节两条目列向量例混算。
完整推导与实验口径 · 原文配套源码入口。
AM13 · 归一化以后,就是熟悉的softmax读取
回到两条key、β=4的例子,把正响应归一化成总和1。
用列向量查询记号,f(x)=Vᵀsoftmax(βKx)。标准attention为softmax(QKᵀ/√d_k)V,差别包括行列约定和Q投影。若q、k的典型长度约√d_k,其内积缩放可对应单位向量约定下β≈√d_k,不是对任意训练模型都精确成立。实现稳定softmax需先减最大logit,再指数和归一化;仅“除以总和”不能保证计算中不溢出。Transformer原论文。
来源与继续阅读
Alex Wang:对应原文小节。
I04 原阅读材料。旧阅读材料保留自身的算例与记号;不要将旧三条目行向量例与本节两条目列向量例混算。
完整推导与实验口径 · 原文配套源码入口。
阅读完整讲义