指数拉开比例，softmax给出分配
本页问题
二维A/B例固定β=4，原匹配分数[1,0.6]经指数成为[54.598,11.023]。B/A由0.6降为约0.202，因此选择性增强；两项绝对值变大不妨碍相对干扰减小。再除以共同总和65.621，得到[0.8320,0.1680]，比例不变、总和为一。最后用这两个权重汇总value，仍然得到混合输出。它与常用attention公式的尺度写法不同，计算职责一致。
AR07/b0 · 指数都变大，为什么相对干扰更小？
仍是同一组A/B关联，原分数是一和零点六，这一页锐度β固定为四。取指数后分别约为五十四点五九八和十一点零二三；两个绝对值都变大了。但以A为一份，B只剩零点二零二份，比原来零点六少得多。我们关心的是B相对于A有多大，不能仅看指数输出是否变大来判断干扰。
进一步解释
二维演示β=4：exp(4)=54.598150、exp(2.4)=11.023176，B/A=exp(−1.6)=0.2018965。尚未进入64维容量实验。
教师备课：指图与模拟问答
指图与推进 · 不朗读保留上方key/value，读两项指数，再比较B/A从0.6到0.202。
AR07/b1 · 共同除以总和，比例不变
现在把两项都除以同一个总和六十五点六二一，得到约零点八三二和零点一六八。看权重条，A占百分之八十三点二，B占百分之十六点八。总和变成一，而B与A的相对比例没变。读回因此仍是两个value的混合，只是更偏向A；归一化不是突然把B删除，更不是把胜出标签直接当答案。
进一步解释
归一化分母65.621326；权重[0.832018385,0.167981615]。数值稳定实现先减最大logit再指数；只除以总和不能避免溢出。
教师备课：指图与模拟问答
指图与推进 · 不朗读在原位置新增除以总和和权重条，再沿同一value通路读出。
AR07/b2 · 把这条读取链与 attention 对上
匹配、取指数、除以总和、汇总value，就是softmax注意力的基本读取过程。上一讲通常把QK转置除以key维度的平方根；这里先将向量规范成单位长度，再用β表示锐度。尺度约定不同，比较的仍是匹配强弱。两条关联上的机制已经清楚：指数拉开比例，归一化给出总和为一的分配。下一页才切回六十四维、许多随机候选，用相同指标检查它能走多远。
进一步解释
列向量约定$f(x)=V^\top\operatorname{softmax}(\beta Kx)$。标准attention为$\operatorname{softmax}(QK^\top/\sqrt{d_k})V$。若q、k典型长度约√dₖ，可对应单位向量约定下β≈√dₖ，并非任意训练模型的精确恒等式。指数与幂次的完整支线：见AM12/b1、b2，另用dₖ=64、β=8，不能混为本页条件。
教师备课：指图与模拟问答
指图与推进 · 不朗读沿四步流程读一遍，再指标准1/√dₖ缩放；不改变本例β。
接下来
在许多随机候选同时参与时，读取规则能移动多少容量阈值？
补充推导、边界与来源
本页整个默认过程固定二维[1,0.6]、β=4。指数与幂次的联系完整保留在AM12深入阅读；AM13保留缩放、稳定实现和原公式。
与本页直接相关的完整材料
- AM12 · 指数怎样拉开强匹配和弱匹配？：原图、逐态说明与已校准推导。
- AM13 · 归一化以后，就是熟悉的softmax读取：原图、逐态说明与已校准推导。
条件、推导与来源
AM12 · 指数怎样拉开强匹配和弱匹配？
提高幂次以外，指数也可以改变强弱匹配间的相对贡献。
exp(βs)=Σ_(p≥0)(βs)^p/p!。所有指数项整体除以目标权重后，非目标项相对权重为exp(β(s_i−1))。本页β=4仅为二维演示，后面的随机64维容量实验另用β=8，切换处必须明示。
来源与继续阅读
I04 原阅读材料 · M03 原阅读材料。旧阅读材料保留自身的算例与记号；不要将旧三条目行向量例与本节两条目列向量例混算。
AM13 · 归一化以后，就是熟悉的softmax读取
回到两条key、β=4的例子，把正响应归一化成总和1。
用列向量查询记号，f(x)=Vᵀsoftmax(βKx)。标准attention为softmax(QKᵀ/√d_k)V，差别包括行列约定和Q投影。若q、k的典型长度约√d_k，其内积缩放可对应单位向量约定下β≈√d_k，不是对任意训练模型都精确成立。实现稳定softmax需先减最大logit，再指数和归一化；仅“除以总和”不能保证计算中不溢出。Transformer原论文。
来源与继续阅读
I04 原阅读材料。旧阅读材料保留自身的算例与记号；不要将旧三条目行向量例与本节两条目列向量例混算。
本页证据与条件
两条关联的教学构造；线性代数按列向量约定