本页学习说明
二维A/B装置把串扰变成可手算的结果:k_A=v_A=(1,0),k_B=(0.6,0.8),v_B=(0,1)。外积写入W=Σvᵢkᵢᵀ得到[[1,0],[0.6,0.8]]。查询A时,Wk_A=(1,0.6)=v_A+0.6v_B;B的key与查询内积不为零,因此B的value也参与输出。A的key与value恰好相同只是选数巧合,B清楚显示二者的不同职责。
本段始终使用两条目、列向量约定。两个外积的和为 W=[[1,0],[0.6,0.8]];读取是先匹配再汇总。旧三条目行向量算例仍在完整阅读中,但不混入此处计算。
与本页直接相关的完整材料
条件、推导与来源
AM03 · 先写入两组“线索—内容”
目标仍被保存,读出却可能夹杂别的内容;现在用两组向量把装置拆到能手算。
W=Σᵢvᵢkᵢᵀ,W∈R^(d_v×d_k)。本例两个外积分别是[[1,0],[0,0]]、[[0,0],[0.6,0.8]]。
来源与继续阅读
Alex Wang:对应原文小节。
I02 原阅读材料。旧阅读材料保留自身的算例与记号;不要将旧三条目行向量例与本节两条目列向量例混算。
完整推导与实验口径 · 原文配套源码入口。
AM04 · 读A时,为什么B也会出来?
两次外积已经加到同一个W,接下来检查能否只读回目标。
Wx=Σᵢvᵢ(kᵢᵀx);对单位key查询k_j,Wk_j=v_j+Σ_(i≠j)vᵢ(kᵢᵀk_j)。
来源与继续阅读
Alex Wang:对应原文小节。
I03 原阅读材料 · M02 原阅读材料。旧阅读材料保留自身的算例与记号;不要将旧三条目行向量例与本节两条目列向量例混算。
完整推导与实验口径 · 原文配套源码入口。
阅读完整讲义