完整深入材料 · 保留原页与全部停点。回到相关主讲
比较线索、调节响应、汇总内容：认出MLP
本页问题
匹配、非线性与汇总的操作已建立，现在辨认其网络形式。
AM10/b0 · 从操作认结构
左边这次不是一个黑箱。第一步，用一组线索和当前输入做比较；第二步，把每个比较结果送过非线性；第三步，用这些响应去组合输出方向。这正是一种两层MLP的计算形式。
教师备课：指图与模拟问答
指图与推进 · 不朗读沿Kx→逐项非线性→Vᵀ汇总读一次计算。
AM10/b1 · 改名而不换计算
把第一个矩阵叫W₁，把第二个矩阵叫W₂，计算没有变。在这个显式构造里，中间有多少个响应位置，就有多少组候选键值，所以宽度H等于条目数M。第一层的方向响应不同输入模式，第二层决定这些响应向当前表示补进什么。MLP因此可以从参数化关联记忆的角度理解。
教师备课：指图与模拟问答
指图与推进 · 不朗读将K标成W₁、Vᵀ标成W₂，保持箭头不变；核对矩阵尺寸。
AM10/b2 · 回到真实模型的限度
真实模型里的这些方向是训练出来的，不一定一行对应一条人类可以命名的知识。多个方向可能一起参与一条事实，同一组权重也可能承担许多不同关联。我们现在获得的是理解计算的一条线索，不是把整个模型拆成一本一格一条的字典。
进一步解释
显式构造$H=M$，K/V存储需$H(d_k+d_v)$个数。真实FFN还可包含偏置、残差、归一化和门控。若改用行向量记号，一般SwiGLU使用两组投影，形如$(\mathrm{SiLU}(xW_g)\odot xW_u)W_d$；不能把独立门控一概当作同一分数的幂。
教师备课：指图与模拟问答
指图与推进 · 不朗读回指MLP/FFN的位置，说明一行一条只是显式构造。
接下来
手算里弱匹配变小了。换成大量随机条目，会把整条容量曲线推到哪里？
本页证据与条件
教学构造与机制示意；非模型实测