本页学习说明
两层 MLP 在行向量记法下可写为 φ(xK_pᵀ)V_p。K_p 的行可读作检测方向，V_p 的行可读作相应输出方向；两者均为训练参数。这个简式省略偏置和门控，不把现代 SwiGLU 等结构都归为相同公式。Geva 等论文的分析及词表投影有其模型与实验条件，不能推出所有知识只在 MLP，或一个单元储存一条事实。
Goodfire 五步局部表示观察保留高响应样本、共同形状、上下游与负响应对照及解释边界；这是 InceptionV1 视觉网络案例，不是 LLM 能力证明。
来源：Geva 等，2012.14913v2，§2、Figure 1 及 §3–4。
相关的完整阅读材料保留原有公式、引用和原始图解。
阅读完整讲义