完整深入材料 · 保留原页与全部停点。回到相关主讲
这里争论的是“为什么共享”，不是“能表示多少”
本页问题
从汽车姿态与训练分枝返回问题定义，再用语言观察盲点说明为何不能把未解释当作任意打包。
GF10/b0 · 先比较两个组织方式
先看这个明确标为概念示意的对照。左边把相近颜色和形状放在一起，共用一个较粗的区分；右边则把不同形状和颜色打散后混放。两边都在共享有限空间，但共享的理由不同。作者关心的是：真实网络里，某些计算为什么会聚在同一个机制上？我们刚才的姿态与训练分枝例子，为左边这种解释提供了线索。
教师备课：指图与模拟问答
指图与推进 · 不朗读指出“示意”；比较同一批图形在两边的去向。
本态来源与条件
Goodfire · Cammarata 2026 · #packing-vs-growing, #superposition-of-the-gaps, #features-and-definitions
GF10/b1 · 三个容易混在一起的问题
现在把三个问题分开。第一节问给定表示和读取方式能承载多少关联；组合表示问怎样用少量部件组成更多模式；这里的争论问不相关的计算是否因少干扰而任意共用空间。前两者成立，并不能直接证明第三者；第三者的某个经典例子被重读，也不会自动推翻第一节的数学条件。
教师备课：指图与模拟问答
指图与推进 · 不朗读从容量到组合再到组织三个区域，不把箭头画成推翻。
本态来源与条件
Goodfire · Cammarata 2026 · #packing-vs-growing, #superposition-of-the-gaps, #features-and-definitions
GF10/b2 · 一个看似混杂的语言例
再看一个小例子。pr、编码的网址字符串、孟加拉文字，表面上很不一样；原文作者解码和转写后发现又回到pr。我们并没有因此证明所有混杂都能解释。它提醒我们：输入形式的差异可能属于观察方法的盲点。像前面的猫与车，先检查我们到底在用什么尺度和语言描述对象。
教师备课：指图与模拟问答
指图与推进 · 不朗读展示pr、Base64字符串示意标签、转写三路；不伪造未经核对的原始字符串。
本态来源与条件
Goodfire · Cammarata 2026 · #packing-vs-growing, #superposition-of-the-gaps, #features-and-definitions
GF10/b3 · 也允许暂时没有答案
正文还讲到Colorado上下文被汇集到逗号，以及必须读更长前文才能看懂的响应。对这些例子，补资料和改观察方式确实改变了解释。但反过来也不能规定每个单元必须有一个好听故事。我们保留工具不足、学习条件、局部分枝和任意共享等不同可能，再用证据区分。下一页开始把问题落到单元在做什么区分、下游怎样用它。
教师备课：指图与模拟问答
指图与推进 · 不朗读依次显示“输入形式、上下文范围、因果使用”三个检查面，末行保留未知。
本态来源与条件
Goodfire · Cammarata 2026 · #packing-vs-growing, #superposition-of-the-gaps, #features-and-definitions
接下来
接下来把“检测一个名词”换成“做什么区分、把信息分给谁”，继续观察具体网络。
补充推导、边界与来源
本文重点质疑的superposition是一个组织假说：不相关的计算因为很少干扰，任意共用神经元容量。它不同于“可描述的特征多于维度”，也不同于向量相加、多个神经元共同完成任务或普通组合式表示。前一节联想记忆的条件化容量推导没有因此被推翻。
原图packing-vs-growing用32个图形作概念对照：相近颜色与形状代表相近对象；减少神经元时，一边按相似性形成较粗组，另一边把不相干项打包。本课只重画这个对照的精选组，标明示意，不伪装模型测量。共享带来的干扰成本和复用收益可以并存；仅有特征数与维数的比较不能回答为何这些具体计算共用同一个单元。
正文Superposition of the Gaps保留三个观察盲点。其一，某单元看似同时响应pr、Base64网址与孟加拉文字，解码／转写后仍与pr相关。其二，某Qwen单元看似响应逗号，完整上下文显示它跟踪Colorado，逗号是上下文摘要位置；作者还通过steering观察到徒步相关生成。其三，只给两段文本会让长上下文机制显得没有主题，完整前文可能改变解释。这些是作者研究案例，不是本课实验；也不意味着任何未解释例都必有漂亮答案。
附录 A Note on Superposition 与 A Note on Features and Definitions 区分计数命题、组织命题与词义变迁。作者认可Toy Models在其预设特征和重建目标下的实验，争论真实网络中共享的复用收益是否被这些设定覆盖。不能把本文写成Toy Models实验已被证伪。尚不能解释的响应应当保留为未知；工具、数据覆盖和发展关系都是可进一步检验的候选原因。
来源：Nick Cammarata（2026），Goodfire，Neural Networks Are Already Clean。 原图／段落 packing-vs-growing。 原图／段落 superposition-of-the-gaps。 原图／段落 features-and-definitions。 图与原始照片保留原作者权利；本课按原图选择固定状态、重排并加中文标注，未重跑原文模型实验。
与本页相关的深入阅读
A01｜superposition 到底是哪一个命题
同一个词曾指向向量叠加、特征数超过维数、分布式组合，以及因很少相撞而把无关计算放在一起。本文重点质疑最后一种作为真实网络难解释性的默认原因，尤其是它对神经元如何生长的解释。特征数量超过维数也可以来自有用组合；残差流没有特权坐标基，也不能单独证明任意打包。评价本文必须先固定所谈命题，而不是把它当作否定所有同名理论。
原文 A Note on “Superposition” · GF10
A20｜特征、机制与组织不是同义词
人类关心的一种概念、网络自己的可复用计算构件、SAE 中一个字典方向，都可能被叫作 feature，却不是同一个对象。给猫、车、V 各计一个特征还是只计 V，会改变“特征数”，不一定改变网络。本文因此优先追问什么被什么读取、为什么响应会同处一处。字典仍可作为有用视图；只有确实存在妨碍理解的原生组织问题时，才需要论证替换机制的成本值得承担。
本页证据与条件
Goodfire · Cammarata 2026 · #packing-vs-growing, #superposition-of-the-gaps, #features-and-definitions