目标相同，材料让模型反复遇到什么？
本页问题
相同的语言建模目标可以作用在关系句、实验记录和代码上，但三类材料分别要求因果条件、数值对象对应和程序依赖。材料类别并不自动等于获得的能力。资料库存、抽样后的训练消费和重复次数也必须分开：未被抽到的材料不构成这轮训练经历，重复读取则重复消耗计算。
RC-P5/b0 · 同一预测接口
三类教学材料：合法前缀 → 实际后续
The trophy would not fit in the suitcase
because it was too big.
在相同设置下，A用时12秒，B用时8秒。未测量内存。
方案 / 数值未测范围
times = {'A': 12, 'B': 8}
faster = min(times, key=times.get)
函数调用
文档① ② ③→过滤 / 抽样 / 重复→实际训练消费
① ② ① ③ ① ②
三种材料都能采用合法前缀预测后续。关系句含有物体、容器和原因；A/B记录含有方案、数值和未测项；代码把A、B映射到耗时，再用min选择对应的键。目标形式相同，预测时必须利用的具体依赖并不相同。
教师备课：指图与模拟问答
指图与推进 · 不朗读依次指三种材料及共同前缀预测接口。
本态来源与条件
三类输入为教学材料；库存、混合权重与重复口径对应GPT-3 Table2.2。
RC-P5/b1 · 反复提出不同要求
三类教学材料：合法前缀 → 实际后续
The trophy would not fit in the suitcase
because it was too big.
在相同设置下，A用时12秒，B用时8秒。未测量内存。
方案 / 数值未测范围
times = {'A': 12, 'B': 8}
faster = min(times, key=times.get)
函数调用
文档① ② ③→过滤 / 抽样 / 重复→实际训练消费
① ② ① ③ ① ②
关系句要把原因连到对象，实验记录要把十二和八分别连回A和B，代码还要让变量、字典键与函数调用配合。材料决定训练反复向模型提出哪些要求，但“材料里有代码”不等于“模型已经会编程”。训练能否把这些规律变成可用本领，需要下一步的独立任务评价。
进一步解释
代码是教学输入，未将这里的代码或答案伪称为模型生成。min(times, key=times.get)按字典值选择最小耗时对应的键，本例为B。
教师备课：指图与模拟问答
指图与推进 · 不朗读指三行新出现的依赖标签。
本态来源与条件
三类输入为教学材料；库存、混合权重与重复口径对应GPT-3 Table2.2。
RC-P5/b2 · 库存与消费分开
三类教学材料：合法前缀 → 实际后续
The trophy would not fit in the suitcase
because it was too big.
在相同设置下，A用时12秒，B用时8秒。未测量内存。
方案 / 数值未测范围
times = {'A': 12, 'B': 8}
faster = min(times, key=times.get)
函数调用
文档① ② ③→过滤 / 抽样 / 重复→实际训练消费
① ② ① ③ ① ②
再看文档编号组成的训练流。库存里有一、二、三号文档，实际训练却按抽样顺序读了一、二、一、三、一、二。同一文档被读三次，就产生三次训练消费；没被抽到的材料只是库存。筛选、抽样和重复一起改变训练经历。现在先问这些经历能否帮助新任务，稍后再把实际消费放进计算预算。
进一步解释
GPT-3原表同时报告数据集规模、混合权重与近似epoch；权重经过四舍五入，不能为使总和恰为100%擅改各项。完整五行表保留在本页阅读正文。
教师备课：指图与模拟问答
指图与推进 · 不朗读沿库存→筛选/抽样/重复→消费；指重复文档①。
本态来源与条件
三类输入为教学材料；库存、混合权重与重复口径对应GPT-3 Table2.2。
接下来
先看真实迁移评价，再谈材料怎样分配预算。
补充推导、边界与来源
| 材料 | 预测可能需要的依赖 |
|---|---|
| 奖杯／手提箱关系句 | 物体、容器、原因条件 |
| A/B实验记录 | 方案、数值、未测范围 |
| 字典与min调用代码 | 变量、键值对应、函数语义 |
库存①②③与训练流①②①③①②不同：前者有三份独特文档，后者发生六次读取。这只是说明计数身份，不是模型能力或泛化测量。
深入解释与来源
目标相同，材料让模型反复遇见的关系不同
相同的下一项预测目标可以面对物体关系、记录字段或代码操作等不同内容。材料选择改变反复要求模型处理的规律，但不能仅凭材料类别宣布能力已经获得。库存是可用语料；过滤、去重、抽样比例和重复决定实际训练消费。GPT-3训练300B tokens的语料表区分库存、混合权重与近似epoch，原论文四舍五入后的权重合计不强改为100%。
完整数据配比解释 · Goodfire五步局部表示观察。后者是InceptionV1案例，不是LLM能力证明。
来源与材料身份
- 原始入口：§2.2、Table2.2，PDF物理第9页：库存、训练混合权重、消费/重复分别列示
本页证据与条件
三类输入为教学材料；库存、混合权重与重复口径对应GPT-3 Table2.2。