返回课堂

完整深入材料 · 保留原页与全部停点。回到相关主讲

这段普通实验记录,怎样自己产生训练题?

N24/b0 · 普通记录

完整原文 · 教学构造的普通记录在相同设置下,A用时12秒,B用时8秒。未测量内存。
…A用时12秒,B用时未来不可读
→8
…B用时8秒。未测量未来不可读
→内存

教学记录;暂未添加任务指令

普通记录

刚才我们问,大量矩阵计算到底要反复算什么。现在拿回开场这份实验记录。它没有一道人工写好的选择题,也没有人逐句标注“这句话包含了比较能力”。它只是写了在相同设置下,A用时十二秒,B用时八秒,没有测量内存。这样的普通文字,已经可以变成训练材料。

教师备课:指图与模拟问答

指图与推进 · 不朗读指向完整记录,从 A 的 12 秒读到未测内存;此时不指下方尚未出现的题目。

N24/b1 · 从前缀找目标

完整原文 · 教学构造的普通记录在相同设置下,A用时12秒,B用时8秒。未测量内存。
…A用时12秒,B用时未来不可读
→8
…B用时8秒。未测量未来不可读
→内存

上方:完整资料 下方:当前可读输入与目标

从前缀找目标

先看模型读到“B用时”的这个位置。我们把后面的内容暂时挡住,请它给下一项文字分配概率;原始记录告诉我们,实际出现的是八。

教师备课:指图与模拟问答

指图与推进 · 不朗读推进一次,指向第一条输入副本的“B用时”和右侧目标 8;再指遮罩,区分资料区与输入副本。

N24/b2 · 再取一个位置

完整原文 · 教学构造的普通记录在相同设置下,A用时12秒,B用时8秒。未测量内存。
…A用时12秒,B用时未来不可读
→8
…B用时8秒。未测量未来不可读
→内存

上方:完整资料 下方:当前可读输入与目标

再取一个位置

再换一个位置,读到“未测量”,材料里后面是“内存”。这里不是老师临时发明一个正确答案,而是利用已经存在的后续文字产生监督。原文在我们手里是完整的,模型在当前预测时能读到多少,仍然要单独规定。

这件事有两个价值。第一,普通序列可以持续提供训练题,不必先为每个新领域设计一套人工标签。第二,不同位置提出的要求并不一样:有的更依赖表达习惯,有的需要把数字与对象对应起来,还有的需要更远的前文。我们先不急着把这些要求叫成某种智能;下一页把整段文字变成一排确切的输入和目标,看看训练究竟怎样组织。

进一步解释

训练目标采用原文实际出现的后续;它不会在每一步自动判断记录是否符合真实世界。资料质量的筛选与语言建模目标应分别考虑。

教师备课:指图与模拟问答

指图与推进 · 不朗读推进一次,依次指第二条前缀和“内存”,再比较两条题目;讲完转入同一原文的移位序列。

补充推导、边界与来源

普通记录能够提供语言建模监督:给定一段合法前缀,用材料里真实出现的下一单位作为目标。本例在“B用时”之后预测“8”,在“未测量”之后预测“内存”。完整原文属于资料区,模型的当前输入副本仍受因果限制。这里学习的是材料分布;训练目标本身不会自动核验记录是否符合真实世界。

来源与材料身份

  • 原始入口:§3.1,PDF物理第3页,语言建模目标;AB记录为本课教学构造
本页证据与条件

教学构造与教师参考;不是模型运行结果

进入主题正文