返回课堂

生成引擎,也影响训练成本

V07/b0 · 回到生成→评分→更新

策略模型
生成多条候选
奖励/验证
形成反馈
训练更新
生成吞吐,也会影响后训练成本

RL rollout 反复调用推理。刚才的批处理、KV 管理与调度,也会影响训练流程里“收集候选”的效率。

此处回接机制,不增加新的算法或吞吐实测结论。

回到生成→评分→更新

最后把这套系统接回第一课时。我们讲强化学习时,先让模型生成若干候选,再评分,再更新参数。这里的候选生成常叫 rollout,它并没有绕过自回归过程:仍然要处理输入,维护 KV,逐步产生答案。所以批处理和推理引擎做得更有效率,也会影响后训练的成本。吞吐提高不保证奖励就正确、学习就有效,但能改变同一预算下可以承担多少生成。这样训练和使用不再是两座完全分离的岛:训练流程本身,也会反复调用刚才解释过的推理系统。我们现在回到开场,把整张工作图收起来。

教师备课:指图与模拟问答

指图与推进 · 不朗读教师指向当前高亮对象,随后推进。

补充推导、边界与来源

强化学习式后训练通常包含候选生成、评分与参数更新。生成候选轨迹常称 rollout,本质上也是模型在给定输入下逐步产生输出。批处理、KV 管理和调度效率因此不只影响面向用户的服务,也影响后训练采样阶段的时间与资源成本。

高吞吐并不自动等于高质量学习:奖励是否正确、候选是否有足够信息、更新策略是否稳定,仍由训练目标和方法决定。这里把服务系统回接到后训练的候选生成环节,目的是理解一个训练流程内部也可能反复使用推理能力,而不是额外引入一套新算法。

本页证据与条件

P04;P06;A09

进入主题正文