本页学习说明
R_A、R_B、R_C 是服务请求标识，与实验方案A/B无关。三个请求需要的生成轮数分别为2、4、2，且为隔离接纳规则，假设入场 prefill 已完成；每轮可安排两个示意生成槽。
固定整批策略：前两轮R_A/R_B并行，R_A结束后其独占状态可释放，但R_C要等R_B整批结束，所以第3/4轮一个槽空闲，第5/6轮R_C才生成。图中的槽表示调度机会，不是GPU为每请求永久划定的物理位置。
没有给每轮规定相同实测毫秒，也没有测量GPU吞吐，因此不能直接将轮数作硬件加速比。
原批处理演示 · PagedAttention §2.3，物理 p3。
阅读完整讲义