全部块走完，写回的是同一个注意力输出

把刚才两块的合并规则推广到更多块，这次示意分三块，没有另给一套数值。先固定右侧的 Q 块，把第一块 K/V 读进片上完成局部计算。现在图中第一块标为已处理：临时分数表用完可以释放，累计框中的 m、l、u 留下来。左边第二、三块仍待处理，没有被删除，因此这时不能写最终输出。

下一步读第二块。固定的 Q 没变，新的 K/V 块参与打分和汇总；必要时统一数值尺度，再更新同一个累计框。现在第一、二块都已处理，但第三块还在等待，所以依然不能收束。我们释放的是不用再保存的局部大表，不是已经积累的贡献。

再把第三块也走完，现在三块都标成已处理，才得到这个query块完整的输出。请注意最后这一步：分块不是只算一个局部答案，也不是把第一块算完就提前相信它；所有应当参与的位置都进入了结果。我们只是不把完整的大分数表和概率表反复写到显存里。

这就是FlashAttention的核心执行思路。训练反向需要一些中间结果时，还可以按块重算，增加一部分算术，换取少保存、少搬运。它计算的是同一类精确attention目标，不表示不同浮点实现逐位相同，也没有把稠密注意力的平方量级算术消掉。到这里，预算、存储和搬运这几个现实问题都能落到具体动作上了。现在让训练暂时结束，把参数保存下来，看看同一个模型面对用户请求时，哪些状态还在，哪些状态要重新产生。