本页学习说明
按 N54 的128 KiB/token配置，两个请求各含4096 token共同前缀与2048 token独立尾部。未共享时两份6144 token共12288 token，即1.5 GiB；共享一份前缀后总量4096+2×2048=8192 token，即1 GiB。
精确前缀复用要求同模型、相同 token 序列和兼容的位置及计算条件。文本含义相似不保证 K/V 相同；前文或前缀某个 token 改变后，从改变位置起的后续状态需要重新判断，不能把全段旧缓存当作可原样复用。共同前缀之前未改变且条件兼容的部分仍可独立核对。
两个尾部各有自己的状态和生成路径。共享节省重复 KV，也可能省重复 prefill，但不表示两条请求的全部计算合并。旧材料中的三请求2.25→1.25 GiB是另一构造，与本页两请求1.5→1 GiB分开。
前缀匹配与 RadixAttention / SGLang · 服务主题 · PagedAttention §4.4，物理 p7–8。
阅读完整讲义