9.2.4 前缀缓存（Prefix Caching / KV 复用）#
真实负载中，大量请求的开头是相同的，同一段系统提示词、同一批少样本示例、同一串多轮历史、同一份 RAG 文档。对每条请求重新 Prefill 这段共享前缀是可以消除的重复计算。前缀缓存（Prefix Caching）将前缀对应的 KV-Cache 保存下来，命中时跳过该段 Prefill，只计算新增后缀[^sglang][^vllm-apc]。
真实负载中，大量请求的开头是相同的，同一段系统提示词、同一批少样本示例、同一串多轮历史、同一份 RAG 文档。对每条请求重新 Prefill 这段共享前缀是可以消除的重复计算。前缀缓存（Prefix Caching）将前缀对应的 KV-Cache 保存下来，命中时跳过该段 Prefill，只计算新增后缀[^sglang][^vllm-apc]。