20.4 Prefill/Decode 解耦架构#

在大模型推理中，预填充（Prefill）与逐令牌解码（Decode）阶段的计算特性具有本质差异：前者属于计算密集型（Compute Bound），后者则受限于内存带宽（Memory Bound）。