11.5 DSpark:用半自回归 + 置信度调度做生产级投机解码#
DSpark 是 DeepSeek 提出的投机解码(Speculative Decoding)方案,针对生产服务的两个核心问题给出解答。其一是以半自回归(semi-autoregressive)架构,并行主干配一个轻量串行模块,补回并行起草丢失的块内依赖(intra-block dependency),从而缓解后缀衰减(suffix decay);其二是以置信度调度验证(confidence-scheduled verification),根据前缀存活概率与引擎吞吐画像为每个请求动态决定验证长度。在 DeepSeek-V4 的真实服务中,相对 MTP-1 生产基线、在同等吞吐下,DSpark 将单用户生成速度提升约 60%–85%[^dspark]。