20.5 性能分析与 Benchmark#

对推理系统的优化效果必须依赖量化手段加以验证，本章将围绕大型语言模型推理场景，建立一套完整的性能评估体系。