16.2 蒸馏、剪枝与导出：量化之外的三件事#

量化并非模型压缩的唯一手段。蒸馏（Distillation）用大模型的输出作为监督信号训练一个更小的模型；剪枝（Pruning）删除对输出贡献较小的权重、注意力头或整层；导出（Export）将训练完成的模型转换为目标设备（移动端、边缘卡、CPU）运行时可高效执行的格式。三者通常与量化叠加使用。