8.1 · 搜索、验证器与推理蒸馏:用额外算力换更强推理#

单次前向推理的输出往往不可靠,但可以通过多次采样并从中挑选、令模型自我检查、或将上述能力压缩进更小的模型来提升可靠性,这三条路径分别对应搜索验证器推理蒸馏,共同构成测试时算力(test-time compute)这一新的扩展轴。

登录后才可看