4.4 评测:怎么知道模型好不好#
评测通过两类度量刻画模型质量,连续的损失(loss)与离散的任务得分;量法(zero/few-shot、CoT、精确匹配或选项概率)对分数的影响往往超过模型本身,而分数又可能被数据污染、榜单博弈与裁判偏置系统性地扭曲。因此,正确解读一个分数比提高一个分数更难。
评测通过两类度量刻画模型质量,连续的损失(loss)与离散的任务得分;量法(zero/few-shot、CoT、精确匹配或选项概率)对分数的影响往往超过模型本身,而分数又可能被数据污染、榜单博弈与裁判偏置系统性地扭曲。因此,正确解读一个分数比提高一个分数更难。