2.2 搜索、约束生成与工程正确性#

把模型每步给出的概率分布转化为一段可用、合法、可流式送达用户的文本，依赖的不只是采样，还包括在多条序列路径中挑选最优的搜索、禁止输出非法 token 的约束，以及一系列容易被低估的工程正确性细节。