13.1 什么是扩散语言模型（Diffusion Language Model, DLM）#
扩散语言模型（Diffusion Language Model, DLM）不采用自回归模型从左到右逐词生成的方式，而是从一个全部由 [MASK] 构成的初始序列出发，经多步并行去噪，将整句同时填出。扩散语言模型（Diffusion Language Model, DLM）不采用自回归模型从左到右逐词生成的方式，而是从一个全部由 [MASK] 构成的初始序列出发，经多步并行去噪，将整句同时填出。