27.1 从数值诊断到机制解释#

大模型调试可分为两个层次。工程层依据可观测的数值，损失、梯度、激活、注意力，判定训练或推理在何处失效以及如何恢复；机制层则将模型视为一段待逆向的程序，借助探针（probe）、激活修补（activation patching）、稀疏自编码器（SAE）追问其内部实际执行的计算。前者用于故障定位，后者用于理解结构，二者均不提供模型确实如此思考的结论性证据，只提供假设加证据。