18.5.1 CUDA GEMM 算子性能优化#

矩阵乘法（GEMM）是深度学习中最核心的计算原语；从全连接层到注意力机制，绝大多数运算最终都归结为矩阵乘法。