CUDA 编程与算子优化#

CUDA 编程与算子优化从线程和内存模型出发，经 Reduce、GEMM、Softmax 与 FlashAttention 逐级训练性能推理能力，最终以编译器和 profiler 建立实现、测量、优化的闭环。