18.2.3 CUDA 内存模型#

现代 GPU 的计算吞吐率极高，例如 NVIDIA A100 在 FP16 精度、启用 Tensor Core 稀疏加速时的峰值可达 312 TFLOPS，但显存带宽仅约为 2 TB/s。