👋 Welcome To Bo's Blog

CUDA 内存优化实践

基于 NVIDIA H200 的 CUDA 内存实验,验证连续拷贝、向量化访存、跨步与非对齐访问、AoS/SoA、矩阵转置及共享内存 bank conflict 对带宽和耗时的影响。

CUDA 中的内存组织

从寄存器、共享内存到全局内存,梳理 CUDA 各级内存的作用域、生命周期与物理位置,并展开共享内存的 bank conflict 与全局内存的合并访存两类访存优化。

CUDA 中的线程组织

从异构系统与 GPU 硬件结构出发,梳理 Grid / Cluster / Block / Warp / Thread 五层线程组织,以及它们与 GPU、GPC、SM、CUDA Core 的对应关系。

© Licensed Under CC BY-NC-SA 4.0