CUDA编程基础:线程标识符计算，以及并行运算原理，关于GPU并行运算索引的通俗讲解

鼾声鼾语

已于 2022-09-18 10:54:36 修改

阅读量578

点赞数

CC 4.0 BY-SA版权

分类专栏： IsaacSim及强化学习一看就懂系列和机器人\自动驾驶相关文章标签：深度学习 linux 人工智能自动驾驶边缘计算

于 2022-09-17 16:26:40 首次发布

本文链接：https://blog.csdn.net/pvmsmfchcs/article/details/126902109

IsaacSim及强化学习一看就懂系列和机器人\自动驾驶相关专栏收录该内容

213 篇文章 ¥89.90 ¥99.00

订阅专栏

本文介绍了CUDA编程的基础概念，包括2-dim线程块模型、线程标识符计算以及内存限制。CUDA编程模型通过dim3定义线程块和网格尺寸，利用threadIdx和blockIdx计算全局索引，实现GPU并行运算。同时，文章讨论了不同维度块中的线程ID计算，并提供了GPU加法和转置操作的代码验证案例链接。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1，CUDA编程的基本概念

对于一个2-dim的block(D_x, D_y) ，既指的是二维的平面的block模型;
gridDim: 这个变量包含网格的维度
blockIdx: 这个变量包含了网格中的线程块索引(0~gridDim-1)
blockDim: 这个变量包含了线程块的维度
threadIdx: 这个变量包含了线程块中的线程索引(0~blockDim-1)
您似乎对 CUDA 的线程层次结构有些困惑；简而言之，对于cuda核，将有 1 个网格（我总是将其可视化为 3 维立方体）。它的每个元素都是一个块，因此一个网格声明为 dim3 grid(10, 10, 2);将有 10102 总块。反过来，每个块都是线程的 3 维立方体。

A:通过 **dim3 blockSize(256); dim3 gridSize((N + blockSize.x - 1) / blockSize.x)；**定义GPU并行运算的模型矩阵，可以是二维矩阵，也可以是三维矩阵；
B：通过：// （获取全局索引）int index = threadIdx.x + blockIdx.x * blockDim.x;这种用A的矩阵的方式，来获取共享变量中的数据，然后在进行加减z[i] = x[i] + y[i];，这种索引可以是二位索引，也可以是三维索引；因为是在kenal方法中，所以这种加法是可以直接进行并行运算的。