GPU加速图像处理|【OpenCL】OpenCL编程基本流程及完整示例

1. 选择OpenCL平台并创建一个上下文

平台(Platform)是指主机和OpenCL管理框架下的若干个设备构成的可以运行OpenCL程序的完整硬件系统,这个是跑OpenCL程序的基础,所以第一步要选择一个可用的OpenCL品台。一台机器上可以有不止一个这样的品台,一个平台也可以有不止一个GPU。
主要涉及的函数: clGetPlatformIDs() ,用于获取可用的平台;
clCreateContextFromType(), 创建一个OpenCL运行时山下文环境;


2. 选择设备并创建命令队列

选择平台并创建好OpenCL上下文环境之后,要做的事选择运行时用到的设备,还要创建一个命令队列,命令队列里定义了设备要完成的操作,以及各个操作的运行次序。
主要涉及的函数:clCreateCommandQueue(),用于创建一个指定设备上的上下文环境,第二个参数定义了选择的设备。


3. 创建和构建程序对象

程序对象用来存储与上下文相关联的设备的已编译可执行代码,同时也完成内核源代码的加载编译工作。
主要涉及的函数:clCreateProgramWithSource(), 这个函数会创建一个程序对象,在创建的同时,把已经转化成字符串形式的内核源代码加载到该程序对象中。
clBuildProgram()用于编译指定程序对象中的内核源代码,编译成功之后,再把编译代码存储在程序对象中。


4. 创建内核和内存对象

要执行程序对象中的已编译成功的内核运算,需要在内存中创建内核并分配内核函数的参数,在GPU上定义内存对象并分配存储空间。
主要涉及的函数:clCreateKernel(),创建内核;
clCreateBuffer(),分配内存对象的存储空间,这些对象可以由内核函数直接访问。

5. 设置内核数据并执行内核

创建内核和内存对象之后,接下来要设置核函数的数据,并将要执行的内核排队。
主要涉及的函数:clEnqueueNDRangeKernel(),用于设置内核函数的所有参与运算的数据。利用命令队列对要在设备上执行的内核排队。需要注意的是,执行内核排队之后并不意味着这个内核一定会立即执行,只是排队到了执行队列中。

6. 读取执行结果并释放OpenCL资源

内核执行完成之后,需要把数据从GPU拷贝到CPU中,供主机进一步处理,所有者写工作完成之后需要释放所有的OpenCL资源。
主要涉及的函数:clEnqueueReadBuffer(),读取设备内存数据到主机内存;
clReleaseXXX(),释放OpenCL资源。


以下程序包含了以上所有6个步骤,功能很简单,实现两个数组求和。
主程序:

[cpp]view plain copy print ?

  1. #include
  2. #include
  3. #include
  4. #include
  5. const int ARRAY_SIZE = 1000;
  6. //一、 选择OpenCL平台并创建一个上下文
  7. cl_context CreateContext()
  8. {
  9. cl_int errNum;
  10. cl_uint numPlatforms;
  11. cl_platform_id firstPlatformId;
  12. cl_context context = NULL;
  13. //选择可用的平台中的第一个
  14. errNum = clGetPlatformIDs(1, &firstPlatformId, &numPlatforms);
  15. if (errNum != CL_SUCCESS || numPlatforms <= 0)
  16. {
  17. std::cerr << "Failed to find any OpenCL platforms." << std::endl;
  18. return NULL;
  19. }
  20. //创建一个OpenCL上下文环境
  21. cl_context_properties contextProperties[] =
  22. {
  23. CL_CONTEXT_PLATFORM,
  24. (cl_context_properties)firstPlatformId,
  25. 0
  26. };
  27. context = clCreateContextFromType(contextProperties, CL_DEVICE_TYPE_GPU,
  28. NULL, NULL, &errNum);
  29. return context;
  30. }
  31. //二、 创建设备并创建命令队列
  32. cl_command_queue CreateCommandQueue(cl_context context, cl_device_id *device)
  33. {
  34. cl_int errNum;
  35. cl_device_id *devices;
  36. cl_command_queue commandQueue = NULL;
  37. size_t deviceBufferSize = -1;
  38. // 获取设备缓冲区大小
  39. errNum = clGetContextInfo(context, CL_CONTEXT_DEVICES, 0, NULL, &deviceBufferSize);
  40. if (deviceBufferSize <= 0)
  41. {
  42. std::cerr << "No devices available.";
  43. return NULL;
  44. }
  45. // 为设备分配缓存空间
  46. devices = new cl_device_id[deviceBufferSize / sizeof(cl_device_id)];
  47. errNum = clGetContextInfo(context, CL_CONTEXT_DEVICES, deviceBufferSize, devices, NULL);
  48. //选取可用设备中的第一个
  49. commandQueue = clCreateCommandQueue(context, devices[0], 0, NULL);
  50. *device = devices[0];
  51. delete[] devices;
  52. return commandQueue;
  53. }
  54. // 三、创建和构建程序对象
  55. cl_program CreateProgram(cl_context context, cl_device_id device, const char* fileName)
  56. {
  57. cl_int errNum;
  58. cl_program program;
  59. std::ifstream kernelFile(fileName, std::ios::in);
  60. if (!kernelFile.is_open())
  61. {
  62. std::cerr << "Failed to open file for reading: " << fileName << std::endl;
  63. return NULL;
  64. }
  65. std::ostringstream oss;
  66. oss << kernelFile.rdbuf();
  67. std::string srcStdStr = oss.str();
  68. const char *srcStr = srcStdStr.c_str();
  69. program = clCreateProgramWithSource(context, 1,
  70. (const char**)&srcStr,
  71. NULL, NULL);
  72. errNum = clBuildProgram(program, 0, NULL, NULL, NULL, NULL);
  73. return program;
  74. }
  75. //创建和构建程序对象
  76. bool CreateMemObjects(cl_context context, cl_mem memObjects[3],
  77. float *a, float *b)
  78. {
  79. memObjects[0] = clCreateBuffer(context, CL_MEM_READ_ONLY | CL_MEM_COPY_HOST_PTR,
  80. sizeof(float) * ARRAY_SIZE, a, NULL);
  81. memObjects[1] = clCreateBuffer(context, CL_MEM_READ_ONLY | CL_MEM_COPY_HOST_PTR,
  82. sizeof(float) * ARRAY_SIZE, b, NULL);
  83. memObjects[2] = clCreateBuffer(context, CL_MEM_READ_WRITE,
  84. sizeof(float) * ARRAY_SIZE, NULL, NULL);
  85. return true;
  86. }
  87. // 释放OpenCL资源
  88. void Cleanup(cl_context context, cl_command_queue commandQueue,
  89. cl_program program, cl_kernel kernel, cl_mem memObjects[3])
  90. {
  91. for (int i = 0; i < 3; i++)
  92. {
  93. if (memObjects[i] != 0)
  94. clReleaseMemObject(memObjects[i]);
  95. }
  96. if (commandQueue != 0)
  97. clReleaseCommandQueue(commandQueue);
  98. if (kernel != 0)
  99. clReleaseKernel(kernel);
  100. if (program != 0)
  101. clReleaseProgram(program);
  102. if (context != 0)
  103. clReleaseContext(context);
  104. }
  105. int main(int argc, char** argv)
  106. {
  107. cl_context context = 0;
  108. cl_command_queue commandQueue = 0;
  109. cl_program program = 0;
  110. cl_device_id device = 0;
  111. cl_kernel kernel = 0;
  112. cl_mem memObjects[3] = { 0, 0, 0 };
  113. cl_int errNum;
  114. // 一、选择OpenCL平台并创建一个上下文
  115. context = CreateContext();
  116. // 二、 创建设备并创建命令队列
  117. commandQueue = CreateCommandQueue(context, &device);
  118. //创建和构建程序对象
  119. program = CreateProgram(context, device, "HelloWorld.cl");
  120. // 四、 创建OpenCL内核并分配内存空间
  121. kernel = clCreateKernel(program, "hello_kernel", NULL);
  122. //创建要处理的数据
  123. float result[ARRAY_SIZE];
  124. float a[ARRAY_SIZE];
  125. float b[ARRAY_SIZE];
  126. for (int i = 0; i < ARRAY_SIZE; i++)
  127. {
  128. a[i] = (float)i;
  129. b[i] = (float)(ARRAY_SIZE - i);
  130. }
  131. //创建内存对象
  132. if (!CreateMemObjects(context, memObjects, a, b))
  133. {
  134. Cleanup(context, commandQueue, program, kernel, memObjects);
  135. return 1;
  136. }
  137. // 五、 设置内核数据并执行内核
  138. errNum = clSetKernelArg(kernel, 0, sizeof(cl_mem), &memObjects[0]);
  139. errNum |= clSetKernelArg(kernel, 1, sizeof(cl_mem), &memObjects[1]);
  140. errNum |= clSetKernelArg(kernel, 2, sizeof(cl_mem), &memObjects[2]);
  141. size_t globalWorkSize[1] = { ARRAY_SIZE };
  142. size_t localWorkSize[1] = { 1 };
  143. errNum = clEnqueueNDRangeKernel(commandQueue, kernel, 1, NULL,
  144. globalWorkSize, localWorkSize,
  145. 0, NULL, NULL);
  146. // 六、 读取执行结果并释放OpenCL资源
  147. errNum = clEnqueueReadBuffer(commandQueue, memObjects[2], CL_TRUE,
  148. 0, ARRAY_SIZE * sizeof(float), result,
  149. 0, NULL, NULL);
  150. for (int i = 0; i < ARRAY_SIZE; i++)
  151. {
  152. std::cout << result[i] << " ";
  153. }
  154. std::cout << std::endl;
  155. std::cout << "Executed program succesfully." << std::endl;
  156. getchar();
  157. Cleanup(context, commandQueue, program, kernel, memObjects);
  158. return 0;
  159. }



核函数文件“HelloWorld.cl”:


[cpp]view plain copy print ?
  1. __kernel void hello_kernel(__global const float *a,
  2. __global const float *b,
  3. __global float *result)
  4. {
  5. int gid = get_global_id(0);
  6. result[gid] = a[gid] + b[gid];
  7. }

执行结果: 【GPU加速图像处理|【OpenCL】OpenCL编程基本流程及完整示例】 GPU加速图像处理|【OpenCL】OpenCL编程基本流程及完整示例
文章图片

    推荐阅读