0%

【CUDA编程】最常用的Bug Fixing方法

今天,西安下雪了,2020年的第一场雪,比往年来的早些。依稀记得,2010年刚来西安上学时,第一场雪是12月24日,由于是在平安夜,所以还能记得,一晃都十年了。。。。。。

在CUDA编程过程中,最易出错的部分就是内存的相关操作。时常出现的问题是:程序能够运行,但是其中的Kernel函数未能成功运行。这使得排错相对传统的C语言编程复杂。好在我们依旧可以使用最传统的方法:使用printf函数打印输出进行排查Bug。但是,printf函数在CUDA编程过程中,存在局限性。具体地说,运行在CPU上的代码和运行在GPU上的代码是异步的,运行在GPU核函数中的每个线程也是异步的。这使得printf函数的显示上比较复杂,不是那么直观。


这时,我们可以使用专门的错误检查库函数checkCudaError(),注意需要包含头文件#include <helper_functions.h>,#include <helper_cuda.h>。在CUDA编程中,最容易出错的是就是内存分配cudaMalloc()cudaMemcpy()。为了防止内存溢出,我们可以首先检查电脑中关于GPU的一些信息。这时,我们可以直接使用安装CUDA后自带的样例,具体位置在C:\ProgramData\NVIDIA Corporation\CUDA Samples\v10.1\1_Utilities\deviceQuery中。我的个人电脑配置如图1:

图1

在图1中,主要需要注意的有四点:

  • Total amount of shared memory per block
  • Total number of registers available per block
  • Maximum number of threads per multiprocessor
  • Maximum number of threads per block

在我们进行核函数配置和变量定义时需要注意上述四点。当然,我们还可以使用上述的checkCudaError来检查内存操作是否正常。

当我们包含头文件#include <helper_functions.h>,#include <helper_cuda.h>可能会出现错误: 无法打开包括文件 helper_cuda.h。这时我们需要在项目中添加目录,具体操作为:右键项目-> 属性->配置属性->C/C++->常规->附加包含目录:

图2

这里在目录中添加上述.h文件所在目录,默认目录为C:\ProgramData\NVIDIA Corporation\CUDA Samples\v10.1\common\inc。这样我们就可以正常使用checkCudaError()函数了,关于checkCudaError()函数的使用,可以自行搜索官方文档。由于我只是最简单地使用,我主要参考了CUDA自带的例子,就足够了。

坚持原创技术分享,您的支持将鼓励我继续创作!