写CUDA,追求的就是加速比,想要得到准确的时间,计时函数就是必不可少
计时通常分为两种情况,(1)直接得到接口函数的时间,一般用于得到加速比;(2)获得接口函数内核函数、内存拷贝函数等所耗时间,一般用于优化代码时。
情况(1)方法有两种,CPU计时函数和GPU计时函数。
情况(2)有三种工具nsight,nvvp,nvprof
本文会详细介绍情况(1)的两种方法;情况(2)简单介绍一下nvvp和nvprof的用法。
CPU计时函数
在利用CPU计时函数时,要考虑的一个问题是:核函数的执行是异步执行的,所以必须加上核函数同步函数,才能得到准确的时间。
示例代码如下:
double cpuSecond() { struct timeval tp; gettimeofday(&tp,NULL); return ((double)tp.tv_sec + (double)tp.tv_usec*1.e-6); } double iStart = cpuSecond(); function(argument list); cudaDeviceSynchronize(); // 同步函数 double iElaps = cpuSecond() - iStart;
GPU计时函数
GPU计时函数就不需要考虑同步问题,直接用计时事件函数就可以了,
示例代码如下:
cudaEvent_t start, stop; float elapsedTime = 0.0; cudaEventCreate(&start); cudaEventCreate(&stop); cudaEventRecord(start, 0); function(argument list);; cudaEventRecord(stop, 0); cudaEventSynchronize(stop); cudaEventElapsedTime(&elapsedTime, start, stop); cout << elapsedTime << endl; cudaEventDestroy(start); cudaEventDestroy(stop);
nvvp和nvprof的用法
nvprof是自cuda5.0开始存在的一个命令行Profiler,你可以只用nvprof来你代码的一些执行细节。简单用法如下:
$ nvprof ./sumArraysOnGPU-timer
你就可以得到如下:
关于nvprof的更多参数信息,可以使用帮助命令:
$ nvprof --help
The NVIDIA Visual Profiler(nvvp)是一款图形化界面的Profiler
看文档 https://wenku.baidu.com/view/5796a1d2ad51f01dc281f1f9.html