CUDA -- cuda测试中的计时方式(程序/工具)

写CUDA,追求的就是加速比,想要得到准确的时间,计时函数就是必不可少

计时通常分为两种情况,(1)直接得到接口函数的时间,一般用于得到加速比;(2)获得接口函数内核函数、内存拷贝函数等所耗时间,一般用于优化代码时。 

情况(1)方法有两种,CPU计时函数和GPU计时函数。

情况(2)有三种工具nsight,nvvp,nvprof

本文会详细介绍情况(1)的两种方法;情况(2)简单介绍一下nvvp和nvprof的用法。

CPU计时函数 

在利用CPU计时函数时,要考虑的一个问题是:核函数的执行是异步执行的,所以必须加上核函数同步函数,才能得到准确的时间。

示例代码如下:

double cpuSecond() {

    struct timeval tp;

    gettimeofday(&tp,NULL);

    return ((double)tp.tv_sec + (double)tp.tv_usec*1.e-6);

}

double iStart = cpuSecond();

function(argument list);

cudaDeviceSynchronize();  // 同步函数

double iElaps = cpuSecond() - iStart;

 

GPU计时函数

GPU计时函数就不需要考虑同步问题,直接用计时事件函数就可以了

示例代码如下:

cudaEvent_t start, stop;

float elapsedTime = 0.0;

cudaEventCreate(&start);

cudaEventCreate(&stop);

cudaEventRecord(start, 0);

function(argument list);;

cudaEventRecord(stop, 0);

cudaEventSynchronize(stop);

cudaEventElapsedTime(&elapsedTime, start, stop);

cout << elapsedTime << endl; 

cudaEventDestroy(start);

cudaEventDestroy(stop);

 

nvvp和nvprof的用法

nvprof是自cuda5.0开始存在的一个命令行Profiler,你可以只用nvprof来你代码的一些执行细节。简单用法如下:

$ nvprof ./sumArraysOnGPU-timer

你就可以得到如下:

CUDA -- cuda测试中的计时方式(程序/工具)

 

 

关于nvprof的更多参数信息,可以使用帮助命令:

$ nvprof --help

The NVIDIA Visual Profiler(nvvp)是一款图形化界面的Profiler

看文档  https://wenku.baidu.com/view/5796a1d2ad51f01dc281f1f9.html

上一篇:VUE事件修饰符


下一篇:Go timer 是如何被调度的?