虽然RNN可能会有加速,但DeepBench和NVIDIA目前仅支持单精度RNN推理。
NVIDIA Caffe2测试之ResNet50和ImageNet
虽然内核和深度学习数学运算可能很有用,但实际应用中是使用真实数据集进行训练的。使用标准的ILSVRC 2012图片集,在ImageNet上通过ResNet50模型来训练和推断,可以展示更具参考的性能数据。
虽然FP16和Tensor Core有单独的开关,但Titan V在启用和禁用Tensor Core的情况下运行FP16的性能是完全一样的。