2020/5/29
在 windows10 上面安装 CUDA 和 cuDNN
0、简单了解一下 CUDA 和 cuDNN
1）什么是 CUDA
CUDA(ComputeUnified Device Architecture)，是显卡厂商NVIDIA推出的运算平台。 CUDA是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。
2）什么是cuDNN
NVIDIA cuDNN是用于深度神经网络的GPU加速库。它强调性能、易用性和低内存开销。NVIDIA cuDNN可以集成到更高级别的机器学习框架中，如谷歌的Tensorflow、加州大学伯克利分校的流行caffe软件。简单的插入式设计可以让开发人员专注于设计和实现神经网络模型，而不是简单调整性能，同时还可以在GPU上实现高性能现代并行计算。
1、查看本机的CUDA 驱动适配版本
桌面右键打开英伟达控制面板，点击帮助->系统信息->组件
可以看到本机支持的是CUDA 10.1 版本，表示是不支持更高版本的。如果你升级驱动，可能会支持更高版本，也可能不会提升。所以就必须安装 10.1 及以下的版本。
2、CUDA 各个历史版本下载链接
https://developer.nvidia.com/cuda-toolkit-archive
那根据第一步里面我自己的机器支持，我就下载10.1（Feb 2019）这个版本。
可以看到版本号是10.1.105，低于第一步里面的10.1.120，应该是没问题的。我的下载速度还是很快的:
3、下载 cuDNN
地址：https://developer.nvidia.com/rdp/cudnn-download
下载cuDNN是需要登录英伟达开发者账户的，注册一个并填写问卷就行了，很简单。
注意：必须选择和你安装的CUDA匹配的版本。
这个账号密码要求有大写字母，有字符：G**_*
上面选择 10.1版本，然后选择 windows10 ，接着开始下载。
两百多兆的压缩包，不过这次下载速度很慢。
4、安装 CUDA 和 cuDNN
1）安装 CUDA
找到你下载的CUDA，无脑安装就行了。当然如果你想自定义的话要记住你选择的安装路径。
CUDA安装完成后，打开命令行输入 nvcc -V ，成功的话会返回 cuda 版本号：
2）cuDNN
解压cuDNN压缩包，可以看到bin、include、lib目录：
将 bin 目录里面的内容复制，然后粘贴到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA 对应的 bin 目录里面:
同样的，include 和 lib 目录里面的文件也复制到相应的文件夹里面。
5、添加环境变量
在系统环境变量的Path项下添加几个路径
点击 编辑 -- > 新建，需要添加下面两个路径（安装目录）：
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\lib\x64
6、查看安装结果
7、安装 pyTorch
进入官网 https://pytorch.org/get-started/locally/
在 Anaconda Prompt 里面运行下面自动生成的命令。
正常情况下到这里就可以慢慢下载成功安装了。
注：这里补充一下添加清华源的方法，命令如下，依次执行：
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
conda config --set show_channel_urls yes
然后执行安装命令：
conda install pytorch torchvision cudatoolkit=10.1 ( 去掉后面的 -c pytorch )
（注： 删除源的命令是 conda config --remove channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/ ）
安装中：
记录我在这里遇到了一些坑：
如果使用官方的源，会很慢很慢，如果使用清华源，会显示有些需要安装的包没有。
使用 conda install pytorch torchvision cudatoolkit=10.1 -c pytorch 命令，就会有些用官方源，有些用清华源。