PaddleOCR——Visual Studio 2019 环境下C++推理部署 CMake 编译解决方案

2022-08-18 09:17:06

官方文档

https://gitee.com/paddlepaddle/PaddleOCR/blob/develop/deploy/cpp_infer/docs/windows_vs2019_build.md

环境配置

Visual Studio 2019

CUDA 9.0 / CUDA 10.0，cudnn 7+ （仅在使用GPU版本的预测库时需要）

CMake 3.19.3

PaddleOCR 2.0.0

PaddlePaddle 预测库 2.0.1

OpenCV 3.4.6

下面所有示例以工作目录为 D:\projects演示。

Step1: 下载PaddlePaddle C++ 预测库 paddle_inference

PaddlePaddle C++ 预测库针对不同的CPU和CUDA版本提供了不同的预编译版本，请根据实际情况下载: C++预测库下载列表

解压后D:\projects\paddle_inference目录包含内容为：

paddle_inference
├── paddle # paddle核心库和头文件
|
├── third_party # 第三方依赖库和头文件
|
└── version.txt # 版本和编译信息

Step2: 安装配置OpenCV

在OpenCV官网下载适用于Windows平台的3.4.6版本，下载地址
运行下载的可执行文件，将OpenCV解压至指定目录，如D:\projects\opencv
配置环境变量，如下流程所示
- 我的电脑->属性->高级系统设置->环境变量
- 在系统变量中找到Path（如没有，自行创建，这不可能没有），并双击编辑
- 新建，将opencv路径填入并保存，如D:\projects\opencv\build\x64\vc14\bin

Step3: 下载PaddleOCR

https://gitee.com/PaddlePaddle/PaddleOCR

Step4: 编译CMake

使用Visual Studio 2019直接编译CMake

官方方法：作者并没有成功，问题出现在第四步，根本不显示要配置的参数

打开Visual Studio 2019 Community，点击继续但无需代码
点击： 文件->打开->CMake

选择项目代码所在路径，并打开CMakeList.txt：

点击：项目->cpp_inference_demo的CMake设置

点击浏览，分别设置编译选项指定CUDA、CUDNN_LIB、OpenCV、Paddle预测库的路径

三个编译参数的含义说明如下（带*表示仅在使用GPU版本预测库时指定, 其中CUDA库版本尽量对齐，使用9.0、10.0版本，不使用9.2、10.1等版本CUDA库）：

参数名	含义
*CUDA_LIB	CUDA的库路径
*CUDNN_LIB	CUDNN的库路径
OPENCV_DIR	OpenCV的安装路径
PADDLE_LIB	Paddle预测库的路径

注意：

使用CPU版预测库，请把WITH_GPU的勾去掉
如果使用的是openblas版本，请把WITH_MKL勾去掉

设置完成后, 点击上图中保存并生成CMake缓存以加载变量。

点击生成->全部生成

使用CMake GUI生成项目Visual Studio 2019编译CMake

下载CMake GUI
https://cmake.org/runningcmake/
生成Visual Studio 2019项目工程

(截止2020.04.03)由于预测库的lib文件名变动

手动修改CMakeLists.txt

PaddleOCR\deploy\cpp_infer\build 下生成Visual Studio 2019工程：

4. 生成

Step5: 下载模型

模型下载地址即官网的推理模型：https://gitee.com/PaddlePaddle/PaddleOCR ，选在inference model 下载即可：

models 即deb, cls, rec模型存放文件夹：

每个模型文件夹下分别包含：pdmodel pdparams 和 pdparams.ino 三个文件。

Step6: 预测及可视化

上述Visual Studio 2019编译产出的可执行文件在out\build\x64-Release目录下，打开cmd，并切换到该目录：

cd D:\projects\PaddleOCR\deploy\cpp_infer\out\build\x64-Release

可执行文件ocr_system.exe即为样例的预测程序，其主要使用方法如下

#预测图片 `D:\projects\PaddleOCR\doc\imgs\10.jpg`  
.\ocr_system.exe D:\projects\PaddleOCR\deploy\cpp_infer\tools\config.txt D:\projects\PaddleOCR\doc\imgs\10.jpg

第一个参数为配置文件路径，第二个参数为需要预测的图片路径。

常见问题

PaddleOCR——C++服务端部署Visual Studio 2019 环境下CMake 编译错误【无法打开输入文件paddle_fluid.lib】解决方案
在Windows下的终端中执行文件exe时，可能会发生乱码的现象，此时需要在终端中输入CHCP 65001，将终端的编码方式由GBK编码(默认)改为UTF-8编码，更加具体的解释可以参考这篇博客：https://blog.csdn.net/qq_35038153/article/details/78430359。

参考文章

Windows 下 PaddleOCR C++推理部署 cmake vs2017
https://blog.csdn.net/qq_35038153/article/details/78430359

码农公寓