在Jetson nano中利用TensorRT进行推理加速yolov5-6.0

在Jetson nano中利用TensorRT进行推理加速yolov5-6.0

文章目录


说明:在我的 这篇文章中已经用了一位大佬的项目进行了推理加速,今天尝试用另一位大佬enazoe(要感谢一下大佬的热心解答!)的项目进行推理加速。

一、配置yolov5

详情见上面那篇文章

二、利用TensorRT推理加速

1.下载项目

下载地址:https://github.com/enazoe/yolo-tensorrt

2.转换文件

1.将yolo-tensorrt/scripts/yaml2cfg.py复制到yolov5下

cp yolo-tensorrt/scripts/yaml2cfg.py yolov5/

2.修改yaml2cfg.py

from utils.google_utils import *	#第三行
修改为
from utils.downloads import *
61和62行要修改为自己的pt和yaml文件的位置

3.生成weight和cfg文件

python3 yaml2cfg.py		#等待运行成功,会生成两个文件
mv yolov5/models/yolov5.cfg yolo-tensorrt/config/yolov5-6.0
mv yolov5/weights/yolov5.weights yolo-tensorrt/config/yolov5-6.0	#weights文件夹是自己创建的,可根据自己的进行查找

3.编译

cd yolo-tensorrt/modules/
修改plugin_factory.h的第35行,将#include "Nvinfer.h"修改为#include "NvInfer.h"
cd ..
mkdir build && cd build
cmake ..
make -j4

4.运行

./yolo-trt

参考

https://github.com/enazoe/yolo-tensorrt

上一篇:ONNX MLIR应用示例(含源码链接)


下一篇:在 OpenVINO 精度检查器工具中添加 DIoU-NMS 指标,以获取 YOLO v4 的正确 mAP