在Jetson TX2开发套件上使用TensorRT7.1.0加速YOLOv4

前言

记录一下最近一两天的简单工作，我在把TX2开发套件刷机、安装最新的JetPack后，跑了跑TensorRT官方给的UFF-SSD示例，然后又把SSD的骨架网络换成轻量级的MobileNetv2，运行发现速度倒是非常不错，平均在20FPS以上，但精度嘛就比较抱歉了，在行人、车辆检测这种常规任务下性能表现得不如人意。当然主要原因是由于没有用特定场景的数据集进行训练微调，不过精度低的小体量模型确实不适合这类任务。于是我开始尝试在TX2上运行YOLOv3和YOLOv4，图个方便，我没有自己从头写代码，而是尝试在GitHub上找直接能用的代码进行测试。简单看了一下，GitHub上开源的支持在TX2上跑的仓库主要分为两大类：一是直接使用onnx转换darknet的YOLO模型为onnx格式，然后通过TensorRT加速后运行，无需TensorFlow、PyTorch等深度学习框架，典型的有：

• TensorRT-YOLOv4
• TensorRTx
• YOLO-TensorRT

二是使用PyTorch、TensorFlow等框架，先将darknet的YOLO模型进行转换，接着导出到onnx或者uff格式，最后经过TensorRT加速后运行，典型的有：

• PyTorch-YOLOv4
• TensorRT-Demos

我本着几个项目总有一两个能直接跑起来的想法，从