超级会员免费看
本文介绍了如何使用TensorRT对YOLO系列模型进行加速，并提供了精度和速度对比。通过配置CUDA、cuDNN和TensorRT，编译生成YOLOv5s.engine并测试模型，结果显示cpp版TensorRT对YOLOv5s的加速效果显著，比python版快3倍。此外，还提及了Openvino在CPU上的加速效果，并预告了一个目标检测数据标注工具即将开源。
今天cv调包侠尝试了使用TensorRT 做YOLO的加速，先概述我这边实现的速度和精度对比：
精度上对比：
可以看到，精度上使用TensorRT 精度不掉，反而略微上升了一些些（具体情况未知，还在摸索）
TensorRT 速度上的对比：
![[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-brzkenlt-1607327705984)(D:\CSDN\pic\TensorRT\1607274607525.png)]](https://i-blog.csdnimg.cn/blog_migrate/2018dc5034113dd904ef67c4790f166e.png#pic_center)
另外值得注意的是，我使用的TensorRT的作者介绍说：YOLOV5 s小模型原本已经很快了，使用python版的tensorRT加速反而慢了一些，使用cpp版快了3倍，如果是使用YOLOV5 X的大模型，加速效果会更明显。
下面开始手把手教学，先大致说说思路：
1：配置cuda cudnn 和TensorRT ，先配置适合你的电脑的cuda cudnn，以及到Nvidia
订阅专栏 解锁全文
扫一扫
1万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
