深度学习TensorRT安装，以及VS2019、CUDA、cuDNN匹配

雨秒的對望

已于 2023-11-17 17:46:17 修改

阅读量3.4k

点赞数 3

CC 4.0 BY-SA版权

文章标签：深度学习人工智能 python c++

于 2023-11-17 15:13:38 首次发布

本文链接：https://blog.csdn.net/weixin_54678439/article/details/134403362

准备在Windows10上安装TensorRT用于深度学习，查询得知首先要安装CUDA和cuDNN，但安装之前要先安装VS，因为安装CUDA工具包时会自动安装vs中的一些插件，如果顺序反了的话，后续要手动配置，非常麻烦。当然安装之前还需要考虑自己电脑的配置，以及各版本之间是否匹配，减少不必要的麻烦！

已经提前配置好pycharm和Anaconda,选用python = 3.9的版本

一、安装准备

1、查看电脑的GPU是否支持TensorRT
在这里插入图片描述查询得知本人显卡GeForce GT 1030的算力为6.1，TensorRT支持计算能力在5.0及以上的显卡，可以安装

参考：
（1）Nvidia的显示GeForce GT 1030的算力
（2）TensorRT详细入门指北，如果你还不了解TensorRT

2、查看显卡支持的CUDA版本

（1）win+R打开cmd，输入nvidia-smi，即可看到显卡支持的cuda版本是12.2
在这里插入图片描述
3、查看VS跟CUDA可以匹配的版本

这里选择Windows11+VS2019+CUDA11.8
参考：Windows11+VS2019+CUDA11.8配置过程

4、查看电脑中是否安装CUDA

（1）打开命令提示符窗口（Windows键+R,输入cmd，回车）
（2）输入 nvcc -V
（3）如果电脑已经安装了CUDA，则会显示CUDA版本信息，如"CUDA Version 10.1"，如果没有安装，显示一下内容

在这里插入图片描述

二、VS2019安装(安装社区版的忽略此部分)

下载企业版离线包（因社区版无法安装）

（1）解压离线包后，打开文件找到vc_enterprise，以管理员身份运行

在这里插入图片描述

（2）根据自己的需要选择安装组件，正常选择上图2个功能就够了

在这里插入图片描述

（3）更改位置直接将字母C改成D,其他不要改，不要自己建文件夹

在这里插入图片描述 （4）启动后点击以后再说

在这里插入图片描述
（5）选择"继续但无需代码"

在这里插入图片描述
（6）点击使用产品密匙解锁

在这里插入图片描述

（7）输入产品密钥

在这里插入图片描述
VS 2019安装完毕！

三、CUDA和cuDNN安装

参考：【Windows11】Cuda和Cudnn详细安装教程

四、TensorRT安装(C++部署)

1、下载

下载地址：https://developer.nvidia.com/nvidia-tensorrt-8x-download

2、先注册会员下载

3、下载window10版本

在这里插入图片描述

4、解压到任意文件夹

在这里插入图片描述

5、把bin文件路径添加到系统环境变量中

在这里插入图片描述

6、复制lib目录下的所有dll文件到cuda的bin下

将 TensorRT-8.5.2.2\include中头文件copy到D:\CUDA\set_up\cuda11.8.0\include
将TensorRT-8.5.2.2\lib中所有lib文件copy到D:\CUDA\set_up\cuda11.8.0\lib\x64
将TensorRT-8.5.2.2\lib中所有dll文件copy 到D:\CUDA\set_up\cuda11.8.0\bin
在这里插入图片描述

7、conda的虚拟环境 ,执行下面三个命令

pip install nvidia-pyindex
pip install graphsurgeon
pip install uff

在这里插入图片描述

8、用VS2019 打开 D:\TensorRT-8.5.2.2\samples\sampleOnnxMNIST\sample_onnx_mnist

在这里插入图片描述
（1）生成界面如下：

在这里插入图片描述
（2）点击sample_onnx_mnist的生成

在这里插入图片描述（3）显示以下界面表示成功

在这里插入图片描述
8、配置TensorRT

（1）VC++目录，包含目录（就是include文件夹），库目录，就是刚才的lib所在文件夹

在这里插入图片描述

（2）为了防止后面执行exe操作闪退，添加getchar()到main函数下

在这里插入图片描述

9、编译成功后，会在 D:\TensorRT-8.5.2.2\bin路径下生成文件sample_onnx_mnist

在这里插入图片描述
（1）双击sample_onnx_mnist，出现找不到zlibwapi.dll

（2）自行下载：

下载地址http://www.winimage.com/zLibDll/
在这里插入图片描述
（3）将下载的压缩包中的zlibwapi.dll和zlibwapi.lib放于CUDA的bin和lib文件夹下

再次运行，成功！

在这里插入图片描述

五、TensorRT安装(python部署)

1、创建虚拟环境

打开conda命令控制台

conda create -n tensorrt python=3.9  #创建conda虚拟环境
activate tensorrt  #激活conda虚拟环境

2、查看CUDA安装版本

在这里插入图片描述
3、打开TensorRT文件夹内的python子目录，根据python版本选择好对应的whl文件

在这里插入图片描述

4、进入tensorrt的虚拟环境，安装tensorRT

pip install D:\TensorRT-8.5.2.2\python\tensorrt-8.5.2.2-cp39-none-win_amd64.whl

在这里插入图片描述

5、安装pycuda

PyCUDA是一种Python编程语言的扩展库，可以让开发者使用NVIDIA的CUDA平台编写GPU计算程序。CUDA是一种用于NVIDIA GPU的并行计算平台，它允许开发者利用GPU的高度并行性和内存带宽，提高计算速度和性能。

在这里插入图片描述

6、测试

在这里插入图片描述
TensorRT安装成功！