NVIDIA 安装tensorrt

### 安装和配置 NVIDIA TensorRT 的指南 #### 1. 使用 Docker 和 NVIDIA Container Toolkit 配置 TensorRT 开发环境 为了在支持 GPU 加速的环境中运行 TensorRT，推荐使用 Docker 并配合 NVIDIA Container Toolkit。这可以通过以下方式实现： - **安装 NVIDIA Container Toolkit** 参考 NVIDIA 官方文档中的指导[^1]，完成 NVIDIA Container Toolkit 的安装过程。该工具允许 Docker 实例访问主机上的 GPU 资源。 ```bash distribution=$(. /etc/os-release;echo $ID$VERSION_ID) curl -s -L https://nvidia.github.io/nvidia-container-runtime/gpgkey | sudo apt-key add - curl -s -L https://nvidia.github.io/nvidia-container-runtime/$distribution/nvidia-container-runtime.list | sudo tee /etc/apt/sources.list.d/nvidia-container-runtime.list sudo apt-get update && sudo apt-get install nvidia-container-toolkit sudo systemctl restart docker ``` - **验证安装成功与否** 运行 `docker run --rm --gpus all nvidia/cuda:11.0-base nvidia-smi` 命令来确认 Docker 是否能够正常调用 GPU 设备。 --- #### 2. Windows + Anaconda 下配置 TensorRT 环境 如果目标是在 Windows 上利用 Anaconda 创建虚拟环境并集成 TensorRT，则可遵循以下流程： - **创建 Conda 虚拟环境** 执行命令以新建一个 Python 版本适配的虚拟环境，并激活它[^2]。 ```bash conda create -n tensorrt_env python=3.8 conda activate tensorrt_env ``` - **安装必要的依赖项** 在虚拟环境下安装基础库以及 TensorRT 支持包。 ```bash pip install numpy protobuf onnx graphviz ``` - **下载并解压预编译好的 TensorRT 库** 访问 [NVIDIA Developer Zone](https://developer.nvidia.com/tensorrt)，注册账号后获取对应版本的 TensorRT SDK 文件。将其提取至指定目录（如 `C:\tensorrt\7.2.1`），随后设置系统 PATH 来指向这些二进制文件的位置[^3]。 --- #### 3. 在 NVIDIA Jetson 平台上部署 TensorRT 对于嵌入式设备（例如 Jetson Nano 或 Xavier NX），需借助特定硬件优化过的镜像构建容器化解决方案： - **准备 Host 系统与 Target 设备间的通信链路** 利用 Ubuntu 主机执行 SdkManager 工具下载适合的目标板卡固件组合[^4]。之后将生成的数据集传输给实际运行时所在的物理节点。 - **启动基于 JetPack 的定制化映射层** 构建专属于当前架构类型的 L4T (Linux For Tegra) OS Image 同时引入最新版驱动程序补丁集合。 ```bash # 示例脚本片段用于说明操作逻辑而非直接复制粘贴 docker build -t jetson_tensorrt . docker run --runtime=nvidia -it jetson_tensorrt bash ``` --- #### 总结 以上方法涵盖了主流场景下的 TensorRT 设置途径——无论是云端服务器还是桌面级 PC，亦或是边缘计算单元均可适用相应策略达成目的。