tensorRT记录

FlyingAnt_

于 2021-10-27 16:58:43 发布

阅读量240

点赞数

CC 4.0 BY-SA版权

分类专栏： linux 文章标签： pytorch 人工智能 python

本文链接：https://blog.csdn.net/flying_ant2018/article/details/120996972

linux 专栏收录该内容

16 篇文章

订阅专栏

本文详细介绍了如何配置Nvidia-NGC容器，并通过ssh进行连接。同时，针对使用TensorRT部署Pytorch模型时遇到的`explicit_context_dependent failed: invalid device context - no currently active context`错误，提供了解决方案，即在代码中初始化CUDA环境。此外，还提及了镜像的定时备份策略，确保模型部署的安全性和可靠性。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

nvidia-docker run --rm -it --name test_tensorRT -e CUDA_VISIBLE_DEVICES=0 -p 8888:8888 -v `pwd`:/workspace -w /workspace/SemanticSegmentation nvcr.io/nvidia/pytorch:20.12-py3 bash

Nvidia-NGC容器配置全过程+ssh配置+镜像定时备份_Farm_Coder的博客-CSDN博客

使用TensorRT部署Pytorch模型_CabbageWust的博客-CSDN博客

1 tensorrt启动demo报错：

pycuda._driver.LogicError: explicit_context_dependent failed: invalid device context - no currently active context?

解决方法：

import pycuda.autoinit
import pycuda.driver as cuda

# 必须添加这样，才能保证stream调用正常
cuda.init()

stream = cuda.Stream()