pytorch在docker里面使用GPU

已于 2024-05-20 09:47:14 修改 · 708 阅读 · 7
文章标签：

#pytorch #人工智能 #python

于 2024-05-17 11:28:45 首次发布

本博客主要介绍如何在容器里面使用pytorch进行推理，训练，同时用上GPU。

1. 前置条件，安装好docker。

2. 安装nvidia-container-toolkit

参考官方文档：

Installing the NVIDIA Container Toolkit — NVIDIA Container Toolkit 1.15.0 documentation

本教程使用的是yum安装

2.1  配置仓库

curl -s -L https://nvidia.github.io/libnvidia-container/stable/rpm/nvidia-container-toolkit.repo | \
  sudo tee /etc/yum.repos.d/nvidia-container-toolkit.repo

2.2 启用experimental packages  （可选）

sudo yum-config-manager --enable nvidia-container-toolkit-experimental

2.

arv1nChen
关注
win10系统通过docker部署pytorch的GPU环境
yilvyangguang520的博客
07-26 858
win10系统通过docker部署pytorch的GPU环境
nvidia-docker部署pytorch服务【GPU工作站】
什么都干的派森
11-15 781
打印了下面这段输出，说明 nvidia-docker 安装成功了。检查一下宿主机cuda和容器cuda版本是否对应。nvidia-docker 一般容器启动命令如下。安装 nvidia-docker。部署gpu服务的关键参数是。启动一个简单的容器测试一下。参考nvidia官方。centos安装方法。ubuntu安装方法。
PyTorch使用指定的GPU
SnailTyan
09-20 4742
pytorch指定GPU
史上最详细解决“搭建GPU版Pytorch Docker镜像”教程
SpadgerZ的博客
03-15 4976
CUDA版本对应的Pytorch版本 搭建GPU版本的Pytorch Docker镜像 了解并安装完Docker之后，来配置安装GPU版本的Pytorch Docker镜像。 1.拉取基础的操作系统镜像 关键命令：docker pull 具体指令：docker pull nvidia/cuda:10.1-cudnn7-devel-ubuntu16.04 操作完成之后，使用docker images命令查看当前docker中存在的镜像： 可以看到第一行就是所拉取的镜像，该镜像中已经安.
Docker容器化部署终极指南：构建可迁移的PyTorch推理环境（云原生丨深度学习丨人工智能丨机器学习丨神经网络）
最新发布
2501_91798322的博客
05-12 672
通过黄金镜像构建实现环境一致性，利用Triton推理服务器释放硬件性能，结合Kubernetes实现资源弹性调度，最终形成从开发到生产的全链路自动化体系。建议在实践中建立镜像版本管理系统（如Harbor），并通过CI/CD管道集成安全扫描和性能测试，确保AI模型在云原生环境中的稳定运行与高效迭代。云原生部署的核心在于。
docker篇---用docker创建pytorch gpu版本
心惠天意
03-17 6913
用docker创建pytorch gpu版本显卡驱动、镜像cuda版本、pytorch cuda版本三者对应1. 查看驱动版本2. 查看该驱动版本支持的cuda版本3. 查看pytorch是否支持该cuda版本镜像Dockerfile创建环境 显卡驱动、镜像cuda版本、pytorch cuda版本三者对应 1. 查看驱动版本 nvidia-smi查看显卡驱动版本 可以看到显卡驱动版本为：470.103.01 2. 查看该驱动版本支持的cuda版本 https://docs.nvidia.com/cuda
使用docker安裝GPU版pytorch
kelly1250230225的博客
06-17 246
参考链接添加链接描述最近使用docker 配置pytorch学习环境，花了很多时间学习怎么挂载，但是还是没走通，这个链接直接复制到容器中的，感觉比较容易理解，我是初学者，也能配置成功，感觉挺好用的，主要思路就是通过本机的文件夹路径复制到容器中的路径，最后实现本机与docker的文件挂载。...
docker容器部署pytorch模型，gpu加速部署运行
热门推荐
qq_15821487的博客
01-24 3万+
参考文章 https://www.zhihu.com/search?type=content&q=Docker%EF%BC%8C%E6%95%91%E4%BD%A0%E4%BA%8E%E3%80%8C%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0%E7%8E%AF%E5%A2%83%E9%85%8D%E7%BD%AE%E3%80%8D%E7%9A%84%E8%8B%A6%E6%B5%B7 https://blog.csdn.net/zhouchen1998/article/
pytorch-docker-for-pycharm：这是pycharm的pytorch docker仓库
02-23
pytorch-docker-for-pycharm 这是pytorm的pytorch docker-composit仓库 安装 安装步骤1：Docker 安装步骤2：nvidia工具包（用于gpu） 步骤2-1 sudo apt-get install -y apt-transport-...
如何在docker容器中使用GPU以及使用pytorch
六十英里的专栏
07-07 1万+
最近刚接触docker，如有不当，请指出。 1. 首先要解决在docker中可以使用GPU的问题。 官方给出了解决办法：https://github.com/NVIDIA/nvidia-docker 具体操作如下: step 1:确认本机可以检测到NVIDIA卡，通过下列命令看自己GPU卡的型号。 lspci -vv | grep -i nvidia step 2:新建nvidia-container-runtime-script.sh文件 touch nvidia-container-ru
Docker配置深度学习pytorch gpu环境
u013972657的博客
07-07 5051
docker gpu pytorch
pytorch 具有docker 版 并且带 jupyter_notebook ， 方便测试开发。
03-07
pytorch 具有docker 版 并且带 jupyter_notebook ， 方便测试开发。 pytorch 具有docker 版 并且带 jupyter_notebook ， 方便测试开发。 pytorch 具有docker 版 并且带 jupyter_notebook ， 方便测试开发。
使用 Docker + NVidia 运行 Pytorch 验证 GPU 是否性能高效
ndscvipuser的专栏
03-11 3089
本文主讲体验，方便深入理解为什么 GPU 这么高效，以及相关的对应措施。
在windows10系统上安装docker，然后在容器中运行GPU版本的Pytorch，并使用vscode连接该容器
m0_56192771的博客
03-14 1562
首先打开网址https://docs.docker.com/desktop/install/windows-install/下载完后，双击下面的exe文件进行安装，默认情况下，Docker Desktop 安装在出现提示时，请确保根据您选择的后端，在配置页面上选择如果您的系统仅支持两个选项中的一个，您将无法选择使用哪个后端。按照安装向导上的说明授权安装程序并继续安装。安装成功后，选择，完成安装过程。Docker Desktop的界面说明，使用方法，配置镜像源，镜像存放路径修改。
基于Docker的PyTorch深度学习环境配置（Ubuntu 22.04）
蒲威的博客
05-21 4836
在个人主机上面配置基于docker的pytorch深度学习环境，并配置了pycharm可以直接调用docker中的环境。
ubuntu安装docker配置pytorch环境、退出和启用进入容器、docker容器调用gpu报错、安装 NVIDIA Container Toolkit、容器调用gpu
weixin_44012667的博客
04-23 757
配置：nullnull。
ubuntu下Anaconda环境安装GPU的pytorch(docker镜像)
yusude123456的博客
11-09 982
网上的解决方法是添加清华源的镜像，但我的已经是清华源镜像了，所以解决方法是把timeout放大，600还是不行，把时间延长到1000.0就成功安装了。官网wget拉取linux的annaconda下载后，bash安装即可(因为实验室服务器没有梯子，个人是下载到了本地然后scp传输到了服务器)其中的 -c pytoch -c nvidia 建议去掉 因为有这个会默认按照annaconda的官网地址下载。后来网上查询清华镜像问题，很多都是不全的镜像，安装起来很容易装成cpu版本。👆最后采取的这一篇的安装方法。
在docker容器中使用GPU
09-23
在Docker容器中使用GPU通常涉及到几个关键步骤： 1. **GPU支持的镜像**：你需要基于支持GPU的Docker镜像，比如NVIDIA的官方镜像(nvidia/cuda)。这类镜像包含了必要的CUDA、cuDNN和其他GPU驱动程序。 2. **硬件加速**：确保你的主机上安装了适当的GPU硬件，并且已经启用CUDA和GPU计算服务，如nvidia-smi应该能正常运行。 3. **运行时挂载设备**：在启动容器时，需要通过`--device`选项将主机的GPU设备挂载到容器内，例如： ``` docker run --gpus all -it nvidia/cuda:latest /bin/bash ``` 或者使用`--runtime=nvidia`来指定NVIDIA Docker runtime。 4. **权限设置**：容器可能需要root权限才能访问GPU资源，所以可以使用`--cap-add=SYS_ADMIN`或`--ulimit`设置。 5. **安装必要的库**：在容器内部，可能还需要安装支持GPU的库（如PyTorch、TensorFlow等）并更新它们的环境变量指向正确的目录。 6. **验证 GPU 使用**：在容器内部，使用`nvidia-smi`或相应库的测试工具确认GPU已被识别和使用。 需要注意的是，不是所有的Docker平台都支持GPU功能，且可能存在兼容性和性能限制。在部署前，最好检查Docker主机的规格以及所选镜像的支持情况。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值