nvidia container toolkits

### NVIDIA Container Toolkit 安装与配置指南 #### 前提条件在安装 NVIDIA Container Toolkit 之前，需确认系统已满足以下前提条件： - 已正确安装并运行 Docker[^1]。 - 系统支持 CUDA 并已安装最新版本的 NVIDIA 驱动程序。 #### 安装过程以下是针对 Ubuntu 和 Docker 的具体安装步骤： 1. **设置 NVIDIA 软件包仓库** 添加 NVIDIA 容器工具包软件源到系统的 APT 源列表中。执行以下命令完成操作： ```bash distribution=$(. /etc/os-release;echo $ID$VERSION_ID) curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add - curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list ``` 2. **更新 APT 缓存** 更新本地APT缓存以反映新添加的NVIDIA容器工具包软件源： ```bash sudo apt-get update ``` 3. **安装 nvidia-docker2 包** 使用 `apt` 来安装必要的组件： ```bash sudo apt-get install -y nvidia-docker2 ``` 4. **重启 Docker 服务** 完成上述安装后，重新启动 Docker 服务使更改生效： ```bash sudo systemctl restart docker ``` #### 测试安装为了验证 NVIDIA Container Toolkit 是否正常工作，可以创建一个测试容器来查看 GPU 设备的状态。通过以下命令实现这一目标： ```bash docker run --rm --gpus all nvidia/cuda:11.0-base nvidia-smi ``` 如果一切顺利，此命令会返回有关 GPU 的详细信息，包括但不限于型号、当前温度、功耗以及显存占用情况等数据。 #### 故障排查提示若遇到任何问题，请检查以下几个方面： - 确认主机上的 NVIDIA 驱动版本兼容所选 CUDA 版本； - 查看是否有权限不足的情况影响到Docker守护进程对GPU资源的调用； ```python import subprocess def check_gpu_info(): try: result = subprocess.run(['nvidia-smi'], stdout=subprocess.PIPE, stderr=subprocess.PIPE, text=True) return result.stdout except Exception as e: return str(e) print(check_gpu_info()) ```

阅读全文