ModuleNotFoundError: No module named 'nvgpu'

### 解决 CUDA 库加载失败问题并确认 NVIDIA 驱动与 CUDA 版本兼容性 当在 Jetson Orin 上运行 PyTorch 并遇到 `libcudart.so.12 missing` 错误时，通常是因为系统中未正确安装或配置 CUDA 12.x 的运行时库。以下是详细的分析和解决方案： --- #### 1. **检查当前系统的 NVIDIA 驱动版本** 可以通过以下命令获取当前设备上的 NVIDIA 驱动版本： ```bash cat /proc/driver/nvidia/version ``` 此命令会返回类似以下的结果： ``` NVRM version: NVIDIA UNIX arm64 Kernel Module 540.4.0 Thu Oct 19 18:37:56 UTC 2023 GCC version: gcc version 10.3.1 20210422 (Jetson Linux SDK) ``` 这里显示的驱动版本为 `540.4.0`[^1]。 --- #### 2. **验证 CUDA 版本与驱动的兼容性** 根据 NVIDIA 官方文档，CUDA 12.6 支持的最低驱动版本为 `535.*` 及以上。因此，当前使用的驱动版本 `540.4.0` 是满足要求的[^2]。 可以进一步通过以下命令检查系统中已有的 CUDA 版本： ```bash nvcc --version ``` 或者查看 `/usr/local/cuda/version.txt` 文件的内容以确认 CUDA 是否已经安装以及其具体版本。 --- #### 3. **解决 `libcudart.so.12 missing` 问题** 如果系统确实缺少 `libcudart.so.12` 文件，则需要手动安装对应的 CUDA 运行时库。执行以下操作： ##### 下载 CUDA Toolkit 访问 NVIDIA 官方网站下载适合 Jetson Orin 的 CUDA 12.6 工具包： ```bash wget https://developer.download.nvidia.com/compute/cuda/12.6.0/local_installers/cuda_12.6.0_540.4.0_linux_aarch64_sbsa.run chmod +x cuda_12.6.0_540.4.0_linux_aarch64_sbsa.run sudo ./cuda_12.6.0_540.4.0_linux_aarch64_sbsa.run --silent --toolkit ``` ##### 刷新动态链接器缓存 安装完成后更新系统动态链接器缓存以使新的库生效： ```bash echo "/usr/local/cuda-12.6/targets/aarch64-linux/lib/" | sudo tee -a /etc/ld.so.conf.d/cuda-12.6.conf sudo ldconfig ``` --- #### 4. **设置环境变量** 为了确保 Python 脚本能正确找到 CUDA 库，需将 CUDA 的路径添加至环境变量中： ```bash export PATH=/usr/local/cuda-12.6/bin:$PATH export LD_LIBRARY_PATH=/usr/local/cuda-12.6/lib64:/usr/local/cuda-12.6/extras/CUPTI/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}} ``` 建议将上述两行写入用户的 `.bashrc` 或 `.zshrc` 文件中以实现持久化配置。 --- #### 5. **验证修复结果** 完成上述步骤后，再次尝试导入 PyTorch 来验证问题是否得到解决： ```python import torch print(f"CUDA Available: {torch.cuda.is_available()}") print(f"PyTorch Version: {torch.__version__}") print(f"CUDA Version: {torch.version.cuda}") ``` 如果没有报错且输出正确的 CUDA 版本信息，则表示问题已被成功解决。 --- #### 6. **其他注意事项** - 如果仍然存在错误，请检查是否存在多个不同版本的 CUDA 安装冲突情况，并清理不必要的旧版本。 - 对于 Jetson 设备，推荐使用官方提供的 JetPack SDK 来管理驱动和 CUDA 的一致性[^3]。 --- ###