python运行yolo时候怎么改成gpu运行

### 将 YOLO 模型从 CPU 运行切换到 GPU 的配置方法 为了使 YOLO 模型能够在 GPU 上运行而不是默认的 CPU，通常需要完成以下几个方面的调整： #### 1. 安装 NVIDIA 驱动程序和 CUDA 工具包 确保已经安装了适合硬件版本的 NVIDIA 显卡驱动以及对应的 CUDA Toolkit。这一步对于支持 GPU 加速至关重要[^1]。 ```bash sudo apt update sudo apt install nvidia-driver-<version> distribution=$(. /etc/os-release;echo $ID$VERSION_ID) \ && curl -fsSL https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64/7fa2af80.pub | sudo gpg --dearmor -o /usr/share/keyrings/nvidia.gpg \ && echo "deb [signed-by=/usr/share/keyrings/nvidia.gpg] https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64 /" | sudo tee /etc/apt/sources.list.d/cuda.list \ && sudo apt-get update && sudo apt-get -y install cuda ``` 上述命令会更新并安装最新的 CUDA 版本及其依赖项。 #### 2. 安装 cuDNN 库 cuDNN 是由 NVIDIA 提供的一个深度神经网络库，它能够显著提升基于 GPU 的计算性能。下载对应于所选 CUDA 版本的 cuDNN 并解压至指定目录。 ```bash tar -xzvf cudnn-*-linux-x64-v*-*.tgz sudo cp cuda/include/cudnn*.h /usr/local/cuda/include sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64 sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn* ``` 这些操作将把必要的头文件与动态链接库复制到系统路径下以便 TensorFlow 或 PyTorch 能够识别它们。 #### 3. 修改框架设置以启用 GPU 支持 如果使用的是 Darknet 原生实现，则需编辑 Makefile 文件中的 `GPU=1` 和其他相关标志来开启 GPU 功能；如果是通过 Keras/TensorFlow 实现，则应确认已加载正确的 backend 设置，并验证是否有可用设备列表显示 GPU 设备信息。 ```python import tensorflow as tf from keras import backend as K K.clear_session() config = tf.compat.v1.ConfigProto(device_count={'GPU': 1}) sess = tf.compat.v1.Session(config=config) K.set_session(sess) print(tf.config.experimental.list_physical_devices('GPU')) ``` 此脚本用于测试当前环境中是否存在可被利用的 GPU 资源。 #### 4. 更新模型推理部分代码逻辑 最后，在实际调用预测函数之前，请务必检查输入数据格式是否满足特定框架的要求（例如 NHWC vs NCHW），因为不同模式下的张量排列方式可能会影响最终效果表现。 ```python model.predict(input_data, batch_size=None, verbose='auto', steps=None, callbacks=None, max_queue_size=10, workers=1, use_multiprocessing=False) ``` 以上参数可以根据具体需求进一步优化调整，比如增大批次大小或者启用多线程处理机制等手段提高吞吐率。 ---