RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB解决办法

### 解决CUDA内存不足错误 当遇到`RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB` 错误时，表明当前GPU显存不足以分配请求的内存量[^1]。此问题常见于深度学习模型训练过程中。 #### 方法一：减少批量大小 降低输入数据批次(batch size)，可以有效减小每次迭代所需的显存空间。虽然这可能会稍微影响收敛速度，但对于大多数情况而言仍然是可行的选择[^2]。 #### 方法二：优化PyTorch内存管理设置 通过调整环境变量 `PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:<value>` 来防止碎片化并提高显存利用率。适当增大max_split_size_mb值有助于缓解因频繁申请释放造成的内存碎片问题。 #### 方法三：清理未使用的张量对象 确保及时删除不再需要的Tensor实例，并调用`torch.cuda.empty_cache()` 函数来手动清空缓存中的无用数据，从而释放更多可用资源给后续计算任务使用。 ```python import torch del tensor_variable # 删除指定tensor变量 torch.cuda.empty_cache() # 清理cuda缓存 ``` #### 方法四：分布式训练或多卡加速 如果硬件条件允许的话，考虑采用多GPU方案来进行分布式训练，这样不仅可以充分利用集群内的所有设备性能，而且还能显著提升整体处理效率，进而间接解决了单个GPU显存不够的问题。