【pytorch】随着epoch增加，显存逐渐增加？解决pytorch显存释放问题

繁星知微

已于 2023-06-29 11:08:48 修改

阅读量2.4k

点赞数 1

CC 4.0 BY-SA版权

分类专栏： python pytorch 文章标签： python pytorch 深度学习

于 2023-06-29 11:04:54 首次发布

本文链接：https://blog.csdn.net/weixin_43693967/article/details/131450734

python 同时被 2 个专栏收录

9 篇文章

订阅专栏

pytorch

3 篇文章

订阅专栏

在训练深度学习模型时，遇到outofmemory错误，可以捕获异常并使用torch.cuda.empty_cache()清理缓存。而在测试阶段，应使用torch.no_grad()上下文管理器以减少内存占用和提高效率。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

训练时

在训练时，检测 “out of memory” 的error并通过torch.cuda.empty_cache()处理
如：

      try:
          outputs = net(inputs)
      except RuntimeError as exception:
          if "out of memory" in str(exception):
              print('WARNING: out of memory, will pass this')     
              torch.cuda.empty_cache()
              continue
          else:
              raise exception

测试时

在测试时，避免忘记设置 torch.no_grad()
如：

with torch.no_grad():
    inputs = None
    outputs = model(inputs)

参考文献

Pytroch - 显存释放问题