Pytorch cuda out of memory

pytorch程序出现cuda out of memory，主要包括两种情况：

1. 在开始运行时即出现，解决方法有：

a）调小batchsize

b）增大GPU现存（可加并行处理）

2. 在运行过程中出现，特别是运行了很长时间后爆显存了。

a) 首先检查是否是“个别实例过长”引起的，如果程序运行时已经占用GPU的大半，非常容易出现这种情况。解决方法参考1.

b) 程序运行过程中会产生很多中间变量，pytorch不会清理这些中间变量，就会爆显存。

解决方法：1）中间变量不再使用时及时清理，即del 变量。

2）total_loss= float(loss) 即仅将loss的值传给total_loss。

3）torch.cuda.empty_cache() 可清理缓存，应该是最有效最便捷的。

Pytorch cuda out of memory相关推荐

pytorch遇见RuntimeError: CUDA out of memory的解决
RuntimeError: CUDA out of memory 1.查看是否其他程序占用显存遇到此类错误后,对于py格式的文件来说,程序会进行终止,也就是当前程序占用的显存将会被释放.此时可用 w ...
Pytorch 训练与测试时爆显存(cuda out of memory)的终极解决方案，使用cpu(勿喷)
Pytorch 训练与测试时爆显存(cuda out of memory)的终极解决方案,使用cpu(勿喷) 参见了很多方法,都没有用. 简单点,直接把gpu设成-1
CUDA out of memory in pytorch
with torch.no_grad(): CUDA out of memory in pytorch 今天尝试了一下Transformer,一直遇到当validate若干次之后爆显存,一开始以为参数 ...
pytorch出现RuntimeError: CUDA out of memory.
无论batch-size设置多小也是会出现这个问题的,我的原因是我将pytorch升级到了1.0.1,然后出现了这个问题 RuntimeError: CUDA out of memory. Tried ...
《南溪的目标检测学习笔记》——训练PyTorch模型遇到显存不足的情况怎么办(“OOM: CUDA out of memory“)
1 前言在目标检测中,可能会遇到显存不足的情况,我们在这里记录一下解决方案: 2 如何判断真正是出现显存溢出(不是"软件误报") 当前需要分配的显存在600MiB以下, 例如: ...
PyTorch中“CUDA out of memory”的调试笔记
1 问题描述 "RuntimeError: CUDA out of memory."是PyTorch写作中常见的一种运行错误,这里我们将记录一下调试过程中发现的一些解决方案: 2 ...
【PyTorch问题】CUDA out of memory. Tried to allocate 4.69 GiB (GPU 0； 8.00 GiB total capacity...略
问题描述:RuntimeError: CUDA out of memory. Tried to allocate 4.69 GiB (GPU 0; 8.00 GiB total capacity; 5 ...
pytorch出现RuntimeError: CUDA out of memory的问题解决方法
pytorch出现RuntimeError: CUDA out of memory解决方法将batch-size设置小些试试,如果不行,继续第二步多线程num_works设置较小,最差设为0
RuntimeError: CUDA out of memory. Tried to allocate XX.XX MiB. pytorch训练超出撑爆显存的问题
1.batch_size设置过大这种比较好理解,就是单卡batch_size设置大了,数据量就大了,显存可能就放不下了.不过一般batch_size也不宜设置过小,不然如果batch里含有噪声数据其 ...

Pytorch cuda out of memory

Pytorch cuda out of memory相关推荐

最新文章

热门文章