Pytorch运行错误:CUDA out of memory处理过程
1 初始报错
CUDA out of memory. Tried to allocate 244.00 MiB (GPU 0; 2.00 GiB total capacity; 1.12 GiB already allocated; 25.96 MiB free; 1.33 GiB reserved in total by PyTorch)
需要分配244MiB,但只剩25.96MiB空闲。1.33GiB分配给了PyTorch。(不知道能不能重新分给CUDA)
2 出错相关代码
result, result_bb = run_meta_tracker(seq, img_list, init_bbox, gt=gt, savefig_dir='', display=args.display)bbreg_feats = forward_samples(init_net, image1, bbreg_examples, out_layer='features')feat = net(regions, out_layer=out_layer)result = self.forward(*input, **kwargs)x = self.features(x)result = self.forward(*input, **kwargs)input = module(input)x_sq = (x**2).unsqueeze(dim=1)
3 解决方案
3.1 尝试网友给出的方法
链接:pytorch出现RuntimeError: CUDA out of memory._pursuit_zhangyu的博客-CSDN博客
说明:no_grad这个上下文管理器,在作用域内只做计算,不记录计算图
修改后:CUDA out of memory. Tried to allocate 256.00 MiB (GPU 0; 2.00 GiB total capacity; 1.31 GiB already allocated; 7.96 MiB free; 1.34 GiB reserved in total by PyTorch)
未(mei)能(you)解(ruan)决(yong)
3.2 尝试减少输入图片的数量
换用了数据量更少的数据集,但仍然内存不足,我估计是模型本身就很大,原贴用的GTX 1070,我是960M,降维打击啊。
3.3 使用CUDA_VISIBLE_DEVICES限制一下使用的GPU
链接:显存充足,但是却出现CUDA error:out of memory错误 - Jisongxie - 博客园
未(mei)能(you)解(ruan)决(yong)
3.4 代码优化
(代码不是自己写的啊,这个可难办了)
3.5 缩小图片尺寸
可以确定,跟数据集大小关系不大,就是模型太大的问题。
3.6 降低计算的精度,比如float32 变为float16
这个方法肯定会有用,但我还没找到便捷的方法
3.7 使用torch.cuda.empty_cache(),释放不需要的显存
有用,但节约的空间还是不够
CUDA out of memory. Tried to allocate 244.00 MiB (GPU 0; 2.00 GiB total capacity; 1.12 GiB already allocated; 191.96 MiB free; 1.16 GiB reserved in total by PyTorch)
最后!!!!
问题解决办法是换个好点的显卡,代码优化纯属杂技。
Pytorch运行错误:CUDA out of memory处理过程相关推荐
- pytorch出现RuntimeError: CUDA out of memory的问题解决方法
pytorch出现RuntimeError: CUDA out of memory解决方法 将batch-size设置小些试试,如果不行,继续第二步 多线程num_works设置较小,最差设为0
- pytorch遇见RuntimeError: CUDA out of memory的解决
RuntimeError: CUDA out of memory 1.查看是否其他程序占用显存 遇到此类错误后,对于py格式的文件来说,程序会进行终止,也就是当前程序占用的显存将会被释放.此时可用 w ...
- pytorch出现RuntimeError: CUDA out of memory.
无论batch-size设置多小也是会出现这个问题的,我的原因是我将pytorch升级到了1.0.1,然后出现了这个问题 RuntimeError: CUDA out of memory. Tried ...
- 【PyTorch问题】CUDA out of memory. Tried to allocate 4.69 GiB (GPU 0; 8.00 GiB total capacity...略
问题描述:RuntimeError: CUDA out of memory. Tried to allocate 4.69 GiB (GPU 0; 8.00 GiB total capacity; 5 ...
- Pytorch cuda out of memory
pytorch程序出现cuda out of memory,主要包括两种情况: 1. 在开始运行时即出现,解决方法有 : a)调小batchsize b)增大GPU现存(可加并行处理) 2. 在运行过 ...
- PyTorch中“CUDA out of memory”的调试笔记
1 问题描述 "RuntimeError: CUDA out of memory."是PyTorch写作中常见的一种运行错误,这里我们将记录一下调试过程中发现的一些解决方案: 2 ...
- 通过设置PYTORCH_CUDA_ALLOC_CONF中的max_split_size_mb解决Pytorch的显存碎片化导致的CUDA:Out Of Memory问题
问题的出现 最近在基友的带动下开始投身ai绘画的大潮,于是本地部署了stable diffusion web ui,利用手上的24G显存开始了愉快的跑高分辨率图片之旅.然而某天在用inpaint功能修 ...
- 《南溪的目标检测学习笔记》——训练PyTorch模型遇到显存不足的情况怎么办(“OOM: CUDA out of memory“)
1 前言 在目标检测中,可能会遇到显存不足的情况,我们在这里记录一下解决方案: 2 如何判断真正是出现显存溢出(不是"软件误报") 当前需要分配的显存在600MiB以下, 例如: ...
- 【tph-yolov5】tph-Yolov5的Pytorch环境配置和运行错误记录
Tph-Yolov5代码运行记录 1.代码下载地址: guihub下载连接 2.按照read.md说明进行操作 2.1 cuda版本匹配错误 运行val.py文件,提示错误: 可见自动安装的pytor ...
- 【Pytorch】内存够用但还是 RuntimeError: CUDA out of memory 问题解决
这里简述一下我遇到的问题: 可以看到可用内存是大于需要被使用的内存的,但他依旧是报CUDA out of memory的错误 我的解决方法是:修改num_workers的值,把它改小一点,就行了,如果 ...
最新文章
- 最新SOTA模型和实现代码
- ROS中Remap标签详解
- 问:Linux下Chrome标题栏中文乱码
- iOS UI基础-6.0 UIActionSheet的使用
- Win32字符串处理函数
- nodeJS的管道流和链式流
- 程序猿果真有前端后端client吗
- C# 将程序添加开机启动的三种方式
- CodeIgniter 合作 Authorize.net
- 看过来,说的就是你!
- 安卓设置屏幕方向后,恢复自动旋转
- Phyton学习笔记
- 华硕美版路由器RT-AC1200G+解决无线信号弱问题
- 基于互联网+居民健康管理平台技术方案
- 关于mysql group by后取指定的数据留下来
- 【DNS】域名解析服务
- 多面体及欧拉公式及广义欧拉公式
- GNSS基本概念(1):仰角和方位角(Elevation and Azimuth)
- 计算圆柱的面积和体积
- android one x3怎么样,家人劝我买X3,我却固执己见选了理想ONE,结果证明买对了...