1. 前提

利用Transformer模型进行O3浓度的反演

2. 问题

2.1 速度慢

一开始模型是在CPU上面跑的，为了加快速度，我改成了在GPU上跑
方法如下：
1、验证pytorch是否存在GPU版本
在Pycharm命令行输入

import torchprint(torch.cuda.is_available)
# 若输出为True,则存在GPU版本
# 若输出为False,则不存在GPU版本

我的输出为True，说明pytorch是存在GPU版本的
2、将模型从CPU版本转换到GPU版本

声明使用GPU（指定具体的卡）
PS：torch.device()是装torch.Tensor的一个空间。

device=torch.device('cuda' if torch.cuda.is_available() else 'cpu')
# 'cuda' 这里如果没有指定具体的卡号,系统默认cuda:0
device = torch.device('cuda:2')      # 使用2号卡

将模型（model）加载到GPU上

model = Transformer()   #例子中，采用Transformer模型
model.to(device)

将数据和标签放到GPU上【注意！什么数据可以被放入GPU-Tensor类型的数据】

# 只有Tensor类型的数据可以放入GPU中
# 可以一个个【batch_size】进行转换
inputs = inputs.to(device)
labels = labels.to(device)

如果结果还是显示你是在CPU上进行训练，要不就是模型没有加进去，要不就是数据没有加进去

2.2 内存不足

在使用CPU时，出现了内存不足的情况

RuntimeError: [enforce fail at C:\cb\pytorch_1000000000000\work\c10\core\impl\alloc_cpu.cpp:72] data. DefaultCPUAllocator: not enough memory: you tried to allocate 280410627200 bytes.

在使用GPU时，出现了内存不足的情况

torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 261.15 GiB (GPU 0; 8.00 GiB total capacity; 487.30 MiB already allocated; 5.71 GiB free; 506.00 MiB reserved in total by PyTorch) If reserved memory is >> allocated memory try sett

我的模型在训练的时候没有问题，在进行预测的时候，总是出现内存不足
（1）一开始我以为是batch_size大小的问题，在从128更改到4后，发现依旧存在问题，这说明不是batch_size大小的问题。
（2）然后，我猜测是反演过程的问题
我在进行模型反演的过程中，直接将全部数据输入到模型model中（大概有10万行），为了验证这个问题，我添加了一个for循环，一个一个数据的反演

问题解决！

学习链接：

pytorch 中判断和指定模型和数据在GPU或CPU上–有用
Pytorch | GPU | 将代码加载到GPU上运行
pytorch中cuda out of memory问题

Pytorch运行过程中解决出现内存不足的问题相关推荐

pytorch运行过程中死机（内存爆掉或者内存正常）
linux18.04下,在运行pytorch程序的过程中,电脑直接卡死死机,鼠标和键盘都没有反应,只能强制关机. 安装htop观察内存和cpu的使用情况,内存32G,CPU是i7-8700. 程序在之 ...
C# winform程序运行过程中提示尝试读取或写入受保护的内存.这通常指示其他内存已损坏的
C# winform程序运行过程中提示"尝试读取或写入受保护的内存.这通常指示其他内存已损坏的" 错误,如下图所示查看详细信息如下未处理System.AccessViolati ...
java在程序运行过程中_Java内存管理-程序运行过程（一）
做一个积极的人编码.改bug.提升自己我有一个乐园,面向编程,春暖花开! 勿在浮沙筑高台,出来混迟早要还的. 相信在做Java开发的伙伴一定知道 JVM(Java Virtual Machine( ...
操作系统中进程并发运行的过程_三种电磁流量计运行过程中常见故障解决详情！...
原标题:三种电磁流量计运行过程中常见故障解决详情! 昨天给大家介绍了电磁流量计的一些典型故障,今天我们继续来谈电磁流量计的故障问题!电磁流量计在正常的保养与维护之后,在正常使用的过程中依旧是会因为当时 ...
SAS 运行过程中出现‘SAS 磁盘已满 OUT OF RESOURCES’解决办法！
SAS 运行过程中出现'SAS 磁盘已满 OUT OF RESOURCES'解决办法! 当SAS在WORK逻辑库运行大量数据时可能会出现'磁盘已满 OUT OF RESOURCES'的情况,那是由于w ...
解决office运行过程中的卡顿现象
如何解决安装office之后,打开运行过程中出现极大的卡顿现象第一步:打开word或者ppt,点击文件菜单中的选项. 第二步:点击选项中的高级第三步:在禁用硬件加速前面打勾 #这次安装完offic ...
内存管理——程序运行过程中内存的作用以及如何与cpu、os交互
今年以来,内存条价格暴涨,已经跃升为新的新一代理财产品,所以今天就和大家讨论一下内存条的话题,主要内容就是在程序运行过程中,内存的作用以及如何与CPU,OS交互. 我们先来讨论:计算机的运行究竟是在做 ...
安卓4.4玩java_Android4.4运行过程中闪退java.lang.NoClassDefFoundError
上周五项目测试时发现一个奇怪的Bug,项目中依赖了一个第三方框架,但是在android4.0-4.4.4之间的系统中运行会直接闪退,抛出错误异常为java.lang.NoClassDefFoundEr ...
pytorch训练过程中loss出现NaN的原因及可采取的方法
在pytorch训练过程中出现loss=nan的情况 1.学习率太高. 2.loss函数 3.对于回归问题,可能出现了除0 的计算,加一个很小的余项可能可以解决 4.数据本身,是否存在Nan,可以用n ...

Pytorch运行过程中解决出现内存不足的问题

1. 前提

2. 问题

2.1 速度慢

2.2 内存不足

Pytorch运行过程中解决出现内存不足的问题相关推荐

最新文章

热门文章