Pytorch之GPU加速计算问题以及model=model.to(device)

文章目录

model=model.to(device)
GPU加速计算问题
- 技巧一

model=model.to(device)

model=model.to(device)

这个有什么用，其实就是把model.parameters()移动到GPU上面去。

class net(nn.Module):def __init__(self):super(net,self).__init__()self.l=[1,2]self.linear=nn.Linear(2,2)def forward(self,x):self.l.append(3)for i in range(len(self.l)):x=self.linear(x)return x

net=net()
net=net.to(device)

for param in net.parameters():print(param)

所以：这个模型的参数已经移动到了GPU上，模型输入是由你来定的，所以你也需要将你的模型输入移动到GPU上，因为：计算只能发生在同一个设备之间，或者在GPU上计算，或者在CPU上计算。

GPU加速计算问题

上面，虽然将模型的参数移动到了GPU上，但是有的是没有移动或无法移动的，这个可以看我之前博客，特定的一些参数会注册到mode.parameters(),而list是不可以的。

class net(nn.Module):def __init__(self):super(net,self).__init__()self.l=[1,2]#还是在cpu上self.linear=nn.Linear(2,2)#在GPU上def forward(self,x):self.l.append(3)#cpu上的操作for i in range(len(self.l)):#for循环，cpu上来控制循环。x=self.linear(x)#GPU上的操作return x

技巧一

如果在forward中需要生成一些新tensor,我们有如下方法：

生成在CPU上，在CPU上计算。
生成在cpu上，然后复制移动到GPU上。
直接生成在GPU上。

出于速度的考虑，我们应当选择方法3。

上述方法2def forward(self,x):a=np.ones((2,3))a=torch.tensor(a,dtype=torch.float32).to(device)#上述转化不好，使用torch.from_numpy(a)速度更快。

上述方法2，但比上面这个快。def forward(self,x):a=torch.ones(2,3).to(device)

#上述方法3，最快。def forward(self,x):a=torch.ones(2,3,device=device)

Pytorch之GPU加速计算问题以及model=model.to(device)相关推荐

tensorflow的GPU加速计算
参考 tensorflow的GPU加速计算 - 云+社区 - 腾讯云一.概述 tensorflow程序可以通过tf.device函数来指定运行每一个操作的设备,这个设备可以是本地的CPU或者G ...
MATLAB上的GPU加速计算——学习笔记
MATLAB目前只支持Nvidia的显卡.如果你的显卡是AMD的或者是Intel的,就得考虑另寻它路了. MATLAB可谓工程计算中的神器,一方面它自带丰富的函数库,另一方面它所有的数据都是内建的矩阵 ...
Pytorch使用GPU加速
1. 可以在cmd窗口输入nvidia-smi命令来确认自己的显卡是否有CUDA. 没有的话,需要安装.(搜CUDA官网按照步骤来) 2. 然后安装pythorch. 必须安装的有torc ...
MATLAB上的GPU加速计算
概述怎样在MATLAB上做GPU计算呢?主要分为三个步骤:数据的初始化.对GPU数据进行操作.把GPU上的数据回传给CPU 一.数据的初始化首先要进行数据的初始化.有两种方法可以进行初始化:一是先 ...
Ubuntu18.04下安装深度学习框架Pytorch（GPU加速）
前面我们已经在windows10环境下成功安装了CPU版本的Pytorch,推荐的是利用Anaconda安装. 经过接近一天的奋战,博主成功在linux系统安装GPU加速的pytorch,博主使用的发 ...
float gpu 加速_（总结篇）使用 MATLAB GPU 加速计算|MATLAB 并行计算与分布式服务器|MATLAB技术论坛...
本帖最后由蓝云风翼于 2013-12-18 17:28 编辑注: 利用gpu加速有一下工具 1.JACKET 可从帖子中寻找 2.MATLAB a.并行计算工具箱 gpuArray,查看支持gp ...
如何在MATLAB上用GPU加速计算
(1)首先,GPU设备确认,Matlab目前只支持Nvidia的显卡.想知道自己的电脑有没有这个能力,在Matlab中运行 gpuDevice. 只要数据格式是gpuArray格式的,那么计算过程会自 ...
光线追踪渲染实战（三）：OpenGL 光线追踪，用 GPU 加速计算！
项目代码仓库: GitHub:https://github.com/AKGWSB/EzRT gitee:https://gitee.com/AKGWSB/EzRT 目录前言 0. 前置知识 1. 布 ...
MATLAB使用GPU加速计算
先上结论 1.对于特征值运算eig()函数来说,GPU的加速效果是很明显的 2.如果要求精度不高,采用单精度计算,加速效果更加明显首先查看自己的电脑是不是支持GPU计算在matlab的终端中输入: ...

Pytorch之GPU加速计算问题以及model=model.to(device)

文章目录

model=model.to(device)

GPU加速计算问题

技巧一

Pytorch之GPU加速计算问题以及model=model.to(device)相关推荐

最新文章

热门文章