pytorch采用GPU加速方法

在进行深度学习训练模型时，对于计算量小一些的模型，是可以在CPU上进行的。但是当计算量比较大时，我们希望利用GPU并行计算的能力去加快训练的速度。

查看GPU版本号

import torchprint(torch.__version__)  # 查看torch当前版本号print(torch.version.cuda)  # 编译当前版本的torch使用的cuda版本号print(torch.cuda.is_available())  # 查看当前cuda是否可用于当前版本的Torch，如果输出True，则表示可用

查看GPU数量

def try_gpu(i=0): """如果存在，则返回gpu(i)，否则返回cpu()"""if torch.cuda.device_count() >= i + 1:return torch.device(f'cuda:{i}')return torch.device('cpu')def try_all_gpus(): """返回所有可用的GPU，如果没有GPU，则返回[cpu(),]"""devices = [torch.device(f'cuda:{i}')for i in range(torch.cuda.device_count())]return devices if devices else [torch.device('cpu')]
# 0号GPU是否存在，10号GPU是否存在
try_gpu(), try_gpu(10), try_all_gpus()

指定GPU

import torch
from torch import nntorch.device('gpu'), torch.cuda.device('cuda'), torch.cuda.device('cuda:1')

GPU计算张量

# 创建一个张量Y在1号GPU
Y = torch.rand(2, 3, device=try_gpu(1))
Z = X.cuda(1)  # 将X的内容复制在1号GPU的Z
print(X)
print(Z)
tensor([[1., 1., 1.],[1., 1., 1.]], device='cuda:0')
tensor([[1., 1., 1.],[1., 1., 1.]], device='cuda:1')

指定GPU计算神经网络模型

from torch import nnnet = nn.Linear(3, 1)
print(list(net.parameters())[0].device) # cpunet.cuda(0)
print(list(net.parameters())[0].device) # cuda:0net2 = nn.Linear(3, 1, device = torch.device('cuda' if torch.cuda.is_available() else 'cpu'))
print(list(net2.parameters())[0].device) # cuda:0net3 = nn.Linear(3, 1).to(torch.device('cuda' if torch.cuda.is_available() else 'cpu'))
print(list(net3.parameters())[0].device) # cuda:0net3 = net3.cpu()
print(list(net3.parameters())[0].device) # cpu

pytorch采用GPU加速方法相关推荐

Pytorch gpu加速方法
Pytorch gpu加速方法原文: https://www.zhihu.com/question/274635237 relu 用 inplace=True 用 eval() 和 with tor ...
Pytorch使用GPU加速
1. 可以在cmd窗口输入nvidia-smi命令来确认自己的显卡是否有CUDA. 没有的话,需要安装.(搜CUDA官网按照步骤来) 2. 然后安装pythorch. 必须安装的有torc ...
C#的GPU加速方法
前往我的主页以获得更好的阅读体验C#的GPU加速方法 - DearXuan的主页https://blog.dearxuan.com/2021/08/13/C-%E7%9A%84GPU%E5%8A%A0 ...
ae怎么设置gpu渲染_AECS6 显卡GPU加速方法
显卡 GPU 加速方法显卡 GPU 加速在预览高清素材和加入特效的时候,可以加快预览速度,做到比较好的即时预览.会有人问开启 GPU 为什么会加速呢?简单来说,就是显卡自带了内存,会自行去进行运 ...
Matlab之GPU加速方法
Matlab之GPU加速方法 Matlab之GPU加速方法一般代码加速方法 GPU设备确认 GPU和CPU之间数据传递复杂代码加速方法一般代码加速方法 Matlab目前只支持Nvidia的显卡. ...
Ubuntu18.04下安装深度学习框架Pytorch（GPU加速）
前面我们已经在windows10环境下成功安装了CPU版本的Pytorch,推荐的是利用Anaconda安装. 经过接近一天的奋战,博主成功在linux系统安装GPU加速的pytorch,博主使用的发 ...
Pytorch之GPU加速计算问题以及model=model.to(device)
文章目录 model=model.to(device) GPU加速计算问题技巧一 model=model.to(device) model=model.to(device) 这个有什么用,其实就是把 ...
Pytorch数据读取加速方法
1. 方法一:使用prefetcher class data_prefetcher():def __init__(self, loader):self.loader = iter(loader)sel ...
Pytorch CPU/GPU 安装方法。
首先,查看自己有没有显卡及其显卡驱动.没有显卡,就CPU安装就行. windows版,CUDA,cudnn,和Anaconda安装方法这里不详述.参考一下连接 2022最详细,最新的 Win11/WI ...

pytorch采用GPU加速方法

查看GPU版本号

查看GPU数量

指定GPU

GPU计算张量

指定GPU计算神经网络模型

pytorch采用GPU加速方法相关推荐

最新文章

热门文章