torch中manual_seed的作用

torch.manual_seed(seed) – 官方文档说明：设置 (CPU) 生成随机数的种子，并返回一个torch.Generator对象。

设置种子的用意是一旦固定种子，后面依次生成的随机数其实都是固定的。

通过代码说明一下:

import torchrandom_seed = 123
torch.manual_seed(random_seed)
print(torch.rand(1)) # 随机生成[0, 1)的数
print(torch.rand(1))"""
Out:
tensor([0.2961])
tensor([0.5166])
"""

说明：上面手动设置完种子之后，调用了两次torch.rand这个API (随机生成[0, 1]的数)，可以发现输出的是两个不同的随机数，不是说已经固定种子了吗？怎么还会生成不同的随机数？实际上，准确来说，手动设置种子之后导致的结果应该是：在每次重新运行上面的程序时，得到的打印结果都是上面两个数。

在每次重新运行程序时，同样的随机数生成代码得到的是同样的结果。
打个比方：设置好种子后，第一次运行程序时，第一个生成的随机数是A，第二个生成的随机数是B，第三个生成的随机数是C，第四个生成的随机数是D。那么，不管第二次，第三次，还是第n次运行程序时，第一个生成的随机数仍然是A，第二个生成的随机数仍然是B，第三个生成的随机数仍然是C，第四个生成的随机数仍然是D。

ps：手动设置种子一般可用于固定随机初始化的权重值，这样就可以让每次重新从头训练网络时的权重的初始值虽然是随机生成的但却是固定的。

同样的道理，也可以手动设置GPU的随机数生成种子：
torch.cuda.manual_seed(seed) – 设置当前GPU的随机数生成种子
torch.cuda.manual_seed_all(seed) – 设置所有GPU的随机数生成种子

torch中manual_seed的作用相关推荐

torch中Variable的作用
Variable可以把输出的Tensor变成一个输入变量,这样梯度就不会回传了.detach()也是可以的如果都不加那么就得retain_graph=True了,否则报错 import torch i ...
random.seed(seed)、np.random.seed(seed)、torch.manual_seed(seed)作用
Python中的random random.seed(seed: int) 设置随机数种子 np.random.seed(seed: int) 设置numpy随机数种子 torch.random.se ...
torch.manual_seed()及其作用
含义 torch.manual_seed(parameter) #为CPU设置种子用于生成随机数,以使得结果是确定的 torch.cuda.manual_seed(parameter)#为当前GPU设 ...
关于numpy,torch中seed()方法的一些理解
首先举几个使用seed()函数的例子: # 生成随机数,以便固定后续随机数,方便复现代码 random.seed(args.seed) # 没有使用GPU的时候设置的固定生成的随机数 np.rando ...
einops包中的rearrange，reduce, repeat及einops.layers.torch中的Rearrange，Reduce。对高维数据的处理方式
from einops import rearrange, reduce, repeat from einops.layers.torch import Rearrange, Reduce 一.rea ...
torch中Dataset的构造与解读
torch中Dataset的构造与解读 Dataset的构造要自定义自己的数据集,首先需要继承Dataset(torch.utils.data.Dataset)类. 继承Dataset类之后,必须重 ...
torch中的copy()和clone()
torch中的copy()和clone() 1.torch中的copy()和clone() y = torch.Tensor(2,2):copy(x) --- 1 修改y并不改变原来的x y = x: ...
VMware虚拟机文件夹中各文件作用详解
VMware虚拟机文件夹中各文件作用详解虚拟机的文件管理由VMware Workstation来执行. 一个虚拟机一般以一系列文件的形式储存在宿主机中, 这些文件一般在由workstation为虚拟 ...
Science：亚硝酸盐氧化细菌在黑暗海洋中的主要作用
文章目录亚硝酸盐氧化细菌在黑暗海洋中的主要作用写在前面摘要热心肠日报背景结果图1 非全长16S rRNA基因序列的系统发育树图2 通过募集宏基因组片段的方法确定亚硝酸盐氧化细菌单扩增基 ...

torch中manual_seed的作用

torch中manual_seed的作用相关推荐

最新文章

热门文章