torch.multinomial使用

在Word2vec中使用到了非相关数据的降采样方法, 其中用到了torch.multinomial方法, 这里记录一下:

multinomial(input, num_samples, replacement=False)

该方法主要有三个参数, 分别是输入的张量, 采样的个数, 是否有重复的数据, 采样的时候是根据输入张量的数值当做权重来进行抽样的, 数值越大, 抽到的可能性越大, 越小抽到的可能性越小, 如果是0 则不会抽到

由案例可知, 输出的是出入的张量的索引值,

当非零数据只有4个时, 要输出5个不重复的数据会报错

而可以重复数据时, 即使去很多值, 也不会取到, 索引值为0的, 因为其权重是0

torch.multinomial使用相关推荐

多项式概率分布（Multinomial probability distribution）和分类分布（categorical distribution）
文章目录多项式概率分布分类分布多项式概率分布其由二项分布推广而来,从而更加普遍.所以我们先回顾一下二项分布. 二项分布的典型例子是扔硬币,设硬币正面朝上概率为ppp, 重复扔nnn次硬币,记硬 ...
（超级详细）numpy与torch用法对比手册
文章目录前言生成类操作采样类数学运算操作判断类(布尔类)操作矩阵形状操作其他操作前言由于numpy比较基础和通用,但是GPU上跑实验必须使用tensor,故还是直接用torch里面的 ...
python torch exp_PyTorch官方中文文档：torch
torch 包 torch 包含了多维张量的数据结构以及基于其上的多种数学操作.另外,它也提供了多种工具,其中一些可以更有效地对张量和任意类型进行序列化. 它有CUDA 的对应实现,可以在NVIDIA ...
pytorch 定义torch类型数据_PyTorch官方中文文档：torch.Tensor
torch.Tensor torch.Tensor是一种包含单一数据类型元素的多维矩阵. Torch定义了七种CPU tensor类型和八种GPU tensor类型: Data tyoe CPU te ...
深度学总结：skip-gram pytorch实现
文章目录 skip-gram pytorch 朴素实现网络结构训练过程:使用nn.NLLLoss() batch的准备,为unsupervised,准备数据获取(center,contex)的pa ...
如何用RNN生成莎士比亚风格的句子？（文末赠书）
作者 | 李理,环信人工智能研发中心vp,十多年自然语言处理和人工智能研发经验.主持研发过多款智能硬件的问答和对话系统,负责环信中文语义分析开放平台和环信智能机器人的设计与研发. 来源 | <深 ...
PyTorch 重磅更新，不只是支持 Windows
翻译 | 林椿眄出品 | AI 科技大本营(公众号ID:rgznai100) 这次版本的主要更新一些性能的优化,包括权衡内存计算,提供 Windows 支持,24个基础分布,变量及数据类型,零维张量 ...
附录：PyTorch记事本
tensor.cuda() 在使用GPU的情况下,一般会将所有相关tensor都放到GPU上计算,所以如果仅仅model=model.cuda(),程序将不能正确执行,因为输入tensor和输出ten ...
pytorch函数整理
neg Tensor里面的内容取反 torch.multinomial() torch.multinomial(input, num_samples,replacement=False, out=No ...

torch.multinomial使用

torch.multinomial使用相关推荐

最新文章

热门文章