nn.softmax的参数使用和数据使用

nn.Softmax ，dim=0

对于二维数组的dim=0时，将每列的每个元素和这一列的自然指数之和进行比，

import torch.nn as nn
import numpy as np
import matharr = np.linspace(1,16,16).reshape(4,4)
arr = torch.tensor(arr)
sofmax = nn.Softmax(dim=0)
out = sofmax(arr)
print(arr)
print(out)
son = math.exp(1)
pat = 0
for i in range(1,14,4):pat+=math.exp(i)print(son/pat)
'''
tensor([[ 1.,  2.,  3.,  4.],[ 5.,  6.,  7.,  8.],[ 9., 10., 11., 12.],[13., 14., 15., 16.]], dtype=torch.float64)
tensor([[6.0317e-06, 6.0317e-06, 6.0317e-06, 6.0317e-06],[3.2932e-04, 3.2932e-04, 3.2932e-04, 3.2932e-04],[1.7980e-02, 1.7980e-02, 1.7980e-02, 1.7980e-02],[9.8168e-01, 9.8168e-01, 9.8168e-01, 9.8168e-01]], dtype=torch.float64)
6.031677857384872e-06
'''

dim=0，修改第一个值为20后

只是第一列发生变化，

arr = np.linspace(1,16,16).reshape(4,4)arr = np.array([[ 20.,  2.,  3.,  4.],[ 5.,  6.,  7.,  8.],[ 9., 10., 11., 12.],[13., 14., 15., 16.]])
arr = torch.tensor(arr)

修改dim=1

对红框中的一行进行计算，

import torch.nn as nn
import numpy as np
import matharr = np.linspace(1,16,16).reshape(4,4)arr = np.array([[ 1.,  2.,  3.,  4.],[ 5.,  6.,  7.,  8.],[ 9., 10., 11., 12.],[13., 14., 15., 16.]])
arr = torch.tensor(arr)
sofmax = nn.Softmax(dim=1)
out = sofmax(arr)
print(arr)
print(out)
son = math.exp(1)
pat = 0
for i in range(1,5):pat+=math.exp(i)print(son/pat)

nn.softmax的参数使用和数据使用相关推荐

tf.nn.softmax参数详解以及作用
tf.nn.softmax参数详解以及作用参考地址:https://zhuanlan.zhihu.com/p/93054123 tf.nn.softmax(logits,axis=None,name ...
Pytorch中torch.nn.Softmax的dim参数含义
自己搞了一晚上终于搞明白了,下文说的很透彻,做个记录,方便以后翻阅 Pytorch中torch.nn.Softmax的dim参数含义
nn.Softmax(dim) 的理解
使用pytorch框架进行神经网络训练时,涉及到分类问题,就需要使用softmax函数,这里以二分类为例,介绍nn.Softmax()函数中,参数的含义. 1. 新建一个2x2大小的张量,一行理解成一 ...
nn.LayerNorm的参数
nn.LayerNorm的参数: 参考: 1.pytorch LayerNorm参数详解,计算过程 2.nn.LayerNorm的具体实现方法(通过公式复现) normalized_shape 如果传 ...
pytorch nn.Softmax
应用 m = nn.Softmax(dim=1) input = torch.randn(2, 3) output = m(input) 概念 API 将多个输出值转换为概率值,范围在[0,1],且概 ...
KLD Loss（ tf.nn.softmax, torch.nn.functional.softmax, log_softmax, kl_div）计算技巧(一)
最近在比较不同模型的性能,发现虽然文献中使用的相同的指标,比如KLD.但是数据的处理方式却存在着差异,这会导致最后的数据并不具有直接可比性. 这里记录下,其中的一些值得记住的细节.主要涉及的API包括 ...
python使用statsmodels包中的tsaplots函数和lags参数可视化时间序列数据指定滞后位置个数（级别）以前的所有自相关性（plot the autocorrelation)
python使用statsmodels包中的tsaplots函数和lags参数可视化时间序列数据指定滞后位置个数(级别)以前的所有自相关性(plot the autocorrelation Funct ...
seaborn使用violinplot函数可视化小提琴图、并在violinplot函数中设置inner参数来添加数据点显示数据的稠密程度
seaborn使用violinplot函数可视化小提琴图.并在violinplot函数中设置inner参数来添加数据点显示数据的稠密程度(Seaborn violinplot with data po ...
pandas使用drop_duplicates函数基于subset参数指定的数据列子集删除重复行、并设置keep参数保留重复行中的最后一个数据行
pandas使用drop_duplicates函数基于subset参数指定的数据列子集删除重复行.并设置keep参数保留重复行中的最后一个数据行目录

nn.softmax的参数使用和数据使用

nn.Softmax ，dim=0

dim=0，修改第一个值为20后

修改dim=1

nn.softmax的参数使用和数据使用相关推荐

最新文章

热门文章