基本的运算操作类型：

Add/minus/multiply/divide 加减乘除，

Matmul 矩阵式相乘，

Pow 次方，Sqrt/rsqrt 开方，

Round 近似运算，Clamp取上下限。

基础的运算：加 +（add），减-（sub），乘*(mul) ，除/(div)

a = torch.rand(3,4)
b=torch.rand(4)print(a+b)
print(torch.add(a,b))
print(a-b)
print(torch.sub(a,b))
print(a*b) # element-wise
print(torch.mul(a,b))
print(a/b)
print(torch.div(a,b))

矩阵相乘 matmul

Torch.mm 矩阵的相乘只适合于2d的tensor

Torch.matmul /@ 矩阵相乘，可以是2d以上的tensor，进行运算的时候取最后两个维度进行乘运算。建议使用。

2d的例子：

a = torch.ones(2,2)+torch.ones(2,2)
b=torch.ones(2,2)print(torch.mm(a, b))
print(torch.matmul(a, b))
print(a@b)

超过2d的例子：

注意计算过程是：先广播机制，在乘运算：

使用@例子：

power次方操作：

a = torch.full([2,2],3)
print(a.pow(2))
print(a**2)

sqrt开方操作：

aa = a**2
print(aa)
print(aa.sqrt())
print(aa**(0.5))

Rsqrt() 表示平方根的倒数用的比较少一点。

print(aa.rsqrt())

exp log 自然数，和自然对数：

构建自然数的tensor：

a = torch.exp(torch.ones(2,2))
print(a)

自然对数（log以e为底）：

print(torch.log(a))

注意，log函数默认以e为底，要是以2为底就是log2（tensor）,以n为底就是logn(tensor)。

近似值函数：

a=torch.tensor(3.14)
# 向下取整
print(a.float())
# 向上取整
print(a.ceil())
# 裁剪整数部分
print(a.trunc())
# 裁剪小数部分
print(a.frac())

# 四舍五入
a= torch.tensor(3.499)
print(a.round())a = torch.tensor(3.5)
print(a.round())

Clamp函数：裁剪功能，常用于梯度裁剪。

（作用手动消除梯度爆炸或者消失）

常用情况：

 For i in []:Clamp(w.grad(1,10))

补充一个技巧：

查看梯度的模，W.grad.norm(2)==>表示梯度举证的第二范式。

torch学习笔记之——数学运算相关推荐

Polyworks脚本开发学习笔记(六)-比较运算、数学运算、逻辑运算及流程控制
Polyworks脚本开发学习笔记(六)-比较运算.数学运算.逻辑运算及流程控制前言比较运算.逻辑运算及流程控制是编程的基本语法,Polyworks的语法规则与VB/C#/Python等并没有很大 ...
C++学习笔记-----用位运算实现加减乘除
C++学习笔记-----用位运算实现加减乘除原文:http://blog.csdn.net/sinat_35261315/article/details/72904945 数据在计算机内存中是以二进 ...
c语言用位运算将一个数清零,C语言学习笔记_位运算
C语言学习笔记_位运算知识点记录基本位运算按位与:全1为1,见0为0:与1相与无变化,与0相与变为0:可用于特定位清零按位或:见1为1,全0为0:与1相或变为1,与0相或无变化:可用于特定位置 ...
从零开始实现递归神经网络——【torch学习笔记】
从零开始实现递归神经网络--[torch学习笔记] 引用翻译:<动手学深度学习> 从头开始实现一个语言模型.它是基于H.G.威尔斯的 "时间机器 "所训练的字符级递归神 ...
Matlab学习笔记（数学函数）一
最近一直再看matlab5手册,写一些作为学习笔记. 一些常用的数学函数: clc; x=1.7 y1=abs(x)%绝对值 sign(x)%x的符号,正1.负-1,零0 sqrt(x)%根号 pow ...
#学习笔记#13_数学工具类Math
数学工具类Math java.util.Math 类是数学相关的工具类,里面提供了大量的静态方法,完成与数学运算相关的操作 public static double abs(double num):获 ...
[数学学习笔记]导数的运算
基本初等函数初等函数是由基本初等函数经过有限次的四则运算和复合运算所得到的函数.基本初等函数和初等函数在其定义区间内均为连续函数. 高等数学将基本初等函数归为五类:幂函数.指数函数.对数函数.三角函 ...
math python 向上取整_Python成为专业人士笔记-各数学运算操作深度剖析
"专业人士笔记"系列目录: 创帆云:Python成为专业人士笔记--强烈建议收藏!每日持续更新!zhuanlan.zhihu.com Python可以执行常见的数学运算符,包括整 ...
python-opencv学习笔记2 核心运算
核心运算 2.1 图像的基本操作重要函数访问和修改像素值访问图像属性图像形状属性 img.shape 图像总像素数属性 img.size 图像数据类型属性 img.dtype 图像ROI 分割 ...

torch学习笔记之——数学运算

基础的运算：加 +（add），减-（sub），乘*(mul) ，除/(div)

矩阵相乘 matmul

power次方操作：

sqrt开方操作：

exp log 自然数，和自然对数：

近似值函数：

Clamp函数：裁剪功能，常用于梯度裁剪。

（作用手动消除梯度爆炸或者消失）

torch学习笔记之——数学运算相关推荐

最新文章

热门文章

torch学习笔记之——数学运算

基础的运算：加 +（add），减-（sub）， 乘*(mul) ，除/(div)

矩阵相乘 matmul

power次方操作：

sqrt开方操作：

exp log 自然数，和自然对数：

近似值函数：

Clamp函数：裁剪功能，常用于梯度裁剪。

（作用手动消除梯度爆炸或者消失）

torch学习笔记之——数学运算相关推荐

最新文章

热门文章

基础的运算：加 +（add），减-（sub），乘*(mul) ，除/(div)