中tile函数_HelpGirlFriend 系列 --- tensorflow 中的张量运算思想
GirlFriend 在复现论文的时候,我发现她不太会将通用数学公式转化为张量运算公式,导致 tensorflow 无法通过并行的方式优化其论文复现代码的运行速率。
这里对给 GirlFriend 讲解内容进行一个总结,方便 GirlFriend 后期回顾。讲解肯定不是非常全面, 后期会持续更新不断的添加与 GirlFriend 讨论的新内容。 也希望能帮助初学者更好的入门机器学习。
本文中所有的代码例子均在以下链接。
hyLiu1994/HelpGirlfriendgithub.com
tensorflow 基础张量操作
张量之间的加减乘除
张量之间如果进行加减乘除运算的前提条件有两个:
1. 两个张量的维度数必须一致;
2. 两个张量对应维度其包含的元素数量要相同 或者 其中一个张量包含的元素数量为 1
举例: 张量 A 维度为
张量 A 与 张量 B 维度数均为 3, 与张量 C 维度数为4, 所以张量 A 与 张量 B 不能够与张量 C 进行运算。
张量A与张量B能够进行加减乘除的另一个前提是要么
当对应维度元素数量相等的时候, 对应元素之间进行加减乘除运算; 否则元素数量为 1 的张量拷贝若干份,再进行对应元素的加减乘除。示例如下:
>>> A
<tf.Variable 'Variable:0' shape=(3, 3, 2) dtype=int32, numpy=
array([[[ 1, 2],[ 2, 3],[ 3, 4]],[[ 4, 5],[ 5, 6],[ 6, 7]],[[ 7, 8],[ 8, 9],[ 9, 10]]], dtype=int32)>
>>> B
<tf.Variable 'Variable:0' shape=(1, 3, 1) dtype=int32, numpy=
array([[[1],[2],[3]]], dtype=int32)>
>>> A*B
<tf.Tensor: shape=(3, 3, 2), dtype=int32, numpy=
array([[[ 1, 2],[ 4, 6],[ 9, 12]],[[ 4, 5],[10, 12],[18, 21]],[[ 7, 8],[16, 18],[27, 30]]], dtype=int32)>
>>> A-B
<tf.Tensor: shape=(3, 3, 2), dtype=int32, numpy=
array([[[0, 1],[0, 1],[0, 1]],[[3, 4],[3, 4],[3, 4]],[[6, 7],[6, 7],[6, 7]]], dtype=int32)>
张量之间的矩阵乘法
矩阵乘法主要利用 tensorflow 中 tf.linalg.matmul 方法完成
张量之间可以进行矩阵乘法运算, 前提条件同样为两个:
1. 两个张量最后两维需要满足矩阵乘法的维度条件即 第一个向量的最后一维元素个数等于第二个张量导数第二维元素个数相同 。
2. 张量除最后两维其他维度均需要满足张量之间加减乘除的前提条件(补位机制也与张量之间的加减乘除相同)。
具体例子如下:
A = tf.Variable([[[1, 2], [2, 3], [3, 4]],[[4, 5], [5, 6], [6, 7]],[[7, 8], [8, 9], [9, 10]]])
B = tf.ones(shape=(1, 2, 3), dtype=tf.int32)C = tf.linalg.matmul(A, B)
print("A = ", A)
print("B = ", B)
print("C = ", C)
# 运行结果
A = <tf.Variable 'Variable:0' shape=(3, 3, 2) dtype=int32, numpy=
array([[[ 1, 2],[ 2, 3],[ 3, 4]],[[ 4, 5],[ 5, 6],[ 6, 7]],[[ 7, 8],[ 8, 9],[ 9, 10]]], dtype=int32)>
B = tf.Tensor(
[[[1 1 1][1 1 1]]], shape=(1, 2, 3), dtype=int32)
C = tf.Tensor(
[[[ 3 3 3][ 5 5 5][ 7 7 7]][[ 9 9 9][11 11 11][13 13 13]][[15 15 15][17 17 17][19 19 19]]], shape=(3, 3, 3), dtype=int32)
tensorflow 中张量一些常见操作
能够灵活运用以下操作, 进行基本的张量运算不会遇到太大的问题了。
tf.transpose 张量维度位置的变换
A = tf.Variable([[[1, 2, 3],[4, 5, 6]]])
B = tf.transpose(A, perm=[2, 1, 0])
print("A = ", A)
print("B = ", B)
# 运行结果
A = <tf.Variable 'Variable:0' shape=(1, 2, 3) dtype=int32, numpy=
array([[[1, 2, 3],[4, 5, 6]]], dtype=int32)>
B = tf.Tensor(
[[[1][4]][[2][5]][[3][6]]], shape=(3, 2, 1), dtype=int32)
其中 perm[i] 表示在变化后张量的第i维是原来张量的第perm[i]维。
tf.reshape 更改变量维度
具体例子如下:
A = tf.Variable([[[1, 2, 3],[4, 5, 6]]])
B = tf.reshape(A, shape=(2, 3))
print("A = ", A)
print("B = ", B)
# 运行结果
A = <tf.Variable 'Variable:0' shape=(1, 2, 3) dtype=int32, numpy=
array([[[1, 2, 3],[4, 5, 6]]], dtype=int32)>
B = tf.Tensor(
[[1 2 3][4 5 6]], shape=(2, 3), dtype=int32)
shape 为新生成张量的维度, 需要保证新生成张量元素个数与原始张量元素个数一致。
tf.expand_dims 添加维度
A = tf.Variable([[[1, 2, 3],[4, 5, 6]]])
B = tf.expand_dims(A, axis = 2)
print("A = ", A)
print("B = ", B)
# 运行结果
A = <tf.Variable 'Variable:0' shape=(1, 2, 3) dtype=int32, numpy=
array([[[1, 2, 3],[4, 5, 6]]], dtype=int32)>
B = tf.Tensor(
[[[[1 2 3]][[4 5 6]]]], shape=(1, 2, 1, 3), dtype=int32)
其中 axis 表示新添加维度的位置。
tf.squeeze 删除指定位置为元素个数为 1 的维度
A = tf.Variable([[[1, 2, 3],[4, 5, 6]]])
B = tf.squeeze(A, axis=0)
print("A = ", A)
print("B = ", B)
# 运行结果
A = <tf.Variable 'Variable:0' shape=(1, 2, 3) dtype=int32, numpy=
array([[[1, 2, 3],[4, 5, 6]]], dtype=int32)>
B = tf.Tensor(
[[1 2 3][4 5 6]], shape=(2, 3), dtype=int32)
axis 表示要删除维度的位置
tf.tile 张量拷贝
A = tf.Variable([[[1, 2, 3],[4, 5, 6]]])
B = tf.tile(A, multiples=[2, 1, 1])
C = tf.tile(A, multiples=[2, 1, 2])
print("A = ", A)
print("B = ", B)
print("C = ", C)
# 运行结果
A = <tf.Variable 'Variable:0' shape=(1, 2, 3) dtype=int32, numpy=
array([[[1, 2, 3],[4, 5, 6]]], dtype=int32)>
B = tf.Tensor(
[[[1 2 3][4 5 6]][[1 2 3][4 5 6]]], shape=(2, 2, 3), dtype=int32)
C = tf.Tensor(
[[[1 2 3 1 2 3][4 5 6 4 5 6]][[1 2 3 1 2 3][4 5 6 4 5 6]]], shape=(2, 2, 6), dtype=int32)
其中 multiples[i] 表示原始张量中的第i维拷贝多少份
tf.cast 张量类型转化
A = tf.Variable([[[1, 2, 3],[4, 5, 6]]])
B = tf.cast(A, dtype=tf.float32)
print("A = ", A)
print("B = ", B)
# 运行结果
A = <tf.Variable 'Variable:0' shape=(1, 2, 3) dtype=int32, numpy=
array([[[1, 2, 3],[4, 5, 6]]], dtype=int32)>
B = tf.Tensor(
[[[1. 2. 3.][4. 5. 6.]]], shape=(1, 2, 3), dtype=float32)
dtype 为转换后的类型,类型必须是 tensorflow 中的基本类型, 诸如 tf.int32, tf.float32 等。
tf.reduce_sum 张量按照某一维度求和
A = tf.Variable([[[1, 2, 3],[4, 5, 6]]])
B = tf.reduce_sum(A, axis=0)
C = tf.reduce_sum(A)
print("A = ", A)
print("B = ", B)
print("C = ", C)
# 运行结果
A = <tf.Variable 'Variable:0' shape=(1, 2, 3) dtype=int32, numpy=
array([[[1, 2, 3],[4, 5, 6]]], dtype=int32)>
B = tf.Tensor(
[[1 2 3][4 5 6]], shape=(2, 3), dtype=int32)
C = tf.Tensor(21, shape=(), dtype=int32)
其中 axis 表示求和的维度, 如果不输入 axis 则求整个张量所有元素的和。
通用数学公式转张量运算公式
这里介绍几个通用数学公式转张量运算公式,并利用 tensorflow 实现的例子。
例1
其中
这里需要说明下, 一般我们训练模型都是按照批次训练的, 所以在真实编写模型的过程中 x 的维度为 [batch_size, 50, 1], 在本文我们设置 batch_size 为 32 。
以下为上述公式的 tensorflow 实现
X = tf.Variable(tf.keras.initializers.GlorotNormal()(shape=(32, 50, 1)))
W = tf.Variable(tf.keras.initializers.GlorotNormal()(shape=(60, 50)))
b = tf.Variable(tf.keras.initializers.GlorotNormal()(shape=(60, 1)))Y = tf.linalg.matmul(tf.expand_dims(W, axis=0), X) + tf.expand_dims(b, axis=0)
Y = tf.keras.activations.sigmoid(Y)
print("X.shape = ", X.shape, "W.shape = ",W.shape, "b.shape = ", b.shape, "Y.shape = ", Y.shape)
# 运行结果
print("X.shape = ", X.shape, "W.shape = ",W.shape, "b.shape = ", b.shape, "Y.shape = ", Y.shape)
例2
其中 I 为标记矩阵 (维度 [T, N, M]), R 为真实矩阵 (维度 [T, N, M]),
以下为上述公式的 tensorflow 实现
I_mark = tf.Variable(tf.keras.initializers.GlorotNormal()(shape=(5, 6, 7)))
hat_R = tf.Variable(tf.keras.initializers.GlorotNormal()(shape=(5, 6, 7)))
R = tf.Variable(tf.keras.initializers.GlorotNormal()(shape=(5, 6, 7)))
print("I.shape = ", I_mark.shape, "hat_R.shape = ", hat_R.shape, "R.shape = ", R.shape)
loss = tf.reduce_sum(I_mark * tf.math.pow(hat_R - R, 2))
print("loss = ", loss)
# 运行结果
I.shape = (5, 6, 7) hat_R.shape = (5, 6, 7) R.shape = (5, 6, 7)
loss = tf.Tensor(0.09032831, shape=(), dtype=float32)
中tile函数_HelpGirlFriend 系列 --- tensorflow 中的张量运算思想相关推荐
- python中argmin函数_numpy 和tensorflow中argmax(),argmin()函数使用讲解
在使用argmax()函数时,比如在深度学习里面计算acc经常要用到这个参数,这个参数返回的是沿轴axis最大值的索引值,对于,tensorflow和numpy用法是一样的,此处我就用numpy来举例 ...
- php开发中常用函数总结,PHP开发中常用函数总结
PHP开发中常用函数总结 发布于 2014-10-31 08:34:03 | 48 次阅读 | 评论: 0 | 来源: 网友投递 PHP开源脚本语言PHP(外文名: Hypertext Preproc ...
- python中reduce函数的运用_python 中 reduce 函数的使用
reduce()函数也是Python内置的一个高阶函数. reduce()函数接收的参数和 map()类似,一个函数 f,一个list,但行为和 map()不同,reduce()传入的函数 f 必须接 ...
- python中divmod函数的用法_Python中divmod函数的用法
Python中divmod函数的用法,语言,余数,是一种,面向对象,函数 Python中divmod函数的用法 Python中divmod函数的用法 在Python中divmod函数的作用是把除数和余 ...
- numpy中tile函数
tile函数位于python模块numpy.lib.shape_base中,他的功能是重复某个数组. 函数的形式是tile(A,reps) 函数参数说明中提到A和reps都是array_like的,什 ...
- Numpy中tile函数的用法
tile函数的功能是重复某个数组,位于Numpy模块numpy.lib.shape_base中 下边通过具体例子来说明tile函数的具体用法: 1.通过一个数字来说明重复的次数 #!/usr/bin/ ...
- Numpy中 tile函数的用法
titl函数: a=arange(1,3) #a的结果是: array([1,2]) 1,当 tile(a,1) 时: tile(a,1) #结果是 array([1,2])tile(a,2) #结果 ...
- 中countif函数_Count系列函数-Count、Counta、Countblank、Countif、Countifs
统计函数在我们的日常工作中也会经常使用.常见的有Count.Counta.Countblank.Countif.Countifs五个. Count用于统计数据类型的单元格个数,Counta用于统计非空 ...
- java中example函数作用_MyBatis逆向工程中的Mapper接口以及Example的实例函数及详解...
一.mapper接口中的方法解析 mapper接口中的函数及方法 方法功能说明 int countByExample(UserExample example) thorws SQLException按 ...
最新文章
- 驰骋工作流引擎设计系列07 线性流程节点运动(发送)设计
- 非接触物体尺寸形态测量_如何确定接触式和非接触式测量之间的测量技术
- python绘制折线图怎么样填充空白颜色_Python:填补两幅图之间的空白
- 最长等差数列_最长等差数列分析
- 远程查看室内亮暗情况
- MyEclipse的代码提示功能
- java 远程怎么改bug_java struts2 远程执行任意java代码bug漏洞修复
- 洛谷P3378 【模板】堆
- 如何在 Apple TV 上更快地打开您喜爱的应用?
- 苹果在中国的审核规律探索一
- Android基于腾讯云的小直播开发步骤
- 【Unity3D】人体模型及动画
- PLC的编程与应用学习笔记
- 二阶矩阵转置怎么求_这个二阶矩阵的二范数怎么求
- java cim客户端_高效使用 SBLIM CIM Client
- 生存分析(Survival Analysis)、Cox风险比例回归模型(Cox proportional hazards model)及
- 【卸载神器——Geek】的下载安装使用教程
- iOS 开发 解决UICollectionView的多组头部视图样式不一样复用时发生错乱问题
- 仅有银行转账凭证,是否可认定为民间借贷关系
- 18、try...catch
热门文章
- Typo域名测试工具urlcrazy大学霸IT达人
- AndoridSQLite数据库开发基础教程(5)
- iOS 11开发教程(二)编写第一个iOS 11应用
- UGUI的优点新UI系统二 直观、易于使用
- Ie html button消失,input 按钮在IE下兼容问题
- 太炸了!SpaceX迎来20岁生日,马斯克收到一份特殊礼物
- 魔改ResNet反超Transformer再掀架构之争!作者说“没一处是创新”,这些优化trick值得学...
- 商汤三体梦幻联动,能遭遇水滴的那种元宇宙要来了!我在现场听见了次元壁破碎的声音...
- AI已经会刷LeetCode了
- 就算是戴上口罩,AI也知道你在说什么丨EMNLP 2020最佳论文