【深度学习中的数学】高维矩阵乘法规则

⾼维矩阵指维度≥3的矩阵，或者叫张量。

高维矩阵相乘分两种情况：1.相同维度 2.不同维度

1.相同维度矩阵

本质上还是⼆维矩阵之间的乘法，即把最后两个维度看成矩阵，执⾏⼆维矩阵乘法。

要求：1）后两维满足二维矩阵乘法

2）前几维形状相同

例如（a,b,c,d）可与（a,b,d,e）相乘

但由于广播机制的存在，要求2）不满足时也可进行相乘，前几维取较大的形状

（a,b,c,d）*(e,f,d,g)=(max{a,b},max{b,f},c,g)

实战中可以使用numpy中的matmul()

2.不同维度矩阵

由于矩阵不同维度，就相当于一维向量与常数进行对位点乘,也相当于二维矩阵与一维向量相乘

要求：较低维矩阵的所有维数形状与高维相同

（a,b,c）*(b,c)或（a,b,c,d）*(b,c,d)

但是由于广播机制的存在，较低维矩阵只要求其最高维与较高维矩阵对应维度形状相同即可，要求不满足时也可进行相乘，后几维取较大形状

实际要求：较低维矩阵的最高维与较高维矩阵对应维度形状相同

（a,b,c）*(b,e)=(a,b,max{c,e})

（a,b,c,d）*（b,,e,f）=(a,b,max{c,e},max{d,f})

因为广播机制，左乘右乘不加以区分

实战中数组点乘*

【深度学习中的数学】高维矩阵乘法规则相关推荐

深度学习中的数学-线性代数
深度学习中的数学-线性代数 1 矩阵和向量相乘 1.1 标准乘积 1.2 元素对应乘积 2 线性相关和生成子空间 3 特征分解 4 奇异值分解推荐书目参考 1 矩阵和向量相乘 1.1 标准乘积如 ...
[人工智能-数学基础-1]：深度学习中的数学地图：计算机、数学、数值计算、数值分析、数值计算、微分、积分、概率、统计.....
作者主页(文火冰糖的硅基工坊):https://blog.csdn.net/HiWangWenBing 本文网址:https://blog.csdn.net/HiWangWenBing/article ...
机器学习与深度学习中的数学知识点汇总
点击上方"AI算法与图像处理",选择加"星标"或"置顶" 重磅干货,每天 8:25 送达来源:SIGAI 在机器学习与深度学习中需要大量使 ...
深度学习中的数学--lecture 1(2)
Introduction:A Non-Rigorous Review of Deep Learning 原文地址本篇文章为 MIT 课程 Mathematical Aspects of Deep L ...
eta 深度学习参数_深度学习中的参数梯度推导（一）
必备的数学知识矩阵微分与求导前言深度学习向来被很多人认为是"黑盒",因为似乎很多人都不清楚深度学习的运作方式,本系列<深度学习中的数学>的连载文章主要目的就是向大 ...
一文读懂深度学习中的矩阵微积分
点击视学算法标星,更快获取CVML新技术鱼羊编译整理量子位报道 | 公众号 QbitAI 想要真正了解深度神经网络是如何训练的,免不了从矩阵微积分说起. 虽然网络上已经有不少关于多元微积分和线 ...
机器学习中的数学——深度学习中的优化理论
分类目录:<机器学习中的数学>总目录深度学习算法在许多情况下都涉及优化.例如,模型中的进行推断涉及求解优化问题.我们经常使用解析优化去证明或设计算法.在深度学习涉及的诸多优化问题中,最难 ...
【深度学习中模型评价指标汇总（混淆矩阵、recall、precision、F1、AUC面积、ROC曲线、ErrorRate）】
深度学习中模型好坏的所有评价指标汇总(混淆矩阵.recall.precision.F1score.AUC面积.ROC曲线.ErrorRate) 导航 0.混淆矩阵 1.AUC面积 2.ROC曲线 3. ...
深度学习中需要掌握的数学1之概率统计
深度学习中需要掌握的概率统计 1.常见的概率分布 1.1伯努利分布(二值分布,0-1分布) 1.2二项分布(离散的) 1.3均匀分布 1.4`高斯分布`(连续) 2.独立事件的解释 3.多变量概率分布 ...
一文带你读懂深度学习中的张量（tensor）是什么，它的运算是怎样的，如何理解张量，张量的维度，浅显易懂
深度学习的数学基础(不要被吓到,很浅显) 数据表示与张量运算张量在多维 Numpy 数组中,也叫张量(tensor).一般来说,当前所有机器学习系统都使用张量作为基本数据结构. 张量这一概念的核心 ...

【深度学习中的数学】高维矩阵乘法规则

【深度学习中的数学】高维矩阵乘法规则相关推荐

最新文章

热门文章