第三章-线性代数回顾

文章目录

第三章-线性代数回顾
- 矩阵和向量
- 矩阵的加法
- 矩阵的乘法
- - 矩阵标量乘法
  - 矩阵向量乘法
  - 矩阵乘法
  - 矩阵乘法的性质
- 矩阵的逆、转置

矩阵和向量

矩阵（Matrix） 是一个按照长方阵列排列的复数或实数集合

矩阵的维数 是矩阵的行数×列数

矩阵元素（矩阵项）：A=[1402191137182194914371471448]A=\left[ \begin{matrix} 1402 & 191 \\ 1371 & 821 \\ 949 & 1437 \\ 147 & 1448 \\\end{matrix} \right]A=⎣⎢⎢⎡1402137194914719182114371448⎦⎥⎥⎤
这个是4×2矩阵，即4行2列，如 m为行，n为列，那么 m×n 即4×2。当矩阵行数与列数相等（m=n）时我们称此矩阵为方阵。
AijA_{ij}Aij指第 i 行，第 j 列的元素，比如 A21A_{21}A21=1371

向量是一种特殊的矩阵，它是一种只有一行或一列的矩阵,如： y=[460232315178]y=\left[ \begin{matrix} {460} \\ {232} \\ {315} \\ {178} \\\end{matrix} \right]y=⎣⎢⎢⎡460232315178⎦⎥⎥⎤ 为四维列向量（4×1）。
使用符号 yiy_{i}yi 来表示向量 yyy 中第 iii 个元素，如：y2y_{2}y2=232

当然，矩阵和向量的下标也可以从0开始表示。比如1索引向量和0索引向量，一般我们用1索引向量。

y=[y1y2y3y4]y=\left[ \begin{matrix} {{y}_{1}} \\ {{y}_{2}} \\ {{y}_{3}} \\ {{y}_{4}} \\\end{matrix} \right]y=⎣⎢⎢⎡y1y2y3y4⎦⎥⎥⎤，y=[y0y1y2y3]y=\left[ \begin{matrix} {{y}_{0}} \\ {{y}_{1}} \\ {{y}_{2}} \\ {{y}_{3}} \\\end{matrix} \right]y=⎣⎢⎢⎡y0y1y2y3⎦⎥⎥⎤

通常在书写矩阵和向量时，我们使用大写字母来表示矩阵，用小写字母表示向量。

矩阵的加法

矩阵加法：两个相同m×n矩阵A和B的和，标记为A+B，一样是个m×n矩阵，其内的各元素为其相对应元素相加后的值。

矩阵减法与矩阵加法相类似

矩阵的乘法

矩阵标量乘法

标量乘法是通过常数因子来拉伸或收缩向量。具体做法是将矩阵中的所有元素逐一与标量相乘。

矩阵向量乘法

用 AAA 矩阵的第 iii 行元素分别乘以向量 yyy 中的元素，然后相加起来，得到一个新的矩阵元素。前提是 AAA 矩阵的列数与 yyy 向量的行数必须相等。
m×nm×nm×n 的矩阵乘以 n×1n×1n×1 的向量，得到的是 m×1m×1m×1 的向量。

[31729548]\left[ \begin{matrix} 3 & 1 \\ 7 & 2 \\ 9 & 5 \\ 4 & 8 \\\end{matrix} \right]⎣⎢⎢⎡37941258⎦⎥⎥⎤ × [52]\left[ \begin{matrix} 5 \\ 2 \\\end{matrix} \right][52] = [3×5+1×27×5+2×29×5+5×24×5+8×2]\left[ \begin{matrix} 3×5+1×2 \\ 7×5+2×2 \\ 9×5+5×2 \\ 4×5+8×2 \\\end{matrix} \right]⎣⎢⎢⎡3×5+1×27×5+2×29×5+5×24×5+8×2⎦⎥⎥⎤ = [17395536]\left[ \begin{matrix} 17 \\ 39 \\ 55 \\ 36 \\\end{matrix} \right]⎣⎢⎢⎡17395536⎦⎥⎥⎤

矩阵乘法

用 AAA 矩阵的第 iii 行元素乘以 BBB 矩阵的第 jjj 列元素，然后相加起来，得到一个新的矩阵元素 CijC_{ij}Cij。
m×nm×nm×n 矩阵乘以 n×rn×rn×r 矩阵，变成 m×rm×rm×r 矩阵。

矩阵乘法的性质

矩阵的乘法不满足交换律：A×B≠B×AA×B≠B×AA×B̸=B×A
矩阵的乘法满足结合律。即：A×(B×C)=(A×B)×CA×( B×C )=( A×B )×CA×(B×C)=(A×B)×C
单位矩阵 ：从左上角到右下角的对角线（称为主对角线）上的元素均为1，其余元素全都为0的矩阵，一般用 III 或者 EEE 表示。对于任何矩阵，有 AI=IA=AAI=IA=AAI=IA=A

矩阵的逆、转置

矩阵的逆 ：如矩阵AAA是一个m×mm×mm×m 矩阵（方阵），如果有逆矩阵，则：AA−1=A−1A=IA{{A}^{-1}}={{A}^{-1}}A=IAA−1=A−1A=I ，A−1A^{-1}A−1 为 AAA 的逆矩阵。实际上只有方阵才有逆矩阵。

矩阵的转置 ：设 AAA 为 m×nm×nm×n 阶矩阵（即 mmm 行 nnn 列），定义 AAA 的转置为这样一个 n×mn×mn×m 阶矩阵 BBB ，BBB 的第 iii 行第 jjj 列元素是 AAA 的第 jjj 行第 iii 列元素，即 BijB_{ij}Bij = AjiA_{ji}Aji ，记做 AT=B{{A}^{T}}=BAT=B 。

直观来看，将 AAA 的所有元素绕着一条从第1行第1列元素出发的右下方45度的射线作镜面反转，即得到 AAA 的转置。
∣abcdef∣T=∣acebdf∣{{\left| \begin{matrix} a& b \\ c& d \\ e& f \\\end{matrix} \right|}^{T}}=\left|\begin{matrix} a& c & e \\ b& d & f \\\end{matrix} \right|∣∣∣∣∣∣acebdf∣∣∣∣∣∣T=∣∣∣∣abcdef∣∣∣∣

吴恩达机器学习（第三章）——线性代数回顾相关推荐

吴恩达机器学习第三章课堂笔记
3.1 矩阵和向量矩阵就是数字组成的矩形阵列,并写在方括号内,也可以说是二维数组的另一种说法. 两行三列的矩阵,可以用花体 R 的 2*3表示.如果是单列的矩阵,如下图我们可以称这个 y 是四维 ...
吴恩达机器学习——第三周学习笔记
二元分类(Binary Classfication) 分类,一种方法是使用线性回归,将所有大于0.5的预测映射为1,将所有小于0.5的预测映射为0.然而,这种方法并不能很好地工作,因为分类实际上不是一 ...
吴恩达机器学习（第一章）——初识机器学习
第一章初识机器学习文章目录第一章初识机器学习前言机器学习定义机器学习算法监督学习无监督学习学习工具前言 Machine Learning: Grewout of work in ...
吴恩达机器学习（第二章）——单变量线性回归
第二章-单变量线性回归文章目录第二章-单变量线性回归模型描述代价函数梯度下降梯度下降的思想梯度下降算法的公式梯度下降的运动方式线性回归的梯度下降模型描述在监督学习中我们有一个数据 ...
吴恩达机器学习笔记——第一章
每学完一章都来写一篇博客,用来总结回顾和反思. 一.机器学习的一些简单应用我们可以利用计算机实现基础的功能:例如计算A到B的最短路径. 但是网页搜索.垃圾邮件的过滤.图片识别等功能需要应用机器学 ...
matlab版吴恩达机器学习第五章笔记
机器学习matlab操作基础 1.基本操作 2.移动数据 3.计算数据 4.绘图数据 5.控制语句:for,while,if语句 6.向量化 1.基本操作参考视频: 5 - 1 - Basic Op ...
西瓜书+实战+吴恩达机器学习（三）机器学习基础（多分类、类别不平衡）
文章目录 0. 前言 1. 多分类学习 2. 类别不平衡如果这篇文章对你有一点小小的帮助,请给个关注,点个赞喔,我会非常开心的~ 0. 前言本篇介绍机器学习中的多分类和类别不平衡问题. 1. 多分 ...
吴恩达机器学习（三）—— Logisitic回归
文章目录 1. 分类问题 2. 假设表示 3. 决策边界 4. 代价函数 5. 梯度下降 6. 高级优化 7. 多类别分类 Logistic回归是一种广义的线性回归分析模型.它是一种分类方法,可以适用 ...
吴恩达机器学习第四章
4.1 多维特征参考视频: 4 - 1 - Multiple Features (8 min).mkv 前几章,我们学习了单变量/特征的回归模型,现在我们对房价模型增加更多的特征, 例如房间数楼层等 ...
吴恩达机器学习笔记三之逻辑回归
本节目录: 分类问题假说表示判定边界代价函数高级优化多类别分类 1.分类问题在分类问题中,我们尝试预测的是结果是否属于某一个类(例如正确或错误).分类问题的例子有:判断一封电子邮件是否是 ...

吴恩达机器学习（第三章）——线性代数回顾