Gilbert Strang的线性代数课程笔记-第三课

第三课的主题为：矩阵乘法的四种理解与矩阵的可逆性

矩阵乘法的四种理解

假设有矩阵AB = C

且A、B、C三者的维度分别为：m x p，p x n，m x n

1. 按定义理解，将目标矩阵C的每个元素理解为行与列相乘的结果

根据之前文档中矩阵乘法，元素Cij来源于：A中第i行与B中第j列相乘而得

A中第i行的元素有：ai1, ai2,... aip，B中第j列的元素有：b1j,b2j,...Bpj

Cij = (A中第i行) * (B中第j列) = ai1*b1j + ai2*b2j...aip*bpj = Σaik*bkj (k∈1~p)来表示

这个计算过程的形状变化是：

A的第i行形状为1 x p，B的第j列形状为p x 1

1 x p，p x 1 => 1 x 1

所以每一组行列相乘，会构成矩阵C中的一个元素，共有m x n组行列，构成矩阵C中m x n个元素

2. 与定义相反，用列与行相乘的角度来理解

当我们把矩阵乘法用列与行相乘的角度来表示时，先看一看形状：

A中第i列的形状为：m x 1，B中第j行的形状为：1 x n

m x 1，1 x n => m x n，正好是目标矩阵的尺寸

所以一组列行相乘可以得到一个m x n的矩阵，目标矩阵由p组列行相乘得到的m x n个矩阵相加而得

不好理解的话举个例子：

按正常的行列相乘有：

用列乘以行来理解：

3. 根据第二课行列组合的角度来解释——列的组合

C中第i列由矩阵A根据矩阵B中第i列的值来组合而得（矩阵B第i列的值指引了组合方式，第一个元素b1i表示取b1i个A的第一列，第二个元素b2i表示取b2i个A的第二列...以此类推）

4. 根据第二课行列组合的角度来解释——行的组合

C中第i行由矩阵B根据矩阵A中第i行的值来组合而得（矩阵A第i行的值指引了组合方式，第一个元素ai1表示取ai1个B的第一行，第二个元素ai2表示取ai2个B的第二行...以此类推）

矩阵具有的特质：支持模块化计算

（此处每个A与B不表示单个元素，而是小矩阵）

（原课程没有解释这为什么行得通，但它就是行得通）

矩阵的可逆性质

定义：当A-1A = I 或AA-1 = I成立时，我们可以说A是可逆的（invertible）且非奇异的（non-singular）

定义补充：

秩：一个矩阵A的列秩是A的线性独立的纵列的极大数目。类似地，行秩是A的线性无关的横行的极大数目。秩的求法暂不在此展开

奇异矩阵：非满秩的方阵称为奇异矩阵

非奇异矩阵：满秩的方阵称为非奇异矩阵

实例：为什么奇异矩阵不可逆？

解释1：

假设有奇异矩阵A（A中第一行和第二行存在线性关系）

为了求A的逆矩阵，我们希望找到一个矩阵E使得

根据矩阵的行组合角度求解E，我们企图先把A中第二行的2消为右边单元矩阵中的0：

消去2后，右下角的1也被消没了，可以看到当前矩阵无法继续变换至目标矩阵

说明A的逆矩阵不存在，矩阵A不可逆

解释2：

由于奇异矩阵A中第一行和第二行存在线性关系，我们可以找到组合关系使Ax = 0成立（这与奇异矩阵的性质相关，暂不展开原理）

在本例中，3个第一列与-1个第二列可以组成0向量：

Ax = 0成立，若我们假设A可逆，则左右同乘可得

，当我们假设A可逆时有

此时等式变为Ix = 0，解得，这与刚刚求出来相悖，说明矩阵A在这种情况下是不可逆的！

实例：逆矩阵的求法（Gauss-Jordan方法）

先回顾：在之前对三元一次方程组的求解过程中，我们把

写成矩阵的格式

为了方便表示，把A和b写在一个矩阵后进行消元：

那么在此基础上，是否有更利于解题的形式？

如果把矩阵变成的形态，可以直接得到x = a，y = b，z =c！

那么我们继续变换，开始对支点上下的值进行消元，直到支点均为1，支点以外的值均为0

上述过程的四个步骤

步骤1-化简：第二行除以2，第三行除以5，将支点化为1

步骤2-消元：式1-(2*式2)，将1行2列的值消为0

步骤3-消元：式2+式3，将2行3列的值消为0

步骤4-消元：式1-(3*式3)，将1行3列的值消为0

根据最后的矩阵可得，x = 2，y = 1，z = -2

现在把这个思想搬到”求逆矩阵”的问题上：

已知公式，我们将视为未知数矩阵x，将I设为目标矩阵b来看待

套用上面的方法去解

假设有方阵

根据上面的简化方法将A与b拼起来写，方便消元

进行消元操作，将左边的部分转化为单元矩阵以便求解：

最终就得到了x的部分，即

也就是A的逆矩阵！

同时我们可以用另外一个角度看待这个问题：

过程可看待为经过一定变换变成了（先假装不知道结果中右边的矩阵是什么，设为M）

将整个变换用E来表示，即

那么根据矩阵可以模块化运算的性质，有EA = I，EI = M

看EI = M：矩阵乘以单元矩阵还是它本身，所以E=M

看EA = I，根据定义"当A-1A = I 或AA-1 = I成立时，我们可以说A是可逆的且非奇异的"，可知这个E就是A的逆矩阵！