矩阵的初等变换

方程组初等变换

对调两个方程的位置
用一个非零的数乘某个方程的两边
把一个方程的倍数加到另一个方程上

经过这三种变换，线性方程组的解不变，将这三种变换称为线性方程组的初等变换，或可以叫作同解变换

矩阵的初等变换

由于矩阵和线性方程组之间存在某种神秘关系，可以定义矩阵的初等变换

对调行变换：对调A的第i行和第j行的位置，记作ri↔rjr_i \leftrightarrow r_jri↔rj
倍乘行变换：用一个非零数k乘A的第i行，记作ri×kr_i \times kri×k
倍加行变换：将A中的第i行的k倍加到第j行，记作rj+krir_j+kr_irj+kri

同理，存在用ci、cjc_i 、c_jci、cj（英语行row，列column，同理转置的T来源于transpose）表示的对调列变换、倍乘列变换、倍加列变换，这两类变换分别称为初等行变换和初等列变换，两类变换合称矩阵的初等变换。ri×12、rj+(−2)rir_i \times \frac{1}{2}、r_j+(-2)r_iri×21、rj+(−2)ri这两种记号也可写作ri÷2、rj−rir_i \div 2、r_j-r_iri÷2、rj−ri

要特别注意：倍加变换中rj+k×rir_j+k \times r_irj+k×ri与ri+k×rjr_i + k \times r_jri+k×rj含义不同，一个是把r_i乘k后加到j行，一个是把r_j乘k后加到i行！

矩阵的初等变换可逆

等价

若矩阵A经过有限次初等变换变成B，则称A与B等价，记作A→BA \rightarrow BA→B或A∼BA \sim BA∼B

A与B等价也称A与B相抵

A与B等价，B也与A等价；A→BA \rightarrow BA→B且B→CB \rightarrow CB→C，则A→CA \rightarrow CA→C

线性方程组消元法的本质

常用的线性消元法就是有n个未知数、n个方程，将未知数顺次排列，使用增广矩阵表示这些方程，并用行初等变换后可以得到形如En[X]E_n [X]En[X]这样的矩阵，其中X就是各个未知数的解

初等矩阵

由单位矩阵E经过一次初等变换得到的矩阵叫初等矩阵

依据初等变换方式的不同可以将初等矩阵分为对调矩阵E_i,j、倍乘矩阵E_i(k)、倍加矩阵E_i,j(k)，其中倍加矩阵指的是把第j行数乘k后加到第i行所得矩阵

初等矩阵的基本性质

Ei,jT=Ei,j、EiT(k)=Ei(k)E^T_{i,j}=E_{i,j}、E^T_i(k)=E_i(k)Ei,jT=Ei,j、EiT(k)=Ei(k)：转置对对调和倍乘不起作用

Ei,jT(k)=Ej,i(k)E^T_{i,j}(k)=E_{j,i}(k)Ei,jT(k)=Ej,i(k)：转置会让倍加调换

以下是三种获得单位矩阵性质

Ei,jEi,j=EE_{i,j}E_{i,j}=EEi,jEi,j=E

Ei(k)Ei(k−1)=EE_i(k)E_i(k^{-1})=EEi(k)Ei(k−1)=E

Ei,j(k)Ei,j(−k)=EE_{i,j}(k)E_{i,j}(-k)=EEi,j(k)Ei,j(−k)=E

其中i≠j,k≠0i \neq j,k \neq 0i=j,k=0

初等矩阵+矩阵乘法=初等变换

一个矩阵左乘初等矩阵等同于对这个矩阵作同类型的初等行变换

一个矩阵右乘初等矩阵等同于对这个矩阵作同类型的初等列变换

左乘xxx就是在矩阵左边乘xxx，右乘xxx就是在矩阵右边乘xxx

等价标准型

基本定理1

对于任何方阵A，只用有限次初等变换都能将A化为上三角矩阵

另一表述：

一定存在一个倍加矩阵P使∑PiA或∑APi\sum P_i A或\sum AP_i∑PiA或∑APi为上三角形矩阵

在变换中间可以交叉使用行初等变换或列初等变换

基本定理2

对于任何m x n非零矩阵A，必能用初等变换把它化为形如F=(EsOOO)F=\begin{pmatrix} E_s & O \\ O & O\end{pmatrix}F=(EsOOO)的矩阵，其中E_s是一个单位矩阵，也可以是数1（1x1的单位矩阵，元素为1），其中F叫做矩阵A的等价标准型，s是A的秩，它由A唯一确定

秩相关的内容将在以后讲解

F包括F=(EmO)F=\begin{pmatrix} E_m & O\end{pmatrix}F=(EmO)、F=(EnO)F=\begin{pmatrix} E_n\\ O\end{pmatrix}F=(EnO)、F=EF=EF=E三种特殊情况，分别对应s=m<n、s=n<m、s=m=n

NxN型线性方程组

NxN型齐次线性方程组

齐次线性方程组Ax=0一定有解x=0，把这个解称为Ax=0的零解；若u≠0u\neq0u=0也是它的解，则称u是Ax=0的非零解

而齐次线性方程组的解分为两种情况：只有零解或有非零解

NxN型齐次线性方程组Ax=0只有零解（有非零解）的充要条件是∣A∣≠0|A|\neq0∣A∣=0，也就是A可逆

NxN型非齐次线性方程组

NxN型非齐次线性方程组Ax=b有唯一解的充要条件是∣A∣≠0|A|\neq0∣A∣=0（即A可逆），其解为x=A^-1b

克拉默法则：当∣A∣≠0|A|\neq0∣A∣=0时，NxN型非齐次线性方程组Ax=b有唯一解xi=∣Bi∣∣A∣,(i=1,2,⋯,n)x_i=\frac{|B_i|}{|A|},(i=1,2,\cdots,n)xi=∣A∣∣Bi∣,(i=1,2,⋯,n)，其中B_i是把A的第i列换为b所得的矩阵

解系数矩阵为可逆矩阵的线性方程组的三种方法

初等行变换法

运算量最小，需要将矩阵变为左边是单位矩阵，右边是方程的解的形式
求逆矩阵法

运算量中等，需要求出A的行列式和伴随矩阵
利用克拉默法则

运算量最大，需要算出A和b的对应矩阵、行列式

线性方程组

下面使用初等变换、行列式、秩来讨论线性方程组的解的相关问题

线性方程组解的存在性

齐次线性方程组有非零解的充要条件

m x n型齐次线性方程组Ax=0有非零解（只有零解） <=> r(A)<n(r(A)=n)

也就是说对于m x n矩阵A，只要r(A)≤nr(A)\le nr(A)≤n，它就有非零解

r(A)<n即将A化为行阶梯矩阵时非零行的个数小于n，即对方程组Ax=0化简后留下方程的个数小于n，因为一个方程只能确定一个未知数，此时就有自由变化的未知数，所以有非零解

非齐次线性方程组解的存在性

对于m x n型非齐次线性方程组Ax=b，

AX=b有无穷多解 <=> r([A,b])=r(A)<nr([A,b])=r(A)<nr([A,b])=r(A)<n
AX=b有唯一解 <=> r([A,b])=r(A)=nr([A,b])=r(A)=nr([A,b])=r(A)=n
Ax=b无解 <=> r([A,b])≠r(A)r([A,b])\neq r(A)r([A,b])=r(A)

其中n就是未知数的个数

使用行初等变换将增广矩阵[A,b]化为行阶梯矩阵[B,c]，由r(B)和r([B,c])就可以知道r(A)和r([A,b])

将线性方程组的解的存在性定理应用在解析几何上

一个平面可以用一个三元列向量（法向量）表示

一个直线可以用两个平面，即两个三元列向量表示

有以下结论：

平面与平面间关系

将三个平面设为三个方程，它们组成了方程组Au=b

其中A是系数矩阵，由各平面的法向量（系数）组成

u是未知数矩阵，就是对应的[x,y,z]

b是非齐次方程的常量矩阵，由各个平面的参数D组成

三个平面交于一点 <=> 方程组Au=b有唯一解 <=> r([A,b])=r(A)=3 <=> 增广矩阵的秩为平面的个数3（方程的个数）
三个平面重合 <=> 方程组Au=b有无穷多解且只有一个独立的方程 <=> r([A,b])=r(A)=1 <=> 增广矩阵的秩为平面重合后的个数1
三个平面交于一条直线 <=> 方程组Au=b有无穷多解且有两个独立的方程 <=> r([A,b])=r(A)=2 <=> 增广矩阵的秩为平面相交后形成直线对应方程的个数2

总之平面与平面之间联立方程得到的秩就等于它们由于不同关系形成不同相交点、线、面的方程的秩

直线与平面之间的关系

直线与平面间的关系还可以看成三个平面间的关系

线面相交 <=> 方程组Au=b有唯一解 <=> r([A,b])=r(A)=3

直线与平面相交时的交点就是Au=b的唯一解
直线在平面上 <=> 方程组Au=b有无穷多解且直线的方程独立 <=> r([A,b])=r(A)=2 且A的前两个行向量线性无关
直线与平面平行 <=> 方程组Au=b无解且直线的方程独立 <=> r([A,b])=3，r(A)=2 且A的前两个行向量线性无关

总之直线与平面之间的关系与平面-平面间关系的解法一致，判断条件与直线是否独立、A的前两个表示直线的方程是否线性无关相一致

同理，

求m条直线之间的交点就相当于求2m*3型方程组的唯一解

两条直线之间的关系也可以通过类似的方法判断

线性方程组解的性质

下面是关于线性方程组的一些结论

齐次线性方程组解的线性组合也是原方程组的解

对应地，非齐次线性方程组解的线性组合不一定是原方程组的解
设v是非齐次线性方程组Ax=b的解，u是齐次线性方程组Ax=0的解

u+v是非齐次线性方程组Ax=b的解
非齐次线性方程组Ax=b的两个解之差为对应齐次线性方程组Ax=0的解

非齐次-非齐次=齐次

非齐次线性方程组Ax=b的解与齐次线性方程组Ax=0的解之和为非齐次线性方程组Ax=b的解

非齐次+齐次=非齐次
齐次方程组若有非零解，那它一定有无穷个非零解
若u₁、u₂、…、u_s是非齐次线性方程组Ax=b的解，则

∑i=1s(kiui)\sum_{i=1}^s (k_i u_i)∑i=1s(kiui)为Ax=0的解 <=> ∑i=1s=0\sum_{i=1}^s=0∑i=1s=0

∑i=1s(kiui)\sum_{i=1}^s (k_i u_i)∑i=1s(kiui)为Ax=b的解 <=> ∑i=1s=1\sum_{i=1}^s=1∑i=1s=1

利用这些结论，再加上之前总结过的下面这些结论，可以对证明题进行处理

A为n阶方阵，x和b为n元列向量，下面这些命题之间互为充要条件：

A为满秩矩阵

A为非奇异矩阵

A为可逆矩阵

Ax=0只有零解

Ax=b有唯一解

A的行向量组和列向量组线性无关

A的行列式不为0：∣A∣≠0|A|\neq0∣A∣=0

线性方程组解的结构

通解：一个方程组的所有解的一般表达式

基础解系：齐次线性方程组Ax=0的解集S（所有解向量的集合）的极大无关组

其他所有解都是由当前方程组的基础解系衍生而来；基础解系本质上就是一个极大无关组；只有齐次线性方程组才有基础解系

特解：非齐次线性方程组Ax=b的一个已知解

特别地，齐次线性方程组Ax=0的通解为x=∑i=1s(kivi)x=\sum_{i=1}^s (k_i v_i)x=∑i=1s(kivi)，其中viv_ivi为这个方程组的基础解系，kik_iki为任意常数

齐次线性方程组的解的结构

齐次线性方程组Ax=0的解集S的秩r(S)=n-r(A)

齐次线性方程组Ax=0的基础解系所含向量的个数就是解集S的秩，为n-r(A)，n是未知数的个数（系数矩阵A的列数），r(A)是系数矩阵A的秩

有以下结论：

向量组v1,v2,v3,⋯,vsv_1,v_2,v_3,\cdots,v_sv1,v2,v3,⋯,vs为m x n型齐次线性方程组Ax=0的基础解系的充要条件是v1,v2,v3,⋯,vsv_1,v_2,v_3,\cdots,v_sv1,v2,v3,⋯,vs是Ax=0的解，他们之间线性无关（由这些向量组成的行列式不为0），且s=n−r(A)s=n-r(A)s=n−r(A)（向量组的数量=未知数数量-系数矩阵的秩）
m x n型实矩阵A，遵守如下恒等式：

r(ATA)=r(AAT)=r(A)=r(AT)r(A^T A)=r(AA^T)=r(A)=r(A^T)r(ATA)=r(AAT)=r(A)=r(AT)

非齐次线性方程组解的结构

非齐次线性方程组Ax=b的通解等于对应齐次线性方程组Ax=0的通解加上非齐次线性方程组Ax=b本身的特解

表达式：x=∑i=1n−r(kivi)+ux=\sum_{i=1}^{n-r} (k_i v_i) +ux=∑i=1n−r(kivi)+u

x为非齐次线性方程组的通解；u为非齐次线性方程组的特解；∑i=1n−r(kivi)\sum_{i=1}^{n-r} (k_i v_i)∑i=1n−r(kivi)是齐次线性方程组的通解

线性方程组解的解法

利用矩阵的初等行变换可以求解线性方程组

理论依据就是对非齐次线性方程组的增广矩阵进行初等行变换时，方程组的解不变

解法如下：

用初等行变换将方程组的增广矩阵化为行最简矩阵
写出行最简矩阵对应的方程组的通解方程
将除只有一个1那一列外其他列对应的未知量设为自由未知量k₁、k₂、…、k_n

取行最简矩阵中非零行的第一个非零元素所在列对应的未知数为非自由未知数，其余的未知数为自由未知数
使用自由未知量表示其他未知量，列出每个未知量用自由未知量表示的“方程组的解”
将其用列向量乘自由未知量的形式表示
如果是非齐次线性方程组，在后面加上增广矩阵的最后一列（经过变换后的常量）

注意点如下：

解方程组时不能进行倍加和倍乘列变换，如果使用对调列变换，必须仔细考虑行最简形对应的方程组
求基础解系的方法：

逐次令自由未知数中的一个k_i为1，其余自由未知数为0，求得一组解，这组解就是方程组的基础解系

矩阵与方程

下面的内容是对矩阵和方程之间联系的归纳总结

推荐学完线代以后再看

矩阵方程

含有未知矩阵的方程称为矩阵方程

矩阵方程的解法：

根据条件和矩阵运算规则将方程进行变形，化为AX=B、XA=B或AXB=C的形式
若A或B或A且B可逆，则分别可以解得：
- X=A^-1B
- X=BA^-1
- X=A^-1CB^-1
若A不可逆，则将X和B按列分块得到一个线性方程组Aξi=βiA\xi_i=\beta_iAξi=βi，解出方程组就可以得到X
如果无法变形，就需要设未知矩阵为X=(xij)X=(x_{ij})X=(xij)，带入方程后得到线性方程组，求出X的元素就可以求出X

这个方法类似待定系数法

求解线性方程组的解法归纳在下面讲述

线性方程组的解

齐次线性方程组没有常数项；非齐次线性方程组有常数项，这是两者的最大不同

对于齐次线性方程组，只有零解、非零解、线性相关解、线性无关解这四种解的性质区别，齐次线性方程组一定有解（至少有一个零解）

对于非齐次线性方程组，存在无解、有唯一解、无穷多解三种情况，解还分成零解、非零解、线性相关解、线性无关解

线性方程组有解的条件

以下的矩阵A代表方程组的系数矩阵，[A,b]代表方程组的增广矩阵，b代表方程组的系数矩阵

线性方程组类型	条件	有没有解	有多少解	解的性质
齐次	r(A)=n或方程组行向量线性无关	有	1	零解
齐次	r(A)=r<n或方程组行向量线性相关	有	n-r	线性无关的非零解
非齐次	r(A)≠r([A,b])r(A)\neq r([A,b])r(A)=r([A,b])或b不能由A线性表出	无	0
非齐次	r(A)=r([A,b])=n或方程组行向量线性无关，增广矩阵对应向量组线性相关	有	1	唯一解
非齐次	r(A)=r([A,b])=r<n	有	无穷	无穷多解

直观理解：

齐次线性方程组

各个方程都独立，就表示对它们求解“互相冲突”，所以只有零解

存在关联的方程，就表示对他们可以解出有意义的值，所以存在线性无关的非零解
非齐次线性方程组

系数矩阵和增广矩阵不等价，就意味着对它们求解“互相冲突”，但是非齐次线性方程组的冲突没有办法用零解消掉，所以就无解了

系数矩阵和增广矩阵“一一对应”，就表示能够用一组解让系数矩阵“转为”增广矩阵

系数矩阵是增广矩阵的一个极大线性无关组，就意味着增广矩阵“能被无穷多解得出”

解方程和方程的解

高斯消元法

就是之前所说的消元法解线性方程组，将系数矩阵通过初等行变换化为阶梯形矩阵，就可以构造出同解方程组Bx=0，从下往上匹配未知量和解，存在r(A)=r个独立方程（等于未知量个数），有m-r个多余方程，n-r个自由未知量。令自由未知量为任意常数，回代求出独立未知量就能获得Ax=0的通解

这个方法也能应用于非齐次线性方程组

基础解系

对于一个方程组，它的解满足以下条件就称为该方程组的基础解系：

线性无关
是方程组的解
方程组的任一解均可由它们线性表出 -> 它们的数量s=解的总数n-方程组系数矩阵的秩r(A)

而基础解系乘上相同数量的任意常数就构成了方程组的通解

如果方程组的解还满足：

两个解的和还是方程组的解
一个解的倍数还是方程组的解

那么这些解构成方程组的一个解空间

解的结构

非齐次线性方程组的通解=对应齐次线性方程组的通解+一个特解

齐次线性方程组系数矩阵A的行向量与其解向量是正交矩阵

表达式：αix=0\alpha_i x=0αix=0

两边转置得：xTαiT=0x^T \alpha^T_i=0xTαiT=0，A的行向量的转置就是将解向量转置作为齐次方程组行向量时的解

反向理解方程组的解：方程组的解就是描述列向量组中各向量之间数量关系的系数

同解方程组

两个具有相同解的齐次线性方程组有以下命题互为充要条件：

Ax=0的解满足Bx=0
Bx=0的解满足Ax=0
r(A)=r(B)，且Ax=0的解满足Bx=0，Bx=0的解满足Ax=0
r(A)=r(B)=r([A B]^T)

线性代数笔记【矩阵与线性方程组】相关推荐

李宏毅线性代数笔记5：线性方程组
1 线性方程的解 1.1 两维的情况 span of the columns of A--由A的列向量张成的空间 2 线性方程有解的充要条件线性方程x1a1+x2a2+--+xnan=β有解(con ...
【线性代数】矩阵与线性方程组的几何意义
有线性方程组 A x = b Ax=b Ax=b.本文以三维为例,讨论其物理意义. 解的物理意义上述线性方程组包含若干个三元一次方程: a 11 x 1 + a 12 x 2 + a 13 x 3 ...
李宏毅线性代数笔记2：线性方程组和数域
1 线性方程组 1.1 相容性一个线性方程组有解--这个线性方程组是相容的,否则就是不相容的 1.2 齐次线性方程组齐次线性方程组:常数项全为0 -->(0,0-..,0)显然是一个解--零 ...
线性代数笔记（1）：线性方程组
线性代数笔记(1):线性方程组 2019-10-14 这部分的笔记依据David C. Lay 的<线性代数及其应用>第一章内容. ♡1\heartsuit 1♡1 线性方程组 1.1 线 ...
线性代数笔记：概率矩阵分解 Probabilistic Matrix Factorization （PMF）
概率矩阵分解模型可以解决大规模.稀疏且不平衡的数据. 1 PMF的两点假设 1.1.观测噪声(观测评分矩阵和近似评分矩阵之差)服从高斯噪声的正态分布观测评分矩阵是ground truth的矩阵,我们 ...
MIT线性代数笔记三矩阵的乘法和逆矩阵
文章目录 1. 矩阵乘法 Matrix multiplication 1.1 标准方法(行乘以列) 1.2 列向量的线性组合 1.3 行向量的线性组合 1.4 分块乘法 2. 逆矩阵 2.1 逆矩阵的 ...
线性代数笔记18——投影矩阵和最小二乘
一维空间的投影矩阵先来看一维空间内向量的投影: 向量p是b在a上的投影,也称为b在a上的分量,可以用b乘以a方向的单位向量来计算,现在,我们打算尝试用更"贴近"线性代数的方式表达 ...
线性代数笔记-3Blue1Brown：(一)
线性代数笔记-3Blue1Brown:(一) 文章目录线性代数笔记-3Blue1Brown:(一) 一.向量是什么? 二.线性组合.张成的空间和基三.矩阵与线性变换三.矩阵乘法与线性变换复合四 ...
【线性代数笔记】线性代数知识点总结、概念之间关系总结
文章目录矩阵的秩 1. 基础 2. 秩与行列式的关系 3. 秩与伴随矩阵的关系 4. 秩标准型 5. 秩与分块矩阵的关系 6. 秩与向量组的关系 7. 秩与线性方程组的关系 8. 秩与特征值的关系 ...
线性代数笔记：Khatri-Rao积
1 介绍 Khatri-Rao积的定义是两个具有相同列数的矩阵与矩阵的对应列向量的克罗内克积(线性代数笔记:Kronecker积_UQI-LIUWJ的博客-CSDN博客) 排列而成的,其生成的矩阵大小 ...

线性代数笔记【矩阵与线性方程组】

矩阵的初等变换

方程组初等变换