文章目录

前言
一、逆矩阵的定义与性质
二、矩阵求逆引理

前言

本文学习过程来源是《矩阵分析与应用-张贤达》一书. 可以通过 z-lib 下载.

这部分内容与线性代数的内容重合, 讲述的是逆矩阵的一些性质.

一、逆矩阵的定义与性质

对于一个 n×nn \times nn×n 的矩阵, 要是它具有 nnn 个线性无关的列向量和 nnn 个线性无关的行向量, 我们就把这个矩阵叫做非奇异矩阵. 在之前也提到过这个概念, 非奇异说的就是不特别, 具有很多良好的性质. 矩阵可逆就是这诸多性质中的一种.

从线性系统的观点出发: 一线性变换或正方矩阵 AAA 只对零输入产生零输出, 就是非奇异的. 反之就是奇异的. 非奇异矩阵必定有逆矩阵, 奇异矩阵必没有逆矩阵.

一个 n×nn \times nn×n 的正方矩阵 BBB 满足 BA=AB=IBA=AB=IBA=AB=I 时, 就称矩阵 BBB 是矩阵 AAA 的逆矩阵, 记作 A−1A^{-1}A−1.

在之前也提到过非奇异矩阵的行列式是不为 000 的, 这里就从这一方面入手来详细解释一下.

这里又提到了初学线代时提到的一个概念, 叫做伴随矩阵.

若一个正方矩阵 AAA 的所有元素 aija_{ij}aij 分别由它们的余子式 AijA_{ij}Aij 代替, 然后转置, 所得到的矩阵称为 AAA 的伴随矩阵, 记作 adj(A)adj(A)adj(A) 或者 A∗A^*A∗, 就有式子:

adj(A)=[A11A21⋯An1A12A22⋯An2⋮⋮⋮A1nA2n⋯Ann](1)\mathrm{adj}(A) = \begin{bmatrix} A_{11}& A_{21}& \cdots& A_{n1}\\ A_{12}& A_{22}& \cdots& A_{n2}\\ \vdots& \vdots& & \vdots\\ A_{1n}& A_{2n}& \cdots& A_{nn} \end{bmatrix} \tag{1} adj(A)=⎣⎢⎢⎢⎡A11A12⋮A1nA21A22⋮A2n⋯⋯⋯An1An2⋮Ann⎦⎥⎥⎥⎤(1)

若行列式 det(A)≠0\mathrm{det}(A) \neq 0det(A)=0, 则矩阵 AAA 的逆矩阵 A−1A^{-1}A−1 存在, 并且唯一. 逆矩阵 A−1A^{-1}A−1 由下式给出:

A−1=1det(A)adj(A)=1∣A∣[A11A21⋯An1A12A22⋯An2⋮⋮⋮A1nA2n⋯Ann](2)A^{-1} = \frac{1}{\mathrm{det}(A)}\mathrm{adj}(A) = \frac{1}{|A|}\begin{bmatrix} A_{11}& A_{21}& \cdots& A_{n1}\\ A_{12}& A_{22}& \cdots& A_{n2}\\ \vdots& \vdots& & \vdots\\ A_{1n}& A_{2n}& \cdots& A_{nn} \end{bmatrix} \tag{2} A−1=det(A)1adj(A)=∣A∣1⎣⎢⎢⎢⎡A11A12⋮A1nA21A22⋮A2n⋯⋯⋯An1An2⋮Ann⎦⎥⎥⎥⎤(2)

伴随矩阵具有下面的性质:

矩阵 An×nA_{n \times n}An×n 的伴随矩阵 adj(A)\mathrm{adj}(A)adj(A) 的转置等于 AAA 的转置的伴随矩阵, 即 [adj(A)]T=adj(AT)[\mathrm{adj}(A)]^{\mathrm{T}} = \mathrm{adj}(A^{\mathrm{T}})[adj(A)]T=adj(AT). 分别按照顺序列出式子就可以很轻易证明出等式了.

若矩阵 A∈Cn×nA \in C^{n \times n}A∈Cn×n 的逆矩阵存在, 则称矩阵 AAA 是非奇异的或可逆的. 关于矩阵的奇异性或可逆性, 下列叙述等价:

AAA 非奇异
A−1A^{-1}A−1 存在
rank(A)=n\mathrm{rank}(A) = nrank(A)=n
AAA 的行线性无关
AAA 的列线性无关
det(A)≠0\mathrm{det}(A) \neq 0det(A)=0
AAA 的值域的维数是 nnn
AAA 的零空间的维数是 000
Ax=bAx=bAx=b 对每一个 b∈Cnb \in C^nb∈Cn 都是一致方程. (一致方程指至少有一个解)
Ax=bAx=bAx=b 对每一个 bbb 有唯一的解.
Ax=0Ax=0Ax=0 只有平凡解 x=0x=0x=0

对 n×nn \times nn×n 矩阵 AAA 的逆矩阵 A−1A^{-1}A−1 具有以下性质.

A−1A=AA−1=IA^{-1}A=AA^{-1}=IA−1A=AA−1=I. 假定另一个矩阵 PPP 满足 AP=IAP=IAP=I 来证明.
A−1A^{-1}A−1 是唯一的.
逆矩阵的行列式等于原矩阵行列式的倒数, 即 ∣A−1∣=1∣A∣|A^{-1}|=\frac{1}{|A|}∣A−1∣=∣A∣1. 证明的时候需要先了解一下拉普拉斯定理, 得到 ∣AB∣=∣A∣∣B∣|AB|=|A||B|∣AB∣=∣A∣∣B∣, 然后再对这个性质证明.
逆矩阵是非奇异的. 证明自然就是式子 ∣A−1∣=1∣A∣≠0|A^{-1}|=\frac{1}{|A|} \neq 0∣A−1∣=∣A∣1=0.
(A−1)−1=A(A^{-1})^{-1}=A(A−1)−1=A
复共轭转置矩阵 AHA^{\mathrm{H}}AH 的逆矩阵等于逆矩阵 A−1A^{-1}A−1 的复共轭转置, 即 (AH)−1=(A−1)H(A^{\mathrm{H}})^{-1}=(A^{-1})^{\mathrm{H}}(AH)−1=(A−1)H. 逆矩阵的复共轭转置常采用符号 A−H=(A−1)HA^{\mathrm{-H}}=(A^{-1})^{\mathrm{H}}A−H=(A−1)H 简化.
若 AH=AA^{\mathrm{H}}=AAH=A, 则 (A−1)H=A−1(A^{-1})^{\mathrm{H}}=A^{-1}(A−1)H=A−1
(A∗)−1=(A−1)∗(A^*)^{-1}=(A^{-1})^*(A∗)−1=(A−1)∗
如果 AAA 和 BBB 都是可逆的, 则有:

(AB)−1=B−1A−1(3)(AB)^{-1}=B^{-1}A^{-1} \tag{3} (AB)−1=B−1A−1(3)

更一般的有

(ABC)−1=C−1B−1A−1(4)(ABC)^{-1}=C^{-1}B^{-1}A^{-1} \tag{4} (ABC)−1=C−1B−1A−1(4)

若 A=diag(a1,a2,…,am)A = \mathrm{diag}(a_1,a_2,\dots,a_m)A=diag(a1,a2,…,am) 为对角矩阵, 则其逆矩阵

A−1=diag(a1−1,a2−1,…,am−1)A^{-1} = \mathrm{diag}(a_1^{-1},a_2^{-1},\dots,a_m^{-1}) A−1=diag(a1−1,a2−1,…,am−1)

若 AAA 非奇异, 则有

A为正交矩阵⟺A−1=ATA为酉矩阵⟺A−1=AHA 为正交矩阵 \Longleftrightarrow A^{-1} = A^{\mathrm{T}} \\ A 为酉矩阵 \Longleftrightarrow A^{-1} = A^{\mathrm{H}} A为正交矩阵⟺A−1=ATA为酉矩阵⟺A−1=AH

二、矩阵求逆引理

引理 1: (Sherman−Morrison\mathrm{Sherman-Morrison}Sherman−Morrison 公式) 令 AAA 是一个 n×nn \times nn×n 的可逆矩阵, 并且 xxx 和 yyy 是两个 n×1n \times 1n×1 向量, 使得 (A+xyH)(A+xy^{\mathrm{H}})(A+xyH) 可逆, 则

(A+xyH)−1=A−1−A−1xyHA−11+yHA−1x(5)(A + xy^{\mathrm{H}})^{-1} = A^{-1} - \frac{A^{-1}xy^{\mathrm{H}}A^{-1}}{1+y^{\mathrm{H}}A^{-1}x} \tag{5} (A+xyH)−1=A−1−1+yHA−1xA−1xyHA−1(5)

证明过程中需要用到两个公式

若 (I+B)(I+B)(I+B) 可逆, 并且 B≠IB \neq IB=I, 则 (I+B)−1=I−B+B2−B3+…(I+B)^{-1} = I -B+B^2-B^3+\dots(I+B)−1=I−B+B2−B3+….
11−x=1+x+x2+⋯+xn+…(−1<x<1)\frac{1}{1-x}=1+x+x^2+\dots+x^n+\dots(-1<x<1)1−x1=1+x+x2+⋯+xn+…(−1<x<1)

矩阵求逆引理可以推广为矩阵之和的求逆公式, 也叫 Woodbury\mathrm{Woodbury}Woodbury 公式

(A+UBV)−1=A−1−A−1UB(B+BVA−1UB)−1BVA−1=A−1−A−1U(I+BVA−1U)−1BVA−1(6)\begin{aligned} (A+UBV)^{-1} &= A^{-1} - A^{-1}UB(B+BVA^{-1}UB)^{-1}BVA^{-1} \\ &= A^{-1} - A^{-1}U(I+BVA^{-1}U)^{-1}BVA^{-1} \end{aligned} \tag{6} (A+UBV)−1=A−1−A−1UB(B+BVA−1UB)−1BVA−1=A−1−A−1U(I+BVA−1U)−1BVA−1(6)

或

(A−UV)−1=A−1+A−1U(I−VA−1U)−1VA−1(7)(A-UV)^{-1} = A^{-1}+A^{-1}U(I-VA^{-1}U)^{-1}VA^{-1} \tag{7} (A−UV)−1=A−1+A−1U(I−VA−1U)−1VA−1(7)

矩阵 I−VA−1UI-VA^{-1}UI−VA−1U 有时被称为容量矩阵.

当 U=u,B=bU = u, B=bU=u,B=b 和 V=vHV = v^{\mathrm{H}}V=vH 时, Woodbury\mathrm{Woodbury}Woodbury 公式给出结果

(A+buvH)−1=A−1−b1+bvHA−1uA−1uvHA−1(8)(A+buv^{\mathrm{H}})^{-1}=A^{-1} - \frac{b}{1+bv^{\mathrm{H}}A^{-1}u}A^{-1}uv^{\mathrm{H}}A^{-1} \tag{8} (A+buvH)−1=A−1−1+bvHA−1ubA−1uvHA−1(8)

Duncan−GuttmanDuncan-GuttmanDuncan−Guttman 求逆公式

(A−UD−1V)−1=A−1+A−1U(D−VA−1U)−1VA−1(9)(A - UD^{-1}V)^{-1} = A^{-1}+A^{-1}U(D-VA^{-1}U)^{-1}VA^{-1} \tag{9} (A−UD−1V)−1=A−1+A−1U(D−VA−1U)−1VA−1(9)

除了以上的公式外, 矩阵之和的逆矩阵还有下面的形式

(A+UBV)−1=A−1−A−1(I+UBVA−1)−1UBVA−1=A−1−A−1UB(I+VA−1UB)−1VA−1=A−1−A−1UBV(I+A−1UBV)−1A−1=A−1−A−1UBVA−1(I+UBVA−1)−1(10)\begin{aligned} (A+UBV)^{-1} &= A^{-1} - A^{-1}(I+UBVA^{-1})^{-1}UBVA^{-1} \\ &= A^{-1} - A^{-1}UB(I+VA^{-1}UB)^{-1}VA^{-1} \\ &= A^{-1} - A^{-1}UBV(I+A^{-1}UBV)^{-1}A^{-1} \\ &= A^{-1} - A^{-1}UBVA^{-1}(I+UBVA^{-1})^{-1} \end{aligned} \tag{10} (A+UBV)−1=A−1−A−1(I+UBVA−1)−1UBVA−1=A−1−A−1UB(I+VA−1UB)−1VA−1=A−1−A−1UBV(I+A−1UBV)−1A−1=A−1−A−1UBVA−1(I+UBVA−1)−1(10)

然后就是分块矩阵求逆公式.

矩阵 AAA 可逆时, 为

[AUVD]−1=[A−1+A−1U(D−VA−1U)−1VA−1−A−1U(D−VA−1U)−1−(D−VA−1U)−1VA−1(D−VA−1U)−1](11)\begin{bmatrix} A& U\\ V& D \end{bmatrix}^{-1}=\begin{bmatrix} A^{-1}+A^{-1}U(D-VA^{-1}U)^{-1}VA^{-1}& -A^{-1}U(D-VA^{-1}U)^{-1}\\ -(D-VA^{-1}U)^{-1}VA^{-1}& (D-VA^{-1}U)^{-1} \end{bmatrix} \tag{11} [AVUD]−1=[A−1+A−1U(D−VA−1U)−1VA−1−(D−VA−1U)−1VA−1−A−1U(D−VA−1U)−1(D−VA−1U)−1](11)

矩阵 AAA 和 DDD 可逆时, 为

[AUVD]−1=[(A−UD−1V)−1−A−1U(D−VA−1U)−1−D−1V(A−UD−1V)−1(D−VA−1U)−1](12)\begin{bmatrix} A& U\\ V& D \end{bmatrix}^{-1}=\begin{bmatrix} (A-UD^{-1}V)^{-1}& -A^{-1}U(D-VA^{-1}U)^{-1}\\ -D^{-1}V(A-UD^{-1}V)^{-1}& (D-VA^{-1}U)^{-1} \end{bmatrix} \tag{12} [AVUD]−1=[(A−UD−1V)−1−D−1V(A−UD−1V)−1−A−1U(D−VA−1U)−1(D−VA−1U)−1](12)

矩阵 AAA 和 DDD 可逆时, 为

[AUVD]−1=[(A−UD−1V)−1−(A−UD−1V)−1UD−1−(D−VA−1U)−1VA−1(D−VA−1U)−1](13)\begin{bmatrix} A& U\\ V& D \end{bmatrix}^{-1}=\begin{bmatrix} (A-UD^{-1}V)^{-1}& -(A-UD^{-1}V)^{-1}UD^{-1}\\ -(D-VA^{-1}U)^{-1}VA{-1}& (D-VA^{-1}U)^{-1} \end{bmatrix} \tag{13} [AVUD]−1=[(A−UD−1V)−1−(D−VA−1U)−1VA−1−(A−UD−1V)−1UD−1(D−VA−1U)−1](13)

或者

[AUVD]−1=[(A−UD−1V)−1−(V−DU−1A)−1(U−AV−1D)−1(D−VA−1U)−1](14)\begin{bmatrix} A& U\\ V& D \end{bmatrix}^{-1}=\begin{bmatrix} (A-UD^{-1}V)^{-1}& -(V-DU^{-1}A)^{-1}\\ (U-AV^{-1}D)^{-1}& (D-VA^{-1}U)^{-1} \end{bmatrix} \tag{14} [AVUD]−1=[(A−UD−1V)−1(U−AV−1D)−1−(V−DU−1A)−1(D−VA−1U)−1](14)

Hermitian\mathrm{Hermitian}Hermitian 矩阵的求逆引理, 令 Hermitian\mathrm{Hermitian}Hermitian 矩阵的分块形式为

Rm+1=[RmrmrmHρm](15)R_{m+1} = \begin{bmatrix} R_m& r_m\\ r_m^{\mathrm{H}}& \rho_m \end{bmatrix} \tag{15} Rm+1=[RmrmHrmρm](15)

考虑使用 Rm−1R_m^{-1}Rm−1 逆推 Rm+1−1R_{m+1}^{-1}Rm+1−1, 令

Qm+1=[QmqmqmHαm](16)Q_{m+1} = \begin{bmatrix} Q_m& q_m\\ q_m^{\mathrm{H}}& \alpha_m \end{bmatrix} \tag{16} Qm+1=[QmqmHqmαm](16)

于是就有

Rm+1Qm+1=[RmrmrmHρm][QmqmqmHαm]=[Im0m0mH1](17)R_{m+1}Q_{m+1} = \begin{bmatrix} R_m& r_m\\ r_m^{\mathrm{H}}& \rho_m \end{bmatrix} \begin{bmatrix} Q_m& q_m\\ q_m^{\mathrm{H}}& \alpha_m \end{bmatrix} = \begin{bmatrix} I_m& 0_m\\ 0_m^{\mathrm{H}}& 1 \end{bmatrix} \tag{17} Rm+1Qm+1=[RmrmHrmρm][QmqmHqmαm]=[Im0mH0m1](17)

由此可以推导出下面四个方程式:

RmQm+rmqmH=Im(18)R_mQ_m + r_mq_m^{\mathrm{H}}=I_m \tag{18} RmQm+rmqmH=Im(18)

rmHQm+ρmqmH=0mH(19)r_m^{\mathrm{H}}Q_m + \rho_mq_m^{\mathrm{H}} = 0_m^{\mathrm{H}} \tag{19} rmHQm+ρmqmH=0mH(19)

Rmqm+rmαm=0m(20)R_mq_m + r_m\alpha_m = 0_m \tag{20} Rmqm+rmαm=0m(20)

rmHqm+ρmαm=1(21)r_m^{\mathrm{H}}q_m + \rho_m\alpha_m = 1 \tag{21} rmHqm+ρmαm=1(21)

若 RmR_mRm 可逆, 则由式子 (20) 可得

qm=−αmRm−1rm(22)q_m = -\alpha_m R_m^{-1}r_m \tag{22} qm=−αmRm−1rm(22)

代入式子 (21) 得

αm=1ρm−rmHRm−1rm(23)\alpha_m = \frac{1}{\rho_m - r_m^{\mathrm{H}}R_m^{-1}r_m} \tag{23} αm=ρm−rmHRm−1rm1(23)

将式子 (23) 代入式子 (22), 又可得

qm=−Rm−1rmρm−rbHRm−1rm(24)q_m = \frac{-R_m^{-1}r_m}{\rho_m - r_b^{\mathrm{H}}R_m^{-1}r_m} \tag{24} qm=ρm−rbHRm−1rm−Rm−1rm(24)

将式子 (24) 代入式子 (18), 则

Qm=Rm−1−Rm−1rmqmH=Rm−1+Rm−1rm(Rm−1rm)Hρm−rmHRm−1rm(25)Q_m = R_m^{-1}-R_m^{-1}r_mq_m^{\mathrm{H}} = R_m^{-1} + \frac{R_m^{-1}r_m(R_m^{-1}r_m)^{\mathrm{H}}}{\rho_m - r_m^{\mathrm{H}}R_m^{-1}r_m} \tag{25} Qm=Rm−1−Rm−1rmqmH=Rm−1+ρm−rmHRm−1rmRm−1rm(Rm−1rm)H(25)

简化式子 (23)~(25), 令

bm=def[b0(m),b1(m),…,bm−1(m)]T=−Rm−1rm(26)b_m \overset{def}{=}[b_0^{(m)},b_1^{(m)},\dots,b_{m-1}^{(m)}]^{\mathrm{T}}=-R_m^{-1}r_m \tag{26} bm=def[b0(m),b1(m),…,bm−1(m)]T=−Rm−1rm(26)

βm=defρm−rmHRm−1rm=ρm+rmHbm(27)\beta_m \overset{def}{=}\rho_m - r_m^{\mathrm{H}}R_m^{-1}r_m = \rho_m + r_m^{\mathrm{H}}b_m \tag{27} βm=defρm−rmHRm−1rm=ρm+rmHbm(27)

那么式子 (23)~(25) 就简化为

αm=1βm\alpha_m = \frac{1}{\beta_m} αm=βm1

qm=1βmbmq_m = \frac{1}{\beta_m}b_m qm=βm1bm

Qm=Rm−1+1βmbmbmHQ_m = R_m^{-1}+\frac{1}{\beta_m}b_mb_m^{\mathrm{H}} Qm=Rm−1+βm1bmbmH

代入式子 (17) 得

Rm+1−1=Qm+1=[Rm−10m0mH0]+1βm[bmbmHbmbmH1](28)R_{m+1}^{-1} = Q_{m+1}=\begin{bmatrix} R_m^{-1}& 0_m\\ 0_m^{\mathrm{H}}& 0 \end{bmatrix} + \frac{1}{\beta_m}\begin{bmatrix} b_mb_m^{\mathrm{H}}& b_m\\ b_m^{\mathrm{H}}& 1 \end{bmatrix} \tag{28} Rm+1−1=Qm+1=[Rm−10mH0m0]+βm1[bmbmHbmHbm1](28)

这个由 Rm−1R_m^{-1}Rm−1 求 Rm+1−1R_{m+1}^{-1}Rm+1−1 的秩 1 修正公式称为 Hermitian\mathrm{Hermitian}Hermitian 矩阵的分块求逆引理.

矩阵分析与应用-1.7-逆矩阵相关推荐

矩阵分析与应用-1.9-Moore-Penrose逆矩阵-Section3
文章目录前言一.非一致方程的最小范数最小二乘解二.广义逆矩阵的阶数递推计算 1. 左伪逆矩阵的阶数递推 2. 右伪逆矩阵的阶数递推三.超定二维超越方程的求解前言本文学习过程来源是<矩 ...
java求矩阵条件数_数值分析：矩阵求逆-奇异性、条件数
本blog主要内容有:矩阵的奇异性.条件数与病态矩阵.矩阵求逆. 奇异矩阵和非奇异矩阵singular matrix&nonsingular matrix 概念和定义若n阶矩阵A的行列式不为 ...
rnns_告别rnns欢迎tcns
rnns Disclaimer: this article assumes that readers possess preliminary knowledge behind the model in ...
数值分析：矩阵求逆-奇异性、条件数
http://blog.csdn.net/pipisorry/article/details/52241141 本blog主要内容有:矩阵的奇异性.条件数与病态矩阵.矩阵求逆. 奇异矩阵和非奇异矩阵s ...
矩阵分析与应用-18-Moore-Penrose逆矩阵02
Moore-Penrose 逆矩阵的计算方程求解法第一步:分别求解矩阵方程得到. 第二步:计算广义逆矩阵若矩阵A 为Hermitian矩阵,上述方法可以简化,因为以上两个矩阵方程等价为一个矩阵方 ...
正交变换在基下的矩阵都是可逆阵_矩阵分析与应用（一，矩阵基础知识）
前言:花了一个半月时间学习了北大丘维声的<高等代数>.北理史荣昌的<矩阵分析>.清华张贤达的<矩阵分析与应用>:北大与哈工大的网课. 本质:(万物皆矩阵)矩阵论主 ...
矩阵分析与应用（二）——矩阵微分
文章目录部分符号约定一阶偏导: Jacobian 矩阵与梯度矩阵偏导算子标量函数的Jacobian 矩阵矩阵函数的Jacobian 梯度矩阵二阶偏导: Hessian 矩阵实Hessia ...
《矩阵理论》笔记 4 — 矩阵分析及其应用
矩阵分析及其应用文章目录矩阵分析及其应用一.矩阵序列 1.矩阵序列收敛的概念 2.矩阵序列收敛的性质 2.1 收敛的性质 2.2 有界 3.收敛矩阵 3.1 概念 3.2 性质二.矩阵级数 1 ...
矩阵分析: Hilbert行列式
矩阵分析: Hilbert行列式 - 知乎 (zhihu.com) 希尔伯特矩阵(Hilbert matrix) - liweikuan - 博客园 (cnblogs.com) 希尔伯特矩阵是一种数学 ...

矩阵分析与应用-1.7-逆矩阵

文章目录

前言

一、逆矩阵的定义与性质

二、矩阵求逆引理

矩阵分析与应用-1.7-逆矩阵相关推荐

最新文章

热门文章