矩阵分析系统学习笔记

本系列所有文章来自东北大学韩志涛老师的矩阵分析课程学习笔记，系列如下：
矩阵分析 (一) 线性空间和线性变换
矩阵分析 (二) 内积空间
矩阵分析 (三) 矩阵的标准形
矩阵分析 (四)向量和矩阵的范数
矩阵分析 (五) 矩阵的分解
矩阵分析 (六) 矩阵的函数
矩阵分析 (七) 矩阵特征值的估计
矩阵分析 (八) 矩阵的直积

文章目录

矩阵分析系统学习笔记
- 直积的定义和性质
- 直积的应用
- - 拉直
  - 线性矩阵方程组

矩阵的直积(Kronecher 积)是一种重要的矩阵乘积，它在矩阵理论研究中起着重要的作用，是一种基本的数学工具。本文介绍矩阵直积的基本性质，并利用矩阵的直积求解线性矩阵方程组和矩阵微分方程组。

直积的定义和性质

定义8.1：设矩阵：

A=(aij)m×n，B=(bij)p×qA=(a_{ij})_{m \times n}，B=(b_{ij})_{p \times q} A=(aij)m×n，B=(bij)p×q

称如下的分块矩阵：

A⊗B=(a11Ba12B⋯a1nB⋮⋮⋮am1Bam2B⋯amnB)A \otimes B =\left(\begin{array}{cccc} {a_{11} B} & {a_{12} B} & {\cdots} & {a_{1 n} B} \\ {\vdots} & {\vdots} & {} & {\vdots} \\ {a_{m 1} B} & {a_{m 2} B} & {\cdots} & {a_{m n} B} \end{array}\right) A⊗B=⎝⎜⎛a11B⋮am1Ba12B⋮am2B⋯⋯a1nB⋮amnB⎠⎟⎞

为AAA与BBB的直积或者Kronecher积。

可见A⊗BA \otimes BA⊗B是mp×nqmp \times nqmp×nq矩阵。

矩阵的直积有下列性质：

1、设KKK为常数，则：
k(A⊗B)=(kA)⊗B=A⊗(kB)k(A\otimes B) = (kA) \otimes B=A \otimes (kB) k(A⊗B)=(kA)⊗B=A⊗(kB)
2、设A1，A2A_{1}，A_{2}A1，A2为同阶矩阵，则：
(A1+A2)⊗B=A1⊗B+A2⊗B(A_{1}+A_{2}) \otimes B = A_{1} \otimes B+A_{2} \otimes B (A1+A2)⊗B=A1⊗B+A2⊗B
B⊗(A1+A2)=B⊗A1+B⊗A2B \otimes (A_{1}+A_{2}) = B \otimes A_{1}+B \otimes A_{2} B⊗(A1+A2)=B⊗A1+B⊗A2
3、：
(A⊗B)T=AT⊗BT(A \otimes B)^{T}=A^{T} \otimes B^{T} (A⊗B)T=AT⊗BT
4、：
(A⊗B)⊗C=A⊗(B⊗C)(A \otimes B) \otimes C = A \otimes (B \otimes C) (A⊗B)⊗C=A⊗(B⊗C)
5、设：A=(aij)m×nA=(a_{ij})_{m \times n}A=(aij)m×n，B=(bij)p×qB=(b_{ij})_{p\times q}B=(bij)p×q，C=(cij)n×sC=(c_{ij})_{n \times s}C=(cij)n×s，D=(dij)q×tD=(d_{ij})_{q \times t}D=(dij)q×t，则：
(A⊗B)(C⊗D)=(AC)⊗(BD)(A \otimes B)(C \otimes D) = (AC) \otimes (BD) (A⊗B)(C⊗D)=(AC)⊗(BD)
6、设：
A∈Cn×n，B∈Cn×nA \in C^{n \times n}，B \in C^{n\times n} A∈Cn×n，B∈Cn×n

都可逆，则A⊗BA \otimes BA⊗B也可逆，且：

(A⊗B)−1=A−1⊗B−1(A \otimes B)^{-1} = A^{-1} \otimes B^{-1} (A⊗B)−1=A−1⊗B−1

7、设A∈Cn×nA \in C^{n \times n}A∈Cn×n，设B∈Cn×nB \in C^{n \times n}B∈Cn×n都是酉矩阵，则A×BA \times BA×B也是酉矩阵。
8、设A∈Cm×mA \in C^{m \times m}A∈Cm×m的全体特征值是λ1\lambda_{1}λ1，λ2\lambda_{2}λ2，⋯\cdots⋯，λm\lambda_{m}λm，B∈Cn×nB \in C^{n \times n}B∈Cn×n的全体特征值是μ1\mu_{1}μ1，μ2\mu_{2}μ2，⋯\cdots⋯，μn\mu_{n}μn，则A⊗BA \otimes BA⊗B的全体特征值是：
λiμi\lambda_{i}\mu_{i} λiμi
9、设A∈Cm×mA \in C^{m \times m}A∈Cm×m，B∈Cn×nB \in C^{n \times n}B∈Cn×n，则∣A⊗B∣=∣A∣n⋅∣B∣m|A \otimes B| = |A|^{n} ·|B|^{m}∣A⊗B∣=∣A∣n⋅∣B∣m。
10、设A∈Cm×mA \in C^{m \times m}A∈Cm×m的特征值是λ1\lambda_{1}λ1，λ2\lambda_{2}λ2，⋯\cdots⋯，λm\lambda_{m}λm，B∈Cn×nB \in C^{n \times n}B∈Cn×n的特征值是μ1\mu_{1}μ1，μ2\mu_{2}μ2，⋯\cdots⋯，μn\mu_{n}μn则：
A⊗En+Em⊗BA \otimes E_{n} + E_{m} \otimes B A⊗En+Em⊗B

的特征值是：

λi+μj\lambda_{i} + \mu_{j} λi+μj

11、设A∈Cm×mA \in C^{m \times m}A∈Cm×m的特征值是λ1\lambda_{1}λ1，λ2\lambda_{2}λ2，⋯\cdots⋯，λm\lambda_{m}λm，B∈Cn×nB \in C^{n \times n}B∈Cn×n的特征值是μ1\mu_{1}μ1，μ2\mu_{2}μ2，⋯\cdots⋯，μn\mu_{n}μn，则A⊗En+Em⊗BTA \otimes E_{n} + E_{m} \otimes B^{T}A⊗En+Em⊗BT的特征值也是λi\lambda_{i}λi+μj\mu_{j}μj。
设xxx是A∈Cm×mA\in C^{m \times m}A∈Cm×m的特征向量，yyy是B∈Cn×nB \in C^{n \times n}B∈Cn×n的特征向量，则x⊗yx \otimes yx⊗y是A⊗BA \otimes BA⊗B的特征向量。
设A∈Cn×nA \in C^{n \times n}A∈Cn×n，则：

eE⊗A=E⊗eA，eA⊗E=eA⊗Ee^{E \otimes A} = E \otimes e^{A}，e^{A \otimes E} = e^{A} \otimes E eE⊗A=E⊗eA，eA⊗E=eA⊗E

设A∈Cm×mA \in C^{m \times m}A∈Cm×m，B∈Cn×nB \in C^{n \times n}B∈Cn×n则：
eA⊗En+Em⊗B=eA⊗eBe^{A \otimes E_{n} + E_{m} \otimes B} = e^{A} \otimes e^{B} eA⊗En+Em⊗B=eA⊗eB

直积的应用

本节讨论直积在解线性矩阵方程组中的应用。

拉直

定义8.2：设矩阵A=(aij)m×nA=(a_{ij})_{m \times n}A=(aij)m×n，称mnmnmn维列向量：

→A=(a11⋯a1n，a21⋯a2n，⋯，am1⋯amn)T\underset{A}{\rightarrow} = (a_{11} \cdots a_{1n}，a_{21} \cdots a_{2n}，\cdots ，a_{m1} \cdots a_{m n})^{T} A→=(a11⋯a1n，a21⋯a2n，⋯，am1⋯amn)T

为AAA的拉直。

拉直具有下面的性质：

设A，B∈Cm×nA，B \in C^{m \times n}A，B∈Cm×n，kkk与lll为常数，则：

kA+lB→=kA→+lB→\overrightarrow{k A+l B}=k \overrightarrow{ A}+ l \overrightarrow{ B} kA+lB=kA+lB

设A=(aij(t))m×nA=(a_{ij}(t))_{m \times n}A=(aij(t))m×n则：

dA→dt=dA→dt\frac{\overrightarrow{dA}}{dt}=\frac{d \overrightarrow{A}}{dt} dtdA=dtdA

定理8.1 设：

A∈Cm×n，B∈Cp×q，X∈Cn×pA \in C^{m \times n}，B \in C^{p \times q}，X \in C^{n \times p} A∈Cm×n，B∈Cp×q，X∈Cn×p

则：

AXB→=(A⊗En)(Em⊗BT)X→\overrightarrow{AXB} = (A \otimes E_{n})(E_{m} \otimes B^{T}) \overrightarrow{X} AXB=(A⊗En)(Em⊗BT)X

=(A⊗BT)X→= (A \otimes B^{T}) \overrightarrow{X} =(A⊗BT)X

AX+BX→=(A⊗En+Em⊗BT)X→\overrightarrow{AX+BX} = (A \otimes E_{n} + E_{m} \otimes B^{T}) \overrightarrow{X} AX+BX=(A⊗En+Em⊗BT)X

线性矩阵方程组

下面讨论几种类型方程组的解：设

A∈Cm×m，B∈Cn×n，F∈Cm×nA \in C^{m \times m}，B \in C^{n \times n}，F \in C^{m \times n} A∈Cm×m，B∈Cn×n，F∈Cm×n

解Lyapunov矩阵方程：

解将矩阵两边拉直：

(A⊗En+En⊗BT)X→=F→(A \otimes E_{n}+E_{n} \otimes B^{T}) \overrightarrow{X} = \overrightarrow{F} (A⊗En+En⊗BT)X=F

因为矩阵方程与所得的线性方程组等价，得到矩阵方程组有解的充要条件是：

r(A⊗En+Em⊗BT，F)r(A \otimes E_{n} + E_{m }\otimes B^{T}，F) r(A⊗En+Em⊗BT，F)

=r(A⊗En+Em⊗BT)= r(A \otimes E_{n} + E_{m }\otimes B^{T}) =r(A⊗En+Em⊗BT)

有唯一解的充要条件是：

∣A⊗En+Em⊗BT∣≠0|A \otimes E_{n} + E_{m} \otimes B^{T}| \neq 0 ∣A⊗En+Em⊗BT∣=0

设A，F∈Cn×nA，F \in C^{n \times n}A，F∈Cn×n，且AAA的特征值都是实数，证明矩阵方程：

X+AXA+A2XA2=FX + AXA + A^{2}XA^{2} =F X+AXA+A2XA2=F

有唯一解。

例10 设

A∈Cm×m，B∈Cn×n，X(t)∈Cm×nA \in C^{m \times m}，B \in C^{n \times n}，X(t) \in C^{m \times n} A∈Cm×m，B∈Cn×n，X(t)∈Cm×n

求解矩阵微分方程组的初值问题：

{dXdt=AX+XBX(0)=X0\left\{\begin{array}{l} {\frac{d X}{d t}=A X+X B} \\ {X(0)=X_{0}} \end{array}\right. {dtdX=AX+XBX(0)=X0

解将矩阵两边拉直：

{dX→dt=(A⊗En+En⊗BT)X⃗X⃗(0)=X⃗0\left\{\begin{array}{l} {\frac{\overrightarrow{dX}}{\mathrm{d} t}=\left(A \otimes E_{n}+E_{n} \otimes B^{\mathrm{T}}\right) \vec{X}} \\ {\vec{X}(0)=\vec{X}_{0}} \end{array}\right. {dtdX=(A⊗En+En⊗BT)XX(0)=X0

这是常系数齐次线性微分方程组，它的解：

X→(t)=eA⊗En+Em⊗BTtX0→\overrightarrow{X}(t) = e^{A \otimes E_{n} + E_{m} \otimes B^{T} t} \overrightarrow{X_{0}} X(t)=eA⊗En+Em⊗BTtX0

=(eAt⊗eBTt)X0→= (e^{At} \otimes e^{B^{T}t}) \overrightarrow{X_{0}} =(eAt⊗eBTt)X0

再由：

AXB→=(A⊗BT)X→\overrightarrow{AXB} = (A \otimes B^{T})\overrightarrow{X} AXB=(A⊗BT)X

(eAt⊗eBTt)X0→=eAtX0eBt→(e^{At} \otimes e^{B^{T}t}) \overrightarrow{X_{0}}=\overrightarrow{e^{At}X_{0}e^{Bt}} (eAt⊗eBTt)X0=eAtX0eBt

所以：

X→(t)=eAtX0eBt→\overrightarrow{X}(t) = \overrightarrow{e^{At}X_{0}e^{Bt}} X(t)=eAtX0eBt

X(t)=eAtX0eBtX(t) =e^{At}X_{0}e^{Bt} X(t)=eAtX0eBt

我的微信公众号名称：深度学习与先进智能决策
微信公众号ID：MultiAgent1024
公众号介绍：主要研究分享深度学习、机器博弈、强化学习等相关内容！期待您的关注，欢迎一起学习交流进步！

矩阵分析 (八) 矩阵的直积相关推荐

＜微机原理＞[汇编语言]-[实验八]矩阵键盘应用实验
实验八矩阵键盘应用实验实验八矩阵键盘应用实验.doc 一.实验目的掌握矩阵式键盘识别技术进一步掌握数码管显示原理二.实验主要仪器和环境 Keil5 普中A2开发板 stc-isp 三.实验 ...
矩阵分析：矩阵序列，矩阵级数，矩阵函数，微积分，函数应用
1,矩阵序列 1.1,矩阵序列设中的矩阵序列 ,其中 .若: 则称矩阵序列收敛于 ,或称为矩阵序列的极限,记为: 或 (1)不收敛的矩阵序列称为发散. (2)矩阵序列收敛的本质是矩阵 ...
矩阵分析L4矩阵的相似标准形
一.矩阵相似 1.定义 2.特征值与特征向量二.矩阵的约当标准形 1.行列式因子为啥D2 = 1? 因为这三个2阶非零子式的最大公因子是1啊.... 宋老师真的是太好了,矩阵分析不多考几分简直对不 ...
矩阵分析 (二) 内积空间
矩阵分析系统学习笔记本系列所有文章来自东北大学韩志涛老师的矩阵分析课程学习笔记,系列如下: 矩阵分析 (一) 线性空间和线性变换矩阵分析 (二) 内积空间矩阵分析 (三) 矩阵的标准形矩阵分析 ...
矩阵分析与应用（二）——矩阵微分
文章目录部分符号约定一阶偏导: Jacobian 矩阵与梯度矩阵偏导算子标量函数的Jacobian 矩阵矩阵函数的Jacobian 梯度矩阵二阶偏导: Hessian 矩阵实Hessia ...
视频课程更新，机器学习、数理统计、矩阵分析、运筹视频教程
如果各位读者朋友读到了这里,不妨移步到B zhan(五道口纳什),那里我将进行每周至少一次的更新,更多视频课程等待各位的阅读和反馈. 导览传送门如下: 1. 数据&算法 [手推公式]指数族分布 ...
组合数学（5）——拉丁方与H矩阵例题
文章目录 1.前言 2. 构造N阶矩阵的方法 2.1直积 2.2使用定理7.2.3 2.3使用定理7.2.2 3.拉丁方 3.1构造ST(21) 3.2 若n为奇数,证明必存在一对正交的n阶拉丁方 4 ...
re矩阵论_矩阵论 [张凯院，徐仲等编著] 2013年版
矩阵论出版时间:2013年版内容简介 <矩阵论>分为7章,主要介绍线性空问与线性变换.向量范数与矩阵范数.矩阵分析.矩阵分解.矩阵的特征值估计.广义逆矩阵以及特殊矩阵,各章均配有适量的 ...
读书笔记：《群论彩图版》
VISUAL GROUP THEORY 一.群是什么群不是关于数字的,而是关于模式的.群论研究的是关于旋转模式的对称. 群的法则: 存在一个预先定义的.不会改变的作用列表. 每个作用都是可逆的. 每 ...
Matlab函数参考
http://www.ilovematlab.cn/thread-13621-2-1.html 分类总表一.一般函数命令十一.稀疏矩阵二.运算符号与特殊字符十二.二维图形三.程序语言设计十 ...

矩阵分析 (八) 矩阵的直积