矩阵分析与多元统计12 0-1矩阵交换矩阵与Kronecker乘积

基本性质
用交换矩阵的构造证明基本性质

这一讲介绍交换矩阵与Kronecker乘积相关的性质。对于矩阵A∈Fm×nA \in F^{m \times n}A∈Fm×n，FFF是某个数域（如实数、复数等）
vec(A)=[a1;⋯;an]∈Fmn×1,vec(A′)=[a1,⋯,am]′∈Fmn×1vec(A) = [a_1;\cdots;a_n] \in F^{mn\times 1},\ vec(A') = [a^1,\cdots,a^m]' \in F^{mn \times 1}vec(A)=[a1;⋯;an]∈Fmn×1, vec(A′)=[a1,⋯,am]′∈Fmn×1

如果∃Kmn∈Fmn×mn,Kmnvec(A)=vec(A′)\exists K_{mn} \in F^{mn \times mn},K_{mn}vec(A) = vec(A')∃Kmn∈Fmn×mn,Kmnvec(A)=vec(A′)，则称KmnK_{mn}Kmn是交换矩阵。如果B∈Fp×qB \in F^{p \times q}B∈Fp×q，定义Kronecker乘积为
⊗:Fm×n×Fp×q→Fmp×nqA⊗B=[a11B⋯a1nB⋯⋯⋯am1B⋯amnB]\otimes : F^{m \times n} \times F^{p \times q} \to F^{mp \times nq} \\ A \otimes B = \left[ \begin{matrix} a_{11}B & \cdots & a_{1n}B \\ \cdots & \cdots & \cdots \\ a_{m1}B & \cdots & a_{mn}B \\ \end{matrix} \right]⊗:Fm×n×Fp×q→Fmp×nqA⊗B=⎣⎡a11B⋯am1B⋯⋯⋯a1nB⋯amnB⎦⎤

基本性质

从定义就可以看出一些基本的性质，如果用交换矩阵作用在Kronecker乘积上，则

Kpm(A⊗B)=(B⊗A)KqnK_{pm}(A \otimes B) = (B \otimes A)K_{qn}Kpm(A⊗B)=(B⊗A)Kqn
Kpm(A⊗B)Knq=B⊗AK_{pm}(A \otimes B)K_{nq} = B \otimes AKpm(A⊗B)Knq=B⊗A
Kpm(A⊗b)=b⊗A,∀b∈Fp×1K_{pm}(A \otimes b) = b \otimes A, \forall b \in F^{p \times 1}Kpm(A⊗b)=b⊗A,∀b∈Fp×1
Kmp(b⊗A)=A⊗bK_{mp}(b \otimes A) = A \otimes bKmp(b⊗A)=A⊗b

性质3和4都是性质2的特例，在性质2中取B=bB=bB=b，则Kqn=K1n=InK_{qn}=K_{1n} = I_nKqn=K1n=In；在性质2中取A=b,B=AA=b,B=AA=b,B=A，则同样有Kqn=InK_{qn}=I_nKqn=In。这个地方交换矩阵的指标需要引起高度重视，因为交换矩阵的指标是根据矩阵的vecvecvec算子定义的，但此处与交换矩阵做乘积的是矩阵，所以我来说明一下指标的含义（这个推导实际上是不具有一般性的，这里只是为了说明指标方便！）：记A=[a1,⋯,an]A=[a_1,\cdots,a_n]A=[a1,⋯,an]，则
b⊗A=b⊗[a1,⋯,an]=[b⊗a1,⋯,b⊗an]=[vec(a1b′),⋯,vec(anb′)]∈Fmp×1b \otimes A = b \otimes [a_1,\cdots,a_n] = [b\otimes a_1,\cdots,b \otimes a_n] =[vec(a_1b'),\cdots,vec(a_nb')] \in F^{mp \times 1}b⊗A=b⊗[a1,⋯,an]=[b⊗a1,⋯,b⊗an]=[vec(a1b′),⋯,vec(anb′)]∈Fmp×1

下面计算
Kmp(b⊗A)=Kmp[vec(a1b′),⋯,vec(anb′)]=[Kmpvec(a1b′),⋯,Kmpvec(anb′)]K_{mp}(b \otimes A) = K_{mp}[vec(a_1b'),\cdots,vec(a_nb')] = [ K_{mp}vec(a_1b'),\cdots, K_{mp}vec(a_nb')]Kmp(b⊗A)=Kmp[vec(a1b′),⋯,vec(anb′)]=[Kmpvec(a1b′),⋯,Kmpvec(anb′)]

这个式子说明与交换矩阵做乘法的还是某个矩阵的vecvecvec算子的结果，这个矩阵的维数就是a1b′a_1b'a1b′的维数，显然a1b′∈Fm×pa_1b' \in F^{m \times p}a1b′∈Fm×p，因此对应的交换矩阵应该是KmpK_{mp}Kmp。

与之类似，
A⊗b=[a1,⋯,an]⊗b=[a1⊗b,⋯,an⊗b]=[vec(ba1′),…,vec(ban′)]KpmA⊗b=[Kpmvec(ba1′),⋯,Kpmvec(ban′)]A \otimes b = [a_1,\cdots,a_n] \otimes b = [a_1 \otimes b,\cdots, a_n \otimes b] = [vec(ba_1'),\dots,vec(ba_n')] \\ K_{pm} A \otimes b = [K_{pm}vec(ba_1'),\cdots,K_{pm}vec(ba_n')]A⊗b=[a1,⋯,an]⊗b=[a1⊗b,⋯,an⊗b]=[vec(ba1′),…,vec(ban′)]KpmA⊗b=[Kpmvec(ba1′),⋯,Kpmvec(ban′)]

这里与交换矩阵相乘的矩阵的维数是p×mp \times mp×m，因此交换矩阵是KpmK_{pm}Kpm。将bbb看成是BBB的某个列向量，则性质1和2中交换矩阵的指标可以类似地理解：记B=[b1,⋯,bq]B=[b_1,\cdots,b_q]B=[b1,⋯,bq]，则
A⊗B=[A⊗b1,⋯,A⊗bq]=[a1⊗b1,⋯,an⊗b1,a1⊗b2,⋯,an⊗b2,⋯,a1⊗bq,⋯,an⊗bq]=[vec(b1a1′),⋯,vec(b1an′),vec(b2a1′),⋯,vec(b2an′),⋯,vec(bqa1′),⋯,vec(bqan′)]A \otimes B = [A \otimes b_1,\cdots,A \otimes b_q] \\ = [a_1 \otimes b_1,\cdots,a_n \otimes b_1,a_1 \otimes b_2,\cdots,a_n \otimes b_2,\cdots,a_1 \otimes b_q,\cdots,a_n \otimes b_q] \\ = [vec(b_1a_1'),\cdots,vec(b_1a_n'),vec(b_2a_1'),\cdots,vec(b_2a_n'),\cdots,vec(b_qa_1'),\cdots,vec(b_qa_n')]A⊗B=[A⊗b1,⋯,A⊗bq]=[a1⊗b1,⋯,an⊗b1,a1⊗b2,⋯,an⊗b2,⋯,a1⊗bq,⋯,an⊗bq]=[vec(b1a1′),⋯,vec(b1an′),vec(b2a1′),⋯,vec(b2an′),⋯,vec(bqa1′),⋯,vec(bqan′)]

现在考虑vec(bjai′)vec(b_ja_i')vec(bjai′)，它的维数是p×mp\times mp×m，因此交换矩阵应该用KpmK_{p m}Kpm，Kpm(A⊗B)K_{pm}(A \otimes B)Kpm(A⊗B)的第n(j−1)+in(j-1)+in(j−1)+i列为
Kpmvec(bjai′)=vec(aibj′)K_{pm}vec(b_ja_i') = vec(a_ib_j')Kpmvec(bjai′)=vec(aibj′)

同样地可以行向量计算B⊗AB \otimes AB⊗A，记
A=[a1;⋯;am],B=[b1;⋯;bq]A = [a^1;\cdots;a^m],\ B= [b^1;\cdots;b^q]A=[a1;⋯;am], B=[b1;⋯;bq]

B⊗A=[b1⊗a1;⋯;bq⊗a1;b1⊗a2;⋯;bq⊗a2;⋯;⋯;b1⊗an;⋯;bp⊗am]=[devec(b1a1′);⋯;devec(bpa1′);devec(b1a2′);⋯;devec(bpa2′);⋯;devec(b1am′);⋯;devec(bpam′)]B \otimes A = [b^1 \otimes a^1 ;\cdots;b^q \otimes a^1;b^1 \otimes a^2 ;\cdots;b^q \otimes a^2;\cdots;\cdots;b^1 \otimes a^n ;\cdots;b^p \otimes a^m] \\ = [devec(b^1a^{1'});\cdots;devec(b^pa^{1'});devec(b^1a^{2'});\cdots;devec(b^pa^{2'});\cdots;devec(b^1a^{m'});\cdots;devec(b^pa^{m'})]B⊗A=[b1⊗a1;⋯;bq⊗a1;b1⊗a2;⋯;bq⊗a2;⋯;⋯;b1⊗an;⋯;bp⊗am]=[devec(b1a1′);⋯;devec(bpa1′);devec(b1a2′);⋯;devec(bpa2′);⋯;devec(b1am′);⋯;devec(bpam′)]

其中bjai′b^ja^{i'}bjai′的维数为q×nq \times nq×n，因此交换矩阵应该用KqnK_{qn}Kqn，(B⊗A)Knq(B \otimes A) K_{nq}(B⊗A)Knq的第p(i−1)+jp(i-1)+jp(i−1)+j行为devec(bjai′)Knq=devec(aibj′)devec(b^ja^{i'})K_{nq} = devec(a^{i}b^{j'})devec(bjai′)Knq=devec(aibj′)

要证明性质1只需要比较(B⊗A)Knq(B \otimes A) K_{nq}(B⊗A)Knq与Kpm(A⊗B)K_{pm}(A \otimes B)Kpm(A⊗B)说明他们对应位置的元素相等就可以了。

用交换矩阵的构造证明基本性质

上一讲介绍了给定交换矩阵的指标时如何写出交换矩阵：
Kmn=[In⊗e1(m)In⊗e2(m)⋯In⊗em(m)]=[Im⊗e1(n)Im⊗e2(n)⋯Im⊗en(n)]K_{mn} = \left[ \begin{matrix} I_n \otimes e^1(m)\\ I_n \otimes e^2(m) \\ \cdots \\ I_n \otimes e^m(m) \end{matrix} \right] = \left[ \begin{matrix} I_m \otimes e_1(n)& I_m \otimes e_2(n) & \cdots & I_m \otimes e_n(n) \end{matrix} \right]Kmn=⎣⎢⎢⎡In⊗e1(m)In⊗e2(m)⋯In⊗em(m)⎦⎥⎥⎤=[Im⊗e1(n)Im⊗e2(n)⋯Im⊗en(n)]

接下来我们用交换矩阵的表达式证明上面的基本性质。
证明
性质1。根据vec算子的性质4与Kronecker乘积的性质3计算
Kpm(A⊗B)=[Im⊗e1(p)Im⊗e2(p)⋯Im⊗ep(p)](A⊗B)=[(Im⊗e1(p))(A⊗B)(Im⊗e2(p))(A⊗B)⋯(Im⊗ep(p))(A⊗B)]=[A⊗b1A⊗b2⋯A⊗bp]K_{pm}(A \otimes B) = \left[ \begin{matrix} I_m \otimes e^1(p)\\ I_m \otimes e^2(p) \\ \cdots \\ I_m \otimes e^p(p) \end{matrix} \right] (A \otimes B) = \left[ \begin{matrix} (I_m \otimes e^1(p))(A \otimes B)\\ (I_m \otimes e^2(p))(A \otimes B) \\ \cdots \\ (I_m \otimes e^p(p))(A \otimes B) \end{matrix} \right]= \left[ \begin{matrix} A \otimes b^1\\ A \otimes b^2 \\ \cdots \\ A \otimes b^p \end{matrix} \right] Kpm(A⊗B)=⎣⎢⎢⎡Im⊗e1(p)Im⊗e2(p)⋯Im⊗ep(p)⎦⎥⎥⎤(A⊗B)=⎣⎢⎢⎡(Im⊗e1(p))(A⊗B)(Im⊗e2(p))(A⊗B)⋯(Im⊗ep(p))(A⊗B)⎦⎥⎥⎤=⎣⎢⎢⎡A⊗b1A⊗b2⋯A⊗bp⎦⎥⎥⎤

下面计算Knq(B′⊗A′)K_{nq}(B' \otimes A')Knq(B′⊗A′)，
Knq(B′⊗A′)=[Iq⊗e1(n)Iq⊗e2(n)⋯Iq⊗en(n)](B′⊗A′)=[B′⊗a1′B′⊗a2′⋯B⊗an′]K_{nq}(B' \otimes A')=\left[ \begin{matrix} I_q \otimes e^1(n)\\ I_q \otimes e^2(n) \\ \cdots \\ I_q \otimes e^n(n) \end{matrix} \right] (B' \otimes A') = \left[ \begin{matrix} B' \otimes a_1' \\ B'\otimes a_2' \\ \cdots \\ B \otimes a_n' \end{matrix} \right] Knq(B′⊗A′)=⎣⎢⎢⎡Iq⊗e1(n)Iq⊗e2(n)⋯Iq⊗en(n)⎦⎥⎥⎤(B′⊗A′)=⎣⎢⎢⎡B′⊗a1′B′⊗a2′⋯B⊗an′⎦⎥⎥⎤

不难发现第一个结果和第二个结果互为转置。

性质2。根据交换矩阵的性质以及性质1，
Kpm(A⊗B)=(B⊗A)Kqn⇒Kpm(A⊗B)Kqn−1=B⊗A⇒Kpm(A⊗B)Knq=B⊗AK_{pm}(A \otimes B) = (B \otimes A)K_{qn} \Rightarrow K_{pm}(A \otimes B)K_{qn}^{-1} = B \otimes A \\ \Rightarrow K_{pm}(A \otimes B)K_{nq} = B \otimes AKpm(A⊗B)=(B⊗A)Kqn⇒Kpm(A⊗B)Kqn−1=B⊗A⇒Kpm(A⊗B)Knq=B⊗A

证毕

另外还有一些有趣的公式，摘录在这里，证明方法也都是用交换矩阵的表达式结合Kronecker乘积与vec算子的性质进行计算。

(Kqm⊗Ip)(A⊗vec(B))=[A⊗b1;⋯;A⊗bq](K_{qm}\otimes I_p)(A \otimes vec(B)) = [A \otimes b_1;\cdots;A \otimes b_q](Kqm⊗Ip)(A⊗vec(B))=[A⊗b1;⋯;A⊗bq]
(In⊗Kpm)(vec(A)⊗B)=[B⊗a1;⋯;B⊗an](I_n \otimes K_{pm})(vec(A) \otimes B) = [B \otimes a_1;\cdots; B \otimes a_n](In⊗Kpm)(vec(A)⊗B)=[B⊗a1;⋯;B⊗an]
A⊗B=Kmp[A⊗b1;⋯;A⊗bp]=(A⊗b1,⋯,A⊗bq)KqnA \otimes B = K_{mp}[A \otimes b^1;\cdots;A \otimes b^p] = (A \otimes b_1,\cdots,A \otimes b_q)K_{qn}A⊗B=Kmp[A⊗b1;⋯;A⊗bp]=(A⊗b1,⋯,A⊗bq)Kqn

类似地Kronecker算子、vec算子与交换矩阵构成的恒等式还有很多，它们的主要目的是解构复杂的大矩阵中的元素排列规律，并把这种大矩阵表示成更简单的小矩阵的运算，在之后矩阵的微分中这种技巧是非常常用的。

矩阵分析与多元统计12 0-1矩阵交换矩阵与Kronecker乘积相关推荐

矩阵分析与多元统计12 0-1矩阵交换矩阵简介
矩阵分析与多元统计12 0-1矩阵交换矩阵简介选择矩阵交换矩阵顾名思义,0-1矩阵就是所有元素取值均为0和1的矩阵,这类矩阵在矩阵分析.多元统计乃至组合学和图论中都有很重要的应用.在这个主题中 ...
矩阵分析与多元统计线性空间与线性变换2
矩阵分析与多元统计线性空间与线性变换2 线性映射矩阵的等价线性映射的像空间与核空间线性映射 V1,V2V_1,V_2V1,V2是数域FFF上的两个线性空间,A:V1→V2\mathcal{ ...
矩阵分析与多元统计II 二次型与二次曲面3 二次型及其标准形的定义
矩阵分析与多元统计II 二次型与二次曲面3 二次型及其标准形的定义上一讲我们讨论了二次齐次函数.对称双线性函数之间的一一对应关系,这一讲我们从多项式的角度讨论二次齐次函数,给出二次型的概念及其标准形 ...
矩阵分析与多元统计II 二次型与二次曲面2 双线性函数
矩阵分析与多元统计II 二次型与二次曲面2 双线性函数双线性函数双线性函数的表示满秩双线性函数对称与反对称对称双线性函数反对称双线性函数应用伪欧氏空间与伪正交变换辛空间与辛变换对称 ...
矩阵分析与多元统计1 线性空间与线性变换3 特征值
矩阵分析与多元统计1 线性空间与线性变换3 特征值线性变换线性空间的同构线性变换的特征值与特征向量几何重数与代数重数线性变换从线性空间VVV到它自身的线性映射叫做线性变换,在基α1,⋯,α ...
矩阵分析与多元统计1 线性空间与线性变换1
矩阵分析与多元统计线性空间与线性变换1 线性空间基.坐标.坐标变换线性子空间关于矩阵分析的讨论都是在线性空间中进行的,所以这个系列的博客会从线性空间开始,考虑到是矩阵分析了,所以线性代数层面的 ...
矩阵分析与多元统计II 二次型与二次曲面1 线性函数与对偶空间
矩阵分析与多元统计II 二次型与二次曲面1 线性函数与对偶空间对偶空间线性函数的表示方法线性空间的对偶空间也是线性空间对偶空间的对偶空间应用1:转置映射应用2:零化子空间二次型与二次曲面 ...
矩阵分析与多元统计11 广义vec算子与devec算子
矩阵分析与多元统计11 广义vec算子与devec算子定义简单性质 τ\tauτ符号广义vec算子与devec算子提供理论上重塑矩阵形状的工具. 定义假设AAA是一个m×npm \times ...
矩阵分析与多元统计11 Kronecker乘积
矩阵分析与多元统计11 Kronecker乘积 Kronecker乘积 vec算子与devec算子 Kronecker乘积定义数域FFF中,A=(aij)∈Fm×n,B∈Fp×qA = (a_{i ...

矩阵分析与多元统计12 0-1矩阵交换矩阵与Kronecker乘积

矩阵分析与多元统计12 0-1矩阵交换矩阵与Kronecker乘积

基本性质

用交换矩阵的构造证明基本性质

矩阵分析与多元统计12 0-1矩阵交换矩阵与Kronecker乘积相关推荐

最新文章

热门文章

矩阵分析与多元统计12 0-1矩阵 交换矩阵与Kronecker乘积

矩阵分析与多元统计12 0-1矩阵 交换矩阵与Kronecker乘积

基本性质

用交换矩阵的构造证明基本性质

矩阵分析与多元统计12 0-1矩阵 交换矩阵与Kronecker乘积相关推荐

最新文章

热门文章

矩阵分析与多元统计12 0-1矩阵交换矩阵与Kronecker乘积

矩阵分析与多元统计12 0-1矩阵交换矩阵与Kronecker乘积

矩阵分析与多元统计12 0-1矩阵交换矩阵与Kronecker乘积相关推荐