鲁棒控制数学基础及相关概念(四)-深入理解酉矩阵和奇异值

文章目录

鲁棒控制数学基础及相关概念(四)-深入理解酉矩阵和奇异值
- 酉矩阵的性质
- 奇异值与其几何意义

酉矩阵的性质

酉矩阵有以下性质：
1） A H = A − 1 A^H=A^{-1} AH=A−1;
2）酉矩阵(方阵)的特征值都是模为1的复数，即分布在复平面上的单位圆内，所以 ∣ d e t ( A ) ∣ = 1 |det(A)|=1 ∣det(A)∣=1;
3) 酉矩阵 A A A的列(行)向量所构成的线性空间是一组标准正交基；
4) ∣ ∣ U x ∣ ∣ 2 = ∣ ∣ x ∣ ∣ 2 ||Ux||_2 = ||x||_2 ∣∣Ux∣∣2=∣∣x∣∣2,即酉矩阵只改变2-范数的方向不改变大小;
5) 酉矩阵可以被分解为: U = V Σ V H U=V\Sigma V^H U=VΣVH,其中 V V V为酉矩阵， Σ \Sigma Σ是主对角线上元素绝对值为1的对角阵。

证明:（2）设 A A A为酉矩阵， λ , α \lambda,\alpha λ,α分别为矩阵 A A A的特征值与特征向量。由 A α = λ α A\alpha=\lambda \alpha Aα=λα得到，酉矩阵对应的变换为酉变换 ξ \xi ξ满足
( α , α ) = ( ξ ( α ) , ξ ( α ) ) = ( λ α , λ α ) = λ 2 ( α , α ) ≠ 0 (\alpha,\alpha)=(\xi(\alpha),\xi(\alpha))=(\lambda\alpha,\lambda\alpha)=\lambda^2(\alpha,\alpha)\neq0 (α,α)=(ξ(α),ξ(α))=(λα,λα)=λ2(α,α)=0
即特征值 λ \lambda λ的模为1,所以 ∣ d e t ( A ) ∣ = 1 |det(A)|=1 ∣det(A)∣=1

证明：（3）设 A = ( α 1 , α 2 , ⋯ , α n ) A=(\alpha_1,\alpha_2,\cdots,\alpha_n) A=(α1,α2,⋯,αn)，则
A H A = [ a 1 a 2 ⋮ a n ] [ a 1 a 2 ⋯ a n ] = [ a 1 H a 1 a 1 H a 2 ⋯ a 1 H a n a 2 H a 1 a 2 H a 2 ⋯ a 2 H a n ⋮ ⋮ ⋱ ⋮ a n H a 1 a n H a 2 ⋯ a n H a n ] = [ ( a 1 , a 1 ) ( a 1 , a 2 ) ⋯ ( a 1 , a n ) ( a 2 , a 1 ) ( a 2 H , a 2 ) ⋯ ( a 2 , a n ) ⋮ ⋮ ⋱ ⋮ ( a n , a 1 ) ( a n , a 2 ) ⋯ ( a n , a n ) ] ， ( a i , a j ) = { 1 i = j 0 i ≠ j A^HA= \left[ \begin{matrix} a_1 \\ a_2 \\ \vdots \\ a_n\\ \end{matrix} \right] \left[ \begin{matrix} a_1 & a_2 & \cdots & a_n \\ \end{matrix} \right]= \left[ \begin{matrix} a_1^Ha_1 & a_1^Ha_2 & \cdots & a_1^Ha_n \\ a_2^Ha_1 & a_2^Ha_2 & \cdots & a_2^Ha_n \\ \vdots & \vdots & \ddots & \vdots\\ a_n^Ha_1 & a_n^Ha_2 & \cdots & a_n^Ha_n\\ \end{matrix} \right]\\= \left[ \begin{matrix} (a_1,a_1) & (a_1,a_2) & \cdots & (a_1,a_n) \\ (a_2,a_1) & (a_2^H,a_2) & \cdots & (a_2,a_n) \\ \vdots & \vdots & \ddots & \vdots\\ (a_n,a_1) & (a_n,a_2) & \cdots & (a_n,a_n) \\ \end{matrix} \right]， (a_i,a_j)= \begin{cases} 1 & i=j \\ 0 & i\neq j \\ \end{cases} AHA= a1a2⋮an [a1a2⋯an]= a1Ha1a2Ha1⋮anHa1a1Ha2a2Ha2⋮anHa2⋯⋯⋱⋯a1Hana2Han⋮anHan = (a1,a1)(a2,a1)⋮(an,a1)(a1,a2)(a2H,a2)⋮(an,a2)⋯⋯⋱⋯(a1,an)(a2,an)⋮(an,an) ，(ai,aj)={10i=ji=j
即A是酉矩阵当且仅当矩阵的列(行)向量组是两两正交的单位向量，因此酉矩阵 A A A的列(行)是一组标准正交基;

证明：（4）如果说矩阵 U U U是酉矩阵，令 y = U x y=Ux y=Ux,那么 y H y = x H U H U x = x H I x = x H x , 即 ∣ ∣ x ∣ ∣ 2 = ∣ ∣ U x ∣ ∣ 2 y^Hy=x^HU^HUx=x^HIx=x^Hx,即||x||_2=||Ux||_2 yHy=xHUHUx=xHIx=xHx,即∣∣x∣∣2=∣∣Ux∣∣2。反过来，我们设 U H U = A U^HU=A UHU=A,取 x = α + β i , α ∈ R , β ∈ R x=\alpha+\beta i,\alpha \in R,\beta \in R x=α+βi,α∈R,β∈R,则 x H x = α 2 + β 2 x^Hx=\alpha^2+\beta^2 xHx=α2+β2,且 y H y = x H A x = α 2 A + β 2 A y^Hy=x^HAx=\alpha^2A+\beta^2A yHy=xHAx=α2A+β2A。由酉矩阵的范数性质可知， x H x = x H A x x^Hx=x^HAx xHx=xHAx,即需要保证上述式子A虚数部分为零，矩阵 A A A为实数矩阵且为单位矩阵 I I I,所以矩阵 U U U是酉矩阵。

奇异值与其几何意义

下面我们对奇异值的问题将进行一些补充说明。
设埃尔米特矩阵 A H A A^HA AHA的 n n n个特征值大小排列为
λ 1 ≥ λ 2 ≥ ⋯ λ r > λ r + 1 = ⋯ = λ n = 0 \lambda_1\geq \lambda_2\geq \cdots \lambda_r > \lambda_{r+1}=\cdots=\lambda_n=0 λ1≥λ2≥⋯λr>λr+1=⋯=λn=0
则存在 n n n阶酉矩阵 V V V,使得
V H ( A H A ) V = [ λ 1 ⋱ λ n ] = [ Σ 2 O O O ] V^H(A^HA)V= \left[ \begin{matrix} \lambda_1 & & \\ & \ddots &\\ && \lambda_n \\ \end{matrix} \right]= \left[ \begin{matrix} \Sigma^2 & O \\ O & O \\ \end{matrix} \right] VH(AHA)V= λ1⋱λn =[Σ2OOO]
将 V V V分块为 V = ( v 1 , v 2 , ⋯ , v n ) V=(v_1,v_2,\cdots,v_n) V=(v1,v2,⋯,vn),它的 n n n个列 v 1 , v 2 , ⋯ , v n v_1,v_2,\cdots,v_n v1,v2,⋯,vn是对应于特征值 λ 1 , λ 2 , ⋯ , λ n \lambda_1,\lambda_2,\cdots,\lambda_n λ1,λ2,⋯,λn的标准正交的特征向量。由于当 i ≠ j i\neq j i=j时有
( A v i , A v j ) = ( A v j ) H ( A v i ) = v j H A H A v i = v j H λ i v i = λ i v j H v i = 0 (Av_i,Av_j)=(Av_j)^H(Av_i)=v_j^HA^HAv_i=v_j^H\lambda_iv_i=\lambda_iv_j^Hv_i=0 (Avi,Avj)=(Avj)H(Avi)=vjHAHAvi=vjHλivi=λivjHvi=0
所以向量组 A v 1 , A v 2 , ⋯ , A v r Av_1,Av_2,\cdots,Av_r Av1,Av2,⋯,Avr是在内积空间内的正交向量组。
又有 v i H A H A v i = λ i v i H v i = σ i 2 v_i^HA^HAv_i=\lambda_iv_i^Hv_i=\sigma_i^2 viHAHAvi=λiviHvi=σi2。
令 u i = 1 σ i A v i u_i=\frac{1}{\sigma_i}Av_i ui=σi1Avi,则得到内积空间中的标准正交向量积 u 1 , u 2 , ⋯ , u r u_1,u_2,\cdots,u_r u1,u2,⋯,ur,把它扩充得到 U = ( u 1 , u 2 , ⋯ , u r , u r + 1 , ⋯ , u m ) U=(u_1,u_2,\cdots,u_r,u_{r+1},\cdots,u_m) U=(u1,u2,⋯,ur,ur+1,⋯,um)则 U U U是 m m m阶酉矩阵。由此可以知道
A v i = σ i u i , i = 1 , 2 , ⋯ , r ; A v i = 0 , i = r + 1 , ⋯ , n ; Av_i=\sigma_iu_i,i=1,2,\cdots,r;Av_i=0,i=r+1,\cdots,n; Avi=σiui,i=1,2,⋯,r;Avi=0,i=r+1,⋯,n;
从而 A V = A ( v 1 , v 2 , ⋯ , v n ) = ( A v 1 , A v 2 , ⋯ , A v r , 0 , ⋯ , 0 ) = ( σ 1 u 1 , ⋯ , σ r u r , 0 , ⋯ , 0 ) = ( u 1 , u 2 , ⋯ , u m ) [ σ 1 ⋯ 0 ⋮ ⋱ ⋮ O 0 ⋯ σ r O O ] = U [ Σ O O O ] AV=A(v_1,v_2,\cdots,v_n)=(Av_1,Av_2,\cdots,Av_r,0,\cdots,0)\\= (\sigma_1u_1,\cdots,\sigma_ru_r,0,\cdots,0)\\= (u_1,u_2,\cdots,u_m) \left[ \begin{array} {c c c | c} \sigma_1 & \cdots & 0 & \\ \vdots & \ddots & \vdots & O \\ \ 0 & \cdots & \sigma_r &\\ \hline & O & &O \end{array}\right]\\= U \left[ \begin{matrix} \Sigma &O \\ O &O\\ \end{matrix} \right] AV=A(v1,v2,⋯,vn)=(Av1,Av2,⋯,Avr,0,⋯,0)=(σ1u1,⋯,σrur,0,⋯,0)=(u1,u2,⋯,um) σ1⋮ 0⋯⋱⋯O0⋮σrOO =U[ΣOOO]
所以有 A V = U Δ AV=U\Delta AV=UΔ,即 U H A V = Δ U^HAV=\Delta UHAV=Δ。

由上述证明可知 v i = σ i u i A H v_i=\sigma_iu_iA^H vi=σiuiAH,因为 v i v_i vi是矩阵 A H A A^HA AHA的特征向量。所以由 A H A v i = λ i v i A^HAv_i=\lambda_iv_i AHAvi=λivi,将上式代入得到 A A H u i = λ i u i AA^Hu_i=\lambda_iu_i AAHui=λiui。所以可以知道对于矩阵 A A A的奇异值分解， U U U是由 A A H AA^H AAH的特征向量构成， V V V是由 A H A A^HA AHA的特征向量构成。

矩阵 A A A的右奇异向量 V 1 V_1 V1构成 A H A^H AH的值域 R ( A H ) R(A^H) R(AH)的一组标准正交基； V 2 V_2 V2构成 A A A的零空间 N ( A ) N(A) N(A)的一组标准正交基，所以 V 1 V_1 V1与 V 2 V_2 V2互为正交补空间；

矩阵 A A A的左奇异向量 U 1 U_1 U1构成值域 R ( A ) R(A) R(A)的一组正交基; U 2 U_2 U2构成 A H A^H AH的零空间 N ( A H ) N(A^H) N(AH)的一组标准正交基，所以 U 1 U_1 U1与 U 2 U_2 U2也是互为正交补的。

先看一个例子。设矩阵 A A A
A = U [ 3 0 0 1 ] V = [ u 1 , u 2 ] [ 3 0 0 1 ] [ v 1 ∗ v 2 ∗ ] A=U \left[ \begin{matrix} \ 3 & 0\\ \ 0&1 \\ \end{matrix} \right]V\\= [u_1,u_2]\left[ \begin{matrix} \ 3 & 0\\ \ 0&1 \\ \end{matrix} \right] \left[ \begin{matrix} \ v_1^*\\ \ v_2^*\\ \end{matrix} \right] A=U[ 3 001]V=[u1,u2][ 3 001][ v1∗ v2∗]
对于 ∀ x = k 1 x 1 + k 2 x 2 \forall x=k_1x_1+k_2x_2 ∀x=k1x1+k2x2,有 A v 1 = 3 u 1 , A v 2 = u 2 Av_1=3u_1,Av_2=u_2 Av1=3u1,Av2=u2,所以有 y = A x = l 1 u 1 + l 2 u 2 = 3 k 1 u 1 + k 2 u 2 y=Ax=l_1u_1+l_2u_2=3k_1u_1+k_2u_2 y=Ax=l1u1+l2u2=3k1u1+k2u2。
此时，若 ∣ ∣ x ∣ ∣ 2 = 1 ||x||_2=1 ∣∣x∣∣2=1,则对应的向量 y y y满足 l 1 2 3 2 + l 2 2 = 1 \frac{l_1^2}{3^2}+l^2_2=1 32l12+l22=1。这表明矩阵A将单位圆变成了椭圆，而椭圆的两个半轴长恰好等于两个奇异值的长度。
一般地，设 A ∈ C r m × n A\in C^{m\times n}_r A∈Crm×n,记 n u l l ( A ) null(A) null(A)的正交补空间为 W W W, A A A把 r r r维子空间 W W W的单位复球面映射成复椭球面，其中 A A A的奇异值即为该椭球面的 r r r个半轴长。

鲁棒控制数学基础及相关概念系列A(四)-深入理解酉矩阵和奇异值相关推荐

深入理解javascript作用域系列第四篇——块作用域
前面的话尽管函数作用域是最常见的作用域单元,也是现行大多数javascript最普遍的设计方法,但其他类型的作用域单元也是存在的,并且通过使用其他类型的作用域单元甚至可以实现维护起来更加优秀.简洁的 ...
容器开启数据服务之旅系列（四）：Kubernetes QoS 助力在线运用与大数据离线运用的带宽控制和磁盘控制...
容器开启数据服务之旅系列(四) Kubernetes QoS 助力在线运用与大数据离线运用的带宽控制和磁盘控制概述本文是2018年大数据峰会上的一些分享,关于在线业务,离线业务在ACK(阿里云容器 ...
PowerDesigner教程系列（四）概念数据模型
PowerDesigner教程系列(四)概念数据模型原文http://www.cnblogs.com/yxonline/archive/2007/04/11/708271.html 目标: 本文主要 ...
史上最详细的Android Studio系列教程四--Gradle基础
史上最详细的Android Studio系列教程四--Gradle基础转载于:https://www.cnblogs.com/zhujiabin/p/5125917.html
基于 abp vNext 和 .NET Core 开发博客项目 - Blazor 实战系列（四）
基于 abp vNext 和 .NET Core 开发博客项目 - Blazor 实战系列(四) 转载于:https://github.com/Meowv/Blog 上一篇完成了博客的分页查询文章列表 ...
Redis系列(十四)、Redis6新特性之RESP3与客户端缓存(Client side caching)
Redis6引入新的RESP3协议,并以此为基础加入了客户端缓存的新特性,在此特性下,大大提高了应用程序的响应速度,并降低了数据库的压力,本篇就带大家来看一下Redis6的新特性:客户端缓存. 目录 ...
Java命令学习系列（四）——jstat
转载自 Java命令学习系列(四)--jstat jstat(JVM Statistics Monitoring Tool)是用于监控虚拟机各种运行状态信息的命令行工具.他可以显示本地或远程虚拟机进程 ...
docker 打包镜像_Spring Boot2 系列教程(四十一)部署 Spring Boot 到远程 Docker 容器
不知道各位小伙伴在生产环境都是怎么部署 Spring Boot 的,打成 jar 直接一键运行?打成 war 扔到 Tomcat 容器中运行?不过据松哥了解,容器化部署应该是目前的主流方案. 不同于传 ...
OllyDBG 入门系列（四）－内存断点
[原创]OllyDBG 入门系列(四)-内存断点  <! ...

鲁棒控制数学基础及相关概念系列A(四)-深入理解酉矩阵和奇异值

鲁棒控制数学基础及相关概念(四)-深入理解酉矩阵和奇异值

文章目录

酉矩阵的性质

奇异值与其几何意义

鲁棒控制数学基础及相关概念系列A(四)-深入理解酉矩阵和奇异值相关推荐

最新文章

热门文章