方阵的特征值与矩阵的相似

An,n有分解Ax=λx使用det(λI−A)=0求λA_{n,n}有分解Ax=\lambda x\\ 使用det(\lambda I-A)=0求 \lambda An,n有分解Ax=λx使用det(λI−A)=0求λ

几何重数(特征值的特征子空间的维数)≤代数重数(根的重数)特征值和为迹，积为det（利用多项式根与系数的关系）几何重数(特征值的特征子空间的维数)\leq 代数重数(根的重数)\\ 特征值和为迹，积为det（利用多项式根与系数的关系）几何重数(特征值的特征子空间的维数)≤代数重数(根的重数)特征值和为迹，积为det（利用多项式根与系数的关系）

A,B矩阵相似:B=M−1AMA,B有相同的特征方程与特征值，同一个线性变换在不同基下的矩阵相似AB与BA有相同的非零特征值若ABx=λx,BABx=λBxA,B矩阵相似:B=M^{-1}AM\\ A,B有相同的特征方程与特征值，同一个线性变换在不同基下的矩阵相似\\ AB与BA有相同的非零特征值若ABx=\lambda x,BABx=\lambda B x A,B矩阵相似:B=M−1AMA,B有相同的特征方程与特征值，同一个线性变换在不同基下的矩阵相似AB与BA有相同的非零特征值若ABx=λx,BABx=λBx
AX=A[x1,x2,x3]=XΛA=XΛX−1但是即使固定Λ,Z也不唯一(如果一个特征值λ对应的特征子空间不是一维的)AX=A[x_1,x_2,x_3]=X\Lambda \\ A=X\Lambda X^{-1}\\ 但是即使固定\Lambda ,Z也不唯一(如果一个特征值\lambda 对应的特征子空间不是一维的)AX=A[x1,x2,x3]=XΛA=XΛX−1但是即使固定Λ,Z也不唯一(如果一个特征值λ对应的特征子空间不是一维的)

EVD分解斐波那契数列通项公式：[Fk+2Fk+1]=[111][Fk+1Fk]本质是求矩阵的n次方EVD分解斐波那契数列通项公式： \begin{bmatrix}F_{k+2}\\F_{k+1}\end{bmatrix}=\begin{bmatrix}1&1\\&1\end{bmatrix}\begin{bmatrix}F_{k+1}\\F_{k}\end{bmatrix}\\本质是求矩阵的n次方EVD分解斐波那契数列通项公式：[Fk+2Fk+1]=[111][Fk+1Fk]本质是求矩阵的n次方

谱定理

A特征值实数有n个正交的特征向量,AQ=QΛ，Q是可逆矩阵A=QΛQtA是实对称方阵，满足以上条件A特征值实数有n个正交的特征向量,AQ=Q\Lambda，Q是可逆矩阵\\ A=Q\Lambda Q^t\\ A是实对称方阵，满足以上条件A特征值实数有n个正交的特征向量,AQ=QΛ，Q是可逆矩阵A=QΛQtA是实对称方阵，满足以上条件

SVD分解（链接为实例）

实数矩阵A不为方阵时，设：Am,n=UΣVt其中Um,m为酉矩阵Σm,n为主对角非零矩阵Vn,n为酉矩阵①AtAn,n为方阵，可求特征值(AtA)vi=λivi将AtAn,n的特征向量张成的矩阵记为U②将AAm,mt张成的记为V,(AAt)ui=λiui(AtA和AAt有相同的非零特征值)③Am,n=UΣVt⇒AV=UΣ⇒Avi=σiuiσi=Aviui④A=UΣVt⇒At=VΣUt,则AtA=VΣ2Vt可见AtA特征向量组成的矩阵的确为SVD中的V矩阵，且σi=λi实数矩阵A不为方阵时，设：A_{m,n}=U\Sigma V^t\\ 其中U_{m,m}为酉矩阵 \ \ \ \ \ \Sigma _{m,n}为主对角非零矩阵 \ \ \ \ V_{n,n}为酉矩阵\\ ①A^tA_{n,n}为方阵，可求特征值(A^tA)v_i=\lambda_i v_i\\ 将A^tA_{n,n}的特征向量张成的矩阵记为U\\ ②将AA^t_{m,m}张成的记为V,(AA^t)u_i=\lambda_i u_i\tiny ( \color{red}A^tA和AA^t有相同的非零特征值\color{black})\normalsize\\\\ ③A_{m,n}=U\Sigma V^t \Rightarrow AV=U\Sigma \Rightarrow Av_i=\sigma_iu_i \\ \sigma_i= \frac{Av_i}{u_i} \\ ④A=U\Sigma V^t \Rightarrow A^t=V\Sigma U^t,则A^tA=V\Sigma^2 V^t \\可见A^tA特征向量组成的矩阵的确为SVD中的V矩阵，且\sigma_i=\sqrt \lambda_i 实数矩阵A不为方阵时，设：Am,n=UΣVt其中Um,m为酉矩阵 Σm,n为主对角非零矩阵 Vn,n为酉矩阵①AtAn,n为方阵，可求特征值(AtA)vi=λivi将AtAn,n的特征向量张成的矩阵记为U②将AAm,mt张成的记为V,(AAt)ui=λiui(AtA和AAt有相同的非零特征值)③Am,n=UΣVt⇒AV=UΣ⇒Avi=σiuiσi=uiAvi④A=UΣVt⇒At=VΣUt,则AtA=VΣ2Vt可见AtA特征向量组成的矩阵的确为SVD中的V矩阵，且σi=λi
几何意义：
A是行空间中的, Ax 一定落在 A 的列空间中，AA^t是列空间的一组基组成的，A = USV’，V’ 的含义是把列空间中的向量投影到 r 维子空间中，\Sigma再进行旋转操作（也可能包括翻转），第三步 U的含义就是把这个旋转逆过来，或者说把中介空间中的向量旋转回左、右两个 r 维子空间中去，但原先跟 r 维子空间垂直的分量就恢复不回来了。
其实上边的ATA和AAT写反了，从矩阵的维度可知，A和∑都是m∗n,分解左边应为m∗m，只能是A∗AT其实上边的A^TA和AA^T 写反了，从矩阵的维度可知，A和\sum都是m*n,分解左边应为m*m，只能是A*A^T其实上边的ATA和AAT写反了，从矩阵的维度可知，A和∑都是m∗n,分解左边应为m∗m，只能是A∗AT

伪逆 (广义逆)

列满秩,左逆矩阵：ALA=E,AAL≠E,AL=(AtA)−1At行满秩,右逆矩阵：AAR=E,ARA≠E,AR=At(AtA)−1列满秩,左逆矩阵：A^LA=E,AA^L\neq E,A^L=(A^tA)^{-1}A^t\\ 行满秩,右逆矩阵：AA^R=E,A^RA\neq E,A^R=A^t(A^tA)^{-1}\\ 列满秩,左逆矩阵：ALA=E,AAL=E,AL=(AtA)−1At行满秩,右逆矩阵：AAR=E,ARA=E,AR=At(AtA)−1
对于矩阵A，如果存在B使得：ABA=A,BAB=B,(AB)t=AB,(BA)t=BA,则B为A的伪逆若A=U[Σ000]Vt，则B=V[Σ−1000]Ut对于矩阵A，如果存在B使得：ABA=A,BAB=B,(AB)^t=AB,(BA)^t=BA,则B为A的伪逆\\ 若A=U\begin{bmatrix}\Sigma &0\\0&0\end{bmatrix}V^t，则B=V\begin{bmatrix}\Sigma^{-1}&0\\0&0\end{bmatrix}U^t 对于矩阵A，如果存在B使得：ABA=A,BAB=B,(AB)t=AB,(BA)t=BA,则B为A的伪逆若A=U[Σ000]Vt，则B=V[Σ−1000]Ut
添加链接描述

PCA降维

确定几个正交分主方向综合起来模拟原来的矩阵：
A≃Um,rΣr,rVr,ntA\simeq U_{m,r}\Sigma_{r,r} V_{r,n}^tA≃Um,rΣr,rVr,nt

MATLAB

程序：

A=[3,2,2;2,3,-2]
B=A'
C=A'*A
d = eig(C)%特征值
[V,D] = eig(C)%计算C的特征值对角阵D和特征向量V，使AV=VD成立。
[U,S,V] = svd (C)   %返回一个与C同大小的对角矩阵S，两个酉矩阵U和V，且满足C= U*S*V'。若C为m×n阵，则U为m×m阵，V为n×n阵。奇异值在S的对角线上，非负且按降序排列。

结果：

C=   13    12     212    13    -22    -2     8
d =  -0.0000   9.0000   25.0000
---------------------------------------------------
U =-0.7071   -0.7071-0.7071    0.7071
S =5.0000         0         00    3.0000         0
V =-0.7071   -0.2357   -0.6667-0.7071    0.2357    0.6667-0.0000   -0.9428    0.3333

特征值+SVD分解+伪逆（广义逆）相关推荐

线性代数学习笔记10-4：左右逆、伪逆/M-P广义逆（从四个子空间和SVD角度理解）
下面讨论m×nm\times nm×n的秩为rrr的矩阵对于不同情况,讨论逆矩阵两侧逆矩阵 2-sided inverse 这也是一般所说的"逆矩阵"的含义方阵A\bolds ...
gemm() 与 gesvd() 到矩阵求逆（inverse）(根据 SVD 分解和矩阵乘法求矩阵的逆)
可逆方阵 AA 的逆记为,A−1A^{-1},需满足 AA−1=IAA^{-1}=I. 在 BLAS 的各种实现中,一般都不会直接给出 matrix inverse 的直接实现,其实矩阵(方阵)的逆是 ...
【矩阵论】4. 矩阵运算——广义逆——减号逆
矩阵论 1. 准备知识--复数域上矩阵,Hermite变换) 1.准备知识--复数域上的内积域正交阵 1.准备知识--Hermite阵,二次型,矩阵合同,正定阵,幂0阵,幂等阵,矩阵的秩 2. 矩阵分 ...
【矩阵论】4. 矩阵运算——广义逆——加号逆应用
矩阵论 1. 准备知识--复数域上矩阵,Hermite变换) 1.准备知识--复数域上的内积域正交阵 1.准备知识--Hermite阵,二次型,矩阵合同,正定阵,幂0阵,幂等阵,矩阵的秩 2. 矩阵分 ...
矩阵分析与应用（一）——矩阵基础知识、广义逆
文章目录前言部分符号约定关于矩阵理论的碎碎念一些基础知识与本门课知识串讲矩阵奇异与线性无关向量空间.内积.范数行列式.特征值.迹逆.广义逆矩阵方程.向量化.Kronecker积向量 ...
【矩阵论】4. 矩阵运算——广义逆——加号逆的计算
矩阵论 1. 准备知识--复数域上矩阵,Hermite变换) 1.准备知识--复数域上的内积域正交阵 1.准备知识--Hermite阵,二次型,矩阵合同,正定阵,幂0阵,幂等阵,矩阵的秩 2. 矩阵分 ...
解方程AX=b与矩阵分解：奇异值分解（SVD分解）特征值分解 QR分解三角分解 LLT分解
文章目录 1. 前言 2. LU三角分解 3. Cholesky分解 - LDLT分解 4. Cholesky分解 - LLT分解 5. QR分解 6. 奇异值分解 7. 特征值分解 1. 前言本博 ...
视觉SLAM中的数学——解方程AX=b与矩阵分解：奇异值分解（SVD分解）特征值分解 QR分解三角分解 LLT分解
前言本博客主要介绍在SLAM问题中常常出现的一些线性代数相关的知识,重点是如何采用矩阵分解的方法,求解线性方程组AX=B.主要参考了<计算机视觉--算法与应用>附录A以及Eigen库的方 ...
Moore-Penrose广义逆：可解决MATLAB报错“矩阵接近奇异值，或者缩放错误。结果可能不准确”
上一篇博文讲到:<方程AX=b的解的讨论(特解.通解.零空间向量等概念)及其MATLAB实现>,程序中用到的是mldivide或者A\b的方法(二者相同)来解方程. 但实际上运行过程中我们 ...
MATLAB中：左右除法、逆inv、广义逆pinv的区别
以下是通过实验得出的一些结论: 左除行相等,右除列相等.只要满足此条件便可运算,且左.右除意义不相同! 逆inv()仅针对"非奇异方阵|A|≠0",使得A^(-1) A=A ...

特征值+SVD分解+伪逆（广义逆）