前言

终于快到矩阵分解了。在矩阵分解前，最后一个内容是实对称矩阵，二次型和正定矩阵。这三个概念与矩阵分解相关。

实对称矩阵

对于矩阵A∈Rn×nA\in R^{n\times n}A∈Rn×n，如果AT=AA^T=AAT=A，则称AAA为实对称矩阵。

实对称矩阵不同特征值的特征向量正交，n重特征值有n个线性无关的特征向量。因此实对称矩阵必然能够对角化。

实对称矩阵是n×nn\times nn×n矩阵能够正交对角化的充分必要条件。

正交对角化

如果存在一个正交矩阵QQQ，使得方阵A=QΛQ−1=QΛQTA=Q\Lambda Q^-1=Q\Lambda Q^TA=QΛQ−1=QΛQT能够对角化，称为正交对角化。

能够正交对角化的矩阵都是对称矩阵。
证明：
A=QΛQTAT=QΛTQT=QΛQT=AA=Q\Lambda Q^T \\ A^T=Q\Lambda^T Q^T=Q\Lambda Q^T=A A=QΛQTAT=QΛTQT=QΛQT=A

二次型

AAA是实对称矩阵，将一个变量满足f(x)=xTAxf(x)=x^TAxf(x)=xTAx函数称为二次型。

对于f(x)=xTAxf(x)=x^TAxf(x)=xTAx，替换变量x=Py,f(x)=f(Py)=yTPTAPyx=Py,f(x)=f(Py)=y^TP^TAPyx=Py,f(x)=f(Py)=yTPTAPy，而AAA是实对称矩阵，因此存在正交矩阵Q,f(Qy)=yTΛyQ,f(Qy)=y^T\Lambda yQ,f(Qy)=yTΛy，使得二次型化为标准型。

正定矩阵

广义的正定矩阵：对于矩阵A∈Rn×nA\in R^{n\times n}A∈Rn×n，函数f(x)=xTAx>0f(x)=x^TAx>0f(x)=xTAx>0对任意非零向量x∈Rnx\in R^nx∈Rn都成立，则称AAA为正定矩阵。如果f(x)=xTAx≥0f(x)=x^TAx\ge0f(x)=xTAx≥0，则称AAA为半正定矩阵。

狭义的正定矩阵：对于对称矩阵A∈Rn×nA\in R^{n\times n}A∈Rn×n，函数f(x)=xTAx>0f(x)=x^TAx>0f(x)=xTAx>0对任意非零向量x∈Rnx\in R^nx∈Rn都成立，则称AAA为正定矩阵。如果f(x)=xTAx≥0f(x)=x^TAx\ge0f(x)=xTAx≥0，则称AAA为半正定矩阵。也把这种正定矩阵称为对称正定矩阵。

实对称矩阵的正定判断条件

如果实对称矩阵的特征值都大于0，则是对称正定矩阵；如果特征值都非负，则是对称半正定矩阵。

证明：
f(x)=xTAxQQT=Ex=Qyf(x)=f(Qy)=yTQTAQy=yTΛy=∑i=1nλiyi2ifλi>0,f(x)>0ifλi≥0,f(x)≥0f(x)=x^TAx \\ QQ^T=E \\ x=Qy\\ f(x)=f(Qy)=y^TQ^TAQy=y^T\Lambda y=\sum_{i=1}^n \lambda_i y_i^2 \\ if \quad \lambda_i>0,f(x)>0 \\ if \quad \lambda_i\ge0,f(x)\ge 0\\ f(x)=xTAxQQT=Ex=Qyf(x)=f(Qy)=yTQTAQy=yTΛy=i=1∑nλiyi2ifλi>0,f(x)>0ifλi≥0,f(x)≥0

一个常见的半正定矩阵

对于任意矩阵A∈Rm×nA\in R^{m\times n}A∈Rm×n，矩阵ATAA^TAATA是半正定矩阵。

证明：
xTATAx=(Ax)TAx=(Ax)⋅(Ax)=∣∣Ax∣∣22≥0x^TA^TAx=(Ax)^TAx=(Ax)\cdot(Ax)=||Ax||^2_2\ge0 xTATAx=(Ax)TAx=(Ax)⋅(Ax)=∣∣Ax∣∣22≥0

如果A∈Rm×nA\in R^{m\times n}A∈Rm×n列满秩，则ATAA^TAATA是正定矩阵。

证明：
Ax=0→ATAx=0ATAx=0→xTATAx=0→∣∣Ax∣∣22=0→Ax=0∴NUL(A)=NUL(ATA)∵dimNUL(A)+rank(A)=n∴rank(ATA)=rank(A)rank(A)=n,dimNUL(A)=0∴∀x≠0,Ax≠0∴∣∣Ax∣∣22>0i.e.xTATAx>0Ax=0 \to A^TAx=0 \\ A^TAx=0 \to x^TA^TAx=0 \to ||Ax||^2_2=0\to Ax=0 \\ \therefore NUL(A)=NUL(A^TA) \\ \because dimNUL(A)+rank(A)=n \\ \therefore rank(A^TA)=rank(A) \\ \quad \\ rank(A)=n,dimNUL(A)=0 \\ \therefore \forall x\ne 0, A x\ne0 \\ \therefore ||Ax||_2^2>0 \\ \quad \\ i.e. \quad x^TA^TAx>0 Ax=0→ATAx=0ATAx=0→xTATAx=0→∣∣Ax∣∣22=0→Ax=0∴NUL(A)=NUL(ATA)∵dimNUL(A)+rank(A)=n∴rank(ATA)=rank(A)rank(A)=n,dimNUL(A)=0∴∀x=0,Ax=0∴∣∣Ax∣∣22>0i.e.xTATAx>0

后记

线性代数的矩阵性质部分大概就记录完了。下一篇就进入到了矩阵计算的内容——矩阵分解。

线性代数之实对称矩阵，正交对角化，二次型与正定矩阵相关推荐

[笔记][总结] MIT线性代数 Gilbert Strang 对称矩阵
作者水平有限,欢迎大家提出文中错误正定性与对称矩阵对称矩阵对称矩阵的对角化正定性正定矩阵判据正定矩阵的性质正定性与最小二乘法二次型对称矩阵的LU分解与二次型的配方连续多元函数在某点 ...
线性代数：05 实对称矩阵与二次型
本讲义是自己上课所用幻灯片,里面没有详细的推导过程(笔者板书推导)只以大纲的方式来展示课上的内容,以方便大家下来复习. 本章是特征值与特征向量知识的延续,根据谱定理可知实对称矩阵可以正交对角化,对角阵 ...
线性代数的问题：是否存在这样的矩阵，它满足正交对角化的条件，但它不是实对称矩阵呢？
对称矩阵的对角化问题定理 :对称矩阵的特征值是实数. 定理:设A是n阶对称阵,则必有正交阵P,使得P−1AP=PTAP=ΛP^{-1}AP=P^{T}AP= \LambdaP−1AP=PTAP=Λ, ...
考研数学基础之线性代数通法——Chapter6:合同对角化与二次型
考研数学基础之线性代数通法--Chapter6:合同对角化与二次型 2022考研数学基础主讲老师: 刘金峰武忠祥对称矩阵的对角化考研范围内只考察实对称矩阵以下内容所表述的对象均为实对称矩阵 ...
参考答案：05 实对称矩阵与二次型
本篇图文为<线性代数及其应用>这本教材对应习题册的参考答案. 本章是特征值与特征向量知识的延续,根据谱定理可知实对称矩阵可以正交对角化,对角阵为其特征值,正交矩阵为其两两正交的单位特征向量 ...
【机器学习】【线性代数 for PCA】矩阵与对角阵相似、一般矩阵的相似对角化、实对称矩阵的相似对角化
Note:PCA主成分分析用到实对称阵的相似对角化,用个文章复习一下相关概念和计算过程. 1.对角矩阵如果一个矩阵满足如下条件,则它就是一个对角阵: (1)是一个方阵 (2)只有对角线元素是非零元素 ...
证明：对于实对称矩阵，不同特征值对应的特征向量相互正交
前言不同特征值对应的特征向量相互正交,是实对称矩阵的一个重要属性,而且从这个属性出发可以证明实对称矩阵的另一个属性:实对称矩阵必可相似对角化.对于一个 n 维矩阵,其可相似对角化的充分且必要条件是- ...
线性代数学习笔记——第七十三讲——实对称矩阵的特征值与特征向量
1. 实对称矩阵的特征值都是实数 2. 实对称矩阵不同特征值的实特征向量相互正交
线性代数笔记27——对称矩阵及正定性
原文 | https://mp.weixin.qq.com/s/zdQttJfuubyztiVplScbwA 对称矩阵对称矩阵是最重要的矩阵之一,对于对称矩阵来说,A=AT.矩阵的特殊性也表现在特征 ...
实对称矩阵的性质_浅谈矩阵的相似对角化（一）
森屿瑾年:浅谈线性变换和矩阵之间的关系zhuanlan.zhihu.com 通过前面的讨论,我们引出了线性变换在不同基下的矩阵之间的关系,知道了线性变换在不同基下的矩阵是相似的,进而我们可以通过选取 ...

线性代数之实对称矩阵，正交对角化，二次型与正定矩阵

线性代数之实对称矩阵，正交对角化，二次型与正定矩阵

前言

实对称矩阵

正交对角化

二次型

正定矩阵

实对称矩阵的正定判断条件

一个常见的半正定矩阵

后记

线性代数之实对称矩阵，正交对角化，二次型与正定矩阵相关推荐

最新文章

热门文章

线性代数之 实对称矩阵，正交对角化，二次型与正定矩阵

线性代数之 实对称矩阵，正交对角化，二次型与正定矩阵

前言

实对称矩阵

正交对角化

二次型

正定矩阵

实对称矩阵的正定判断条件

一个常见的半正定矩阵

后记

线性代数之 实对称矩阵，正交对角化，二次型与正定矩阵相关推荐

最新文章

热门文章

线性代数之实对称矩阵，正交对角化，二次型与正定矩阵

线性代数之实对称矩阵，正交对角化，二次型与正定矩阵

线性代数之实对称矩阵，正交对角化，二次型与正定矩阵相关推荐