1 前言

之前在【理解矩阵系列】文章和【理解特征值和特征向量】都提到了线性无关和基的有关概念，并且在后续的学习中出现了概念的混淆或者定义理解不清楚，现在系统的梳理一下。
内容为自己的学习总结，其中多有借鉴他人的地方，最后一并给出链接。

2 定义

1、线性无关的定义：在线性代数里，矢量空间的一组元素中，若没有矢量可用有限个其他矢量的线性组合所表示，则称为线性无关或线性独立，反之称为线性相关。
例如在三维欧几里得空间R的三个矢量(1,0,0)，(0,1,0)(1, 0, 0)，(0, 1, 0)(1,0,0)，(0,1,0)和(0,0,1)(0, 0, 1)(0,0,1)线性无关；但(2,−1,1)，(1,0,1)(2, −1, 1)，(1, 0, 1)(2,−1,1)，(1,0,1)和(3,−1,2)(3, −1, 2)(3,−1,2)线性相关，因为第三个是前两个的和。
2、基：基(Basis)是一组线性独立的向量(集合)，通过对它们的线性组合，可组合成空间中的任何元素(Span)。即基是线性无关的。
3、正交基：检验222个向量是否正交，就看它们的内积是否为000。正交基就是每个向量彼此正交。
注意：基不能平行，需要相交，并不强制要正交，但是正交的基特别香，单位长度的正交基最香，即标准正交基。
关系：一组向量线性无关就可以作为一组基，但是这组基不一定正交，一定不会平行。但是实对称矩阵的特征向量一定正交。

3 正交矩阵

3.1 定义

满足ATA=IA^TA=IATA=I的矩阵称为正交矩阵。
假设AAA是一个列向量矩阵，根据定义:
ATA=[α1Tα2Tα3T⋮αnT][α1,α2,α3,⋯⋅αn]=IA^{T} A=\left[\begin{array}{c} \alpha_{1}^{T} \\ \alpha_{2}^{T} \\ \alpha_{3}^{T} \\ \vdots \\ \alpha_{n}^{T} \end{array}\right]\left[\alpha_{1}, \alpha_{2}, \alpha_{3}, \cdots \cdot \alpha_{n}\right]=I ATA=⎣⎡α1Tα2Tα3T⋮αnT⎦⎤[α1,α2,α3,⋯⋅αn]=I
[α1Tα1α1Tα2⋯α1Tαnα2Tα1α2Tα2⋯α2Tαnα3Tα1α3Tα2⋯α3Tαn⋮⋮⋮αnTα1αnTd2⋯αnTαn]=[10⋯001⋯000⋯0⋮0⋮00⋯⋯]\left[\begin{array}{cccc} \alpha_{1}^{T} \alpha_{1} & \alpha_{1}^{T} \alpha_{2} & \cdots & \alpha_{1}^{T} \alpha_{n} \\ \alpha_{2}^{T} \alpha_{1} & \alpha_{2}^{T} \alpha_{2} & \cdots & \alpha_{2}^{T} \alpha_{n} \\ \alpha_{3}^{T} \alpha_{1} & \alpha_{3}^{T} \alpha_{2} & \cdots & \alpha_{3}^{T} \alpha_{n} \\ \vdots & \vdots & & \vdots \\ \alpha_{n}^{T} \alpha_{1} & \alpha_{n}^{T} d_{2} & \cdots & \alpha_{n}^{T} \alpha_{n} \end{array}\right]=\left[\begin{array}{cccc} 1 & 0 & \cdots & 0 \\ 0 & 1 & \cdots & 0 \\ 0 & 0 & \cdots & 0 \\ \vdots & 0 & & \vdots \\ 0 & 0 & \cdots & \cdots \end{array}\right] ⎣⎡α1Tα1α2Tα1α3Tα1⋮αnTα1α1Tα2α2Tα2α3Tα2⋮αnTd2⋯⋯⋯⋯α1Tαnα2Tαnα3Tαn⋮αnTαn⎦⎤=⎣⎡100⋮001000⋯⋯⋯⋯000⋮⋯⎦⎤
从上述推导可以看出任意αi和αj\alpha_i和\alpha_jαi和αj

如果iii和jjj不相等，则αi∗αj=0\alpha_i * \alpha_j=0αi∗αj=0，即两个向量垂直。
如果iii和jjj相等，则αi∗αj=1\alpha_i * \alpha_j=1αi∗αj=1，即向量自身的内积为1(向量是单位向量：模为1的向量)。

如果矩阵的各列向量都是单位向量，并且两两正交。那么就说这个矩阵是正交矩阵。(参考xyz三维空间, 各轴上一个长度为1的向量构成的矩阵)
正交矩阵的逆等于正交矩阵的转置。

3.2 正交矩阵的对角化

对于正交矩阵，组成它的列向量构成了一个空间的基，称之为：规范正交基。 而对于一个空间而言，我们是可以找到很多个不同的基来表示的(参考相似矩阵的基底变换)，那对于一个空间：假设已知的基底是非规范正交基，有什么办法获取到它的规范正交基呢？【施密特正交法】。
凡是正交矩阵，一定可以对角化。

对角化：参考相似矩阵，本质就是A=P−1BPA=P^{-1}BPA=P−1BP, 也就是说一个矩阵A可以转为一个对角阵B.
正交矩阵：本身就是相互垂直，只是说它不见得是各个标准轴。可以认为正交矩阵是一个摆歪的立方体，对角化就是将它摆正。【具体参考文献6，例子】

4 参考文献

[1]向量线性无关和正交及其关系
[2]什么叫线性无关？线性无关有什么性质
[3]线性代数“正交”全家桶(1) 正交向量与基
[4]正交矩阵、正交向量组、标准正交基、正交基
[5]正交矩阵学习小结
[6]正交矩阵

【线性代数】线性无关与正交基和正交矩阵相关推荐

【线性代数】4-4:正交基和Gram算法(Orthogonal Bases and Gram-Schmidt)
title: [线性代数]4-4:正交基和Gram算法(Orthogonal Bases and Gram-Schmidt) categories: Mathematic Linear Algebra ...
线性代数系列（十一）--正交矩阵和正交化
主要内容标准正交基正交矩阵施密特正交化法正文标准正交基先从字面意义上解读一下,然后再给出几个示例.正交意味着垂直,所以正交基就是说这一个基中的所有向量都是垂直的.而标准意味着,这组基中的向 ...
线性代数精华——从正交向量到正交矩阵
本文始发于个人公众号:TechFlow 向量内积这个基本上是中学当中数学课本上的概念,两个向量的内积非常简单,我们直接看公式回顾一下: X⋅Y=∑i=1nxi∗yiX \cdot Y = \sum_ ...
漫步线性代数十八——正交基和格拉姆-施密特正交化(下)
格拉姆-施密特声明:以后博主会把文章的pdf版本陆续发布到的网上,免费供大家下载正交基和格拉姆-施密特正交化假设我们有是是三个无关向量a,b,ca,b,c,如果他们是正交的,那么会多问题都变得容 ...
线性代数导论17——正交矩阵和Gram-Schmidt正交化
本文是Gilbert Strang的线性代数导论课程笔记.课程地址: http://v.163.com/special/opencourse/daishu.html 第十七课时:正交矩阵和Gram ...
线性代数之向量的内积，外积，长度，正交与正交矩阵
线性代数之向量的内积,外积,长度,正交和正交矩阵向量的内积向量的外积向量的长度向量正交正交矩阵正交矩阵的扩展向量的内积对于列向量a,b∈Rna,b\in R^na,b∈Rn,其内积( ...
MIT 公开课：Gilbert Strang《线性代数》课程笔记（汇总）
MIT Open Course:Gilbert Strang Linear Algebra 麻省理工公开课:Gilbert Strang 线性代数课程学习中英文字幕网站 lecture 1-11: ...
MIT 线性代数（16—18）读书笔记
第十六讲投影矩阵(Ax=b)和最小二乘法上一讲中,我们知道了投影矩阵P=A(ATA)−1ATP=A(A^TA)^{-1}A^TP=A(ATA)−1AT,PbPbPb将会把向量投影在AAA的列空间中 ...
线性代数 05.01 向量的内积
第五章相似矩阵及二次型 \color{blue}{第五章相似矩阵及二次型} §第五章第一节向量的内积 \color{blue}{\S 第五章第一节向量的内积} 一.向量的内积 \color{bl ...

【线性代数】线性无关与正交基和正交矩阵

目录