线性代数【五】向量（2）：向量组的秩，向量内积、正交，正交规范化，向量空间

本节为线性代数复习笔记的第五部分，向量（2），主要包括：向量组的秩，向量内积、正交、模，施密特标准正交化（正交规范化），向量空间以及坐标变换公式。

1. 向量组的秩

向量组α1⃗,α2⃗,...,αs⃗\vec{\alpha_1},\vec{\alpha_2},...,\vec{\alpha_s}α1,α2,...,αs的极大线性无关组中所含有向量的个数称为向量组的秩，其中等价向量组必然等秩，但向量组等秩不一定是等价向量组，且有矩阵的秩=行向量组秩=列向量组秩。
若A经过初等行变换变为B，则A的行向量组合B的行向量组等价，且A和B任何列向量组具有相同的线性相关性。
设有向量组β1⃗,β2⃗,...,βt⃗\vec{\beta_1},\vec{\beta_2},...,\vec{\beta_t}β1,β2,...,βt和α1⃗,α2⃗,...,αs⃗\vec{\alpha_1},\vec{\alpha_2},...,\vec{\alpha_s}α1,α2,...,αs，若βi\beta_iβi均可由α1⃗,α2⃗,...,αs⃗\vec{\alpha_1},\vec{\alpha_2},...,\vec{\alpha_s}α1,α2,...,αs线性表出，则：r[β1⃗,β2⃗,...,βt⃗]r[\vec{\beta_1},\vec{\beta_2},...,\vec{\beta_t}]r[β1,β2,...,βt]≤\leq≤r[α1⃗,α2⃗,...,αs⃗]r[\vec{\alpha_1},\vec{\alpha_2},...,\vec{\alpha_s}]r[α1,α2,...,αs]。

2. 向量组内积，向量正交，模

设αT=[α1⃗,α2⃗,...,αn⃗]T\alpha^T=[\vec{\alpha_1},\vec{\alpha_2},...,\vec{\alpha_n}]^TαT=[α1,α2,...,αn]T，β=[β1⃗,β2⃗,...,βn⃗]T\beta=[\vec{\beta_1},\vec{\beta_2},...,\vec{\beta_n}]^Tβ=[β1,β2,...,βn]T，则αTβ\alpha^T\betaαTβ称为向量组的内积，记为(α,β)=αTβ(\alpha,\beta)=\alpha^T\beta(α,β)=αTβ。
当αTβ=0\alpha^T\beta=0αTβ=0，称两个向量组正交。
向量组的模记为∣∣α∣∣=Σi=1nαi2||\alpha||=\sqrt{\Sigma_{i=1}^n\alpha_i^2}∣∣α∣∣=Σi=1nαi2，模为1则向量为单位向量。

3. 标准正交向量组

对于向量组α1⃗,α2⃗,...,αn⃗\vec{\alpha_1},\vec{\alpha_2},...,\vec{\alpha_n}α1,α2,...,αn，若i=j，αiTαj=1i=j，\alpha_i^T\alpha_j=1i=j，αiTαj=1；i≠j，αiTαj=0i\neq j，\alpha_i^T\alpha_j=0i=j，αiTαj=0，则称向量组α1⃗,α2⃗,...,αn⃗\vec{\alpha_1},\vec{\alpha_2},...,\vec{\alpha_n}α1,α2,...,αn为标准/单位正交向量组。
A是正交矩阵（方阵）⇔\Leftrightarrow⇔ATA=EA^TA=EATA=E⇔\Leftrightarrow⇔AT=A−1A^T=A^{-1}AT=A−1⇔\Leftrightarrow⇔A的行与列向量组皆为标准正交向量组
若A是正交矩阵，则称Y=AXY=AXY=AX为正交变换，不改变向量内积（成都和两两夹角不变）。
对于正交矩阵A，若|A|=1，称A为特殊正交矩阵/旋转矩阵；若|A|=-1，称A为瑕旋转矩阵。

正交矩阵和正交变换还有很多有意思的性质~

4. 施密特标准正交化/正交规范化

线性无关向量组α1⃗,α2⃗,...,αn⃗\vec{\alpha_1},\vec{\alpha_2},...,\vec{\alpha_n}α1,α2,...,αn的标准正交化公式为：
β1=α1β2=α2−(α2,β1)β1,β1β1...βn=αn−(αn,βn−1)βn−1,βn−1βn−1−...−(αn,β1)β1,β1β1\beta_1=\alpha_1\\\beta_2=\alpha_2-\frac{(\alpha_2,\beta_1)}{\beta_1,\beta_1}\beta_1\\...\\\beta_n=\alpha_n-\frac{(\alpha_n,\beta_{n-1})}{\beta_{n-1},\beta_{n-1}}\beta_{n-1}-...-\frac{(\alpha_n,\beta_1)}{\beta_1,\beta_1}\beta_1 β1=α1β2=α2−β1,β1(α2,β1)β1...βn=αn−βn−1,βn−1(αn,βn−1)βn−1−...−β1,β1(αn,β1)β1
得到的β1⃗,β2⃗,...,βn⃗\vec{\beta_1},\vec{\beta_2},...,\vec{\beta_n}β1,β2,...,βn是正交向量组，将β1⃗,β2⃗,...,βn⃗\vec{\beta_1},\vec{\beta_2},...,\vec{\beta_n}β1,β2,...,βn单位化得：ηi=βi∣∣βi∣∣\eta_i=\frac{\beta_i}{||\beta_i||}ηi=∣∣βi∣∣βi，这样即可得到标准正交向量组。
(α2,β1)β1,β1\frac{(\alpha_2,\beta_1)}{\beta_1,\beta_1}β1,β1(α2,β1)这个计算本质上是将α2\alpha_2α2投影到α1\alpha_1α1方向上的投影系数，然后做向量的相减，得到方向上与α1\alpha_1α1正交的新向量。

5. 向量空间

若ξ1⃗,ξ2⃗,...,ξn⃗\vec{\xi_1},\vec{\xi_2},...,\vec{\xi_n}ξ1,ξ2,...,ξn是RnR^nRn中的线性无关向量组，且任一向量α⃗∈Rn\vec{\alpha}\in R^nα∈Rn均可由ξ1⃗,ξ2⃗,...,ξn⃗\vec{\xi_1},\vec{\xi_2},...,\vec{\xi_n}ξ1,ξ2,...,ξn线性表出，则称ξ1⃗,ξ2⃗,...,ξn⃗\vec{\xi_1},\vec{\xi_2},...,\vec{\xi_n}ξ1,ξ2,...,ξn是RnR^nRn的一个基，其个数n称为该向量空间的维数。若有：α⃗=a1ξ1⃗+a2ξ2⃗+...+anξn⃗\vec{\alpha}=a_1\vec{\xi_1}+a_2\vec{\xi_2}+...+a_n\vec{\xi_n}α=a1ξ1+a2ξ2+...+anξn，则(a1,a2,...,an)(a_1,a_2,...,a_n)(a1,a2,...,an)称为向量α⃗\vec{\alpha}α在此向量空间的坐标。
若η1⃗,η2⃗,...,ηn⃗\vec{\eta_1},\vec{\eta_2},...,\vec{\eta_n}η1,η2,...,ηn和ξ1⃗,ξ2⃗,...,ξn⃗\vec{\xi_1},\vec{\xi_2},...,\vec{\xi_n}ξ1,ξ2,...,ξn为向量空间RnR^nRn的两个基，且：
[η1⃗,η2⃗,...,ηn⃗]=[ξ1⃗,ξ2⃗,...,ξn⃗][c11c12...c1nc21c22...c2n............cn1cn2...cnn]=[ξ1⃗,ξ2⃗,...,ξn⃗]C[\vec{\eta_1},\vec{\eta_2},...,\vec{\eta_n}]=[\vec{\xi_1},\vec{\xi_2},...,\vec{\xi_n}]\left[\begin{matrix}c_{11}&c_{12}&...&c_{1n}\\c_{21}&c_{22}&...&c_{2n}\\...&...&...&...\\c_{n1}&c_{n2}&...&c_{nn}\end{matrix}\right]\\=[\vec{\xi_1},\vec{\xi_2},...,\vec{\xi_n}]C [η1,η2,...,ηn]=[ξ1,ξ2,...,ξn]⎣⎢⎢⎡c11c21...cn1c12c22...cn2............c1nc2n...cnn⎦⎥⎥⎤=[ξ1,ξ2,...,ξn]C

称矩阵C为从η\etaη到ξ\xiξ的过渡矩阵（必然是可逆矩阵），上述公式称为基变换公式。
若α⃗=[ξ1⃗,ξ2⃗,...,ξn⃗]x⃗=[η1⃗,η2⃗,...,ηn⃗]y⃗\vec{\alpha}=[\vec{\xi_1},\vec{\xi_2},...,\vec{\xi_n}]\vec{x}=[\vec{\eta_1},\vec{\eta_2},...,\vec{\eta_n}]\vec{y}α=[ξ1,ξ2,...,ξn]x=[η1,η2,...,ηn]y，且[η1⃗,η2⃗,...,ηn⃗]=[ξ1⃗,ξ2⃗,...,ξn⃗]C[\vec{\eta_1},\vec{\eta_2},...,\vec{\eta_n}]=[\vec{\xi_1},\vec{\xi_2},...,\vec{\xi_n}]C[η1,η2,...,ηn]=[ξ1,ξ2,...,ξn]C，则α⃗=[ξ1⃗,ξ2⃗,...,ξn⃗]x⃗=[η1⃗,η2⃗,...,ηn⃗]y⃗=[ξ1⃗,ξ2⃗,...,ξn⃗]Cy⃗\vec{\alpha}=[\vec{\xi_1},\vec{\xi_2},...,\vec{\xi_n}]\vec{x}=[\vec{\eta_1},\vec{\eta_2},...,\vec{\eta_n}]\vec{y}=[\vec{\xi_1},\vec{\xi_2},...,\vec{\xi_n}]C\vec{y}α=[ξ1,ξ2,...,ξn]x=[η1,η2,...,ηn]y=[ξ1,ξ2,...,ξn]Cy，即x⃗=Cy⃗，y⃗=C−1x⃗\vec{x}=C\vec{y}，\vec{y}=C^{-1}\vec{x}x=Cy，y=C−1x，称为坐标变换公式。这里要注意区分是从哪一个坐标到哪一个坐标。

欢迎扫描二维码关注微信公众号深度学习与数学 [每天获取免费的大数据、AI等相关的学习资源、经典和最新的深度学习相关的论文研读，算法和其他互联网技能的学习，概率论、线性代数等高等数学知识的回顾]