线性代数笔记17——正交向量与正交子空间
正交向量
正交是垂直的令一种说法，两个向量正交意味着两个向量的夹角是90°。
这可以用直角三角形的三边解释：
当x和y正交时，二者的点积是0，反过来也一样。这个结论在n维空间也适用，当Rn空间内的两个向量x和向量y正交时：
如果x是零向量，xTy还是0，也意味着零向量和任意向量正交。
正交子空间
正交性还可以推广到子空间，如果说一个子空间V和另一个子空间W正交，那么V中的每一个向量和W中的每一个向量正交。
子空间V的正交子空间W也称为V的正交补空间，或V的正交补，记作：
正交与垂直
以我们比较熟悉的三维空间为例，墙角就可以看作一个典型的空间坐标系，两个墙面和地面两两垂直，每个平面都是三维空间中的二维子空间，这是否意味着子空间的正交呢？并不是这样，两个平面垂直并不等同于两个子空间正交，可以轻易找出两个分属于两个平面但不垂直的向量。实际上，在墙壁与地面的交接处，沿着接缝方向的向量同属于两个平面，但它们不会自己正交与自己，除非是零向量。
这样看来，“正交是垂直的令一种说法”并不完全准确，实际上，正交一定垂直，垂直不一定正交。
通过平面的例子可以看出，如果两个子空间交于一个非零向量，那么这两个子空间一定不会正交。换句话说，如果两个子空间正交，它们只能交于零向量（单独的点就是零向量，它没有方向，或者说有任意方向，并且模长为0）。
在同一个平面中正交的例子有哪些呢？
回顾一下子空间的定义，如果V是Rn的线性子空间，则V一定满足三个条件：
- 包含0向量；
- x是V中的一个向量，x和一个标量的乘积也在V中，即数乘封闭性；
- a和b是V中的向量，a+b也在V中，即加法封闭性。
由此可见平面内只有三个子空间：原点、过原点的直线、整个平面。这样一来答案就很清晰了：
- 过原点的直线任何时候都不会和整个平面正交；
- 原点和所有过原点的直线正交，也和整个平面正交；
- 如果两个过原点的向量的点积是0，二者正交。
四个基本子空间的正交补
先看行空间如何正交与零空间。零空间的意义是Ax = 0时x的解集：
这样会发现，A中的每个行向量都正交于零空间中的x：
a(i)表示A中的第i行行向量，a(i)x = 0当于一个向量垂直于一个超平面。当然，行空间不仅仅包括这几行，还包括它们的线性组合，只要证明满足加法和数乘封闭性即可：
列空间相当于A转置后的行空间，道理是一样的，所以列空间也正和零空间正交。
A是m×n矩阵，四个基本子空间的正交性可以用下图表示，其中r是矩阵的秩：
这相当于把m维空间分割成两个子空间，n维空间分割成另两个子空间，子空间的维数满足图中的要求。如果用正交补的记法，上图可以看作：
以三维空间中为例：
A的行向量是线性相关的，A的秩是1，所以行空间是1维的，是一条直线，与之正交的零空间是垂直于行向量的平面，<1, 3, 5>就是这个平面的法向量，由此可以得到平面方程：
作者：我是8位的
出处：http://www.cnblogs.com/bigmonkey
本文以学习、研究和分享为主，如需转载，请联系本人，标明作者和出处，非商业用途！
扫描二维码关注公众号“我是8位的”
线性代数笔记17——正交向量与正交子空间相关推荐
- 线性代数笔记：Khatri-Rao积
1 介绍 Khatri-Rao积的定义是两个具有相同列数的矩阵与矩阵的对应列向量的克罗内克积(线性代数笔记:Kronecker积_UQI-LIUWJ的博客-CSDN博客) 排列而成的,其生成的矩阵大小 ...
- 线性代数笔记：概率矩阵分解 Probabilistic Matrix Factorization （PMF）
概率矩阵分解模型可以解决大规模.稀疏且不平衡的数据. 1 PMF的两点假设 1.1.观测噪声(观测评分矩阵和近似评分矩阵之差)服从高斯噪声的正态分布 观测评分矩阵是ground truth的矩阵,我们 ...
- 李宏毅线性代数笔记5：线性方程组
1 线性方程的解 1.1 两维的情况 span of the columns of A--由A的列向量张成的空间 2 线性方程有解的充要条件 线性方程x1a1+x2a2+--+xnan=β有解(con ...
- 我总结的120页《图解MIT线性代数笔记.pdf》，都是干货！
作者:丁坤博 北京大学研究生 线性代数在工科学科上的地位是任何学科无可比拟的,MIT的线性代数课程更是线性代数课程中的最佳学习资料,我们本次分享这套课程的图解笔记. 经过最近几个月的整理和总结,我们产 ...
- springmvc学习笔记(17)-上传图片
2019独角兽企业重金招聘Python工程师标准>>> springmvc学习笔记(17)-上传图片 标签: springmvc [TOC] 本文展示如何在springmvc中上传图 ...
- MIT线性代数笔记三 矩阵的乘法和逆矩阵
文章目录 1. 矩阵乘法 Matrix multiplication 1.1 标准方法(行乘以列) 1.2 列向量的线性组合 1.3 行向量的线性组合 1.4 分块乘法 2. 逆矩阵 2.1 逆矩阵的 ...
- 2020-4-5 深度学习笔记17 - 蒙特卡罗方法 3 ( 马尔可夫链蒙特卡罗方法MCMC-先验分布/后验分布/似然估计，马尔可夫性质)
第十七章 蒙特卡罗方法 中文 英文 2020-4-4 深度学习笔记17 - 蒙特卡罗方法 1 (采样和蒙特卡罗方法-必要性和合理性) 2020-4-4 深度学习笔记17 - 蒙特卡罗方法 2 ( 重要 ...
- 线性代数笔记11——向量空间
向量空间又称线性空间,是线性代数的中心内容和基本概念之一.在解析几何里引入向量概念后,使许多问题的处理变得更为简洁和清晰,在此基础上的进一步抽象化,形成了与域相联系的向量空间概念. 线性组合 线性组合 ...
- 经济学人精读笔记17：无现金时代，电子支付大势所趋
# 经济学人精读笔记17:无现金时代,电子支付大势所趋 标签(空格分隔): 经济学人 Part 1 The dash off cash Rich countries must start planni ...
最新文章
- Linux C/C++解析xls
- Confusion matrix
- 华为，15万大军孤独行走在世界上
- 登录日志怎么实现_【创新攻关】安全室构建异常登录行为检测审计模型
- C# 移动窗口 适用于有标题栏和无标题栏窗体 超级简单版
- win7安装python开发环境，运行python
- 这本 “写不完” 的黑科技笔记本，恐怕要颠覆整个行业！
- 怎样编写测试类测试分支_编写干净的测试–天堂中的麻烦
- 安卓mysql插入数据_【11-25求助】关于Android 的SQLite数据库插入数据报错问题
- iOS上线后程序崩溃日志处理-- Crashlytics
- C++学习记录7：定义教师类Teacher和干部类Cadre，采用多重继承的方式由这两个类派生出新类Teacher_Cadre（教师兼干部类）
- android 阻尼回弹,Android ListView实现阻尼回弹效果 并去除边缘阴影
- 代码查重 EOJ Monthly 2018.4
- GitLab Admin Area
- 【日语学习】日语 N2 词汇核心动词 200 个
- pdc-admin 学习心得
- Kafka（四）- Kafka 生产者
- 均值不等式中考_不等式(初三不等式100道带答案)
- redis分布式代理工具选型与功能验证
- 手机闪存速度排行_真机闪存实测：闪存读取速度到底什么鬼差距有多大