title: 【线性代数】4-2:投影(Porjections)
categories:

  • Mathematic
  • Linear Algebra
    keywords:
  • Projections
  • Projection Onto a Subspace
    toc: true
    date: 2017-10-17 09:28:46

Abstract: 本篇主要介绍的就是向量的映射,以映射到直线为引导,重点在于映射到子空间。
Keywords: Projections,Projection Onto a Subspace

开篇废话

开篇废话,喜迎十九大,嚯嚯哈哈。

Projections

映射,投影,感觉怎么翻译都不太对,总能想到函数,不过好像在这部分,投影矩阵和函数的功能非常类似。在典型的三维正交基向量空间内,一个向量的投影到一个平面上一般是下面这种形式:

向量b投影到xy平面,和b投影到z轴的一种几何上的反应,当然超过三维,就没办法画出来的,但是原理都一样,通过垂直(正交),将不在子空间的向量转换到子空间内最接近原始向量 b⃗\vec{b}b 的投影向量 b⃗^\hat{\vec{b}}b^来近似原始向量,这种方法在最小二乘法中得到了完美的应用,以及后面将要做的一些分解,上一篇提到的split(分解到子空间的split),都可以利用projection的原理。
继续解读上图,向量被分级到了正交的两个子空间,xy平面,和z轴,这两个子空间互为orthogonal complements,并且满足下面两种关系:
p1⃗+p2⃗=b⃗P1+P2=I \vec{p_1}+\vec{p_2}=\vec{b}\\ P_1+P_2=I p1​​+p2​​=bP1​+P2​=I
第一个式子就是个典型的split,比如物理里面力的分解,速度分解,都是把向量分解到你想要的方向,然后我们把向量分解到orthogonal complements的子空间中,就得到了我们想要的projection
第二个式子是projection matrix之间的关系,这里可以轻易的看出来,映射到xy平面P1=[100010000]P_1=\begin{bmatrix}1&0&0\\0&1&0\\0&0&0\end{bmatrix}P1​=⎣⎡​100​010​000​⎦⎤​,同理到z轴的就是P2=[000000001]P_2=\begin{bmatrix}0&0&0\\0&0&0\\0&0&1\end{bmatrix}P2​=⎣⎡​000​000​001​⎦⎤​,可以看出P1+P2=IP_1+P_2=IP1​+P2​=I

Projection Onto a Line(映射到直线)

Dot product to Projections

把一个向量 b⃗\vec{b}b 映射到一条直线aaa,等价于问题类似于把一个向量projection到另一个向量上,这个和我们之前学习的dot product有点像,如果
when ∣i⃗∣=1b⃗⋅i⃗=∣b⃗∣∣i⃗∣cos(θ)=∣b⃗∣cos(θ) when\,|\vec{i}|=1\\ \vec{b} \cdot \vec{i}=|\vec{b}||\vec{i}|cos(\theta)=|\vec{b}|cos(\theta) when∣i∣=1b⋅i=∣b∣∣i∣cos(θ)=∣b∣cos(θ)
其中夹角就是下图中 θ\thetaθ

可以看到映射到向量a上等价于和a方向上的单位向量dot product,假设 p⃗\vec{p}p​ 是 b⃗\vec{b}b 的投影结果,那么 i⃗=a⃗∣a⃗∣\vec{i}=\frac{\vec{a}}{|\vec{a}|}i=∣a∣a​
∣p⃗∣=∣b⃗∣cos(θ)=b⃗⋅i⃗=b⃗⋅a⃗∣a⃗∣p⃗=∣p⃗∣i⃗=∣p⃗∣a⃗∣a⃗∣so:p⃗=b⃗⋅a⃗∣a⃗∣∣a⃗∣a⃗ |\vec{p}|=|\vec{b}|cos(\theta)=\vec{b} \cdot \vec{i}=\vec{b} \cdot \frac{\vec{a}}{|\vec{a}|}\\ \vec{p}=|\vec{p}|\vec{i}=|\vec{p}|\frac{\vec{a}}{|\vec{a}|}\\ so:\\ \vec{p}=\frac{\vec{b}\cdot\vec{a}}{|\vec{a}||\vec{a}|}\vec{a} ∣p​∣=∣b∣cos(θ)=b⋅i=b⋅∣a∣a​p​=∣p​∣i=∣p​∣∣a∣a​so:p​=∣a∣∣a∣b⋅a​a
把向量中的dot product都换成转置相乘的模式就得到了
p⃗=b⃗Ta⃗a⃗Ta⃗a⃗ \vec{p}=\frac{\vec{b}^T\vec{a}}{\vec{a}^T \vec{a}}\vec{a} p​=aTabTa​a

本文为节选,完整内容地址:https://www.face2ai.com/Math-Linear-Algebra-Chapter-4-2转载请标明出处

转载于:https://www.cnblogs.com/face2ai/p/9756578.html

【线性代数】4-2:投影(Porjections)相关推荐

  1. 线性代数笔记18——投影矩阵和最小二乘

    一维空间的投影矩阵 先来看一维空间内向量的投影: 向量p是b在a上的投影,也称为b在a上的分量,可以用b乘以a方向的单位向量来计算,现在,我们打算尝试用更"贴近"线性代数的方式表达 ...

  2. 漫步线性代数十六——投影和最小二乘

    目前为止,我们已经知道Ax=bAx=b要么有解要么无解,如果bb 不在列空间C(A)C(A) 里,那么这个系统就是矛盾的,高斯消元法就会失败.当有几个方程和一个未知量时失败完全可以确定: 2x3x4x ...

  3. 【线性代数04】投影矩阵P和标准正交矩阵Q

      继续MIT笔记的内容,前面讨论了AX=b的解情况,我着重画了一些解空间的图形.后来我们将这些子空间分为四个部分,即 AAA的列空间.行空间和零空间,以及ATA^TAT的零空间 ,这四个空间的关系见 ...

  4. 线性代数 --- 投影Projection 一(投影向量p)

    线性代数中的投影 之前看过Gilbert strang老爷爷在MIT主讲的线性代数视频,令我印象最深的,就是他讲过的一堂关于投影的课.倒不是这堂课的内容本身有多么的吸引我,反倒是他在这堂课中所说的一句 ...

  5. 线性代数 --- 投影Projection 三(投影矩阵P)

    投影矩阵P 在前面的两篇关于投影的文章中,我们的学习重点分别是: 1,如何计算一个任意向量b在另一个向量a上的投影.也就是计算投影系数和投影向量p(小写). 线性代数 --- 投影Projection ...

  6. 线性代数 - 矩阵形式下的最小二乘法

    20201001 - 0. 引言 最近在看<异常点检测>的时候,其中在PCA部分(准确来说是前面一小节)在进行推导的时候,使用了最小二乘法.其实这个东西本质上并不难,但是让我比较尴尬的是, ...

  7. 模式识别之线性回归---最小二乘和线性回归

    -----------------------------author:midu ---------------------------qq:1327706646 ------------------ ...

  8. 线性回归的补充与变量归一化

    紧接上一篇博客,多变量梯度下降法的表达式形式与单变量一致,只是变量的扩充以及每次迭代需要对每个变量进行操作(同样是所有变量一次性更新).假设函数.代价函数和梯度下降的表达式分别如下: hθ(x)=θT ...

  9. 【机器学习】深入剖析主成分分析(PCA)与协方差矩阵

    其他机器学习系列文章见于专题:机器学习进阶之路--学习笔记整理,欢迎大家关注. 1. 线性降维方法   在高维情形下出现的数据样本稀疏.距离计算困难问题,是所有机器学习方法共同面临的严重障碍,被称为& ...

最新文章

  1. 2019 ACM - ICPC 上海网络赛 E. Counting Sequences II (指数型生成函数)
  2. 正态分布||方差、均值的概念
  3. keil 查看 stm32 io波形_这样学习STM32单片机,从菜鸟到牛人很简单!
  4. 2019年 第10届 蓝桥杯 Java B组 省赛真题详解及总结
  5. opencv学习笔记[9]:Opencv的基本数据类型和矩阵结构
  6. 诺基亚计划推出高档触摸屏手机以对抗iPhone
  7. SysLink UserGuide
  8. pcs7 simatic batch v9.0_西门子V90 伺服STO安全功能注意事项
  9. 数据库的数据进行改动,Cognos报表展示未及时更新
  10. unity的代码优化
  11. 凯恩帝1000C语言,数控车床编程实例(KND系统)
  12. 本地极验滑块识别DLL/本地通用验证码识别DLL/文字点选/图标点选/本地识别DLL
  13. 【软件测试面试】面试技巧,让面试官记住的自我介绍,疯狂收割offer.....
  14. rk3128投影仪lcd显示四周显示不完整解决
  15. 开源WordPress博客主题二次元风-LoliMeow主题
  16. 微机原理与接口技术 | 一、微型计算机系统
  17. typescript TS 错误码大全
  18. YunOS场景文字识别
  19. NODEMCU 固件编译
  20. 2021数字孪生城市白皮书 附下载

热门文章

  1. java爬虫抓取nba_利用Python爬虫爬取NBA数据功能实例分享
  2. 怎么测试vps线路状态
  3. 军犬舆情每日热点:强生爽身粉致癌案 被判赔偿47亿美元;华为正式进军电视行业
  4. TCL L32F2510E 安装第三方软件方法
  5. C++ 动态创建二维数组
  6. 使用IText组件在PDF文档上绘制椭圆形印章的算法分析及代码分享
  7. linux设置spi时钟频率,Linux下S3C2416的SPI设置问题,CLK和MOSI都没有输出,求助
  8. 五折交叉验证/K折交叉验证, python代码到底怎么写
  9. 【Druid】(四)Apache Druid 部署和配置(单机版 / Docker 容器版 / Kubernetes 集群版)
  10. SQL Server 简单模式下,误删除堆表记录如何恢复(绕过页眉校验) (转)