如何将一个向量投影到一个平面上_线性代数笔记（15-16）投影、投影矩阵和最小二乘...

2024-05-02 08:09:54

投影（Projection）

上图为二维平面的投影。其中p是b在a方向上的投影，则有：

（1）

（2）

（3）

(正交)

因此可得

进而可得

（P为矩阵：Ax=b的形式，bp均为向量，则A为矩阵）

其中

就是说一个向量b在a方向的投影可写作一个与a有关的矩阵左乘b的形式。

至此，我们得到了本讲的一个重要的矩阵P。P的特殊性质：

为什么进行投影操作

上一讲讲到的，当

无解的时候，如何求近似解的情况。

没有解，也就是说b不在A的列空间里，所以，如果为了尽量减少对原本方程的影响，我们可以将b映射到A的列空间里，这样方程就有解了。

例如，以三维空间的平面为例求解无解的

因为Ax=b无解，所以，rank(A) <3，假设rank(A)=2。假设b=p+e，则要将b拆分成两个部分，一个是A的列空间内的部分p，一个是垂直于A的列空间（左零空间）的部分e。

因为A的列空间维数为2（rank(A)=2），假设其一组基底为

。可以理解为A的列空间为平面，a1=(1,0,0),a2=(0,1,0)。则有

考虑e垂直于A的列空间，且

则有

与上述二维平面的结论一致；且说明了e垂直于A的列空间

,e位于

中。

进一步推导：

并带入

则有

则有

显然

也有特殊的性质：

投影矩阵

定义

是向量投影在向量空间

的分向量，称

为投影矩阵，作用是将某个向量投影到一个向量空间中，例如：

表示将

投影到

的列空间中。

性质：

（1）若

在

中，则

（2）若

正交于

，则

最小二乘法（Least Square）

假设有三个数据点（1,1)（2,2）(3,2）我们要找到一条直线尽可能的描述这三个点，设最优直线为

则有

可以写成矩阵形式

显然该方程组无解，但可以利用最小二乘法公式：

进行求解，该方程组有解，且为最优解。在求解最优直线

后，可以根据

求出

在

空间内的分量，并根据

求出线性组合的误差值

。

如何将一个向量投影到一个平面上_线性代数笔记（15-16）投影、投影矩阵和最小二乘...相关推荐

如何将一个向量投影到一个平面上_线性代数（十三）投影
上一章我们讲了两组"正交补"的矩阵,欢迎点开链接复习.这一节我们要了解向量和矩阵的投影.投影是一种"逆张成"的行为,它把空间内的向量重新恢复到(指定)基向量方向 ...
如何将一个向量投影到一个平面上_线性代数19——投影矩阵和最小二乘
一维空间的投影矩阵先来看一维空间内向量的投影: 向量p是b在a上的投影,也称为b在a上的分量,可以用b乘以a方向的单位向量来计算,现在,我们打算尝试用更"贴近"线性代数的方式表达 ...
如何将一个向量投影到一个平面上_向量积的种类以及表示方法
向量积目录: 向量积的定义. 向量积的点乘. 向量积的叉乘. 1.向量积,数学中又称外积.叉积,物理中称矢积.叉乘,是一种在向量空间中二元运算.与点积不同,它的运算结果是一个向量而不是一个标量.并且 ...
如何将一个向量投影到一个平面上_向量的各种积
目录一.点乘(内积) 1.定义 2.举例 3.点乘几何意义二.叉乘(向量积) 1.定义 2.叉乘几何意义一.点乘(内积) 1.定义向量的点乘,也叫向量的内积.数量积,对两个向量执行点乘运算,就 ...
如何将一个向量投影到一个平面上_如何在黎曼流形上避开鞍点？本文带你了解优化背后的数学知识...
机器之心原创作者:Joshua Chou 编辑:Joni Zhong翻译:魔王在一篇名为<Escaping from saddle points on Riemannian manifold ...
如何将一个向量投影到一个平面上_如何理解矩阵特征值的意义?
毕业多年,曾经有同事问我该如何理解特征值的意义? 当时,实在羞愧,我一学数学的,真不知该如何回答. 极力回想,也只能以"特征值的求法.步骤...bla...bla..."应付了事, ...
如何将一个向量投影到一个平面上_到标准单纯型集合的投影算法
本文介绍到标准单纯型集(The Standard Simplex Set)的投影算法. 1. 简介在优化算法当中,我们的目标问题常常带有各种各样的限制条件.例如在某项投资活动中,我们想计算投入为多少 ...
如何将一个向量投影到一个平面上_MIT—线性代数笔记15 子空间投影
第15讲子空间投影 Projections onto subspaces 网易公开课open.163.com 投影(射影)Projections 投影问题的几何解释就是:如何在向量a的方向上寻找与 ...
如何将一个向量投影到一个平面上_自动驾驶视觉融合相机校准与激光点云投影...
点云PCL免费知识星球,点云论文速读. 标题:自动驾驶视觉融合-相机校准与激光点云投影作者:williamhyin 来源:https://zhuanlan.zhihu.com/p/136263753 ...

最新文章

热门文章