最小二乘法的一般形式

fif_ifi为某一时刻的误差比如预测值与预测值的差值

将残差写成向量的形式

和上面的FFF相比每个fff计算的还是某一时刻的误差将全部的误差求平方再求和就相当于它的转置乘以它本身即：
F(X)=fT(X)f(X)F(X) = f^T(X)f(X) F(X)=fT(X)f(X)
所以有如下等式

则它的雅克比矩阵为：

这里每个雅克比矩阵的维度都为1×n1 \times n1×n

最小二乘泰勒展开

单项展开

整体展开

上述步骤更具体一些
第一行后面到第二行推导：
12fTf+fTJΔx+(JΔx)Tf+(JΔx)TJΔx=12fTf+fTJΔx+ΔxTJTf+ΔxTJTJΔx\frac {1}{2}f^Tf + f^TJ\Delta x + (J\Delta x)^Tf + (J\Delta x)^TJ\Delta x = \frac {1}{2}f^Tf + f^TJ\Delta x + \Delta x^T J^Tf + \Delta x^TJ^TJ\Delta x 21fTf+fTJΔx+(JΔx)Tf+(JΔx)TJΔx=21fTf+fTJΔx+ΔxTJTf+ΔxTJTJΔx
这里进行一下维度分析：
f为某一时刻确定的误差值所以是标量
f:1×1f:1 \times 1 f:1×1
J参照上面的那个J的维度分析：
J:1×nJ: 1 \times n J:1×n
Δx\Delta xΔx为增加量这里为列向量
Δx:n×1\Delta x:n \times 1 Δx:n×1
所以可得以下结论：

fff为标量
JΔxJ \Delta xJΔx为标量
JTΔxTJ^T \Delta x^TJTΔxT为标量

所以有：
fTJΔx=(JΔx)Tf=ΔxTJTff^TJ\Delta x = (J\Delta x)^Tf = \Delta x^TJ^Tf fTJΔx=(JΔx)Tf=ΔxTJTf
维度分析对于矩阵运算很重要

【矩阵基础与维度分析】【公式细节推导】矩阵非线性最小二乘法泰勒展开相关推荐

【LaTex】矩阵、向量、单边公式排列
[LaTex]矩阵.向量.单边公式排列文章目录 [LaTex]矩阵.向量.单边公式排列 1. 矩阵和向量 1.1 matrix语法 1.2 array语法 2. 单边公式排列 2.1 左侧括号 2. ...
视觉SLAM中，本质矩阵、基础矩阵、单应性矩阵自由度和秩分析
视觉SLAM中,本质矩阵.基础矩阵.单应性矩阵自由度和秩分析 1.各个矩阵的自由度由于基础矩阵和本质矩阵都是由对极约束来的 1.1 本质矩阵E的自由度为5,秩为2 1.1.1 自由度: 首先,旋转和 ...
卡尔曼滤波原理公式详细推导过程[包括引出]
卡尔曼滤波在很多项目中都有用到,但是对于原理却很少有详细分析,而只是直接应用,在看完b站up主DR_CAN视频推导后自行推导一遍和查看其他资料后进行总结,将从最初的递归算法,利用数据融合,协方差矩阵, ...
光线追踪(ray tracing)介绍与细节推导
背景最近因为找到关于光线追踪相关不错的教程,所以边学习边做记录并希望将相关资料进行分享. 光线追踪作为计算机图形学中一种可以获得良好的效果的渲染算法,有着非常广泛的应用.历史背景相关的介绍可参考百度 ...
VINS-Mono之后端非线性优化 (目标函数中视觉残差和IMU残差，及其对状态量的雅克比矩阵、协方差递推方程的推导)
文章目录 1. 前言 2. 非线性最小二乘 2.1 Guass-Newton 和 Levenberg-Marquardt 2.2 鲁棒核函数下状态量增量方程的构建 3. 局部Bundle Adjust ...
Spark MLlib矩阵分解源码分析
基础知识特征值分解如果一个向量 vv 是方阵 AA 的特征向量,可以表示成下面的形式: Av=λv Av = \lambda v 其中, λ\lambda 为特征向量 vv 对应的特征值,矩阵 A ...
矩阵分析与应用（一）——矩阵基础知识、广义逆
文章目录前言部分符号约定关于矩阵理论的碎碎念一些基础知识与本门课知识串讲矩阵奇异与线性无关向量空间.内积.范数行列式.特征值.迹逆.广义逆矩阵方程.向量化.Kronecker积向量 ...
序列自相关矩阵的计算和分析
序列自相关矩阵的计算和分析这几天在搞DSP的时候遇到的一些问题,稍微整理了一下在下文中,你将会看到:平稳过程到底有什么意义.随机信号处理是如何与固定信号分析联系起来的.自相关函数的定义.自相关矩阵 ...
递推最小二乘法RLS公式详细推导
递推最小二乘法RLS公式详细推导整理递推最小二乘法推导过程自我整理. 递推最小二乘估计(RLS)作为一种估计方式是在最小二乘法(LS)的基础上发展来的. 最小二乘法可以解决的问题是不需要知道先验的概 ...

【矩阵基础与维度分析】【公式细节推导】矩阵非线性最小二乘法泰勒展开

最小二乘法的一般形式

将残差写成向量的形式

最小二乘泰勒展开

【矩阵基础与维度分析】【公式细节推导】矩阵非线性最小二乘法泰勒展开相关推荐

最新文章

热门文章