理解雅可比矩阵和海森矩阵
目录
- 简介
- 雅各比矩阵
- 海森矩阵
简介
二阶导数表示的导数的变化规律,如果函数是一条曲线,且曲线存在二阶导数,那么二阶导数表示的是曲线的曲率,曲率越大,曲线越是弯曲。以此类推,多维空间中的一个点的二阶导数就表示该点梯度下降的快慢。以二维图像为例,一阶导数是图像灰度变化即灰度梯度,二阶导数就是灰度梯度变化程度。
Jacobian相当于一阶导数,Hessian相当于二阶导数, 一阶导数的零点是函数极值点,二阶导数的零点就是一阶导数的极值点。 信号的一阶导数的极值点反映了信号变化的最剧烈程度。有些时候求解极值点是不方便的,找到二阶导数的零点可以更好的帮助解决问题。
在工程实际问题的优化设计中,所列的目标函数往往很复杂,为了使问题简化,常常将目标函数在某点邻域展开成泰勒多项式来逼近原函数,此时函数在某点泰勒展开式的矩阵形式中会涉及到海森矩阵。海森矩阵常用于牛顿法解决优化问题,利用海森矩阵可判定多元函数的极值问题。对于非线性优化问题, 牛顿法提供了一种求解的办法:假设任务是优化一个目标函数F(X), 求函数F(x)的极大极小问题,。可以转化为求解函数的导数F′=0的问题, 这样求可以把优化问题看成方程求解问题。海森矩阵被应用于牛顿法解决的大规模(多变量)优化问题。
雅各比矩阵
雅可比矩阵类似于多元函数的导数,也即是函数对各个自变量的一阶导数.。在某个给定点的雅可比行列式提供了 在接近该点时的表现的重要信息. 例如, 如果连续可微函数F在p点的雅可比行列式不是零, 那么它在该点附近具有反函数. 这称为反函数定理. 更进一步, 如果p点的雅可比行列式是正数, 则F在p点的取向不变;如果是负数, 则F的取向相反. 而从雅可比行列式的绝对值, 就可以知道函数F在p点的缩放因子;
海森矩阵
对于一个维度为n的函数f
其在n维空间某点处的海森矩阵可以表达为如下:
在二维图像中,海森矩阵是二维正定矩阵,有两个特征值和对应的两个特征向量。两个特征值表示出了图像在两个特征向量所指方向上图像变化的各向异性。
图像中的点性结构具有各项同性,而线性结构具有各向异性。因此我们可以利用海森矩阵对图像中的线性结构进行增强,滤去点状的结构和噪声点。同样,也可以用于找出图像中的点状结构,滤除其他信息。
我们在使用海森矩阵时,不需要把图像进行泰勒展开,我们只需要直接求取矩阵中的元素即可。一般,对数字图像进行二阶求导使用的是以下方法;
但是这种方法鲁棒性很差,容易受到图像中局部信号的干扰, 计算量很大也不实际拿来使用在图像计算中。根据线性尺度空间理论(LOG),对一个函数求导,等于函数与高斯函数导数的卷积。由于高斯模板可以将周围一矩形范围内所有的点的信息都包含进来,这样就不会有误差。所以利用图像求取hessian矩阵中的元素时,将图像与高斯函数的二阶导数做卷积即可,式子如下;
下面是高斯函数的二阶偏导。
使用高斯核进行卷积时候,参数sigma 大小以及窗口大小会影响最终结果。求导窗口的大小有关,求导窗口太小,很多粗的结构会出现中空的现象,因为中心区域被认为是点结构了;求导窗口太大,就容易出现细微结构丢失的情况。
更多详细内容可以参考链接
理解雅可比矩阵和海森矩阵相关推荐
- 雅可比矩阵 和 海森矩阵
雅可比矩阵 假设F:Rn→Rm 是一个从欧式n维空间转换到欧式m维空间的函数.这个函数由m个实函数组成: y1(x1,...,xn), ..., ym(x1,...,xn). 这些函数的偏导数(如果存 ...
- 海森矩阵和雅克比矩阵的区别
海森矩阵是梯度矩阵的雅克比矩阵 雅可比矩阵可以理解为: 若在n维欧式空间中的一个向量映射成m维欧式空间中的另一个向量的对应法则为F,F由m个实函数组成,即: 那么雅可比矩阵是一个m×n矩阵: 与海森矩 ...
- 泰勒公式矩阵形式_泰勒公式,雅可比矩阵,海塞矩阵,牛顿法
泰勒公式,雅可比矩阵,海塞矩阵,牛顿法 泰勒公式,雅可比矩阵,海塞矩阵,牛顿法 泰勒公式是一个在函数上取某点的近似值,如果函数足够平滑的话,在已知函数在某一点的各阶导数值的情况之下,泰勒公式可以用这些 ...
- 雅克比矩阵和海森矩阵 Jacobian and Hessian Matrix
转:http://jacoxu.com/jacobian%E7%9F%A9%E9%98%B5%E5%92%8Chessian%E7%9F%A9%E9%98%B5/ 1. Jacobian 在向量分析中 ...
- 多元函数严格凹 海塞矩阵正定_海森矩阵的应用:多元函数极值的判定
海森矩阵(Hessian Matrix),又译作黑塞矩阵.海瑟矩阵. 海塞矩阵等,是一个多元函数的二阶偏导数构成的方阵,描述 了函数的局部曲率.黑塞矩阵最早于19世纪由德国数学家 Ludwig Ott ...
- 特征提取 - 海森矩阵(Hessian Matrix)及一个用例(图像增强)
转自:https://blog.csdn.net/u013921430/article/details/79770458 这个例子效果并没有给出的结果那么好,但是Hessian矩阵的生成可以参考 前言 ...
- matlab生成海森矩阵
在 Matlab 中,可以使用如下代码生成海森矩阵: n = 3; % 矩阵的大小 H = eye(n) - circshift(eye(n),1,2); 这里,n 表示生成的海森矩阵的大小,而 ey ...
- 梯度、雅克比矩阵、海森矩阵、多元泰勒公式
梯度向量的表达式为: [∂f∂x1∂f∂x2...∂f∂xn]=[∂f∂x1∂f∂x2..∂f∂xn]T\left[ \begin{array} { c c } {\frac {\partial{ ...
- 牛顿法、雅克比矩阵、海森矩阵
转自:https://blog.csdn.net/Yan456jie/article/details/52332043 一般来说, 牛顿法主要应用在两个方面, 1, 求方程的根; 2, 最优化. 1, ...
- 海森矩阵与多元多项式的结合与极值判定【浅显易懂版:欢迎补充】
1.海森矩阵 2.二元泰勒展开式 3.利用海森矩阵判定多元函数的极值
最新文章
- 图形化编程 html,用GoJS实现图形化交互编程界面示例
- mysql查询枚举类型转换_zendframework获取数据库中枚举类enum的数据并将其转换成数组...
- vscode 这是一个好同志
- 河北高速盘点七大假牌假证违法案例:寒冬穿大裤衩开车
- python opencv 腐蚀_opencv 图像的腐蚀(erode)和膨胀(dilate) 开运算以及闭运算
- java空间租用_java影片租赁平台
- Nginx反向代理+Go服务实践
- 关于图片预加载的思考
- pin码计算器网页版_AP微积分Excel简便计算+网页工具指南
- python最简单的账号密码验证_Python之简单的用户名密码验证
- Qt工作笔记-Qt文档阅读笔记-qualifiedName()的官方解析及XML使用名称空间
- 实现多线程爬取数据并保存到mongodb
- c语言 抽奖算法,腾讯2018校招笔试!抽奖算法思路c++实现!进入鹅厂真的简单!...
- Java 基础系列:不变性
- XShell——使用
- 1、selenium下载安装教程及环境变量配置
- 盘点无线互联网战国七雄
- Unity ML-Agents 从零训练你自己的AI!:一、环境配置
- 想提高棋艺?试试这款围棋AI
- 用c语言解参数积分,C语言求定积分的通用函数