方向导数与梯度—

方向导数和梯度在高等数学偏导数那一部分提到，两者相互关联，可能会弄混，简单来说方向导数是一个值而梯度是一个向量。了解梯度的概念可以在以后的机器学习或者深度学习模型优化用到梯度下降时更容易理解，接下来让我们看看一些关于方向导数和梯度的细节。

一、方向导数

对于多元函数，如果说偏导数表示的是多元函数在沿坐标轴的变化率，那么可以说方向导数是沿着任意一指定方向的变化率，不一定是沿着坐标轴。

这里给出方向导数的数学表达式：

看起来这个公式很吓人，其实其中，对于L 的单位向量是e=(cos α,cos β),而这正表示函数 f 沿着 L 方向的变化率。当我们让e=（1，0）时上述式子其实是 f 对于 x 的偏导数，即沿着 x 轴的变化率，而当让e=（0，1）时，上述式子便是 f 对于 y的偏导数，即沿着 y 轴的变化率（读者可以自行验证）。

明白了方向导数表示的意义，那么方向导数怎么求呢？很简单的一个式子，对于二元函数，给出求方向导数的公式：

解释一下这个式子，方向导数等于函数在 x 处的偏导数乘以单位向量的 x 部分加上在 y 处的偏导乘以单位向量的 y 部分，得到的值就是方向导数。从中也可以看出要求方向导数要先求它在 x 和 y 的偏导数，然后再求它方向的单位向量，最后做乘积加和得到结果。

二、梯度

看完方向导数之后接下来看梯度是怎么一回事。在二元函数的情形下，如果函数 f(x,y) 具有一阶连续偏导，对于函数任意一点都有这样一个向量：，那么这个向量就称为f(x,y)在 p 这一点的梯度。记作。

可以通过公式直观地看方向导数和梯度的关系：

当 Θ = 0 时，e 与梯度方向相同时，方向导数最大，函数增加最快

当 Θ = pi 时，e 与梯度方向相反时，方向导数最小，函数减少最快

当 Θ = pi/2 时，e 与梯度方向垂直时，方向导数为0， 函数变化率为零

三、总结

其实现在可以知道，方向导数是函数在各个方向的斜率，而梯度是斜率最大的那个方向，梯度的值是方向导数最大的值。因此我们沿着梯度方向能够下降（上升）的最快。

注：博主第一次写，理解也有很多偏差，如果不能够帮助你们很好的理解，建议看这个知乎网址：

https://www.zhihu.com/question/36301367

方向导数与梯度——学习笔记相关推荐

高等数学学习笔记——第七十讲——方向导数与梯度
1. 问题的引入--天气预报中的卫星云图.局部地区等压线等 2. 如何刻画二元函数沿不同方向的变化?(方向导数)函数沿什么方向变化最快?(梯度方向) 3. 二元函数的偏导数反映了函数沿平行于坐标轴方向 ...
OpenCV学习笔记(七)——图像梯度及边缘检测
图像梯度计算的是图像变化的速度.对于图像的边缘部分,其灰度值变化较大,梯度值也较大:相反,对于图像中比较平滑的部分,其灰度值变化较小,相应的梯度值也较小.一般情况下,图像梯度计算的是图像的边缘信息. ...
一文让你完全弄懂回归问题、激活函数、梯度下降和神经元模型实战《繁凡的深度学习笔记》第 2 章回归问题与神经元模型（DL笔记整理系列）
<繁凡的深度学习笔记>第 2 章回归问题与神经元模型(DL笔记整理系列) 3043331995@qq.com https://fanfansann.blog.csdn.net/ http ...
opencv进阶学习笔记13：图像形态学操作大全（膨胀，腐蚀，开闭，黑帽，顶帽，梯度）python版
基础版学习笔记: python3+opencv学习笔记汇总目录(适合基础入门学习) 进阶版笔记目录链接: python+opencv进阶版学习笔记目录(适合有一定基础) 基础版形态学: opencv学 ...
opencv进阶学习笔记10：图像金字塔和图像梯度
基础版笔记传送门: python3+opencv学习笔记汇总目录(适合基础入门学习) 进阶版笔记目录链接: python+opencv进阶版学习笔记目录(适合有一定基础) 图像金字塔变小变大原理 ...
opencv学习笔记17：梯度运算之laplacian算子及其应用
laplacian算子理论前文介绍了sobel算子及其函数使用和scharr算子及其函数使用使用方法不同算子比较 sobel,和scharr算子:右边121列-左边121列.右边-3,10,3 ...
opencv学习笔记16：梯度运算之scharr算子及其函数使用
前文介绍了sobel算子 opencv学习笔记14:sobel算子及其函数使用 scharr算子理论系数和sobel不一样,其他一样. scharr函数使用 dst=cv2.Scharr(src,d ...
【theano-windows】学习笔记十七——梯度中的consider_constant
前言主要是在写玻尔兹曼机相关的theano时, 在计算梯度grad的时候发现一个参数名字叫做consider_constant,来看看这个到底做了什么事情参考博客: using consider_ ...
OpenCV学习笔记（八）：形态学morpholgy(2)：开/闭运算，形态学梯度、顶帽/黑帽morphologyEx()
OpenCV学习笔记(八):形态学morpholgy(2):开.闭运算,形态学梯度.顶帽.黑帽:morphologyEx() 数学形态学(Mathematical morphology) 是一门建立在 ...
吴恩达《机器学习》学习笔记四——单变量线性回归（梯度下降法）代码
吴恩达<机器学习>学习笔记四--单变量线性回归(梯度下降法)代码一.问题介绍二.解决过程及代码讲解三.函数解释 1. pandas.read_csv()函数 2. DataFrame ...

方向导数与梯度——学习笔记

方向导数与梯度——学习笔记相关推荐

最新文章

热门文章