方向导数和梯度概念辨析

我们在学习多元函数的时候，经常会困惑于方向导数和梯度的区别以及他们的几何意义，今天让我们来一起辨析一下。

一、什么是方向导数？

定义：函数的增量
f(x+△x,y+△y)−f(x,y)f(x+\bigtriangleup x,y+\bigtriangleup y)-f(x,y)f(x+△x,y+△y)−f(x,y)与PP′PP^{'}PP′两点间的距离ρ=(△x)2+(△y)2\rho =\sqrt{(\bigtriangleup x)^{2}+(\bigtriangleup y)^{2} }ρ=(△x)2+(△y)2的比值，当P′P^{'}P′ 沿l趋近于P时，如果此比的极限存在，则称这极限为函数在P 点沿l的方向导数。记作∂f∂l\frac{\partial f}{\partial l}∂l∂f,也就是lim⁡ρ→0△lzρ=lim⁡ρ→0f(x+△x,y+△y)−f(x,y)ρ\lim_{ \rho \to 0} \frac{\bigtriangleup l^{z} }{\rho } =\lim_{\rho \to 0} \frac{f(x+\bigtriangleup x,y+\bigtriangleup y)-f(x,y)}{\rho }limρ→0ρ△lz=limρ→0ρf(x+△x,y+△y)−f(x,y)。

定义永远是晦涩的，如果我们来形象的类比一下，之前学到的偏导数是指当一个变量变化（例如：x、y），然后函数随着另一个固定变量的方向进行变化，偏导数就是变化的趋势。那么到这里的方向导数就是将编导数的范围扩大化，从一个变量变化到两个变量甚至多个变量同时变化，但是这个变化同样是沿着空间中的一条线l。

我们来看方向导数的几何解释就会更直观的理解：

如图所示，图a指xoy平面内，曲线l的投影，我们所求的∂f∂l\frac{\partial f}{\partial l}∂l∂f方向向量图b中就是p点上方z=f（x，y）曲线沿着曲线l切线的斜率，可以这么说：方向向量是你用一把名为切线的尺子在这个曲面上来回的摩擦，而这个方向向量就是你在各个l方向各个位置，这把切线尺子的斜率。

让我们在对照着图a，引出线面的定理：∂f∂x=∂f∂xcos⁡α+∂f∂xβ\frac{\partial f}{\partial x} = \frac{\partial f}{\partial x}\cos \alpha + \frac{\partial f}{\partial x}\beta∂x∂f=∂x∂fcosα+∂x∂fβ,其中cos⁡α,cos⁡β\cos \alpha,\cos \betacosα,cosβ是方向l的方向余弦。

不难理解，其实方向向量可以用x和y两个方向的偏导数进行组合来表示，证明如下：

函数可微，那么等量可以表示为：f(x+△x,y+△y)−f(x,y)=∂f∂x△x+∂f∂y△y+o(ρ)f(x+\bigtriangleup x,y+\bigtriangleup y)-f(x,y)=\frac{\partial f}{\partial x} \bigtriangleup x+\frac{\partial f}{\partial y}\bigtriangleup y+o(\rho )f(x+△x,y+△y)−f(x,y)=∂x∂f△x+∂y∂f△y+o(ρ)

我们两边同时除以ρ\rhoρ,得f(x+△x,y+△y)−f(x,y)ρ=∂f∂x△xρ+∂f∂y△yρ+o(ρ)ρ\frac{f(x+\bigtriangleup x,y+\bigtriangleup y)-f(x,y)}{\rho }=\frac{\partial f}{\partial x}\frac{\bigtriangleup x}{\rho }+ \frac{\partial f}{\partial y}\frac{\bigtriangleup y}{\rho } +\frac{o(\rho )}{\rho }ρf(x+△x,y+△y)−f(x,y)=∂x∂fρ△x+∂y∂fρ△y+ρo(ρ)

那么△xρ\frac{\bigtriangleup x}{\rho }ρ△x△yρ\frac{\bigtriangleup y}{\rho }ρ△y就是cos⁡α,cos⁡β\cos \alpha,\cos \betacosα,cosβ所以有∂f∂x=∂f∂xcos⁡α+∂f∂xβ\frac{\partial f}{\partial x} = \frac{\partial f}{\partial x}\cos \alpha + \frac{\partial f}{\partial x}\beta∂x∂f=∂x∂fcosα+∂x∂fβ。

warning：

1、在这里我们要继续对偏导数和沿x、y轴的方向导数进行辨析：偏导存在是比沿x、y轴的方向导数存在更高级的概念，偏导存在能推出沿x、y轴的方向导数存在，反之不行。

2、以上概念都能推到多元函数。

二、什么是梯度？

定义：设函数z = f (x, y)在平面区域 D 内具有阶连续偏导数，则对于每一点p(x,y)∈Dp(x,y)\in Dp(x,y)∈D,都可以定出一个向量∂f∂xi⃗+∂f∂yj⃗\frac{\partial f}{\partial x} \vec{i} +\frac{\partial f}{\partial y} \vec{j}∂x∂fi+∂y∂fj ，这向量称为函数z=f（x，y）在点P（x，y）的梯度，记作gradf（x，y）=∂f∂xi⃗+∂f∂yj⃗gradf（x，y）=\frac{\partial f}{\partial x} \vec{i} +\frac{\partial f}{\partial y} \vec{j}gradf（x，y）=∂x∂fi+∂y∂fj。

我们和方向向量进行比较，我们可以发现方向导数就是梯度乘以l方向上的单位向量。

可以这么说在梯度的方向上是方向向量取最大值的时刻，是函数值增加最快的时刻,如果用更形象的方法来比喻，
函数梯度方向和函数在这点等高线的发现的方向相同，且是从低等高线指向高等高线，而且模就是这个函数在这个法线方向的方向导数。

总结：函数在某点的梯度是这样一个向量，它的方向与取得最大方向导数的方向一致,而它的模为
方向导数的最大值．梯度的模为(∂f∂x)2+(∂f∂y)2\sqrt{(\frac{\partial f}{\partial x})^{2}+(\frac{\partial f}{\partial y})^{2} }(∂x∂f)2+(∂y∂f)2

总结：

1、方向导数是数

2、梯度是向量

3、梯度的方向就是函数在这点增长最快的方向，以此类推，降低最快的就是梯度的反方向，变化最慢的就和梯度垂直。

最后，感谢你阅读完以上内容，你的赞是我继续记录的最大鼓励。

方向导数和梯度概念辨析相关推荐

彻底搞明白梯度下降算法1：方向导数与梯度概念理解
预备知识点:斜率与变化率方向导数梯度总结 1.预备知识点:斜率与变化率斜率: 数学.几何学名词,是表示一条直线(或曲线的切线)关于横坐标轴倾斜程度的量.它通常用直线(或曲线的切线)与横坐标轴夹 ...
高数 | 【概念剖析】多元函数的偏导数、方向导数、梯度以及微分之间的关系
本篇文章,探讨下多元函数微分学下的一些知识点之间的关系.包括全微分.偏导数.方向导数.梯度.全导数等内容. 一.导数和微分到底是什么,以及为什么会有这些概念导数和微分其实就是数学家创造的两个代数工具 ...
(摘)导数、偏导数、方向导数、梯度、梯度下降概念和解释
前言机器学习中的大部分问题都是优化问题,而绝大部分优化问题都可以使用梯度下降法处理,那么搞懂什么是梯度,什么是梯度下降法就非常重要!这是基础中的基础,也是必须掌握的概念! 提到梯度,就必须从导数(d ...
（转）导数、偏导数、方向导数、梯度、梯度下降概念和解释
转自:https://www.cnblogs.com/lingjiajun/p/9895753.html 前言机器学习中的大部分问题都是优化问题,而绝大部分优化问题都可以使用梯度下降法处理,那么搞懂 ...
【RL数学基础】微积分的基本概念：导数、偏导数、方向导数、梯度
文章目录 1.导数 2.偏导数 3.方向导数 4.梯度 1.导数导数定义: 反应的是函数 y=f(x)y=f(x)y=f(x) 在某一点处沿着自变量 xxx 的正方向(即: xxx 轴正方向)的变化 ...
【深度学习】基于Pytorch的线性模型概念辨析和实现(一)
[深度学习]基于Pytorch的线性模型概念辨析和实现(一) 文章目录 1 为什么要谈线性回归? 2 建立模型基本形式 3 实现3.1 损失函数3.2 解析解3.3 小批量随机梯度下降3.4 矢量化加 ...
二元函数偏导数公式_多元函数的偏导数、方向导数、梯度以及微分之间的关系思考...
本篇文章,探讨下多元函数微分学下的一些知识点之间的关系.包括全微分.偏导数.方向导数.梯度.全导数等内容. 初学这些知识的时候,学生会明显觉得这些概念不难掌握,而且定义及计算公式也很容易记住,但总觉得 ...
一阶方向导数与梯度和方向向量的关系及其应用
一.基本概念 1.方向导数(Directional derivative) 方向导数是指在给定点沿着某个方向的导数,表示函数在该方向上的变化率. 具体而言,对于一个向量场 f ( x ...
方向导数、梯度、等高线、数量场与向量场
转载自:http://blog.csdn.net/lijil168/article/details/69367531 之前用过几次梯度下降算法来求解一些优化问题,但对梯度的具体意义并不是很理解.前一段 ...
导数、偏导数、方向导数、梯度、梯度下降
原作者:WangBo_NLPR 原文:https://blog.csdn.net/walilk/article/details/50978864 原作者:Eric_LH 原文:https://blo ...

方向导数和梯度概念辨析

方向导数和梯度概念辨析相关推荐

最新文章

热门文章