梯度和法向量的统一理解

在学习梯度和曲面上一点处的法向量的时候，发现它们的计算方法非常相似，但是一开始进入了误区，甚至以为梯度应该是模最大的切向量。想了好久才从几何意义的角度把梯度和法向量统一，希望下面的内容能帮助你加深理解。

1.梯度

严格意义上梯度只能说是只是函数的梯度。

以二元函数 $z=f(x,y)=x^{2}+y^{2}$ 为例，对应的平面方程：

$z-x^{2}-y^{2}=C$

在某一点 $x_{0}$ = $(x_{0},y_{0})$ 处，如果我们直接算 $(x_{0},y_{0})$ 处的梯度，得到的是一个二维向量 $(2x_{0},2y_{0})$ ,记作

向量 $\alpha$ 。显然这个向量并不是该平面上这一点的法向量，连维度都不够格。

另外，这里的梯度表示，沿 $\alpha$ 方向 $z$ 的变化速率最快，好像是个跟切线和斜率类似的东西。

2.法向量

现在我们来算算这一点的法向量。

$\beta =(F^{'}_{x}( x_{0},y_{0},z_{0}),F^{'}_{x}(x_{0},y_{0},z_{0}),F^{'}_{x}(x_{0},y_{0},z_{0}) )=(-2x_{0},-2y_{0},z_{0})$

发现了什么？

$\alpha$ 是 $\beta$ 在 $x\_O\_y$ 平面上的投影！

3.如何解释？

为什么算法向量和算梯度的方法那么相似？为什么法向量的投影就是梯度？

是因为我们算法向量的时候实际上是构造了大 $F(x)=z-f(x)=z-x^{^{2}}-y^{^{2}}$ ,这个 $F$ 函数的梯度

表示的是沿什么方向 $z$ 与 $f(x)$ 的差值变化最快，也就是 $f(x)$ 脱离 $z$ 最快，显然应该是沿垂直切平面

的方向脱离最快。梯度是梯度，法向量是法向量，维数不同，梯度更多地是对函数的意义，法向量

更多地是对方程图像的意义，二者并不矛盾。

4.实际使用

以一个实际应用场景举例：算层流管中流速对离轴半径的梯度，这里的梯度就是“该函数”的梯度，

得到的是一个一维向量，也即一个数，但流速-半径关系的图象是二维的，该梯度并不能充当某点

处的法向量，反而反映了类似斜率的变化性质。

在神经网络中有gradient-descent的概念，该概念中梯度的意义类似。

梯度和法向量的统一理解相关推荐

DL之DNN优化技术：神经网络算法简介之GD/SGD算法(BP的梯度下降算法)的简介、理解、代码实现、SGD缺点及改进(Momentum/NAG/Ada系列/RMSProp)之详细攻略
DL之DNN优化技术:神经网络算法简介之GD/SGD算法(BP的梯度下降算法)的简介.理解.代码实现.SGD缺点及改进(Momentum/NAG/Ada系列/RMSProp)之详细攻略目录 GD算法 ...
理解：用变分推断统一理解深度生成模型（VAE、GAN、AAE、ALI（BiGAN））
参考文章:https://kexue.fm/archives/5716 https://zhuanlan.zhihu.com/p/40282714 本篇博客主要是参照上述两个博文,另外加入了一些自己的 ...
梯度的直观理解_梯度下降最直观的理解
最近在学习机器学习,入门第一课就是「梯度下降」.看了不少教程都没有很好地理解,直到看到下面这篇文章,算是通俗易懂地理解了. 作者:六尺帐篷链接:https://www.jianshu.com/p/c ...
全新视角：用变分推断统一理解生成模型（VAE、GAN、AAE、ALI）
前言我小学开始就喜欢纯数学,后来也喜欢上物理,还学习过一段时间的理论物理,直到本科毕业时,我才慢慢进入机器学习领域.所以,哪怕在机器学习领域中,我的研究习惯还保留着数学和物理的风格:企图从最少的原理 ...
导数在梯度下降算法中的意义理解
梯度下降算法实际是在计算函数的极值问题,我们通过求函数的极值获取函数的局部最值在计算梯度下降的过程中,求函数的导数来通过逼近的方法去求局部最值而一般文章中介绍变量变化的时候是通过将变量自身减去导数 ...
梯度，sobel算子的理解
本文转于:https://blog.csdn.net/u014020344/article/details/50196635 若用侵权请联系删除 ? 在这一讲中我们来学习一下opencv中最基本的边 ...
关于梯度翻转层GRL的理解
最近在看迁移学习中的DANN算法和DAAN算法,二者都用到了GRL层,是一种梯度翻转层,这里主要想讲一下梯度翻转层为什么有用. 以DANN为例,倘若梯度翻转层不存在,那么,算法在迭代过程中,在减少Ly ...
萌新向Python数据分析及数据挖掘第三章机器学习常用算法第四节 PCA与梯度上升（上）理解篇...
转载于:https://www.cnblogs.com/romannista/p/10811992.html
关于PGD(映射式梯度下降)对抗训练的理解
在生成对抗样本这个应用场景下,对抗样本的最优境界是足以迷惑模型,对人眼却没有产生可视的变化.这意味着样本需要在原样本的L_2或者L_inf球内产生.这时,使用PGD会带来两点不足一.PGD方法本身最 ...
一文带你深刻理解三维曲面法向量的推导计算
一直以来,对空间曲面的隐函数的梯度表示法向量理解不是很深刻,感觉不如向量叉乘来的直观,本文就是利用向量叉乘表明曲面梯度为啥就是法向量.

梯度和法向量的统一理解

梯度和法向量的统一理解相关推荐

最新文章

热门文章