映射是一种对应关系。

函数是一种映射，将变量间的关系形式化为数学描述。

令$y = f(x)$，即$y$是$x$的函数，可以是$y = 2x + 1$，也可以是$y = sin(x)$。$x$的变化将引起$y$的变化，$x$的变化量$\triangle x$导致$y$变化$\triangle y$，当变化量很小（趋近于0）时，为瞬间变化量，记为$dx$和$dy$，瞬间变化量之比为瞬间变化率，即$\frac{dy}{dx}$。瞬间变化率$\frac{dy}{dx}$乘以$x$的瞬间变化量$dx$为$y$的瞬间变化量$dy$。

导数（Derivative），是对瞬间变化率的衡量，即$\frac{dy}{dx}$，导数也是函数，衡量每个$x$位置处的瞬间变化率。而微分（Differential，differentiation， differential calculus），指的是求导数——通过求瞬间变化量的关系来求导数。

当$x$为单变量时，导数为

\[f'(a) = \frac{dy}{dx} \rvert _{x=a} = \lim_{h \rightarrow 0} \frac{f(a + h) - f(a)}{h}\]

每个位置处的导数如下

基本初等函数包括：幂函数、指数函数、对数函数、三角函数、反三角函数、常数函数。

基本初等函数通过四则运算和复合可以得到复杂函数，其中减法与加法等价，除法与乘法等价：

加法（减法）：$f(x)+g(x)$
乘法（除法）：$f(x)g(x)$
复合：$f(g(x))$

加法的求导可以理解为变化量（率）的叠加，即$f' + g'$；
乘法的求导可以理解为矩形面积的变化率，将$f(x)$和$g(x)$看成矩形的边长，导数为$$\frac{(f + df)(g+dg)}{dx}$，在$dx$趋近于0时，面积增量为$fdg+gdf$（忽略了极小项），即导数为$f'g+fg'$。如下

复合函数的求导可以理解为变化率的传递，$y = f(u)$，$u=g(x)$，$x$的变化引起$u$的变化，$u$的变化引起$y$的变化，即$dy=\frac{dy}{du} du =\frac{dy}{du} \frac{du}{dx} dx$，$\frac{dy}{dx}= \frac{dy}{du} \frac{du}{dx}$，此为链式法则，$f'(x) = f'(g(x)) g'(x)$。变化量的传递如下：

可以令$x$变化一个极小量如$\triangle x=0.000001$，带入函数求$y$的变化量$\triangle y$，用$\frac{\triangle y}{\triangle x}$来估计$x$位置的导数，但这无疑是费时费力的，常见函数的导数一般都存在解析形式，如下：

参考

http://mathworld.wolfram.com/Differential.html
Chain rule
3Bulu1Brown-直观理解链式法则和乘积法则

转载于:https://www.cnblogs.com/shine-lee/p/10324601.html

单变量微分、导数与链式法则相关推荐

矢量求导的微分法则：链式法则
矢量求导的微分法则: 链式法则介绍核心原理矢量求导矩阵求导链式法则介绍这篇博文推导了矢量情形下, 标量函数对矢量进行求导的微分法则,从定义出发推导了链式法则的形式. 核心原理核心原理: ...
机器学习之单变量线性回归（Linear Regression with One Variable）
机器学习之单变量线性回归(Linear Regression with One Variable) 1. 模型表达(Model Representation) 我们的第一个学习算法是线性回归算法,让我 ...
吴恩达机器学习2——单变量线性回归
吴恩达机器学习2--单变量线性回归监督学习工作模式训练集中同时给出了输入输出,即人为标注的"正确结果"喂给学习算法,得到一个函数h,h 可以根据输入的x得到一个y,因此h是x到 ...
【机器学习】Andrew Ng——02单变量线性回归
单变量线性回归房屋价格问题首先我们来看卖房问题,如果有朋友想要出售房屋,如何根据已有数据来预测房屋的销售价格.下图所展示的是在第一章概述中提及的有监督学习的回归问题,对于每个样本的输入,都有正 ...
高等数学教程【单变量微积分】内容目录
高等数学教程[单变量微积分]内容目录前言[高等数学教程(单变量微积分)]_少侠PSY的博客-CSDN博客 1.1 极限的概念[极限]_少侠PSY的博客-CSDN博客 1.2 极限的性质[极限]_少侠 ...
前向传播、反向传播(后向传播)、梯度下降、导数、链式法则
日萌社人工智能AI:Keras PyTorch MXNet TensorFlow PaddlePaddle 深度学习实战(不定时更新) 2.4 神经网络最优化过程 2.4.1 最优化(Optimiz ...
斯坦福大学吴恩达机器学习教程中文笔记——week1——引言，单变量线性回归，线性代数回顾
第1周文章目录第1周 @[toc] 引言(Introduction) 1.1 欢迎 1.2 机器学习是什么? 1.3 监督学习 1.4 无监督学习二.单变量线性回归(Linear Regress ...
MIT 18.01 单变量微积分笔记——总目录及对应链接
0. 写在前面这篇总目录主要参考了MIT 18.01单变量微积分的课程结构,当然我也做了一些我认为更合理的思路上的改动.给自己定个小目标,争取一周之内填补目录上的几乎所有内容,我每写完一篇就会在本目 ...
什么是微分？什么是导数？如何利用微分-导数方程求导数？
简介: 记 ∇Xf\nabla _X f∇Xf 是矩阵函数的导数,那么可以利用微分-导数方程 dy=Tr(∇XfT⋅dX)dy = Tr\left( {\nabla _X f^T \cdot dX ...
吴恩达机器学习（第二章）——单变量线性回归
第二章-单变量线性回归文章目录第二章-单变量线性回归模型描述代价函数梯度下降梯度下降的思想梯度下降算法的公式梯度下降的运动方式线性回归的梯度下降模型描述在监督学习中我们有一个数据 ...

单变量微分、导数与链式法则

参考

单变量微分、导数与链式法则相关推荐

最新文章

热门文章