机器学习中的数学——激活函数（四）：Leaky ReLU函数

分类目录：《机器学习中的数学》总目录
相关文章：
· 激活函数：基础知识
· 激活函数（一）：Sigmoid函数
· 激活函数（二）：双曲正切函数（Tanh函数）
· 激活函数（三）：线性整流函数（ReLU函数）
· 激活函数（四）：Leaky ReLU函数
· 激活函数（五）：ELU函数
· 激活函数（六）：Parametric ReLU（PReLU）函数
· 激活函数（七）：Softmax函数
· 激活函数（八）：Swish函数
· 激活函数（九）：Maxout函数
· 激活函数（十）：Softplus函数
· 激活函数（十一）：Softsign函数
· 激活函数（十二）：高斯误差线性单元(GELUs)

它是一种专门设计用于解决Dead ReLU问题的激活函数：

LeakyReLU(x)={x,x>0αx,x≤0Leaky ReLU(x)=\left\{ \begin{aligned} x & \quad ,x > 0 \\ \alpha x & \quad , x\leq 0\\ \end{aligned} \right. LeakyReLU(x)={xαx,x>0,x≤0

Leaky ReLU函数的特点：

Leaky ReLU函数通过把xxx的非常小的线性分量给予负输入0.01x0.01x0.01x来调整负值的零梯度问题。
Leaky有助于扩大ReLU函数的范围，通常α\alphaα的值为0.01左右。
Leaky ReLU的函数范围是负无穷到正无穷。

Leaky ReLU函数的图像：

机器学习中的数学——激活函数（四）：Leaky ReLU函数相关推荐

机器学习中的数学——激活函数（三）：线性整流函数（ReLU函数）
分类目录:<机器学习中的数学>总目录相关文章: · 激活函数:基础知识 · 激活函数(一):Sigmoid函数 · 激活函数(二):双曲正切函数(Tanh函数) · 激活函数(三): 线 ...
机器学习中的数学——激活函数（十）：Softplus函数
分类目录:<机器学习中的数学>总目录相关文章: · 激活函数:基础知识 · 激活函数(一):Sigmoid函数 · 激活函数(二):双曲正切函数(Tanh函数) · 激活函数(三): 线 ...
机器学习中的数学——激活函数（七）：Softmax函数
分类目录:<机器学习中的数学>总目录相关文章: · 激活函数:基础知识 · 激活函数(一):Sigmoid函数 · 激活函数(二):双曲正切函数(Tanh函数) · 激活函数(三): 线 ...
机器学习中的数学——激活函数（五）：ELU函数
分类目录:<机器学习中的数学>总目录相关文章: · 激活函数:基础知识 · 激活函数(一):Sigmoid函数 · 激活函数(二):双曲正切函数(Tanh函数) · 激活函数(三): 线 ...
机器学习中的数学——激活函数（八）：Swish函数
分类目录:<机器学习中的数学>总目录相关文章: · 激活函数:基础知识 · 激活函数(一):Sigmoid函数 · 激活函数(二):双曲正切函数(Tanh函数) · 激活函数(三): 线 ...
机器学习中的数学(六)--信息论与激活函数
写在前面 <机器学习中的数学>系列主要列举了在机器学习中用到的较多的数学知识,包括微积分,线性代数,概率统计,信息论以及凸优化等等.本系列重在描述基本概念,并不在应用的方面的做深入的探讨, ...
机器学习中的数学(四)--线性代数
写在前面 <机器学习中的数学>系列主要列举了在机器学习中用到的较多的数学知识,包括微积分,线性代数,概率统计,信息论以及凸优化等等.本系列重在描述基本概念,并不在应用的方面的做深入的探讨, ...
机器学习中的数学——常用概率分布（四）：均匀分布（Uniform分布）
分类目录:<机器学习中的数学>总目录相关文章: · 常用概率分布(一):伯努利分布(Bernoulli分布) · 常用概率分布(二):范畴分布(Multinoulli分布) · 常用概率 ...
机器学习中的数学——距离定义（四）：切比雪夫距离（Chebyshev Distance）
分类目录:<机器学习中的数学>总目录相关文章: · 距离定义:基础知识 · 距离定义(一):欧几里得距离(Euclidean Distance) · 距离定义(二):曼哈顿距离(Manh ...

机器学习中的数学——激活函数（四）：Leaky ReLU函数

机器学习中的数学——激活函数（四）：Leaky ReLU函数相关推荐

最新文章

热门文章