机器学习中的数学——激活函数(三): 线性整流函数(ReLU函数)
分类目录:《机器学习中的数学》总目录
相关文章:
· 激活函数:基础知识
· 激活函数(一):Sigmoid函数
· 激活函数(二):双曲正切函数(Tanh函数)
· 激活函数(三): 线性整流函数(ReLU函数)
· 激活函数(四):Leaky ReLU函数
· 激活函数(五):ELU函数
· 激活函数(六):Parametric ReLU(PReLU)函数
· 激活函数(七):Softmax函数
· 激活函数(八):Swish函数
· 激活函数(九):Maxout函数
· 激活函数(十):Softplus函数
· 激活函数(十一):Softsign函数
· 激活函数(十二):高斯误差线性单元(GELUs)
线性整流函数,又称修正线性单元ReLU,是一种人工神经网络中常用的激活函数,通常指代以斜坡函数及其变种为代表的非线性函数。
ReLU(x)=max(0,x)ReLU(x)=\max{(0, x)}ReLU(x)=max(0,x)
线性整流函数(ReLU函数)的特点:
- 当输入为正时,不存在梯度饱和问题。
- 计算速度快得多。ReLU 函数中只存在线性关系,因此它的计算速度比Sigmoid函数和tanh函数更快。
- Dead ReLU问题。当输入为负时,ReLU完全失效,在正向传播过程中,这不是问题。有些区域很敏感,有些则不敏感。但是在反向传播过程中,如果输入负数,则梯度将完全为零,Sigmoid函数和tanh函数也具有相同的问题
- ReLU函数的输出为0或正数,这意味着ReLU函数不是以0为中心的函数。
线性整流函数(ReLU函数)的图像:
机器学习中的数学——激活函数(三): 线性整流函数(ReLU函数)相关推荐
- 机器学习中的数学——激活函数(十):Softplus函数
分类目录:<机器学习中的数学>总目录 相关文章: · 激活函数:基础知识 · 激活函数(一):Sigmoid函数 · 激活函数(二):双曲正切函数(Tanh函数) · 激活函数(三): 线 ...
- 机器学习中的数学——激活函数(七):Softmax函数
分类目录:<机器学习中的数学>总目录 相关文章: · 激活函数:基础知识 · 激活函数(一):Sigmoid函数 · 激活函数(二):双曲正切函数(Tanh函数) · 激活函数(三): 线 ...
- 机器学习中的数学——激活函数(五):ELU函数
分类目录:<机器学习中的数学>总目录 相关文章: · 激活函数:基础知识 · 激活函数(一):Sigmoid函数 · 激活函数(二):双曲正切函数(Tanh函数) · 激活函数(三): 线 ...
- 机器学习中的数学——激活函数(八):Swish函数
分类目录:<机器学习中的数学>总目录 相关文章: · 激活函数:基础知识 · 激活函数(一):Sigmoid函数 · 激活函数(二):双曲正切函数(Tanh函数) · 激活函数(三): 线 ...
- 机器学习中的数学——激活函数(四):Leaky ReLU函数
分类目录:<机器学习中的数学>总目录 相关文章: · 激活函数:基础知识 · 激活函数(一):Sigmoid函数 · 激活函数(二):双曲正切函数(Tanh函数) · 激活函数(三): 线 ...
- 机器学习中的数学原理——过拟合、正则化与惩罚函数
通过这篇博客,你将清晰的明白什么是过拟合.正则化.惩罚函数.这个专栏名为白话机器学习中数学学习笔记,主要是用来分享一下我在 机器学习中的学习笔记及一些感悟,也希望对你的学习有帮助哦!感兴趣的小伙伴欢迎 ...
- 机器学习中的数学(六)--信息论与激活函数
写在前面 <机器学习中的数学>系列主要列举了在机器学习中用到的较多的数学知识,包括微积分,线性代数,概率统计,信息论以及凸优化等等.本系列重在描述基本概念,并不在应用的方面的做深入的探讨, ...
- 机器学习中的数学(三)--牛顿法
写在前面 <机器学习中的数学>系列主要列举了在机器学习中用到的较多的数学知识,包括微积分,线性代数,概率统计,信息论以及凸优化等等.本系列重在描述基本概念,并不在应用的方面的做深入的探讨, ...
- 机器学习中的数学——距离定义(三):闵可夫斯基距离(Minkowski Distance)
分类目录:<机器学习中的数学>总目录 相关文章: · 距离定义:基础知识 · 距离定义(一):欧几里得距离(Euclidean Distance) · 距离定义(二):曼哈顿距离(Manh ...
最新文章
- Microbiome:所谓的“富集培养”获得的微生物真的都是被“富集”出来的吗?(一作解读)...
- Maven的配置以及Eclipse的设置
- 2020 云原生技术 7 大领域趋势全预测
- Python logging模块日志存储位置踩坑
- FPGA学习及设计中的注意事项
- 复制选中的listbox内容
- 星梦缘陈彦妃_浙江舟山80后女演员,2003年出演偶像剧《星梦缘》,还是专业模特...
- ubuntu中 不同JDK版本之间的切换
- JXLS 2.4.0学习
- 如何在ubuntu上安装make 3.81
- 超难的75道逻辑思维题
- (16)python_random学习笔记
- http 协议入门
- for循环中取出最大最小 累加_使用 for 循环实现从 1 累加至 10。_学小易找答案...
- 数学建模:Leslie离散人口发展模型
- 基于ssm的航空订票系统
- 数字频率计的Verilog设计
- 谷歌大脑创始成员辞职,他也和Jeff Dean闹掰了
- 【无标题】win排查可以外联进程
- 关闭Windows系统的应用程序或窗口的快捷键有哪些?