机器学习最常用的3种激活函数:Sigmoid、Tanh、Relu
目录
- 1 什么是激活函数
- 2 为什么使用激活函数
- 3 常用激活函数
- 1 Sigmoid
- 2 Tanh
- 3 Relu
1 什么是激活函数
激活函数(Activation Function)在人工神经网络的神经元上运行,负责将神经元的输入映射到输出端。
如图,在神经元中,输入的 inputs 通过加权求和后,还被作用了一个函数,这个函数就是激活函数,引入激活函数是为了使神经网络模型具有非线性特性。
2 为什么使用激活函数
如果不用激活函数,每一层输出都是上层输入的线性函数,无论神经网络有多少层,输出都是输入的线性组合,这种情况就是最原始的感知机。
而激活函数给神经元引入了非线性因素,使得神经网络可以任意逼近任何非线性函数,这样神经网络就可以应用到众多的非线性模型中。
3 常用激活函数
1 Sigmoid
Sigmoid函数由于其单增以及反函数单增等性质,常被用作神经网络的阈值函数,将变量映射到(0,1),可以用来做二分类。
缺点:
- 当输入非常大或者非常小的时候,这些神经元的梯度是接近于0的,从图中可以看出梯度的趋势。
- Sigmoid 的 输出不是0均值,这会导致后一层的神经元将得到上一层输出的非0均值的信号作为输入。
2 Tanh
双曲正切,将变量映射到(-1,1)。Tanh是Sigmoid的变形,与 sigmoid 不同的是,tanh 是0均值的。因此,实际应用中,tanh 会比 sigmoid 更好。
3 Relu
修正线性单元,它的作用是如果计算出的值小于0,就让它等于0,否则保持原来的值不变,克服了前两个激活函数会出现的梯度消失问题。
通常用于隐层神经元输出。
机器学习最常用的3种激活函数:Sigmoid、Tanh、Relu相关推荐
- 三种激活函数——Sigmoid,Tanh, ReLU以及卷积感受野的计算
1. 三种激活函数--Sigmoid, Tanh, ReLU 1.1 Sigmoid 1.1.1 公式 S ( x ) = 1 1 + e − x S(x) = \frac{1}{1 + e^{-x} ...
- DL之DNN优化技术:采用三种激活函数(sigmoid、relu、tanh)构建5层神经网络,权重初始值(He参数初始化和Xavier参数初始化)影响隐藏层的激活值分布的直方图可视化
DL之DNN优化技术:采用三种激活函数(sigmoid.relu.tanh)构建5层神经网络,权重初始值(He参数初始化和Xavier参数初始化)影响隐藏层的激活值分布的直方图可视化 目录
- 激活函数--Sigmoid,tanh,RELU,RELU6,Mish,Leaky ReLU等
激活函数 目前自己使用比较多的激活函数RELU, RELU6; LeakyReLU; SELU; Mish :激活函数看:计算量:准确率: 大多数激活函数pytorch里有已经包装好了: Non-li ...
- 【Pytorch神经网络理论篇】 07 激活函数+Sigmoid+tanh+ReLU+Swish+Mish+GELU
①激活函数:主要通过加入非线性因素,你不线性模型表达能力不足的缺陷,因为神经网络中的数学基础是处处可微分的函数,故要求激活函数也应该保证数据的输入与输出是可微分. ②激活函数可以分为饱和激活函数与不饱 ...
- 常用的激活函数汇总-Sigmoid, tanh, relu, elu
激活函数(又叫激励函数,后面就全部统称为激活函数)是模型整个结构中的非线性扭曲力,神经网络的每层都会有一个激活函数.那他到底是什么,有什么作用?都有哪些常见的激活函数呢? 深度学习的基本原理就是基于人 ...
- 激活函数总结sigmoid,tanh,relu,Leaky ReLU,RRelu,ELU,PRelu,SELU,swish
本文总结深度学习的损失函数及其优缺点. 激活函数是深度学习模型的重要成分,目的是将线性输入转换为非线性.常见的激活函数有sigmoid,tanh,ReLU等 1.sigmoid Sigmoid 非线性 ...
- 【深度学习】激活函数:原理+常见激活函数(Sigmoid\Tanh\ReLU\Leaky ReLU\Softmax)
首先需要知道为什么要引入激活函数:激活函数是用来加入非线性因素的,因为线性模型的表达能力不够.引入非线性激活函数,可使深层神经网络的表达能力更加强大. 在深度学习中,线性模型只需要简单的全连接层就能实 ...
- 激活函数-Sigmoid, Tanh及ReLU
什么是激活函数 在神经网络中,我们会对所有的输入进行加权求和,之后我们会在对结果施加一个函数,这个函数就是我们所说的激活函数.如下图所示. 为什么使用激活函数 我们使用激活函数并不是真的激活什么,这只 ...
- Matlab绘制激活函数sigmoid,Relu
激活函数主要是神经网络中用到,它的公式为: 下面用matlab来绘制一下 clc clear all x = linspace(-10.0,10.0); % 设置x范围为-10到10 sigmoid ...
最新文章
- bad cpu type in executable_【简讯】Intel将每5年重新开发一次CPU架构;华为EMUI 11曝光…...
- WebStorm无法显示文件夹目录
- 1.3编程基础之算术表达式与顺序执行 11 计算浮点数相除的余数
- 信息学奥赛C++语言:某年某月天数
- html的document操作
- IssueTrackerCSVS 代码笔记-数据层的反射工厂模式
- mysql 空位补0_MySQL 删除数据后物理空间未释放
- IntelliJ idea 添加参数
- nifi从入门到实战(保姆级教程)——环境篇
- 傅里叶变换中采样频率(fs)的解读
- 大四学年软件公司实习感悟
- 鲁大师发布2022半年报手机UI排行榜,vivo OriginOS成为最流畅UI
- android 手机强制关机代码,安卓手机强制重启方法
- JavaScript怎么获取当前时间的年月日?
- 显色指数(CRI)计算软件分享(升级版本:增加同步计算R15,CCT,CIE色坐标,三刺激值等)
- Net core中使用System.Drawing对上传的图片流进行压缩
- STM32F103完成对SD卡的数据读取(fat文件模式)
- 北大ACM暑期培训课程目录
- TTF字体文件裁剪(支持简体中文,繁体中文TTF字体裁剪)
- 小米关于区块链的发展历程
热门文章
- googleMap 谷歌地图
- 第三届云计算大会 - 华为李三琦:云计算发展与华为运战略(转载)
- 广告业务系统 之 核心通道 —— “日志中心-s2s监测上报”
- Android 获取文件名 乱码
- 你想跨互联网远程调试Android设备吗,推荐一个远程控制手机的免费软件
- 彻底掌握 Javascript(二十一)async 函数-曾亮-专题视频课程
- java localdate_Java LocalDate now()用法及代码示例
- 如何查询windows的版本号?
- 商户门店开业,一款会员管理系统标配
- 盘点2015年可能上市的19家互联网公司,IPO不再是唯一终点