TensorFlow之激活函数(8)
如何使用激活函数?
它的主要作用: 加入非线性
常用的激活函数:
1. sigmod函数
公式: 图形展示:
2.tanh函数
公式: 图形展示:
3.ReLU函数
公式: 图形展示:
4.ELU函数
公式: 图形展示:
ELU函数是针对ReLU函数的一个改进型,相比于ReLU函数,在输入为负数的情况下,是有一定的输出的,而且这部分输出还具有一定的抗干扰能力。
5.PReLU函数
公式: 图形展示:
PReLU也是针对ReLU的一个改进型,在负数区域内,PReLU有一个很小的斜率,这样也可以避免ReLU死掉的问题。
注:里面的参数α一般是取0~1之间的数,而且一般还是比较小的,如零点零几。当α=0.01时,我们叫PReLU为Leaky ReLU,算是PReLU的一种特殊情况吧。
6.softmax(x)函数
公式:
7.Scaled tanh([scaleIN, scaleOUT])函数
公式:
8.Leaky ReLU 函数
公式:
9.Vary Leaky ReLU 函数
公式:a = 1/3
10.Randomized ReLU 函数
公式:
11.Maxout 函数
公式:if a < 0, f(x) = max(x, ax)
12.softplus(x) 函数
公式:
13.linear(x) 函数
公式:
1 # -*- encoding:utf-8 -*- 2 3 import numpy as np 4 import matplotlib.pyplot as plt 5 import tensorflow as tf 6 7 # 创建输入数据 8 X = np.linspace(-7, 7, 180) #(-7, 7)之间的等间隔的180个点 9 10 #激活函数的原始实现 11 def sigmoid(inputs): 12 y = [1 / float(1 + np.exp(-x)) for x in inputs] 13 return y 14 15 def relu(inputs): 16 y = [x * (x > 0) for x in inputs] 17 return y 18 19 def tanh(inputs): 20 y = [(np.exp(x) - np.exp(-x)) / float(np.exp(x) + np.exp(-x)) for x in inputs] 21 return y 22 23 def softplus(inputs): 24 y = [np.log(1 + np.exp(x)) for x in inputs] 25 return y 26 27 #经过 TensorFlow 的激活函数处理的各个的 Y 值 28 y_sigmoid = tf.nn.sigmoid(X) 29 y_relu = tf.nn.relu(X) 30 y_tanh = tf.nn.tanh(X) 31 y_softplus= tf.nn.softplus(X) 32 33 # 创建会话 34 sess = tf.Session() 35 36 # 运行 37 y_sigmoid, y_relu, y_tanh, y_softplus = sess.run([y_sigmoid, y_relu, y_tanh, y_softplus]) 38 39 # 创建各个激活函数的图像 40 plt.subplot(221) 41 plt.plot(x, y_sigmoid, c="red", label="Sigmoid") 42 plt.ylim(-0.2, 1.2) #Y轴的取值范围极限 43 plt.legend(loc="best") #显示图像,放在最佳位置 44 45 plt.subplot(222) 46 plt.plot(x, y_relu, c="red", label="Relu") 47 plt.ylim(-1, 6) #Y轴的取值范围极限 48 plt.legend(loc="best") #显示图像,放在最佳位置 49 50 plt.subplot(223) 51 plt.plot(x, y_tanh, c="red", label="Tanh") 52 plt.ylim(-1.3, 1.3) #Y轴的取值范围极限 53 plt.legend(loc="best") #显示图像,放在最佳位置 54 55 plt.subplot(224) 56 plt.plot(x, y_softplus, c="red", label="Softplus") 57 plt.ylim(-1, 6) #Y轴的取值范围极限 58 plt.legend(loc="best") #显示图像,放在最佳位置 59 60 #显示图像 61 plt.show() 62 63 #关闭会话 64 sess.close()
转载于:https://www.cnblogs.com/xyqiu90-365/p/9774219.html
TensorFlow之激活函数(8)相关推荐
- TensorFlow六种激活函数
TensorFlow六种激活函数 每个神经元都必须有激活函数.神经元提供了模拟复杂非线性数据集所必需的非线性特性.该函数取所有输入的加权和,进而生成一个输出信号.把它看作输入和输出之间的转换.使用适当 ...
- TensorFlow常用激活函数及其特点用法(6种)详解
每个神经元都必须有激活函数.它们为神经元提供了模拟复杂非线性数据集所必需的非线性特性.该函数取所有输入的加权和,进而生成一个输出信号.你可以把它看作输入和输出之间的转换.使用适当的激活函数,可以将输出 ...
- tensorflow自定义激活函数
前言:因为研究工作的需要,要更改激活函数以适应自己的网络模型,但是单纯的函数替换会训练导致不能收敛.这里还有些不清楚为什么,希望有人可以给出解释.查了一些博客,发现了解决之道.下面将解决过程贴出来供大 ...
- Keras还是TensorFlow?深度学习框架选型实操分享
译者| 王天宇.林椿眄 责编| Jane.琥珀 出品| AI科技大本营 深度学习发展势头迅猛,但近两年涌现的诸多深度学习框架让初学者无所适从.如 Google 的 TensorFlow.亚马逊的 MX ...
- TensorFlow 机器学习秘籍第二版:6~8
原文:TensorFlow Machine Learning Cookbook 协议:CC BY-NC-SA 4.0 译者:飞龙 本文来自[ApacheCN 深度学习 译文集],采用译后编辑(MTPE ...
- 激活函数的生成及图像
所谓激活函数(Activation Function),就是在人工神经网络的神经元上运行的函数,负责将神经元的输入映射到输出端. 激活函数(Activation functions)对于人工神经网络模 ...
- opencv 反色处理
原文链接: opencv 反色处理 上一篇: TensorFlow 常见激活函数 下一篇: TensorFlow dropout 函数 暴力循环计算,计算量比较大,秒级 import cv2 as c ...
- 2 ai and machine learning for coders Laurence Moroney 学习笔记(二)chapter2 计算机视觉导论(Introduction to CV))
前一章介绍了机器学习工作原理的基础知识.您了解了如何开始使用神经网络编程来将数据与标签匹配,以及如何从中推断可用于区分项的规则.一个合乎逻辑的下一步是将这些概念应用到计算机视觉中,在那里我们将有一个模 ...
- CV视觉论文alexnet学习笔记(二)
<imageNet classification with Deep Convolutional Neural Network> 基于卷积神经网络的图像分类(经典网络) 作者:Alex K ...
最新文章
- 敏捷测试2015新看点
- C++内存分配方式详解——堆、栈、自由存储区、全局/静态存储区和常量存储区
- 使用mysql制作学生成绩单_【实例讲解】快速制作学生成绩单
- Seaborn——绘制统计图形
- php获得对象的类型,php 类型(对象)提示
- zabbix4监控mysql_Zabbix4监控Mysql5.7
- 和无用代码说再见!阿里文娱无损代码覆盖率统计方案
- C#中使用Monitor类、Lock和Mutex类来同步多线程的执行
- 扫描之王——NAMP
- X4扭曲字体或图形 coreldraw_CorelDRAW X4案例教程上-电子教案文档.ppt
- oracle热备是什么意思,Oracle冷备和热备脚本
- 冶金物理化学复习 --- 熔渣的基础理论
- 国家一级职业资格证书 计算机类有哪些
- java中final关键字。PS:转自海子
- 红帽Linux如何设置root权限,LINUX下 一句话添加用户并设置ROOT权限
- MAC 网速问题 变慢 的来看看 经验
- 毕业设计:基于汇编实现的欢乐QQ堂小游戏 附完整代码
- star- Transformer
- matlab最后一步出错,最后一条错误消息和相关信息
- IPHONE绑定武大邮箱的一些坑
热门文章
- java大批量文件对比_推荐 | 这 6 个代码对比工具用过的都说好!
- android渲染是skia与egl,Huang_Dongsung
- centos7.4装mysql_CentOS7.4用yum安装并配置MySQL5.7
- DenseNet实验
- java遍历范型list_Java 集合(1)-- 俯瞰 Java 集合源码以及分类
- 图像超分辨率增强ESRGAN运行教程,有数据
- Deep Learning with PyTorch 必看教程集(4本)
- 鸿蒙系统小米手机,华为鸿蒙系统已经发布,小米等国产手机会使用鸿蒙系统吗?...
- pycharm的项目文件中包括什么_一个完整的项目管理流程包括什么?
- 电脑可以开机但是黑屏_铅锤哥:十五种电脑开机黑屏的原因与解决思路