如何使用激活函数?

它的主要作用: 加入非线性

常用的激活函数:

1. sigmod函数

公式:                                                             图形展示:

2.tanh函数

公式:                       图形展示:

3.ReLU函数

公式:                                                       图形展示:

4.ELU函数

公式:                              图形展示:

ELU函数是针对ReLU函数的一个改进型,相比于ReLU函数,在输入为负数的情况下,是有一定的输出的,而且这部分输出还具有一定的抗干扰能力。

5.PReLU函数

公式:                                                         图形展示:

PReLU也是针对ReLU的一个改进型,在负数区域内,PReLU有一个很小的斜率,这样也可以避免ReLU死掉的问题。

注:里面的参数α一般是取0~1之间的数,而且一般还是比较小的,如零点零几。当α=0.01时,我们叫PReLU为Leaky ReLU,算是PReLU的一种特殊情况吧。

6.softmax(x)函数

公式:

7.Scaled tanh([scaleIN, scaleOUT])函数

公式:

8.Leaky ReLU 函数

公式:

9.Vary Leaky ReLU 函数

公式:a = 1/3

10.Randomized ReLU 函数

公式:

11.Maxout 函数

公式:if a < 0, f(x) = max(x, ax)

12.softplus(x) 函数

公式:

13.linear(x) 函数

公式:

 1 # -*- encoding:utf-8 -*-
 2
 3 import numpy as np
 4 import matplotlib.pyplot as plt
 5 import tensorflow as tf
 6
 7 # 创建输入数据
 8 X = np.linspace(-7, 7, 180)  #(-7, 7)之间的等间隔的180个点
 9
10 #激活函数的原始实现
11 def sigmoid(inputs):
12     y = [1 / float(1 + np.exp(-x)) for x in inputs]
13     return y
14
15 def relu(inputs):
16     y = [x * (x > 0) for x in inputs]
17     return y
18
19 def tanh(inputs):
20     y = [(np.exp(x) - np.exp(-x)) / float(np.exp(x) + np.exp(-x)) for x in inputs]
21     return y
22
23 def softplus(inputs):
24     y = [np.log(1 + np.exp(x)) for x in inputs]
25     return y
26
27 #经过 TensorFlow 的激活函数处理的各个的 Y 值
28 y_sigmoid = tf.nn.sigmoid(X)
29 y_relu    = tf.nn.relu(X)
30 y_tanh    = tf.nn.tanh(X)
31 y_softplus= tf.nn.softplus(X)
32
33 # 创建会话
34 sess = tf.Session()
35
36 # 运行
37 y_sigmoid, y_relu, y_tanh, y_softplus = sess.run([y_sigmoid, y_relu, y_tanh, y_softplus])
38
39 # 创建各个激活函数的图像
40 plt.subplot(221)
41 plt.plot(x, y_sigmoid, c="red", label="Sigmoid")
42 plt.ylim(-0.2, 1.2)      #Y轴的取值范围极限
43 plt.legend(loc="best")   #显示图像,放在最佳位置
44
45 plt.subplot(222)
46 plt.plot(x, y_relu, c="red", label="Relu")
47 plt.ylim(-1, 6)      #Y轴的取值范围极限
48 plt.legend(loc="best")   #显示图像,放在最佳位置
49
50 plt.subplot(223)
51 plt.plot(x, y_tanh, c="red", label="Tanh")
52 plt.ylim(-1.3, 1.3)      #Y轴的取值范围极限
53 plt.legend(loc="best")   #显示图像,放在最佳位置
54
55 plt.subplot(224)
56 plt.plot(x, y_softplus, c="red", label="Softplus")
57 plt.ylim(-1, 6)      #Y轴的取值范围极限
58 plt.legend(loc="best")   #显示图像,放在最佳位置
59
60 #显示图像
61 plt.show()
62
63 #关闭会话
64 sess.close()

转载于:https://www.cnblogs.com/xyqiu90-365/p/9774219.html

TensorFlow之激活函数(8)相关推荐

  1. TensorFlow六种激活函数

    TensorFlow六种激活函数 每个神经元都必须有激活函数.神经元提供了模拟复杂非线性数据集所必需的非线性特性.该函数取所有输入的加权和,进而生成一个输出信号.把它看作输入和输出之间的转换.使用适当 ...

  2. TensorFlow常用激活函数及其特点用法(6种)详解

    每个神经元都必须有激活函数.它们为神经元提供了模拟复杂非线性数据集所必需的非线性特性.该函数取所有输入的加权和,进而生成一个输出信号.你可以把它看作输入和输出之间的转换.使用适当的激活函数,可以将输出 ...

  3. tensorflow自定义激活函数

    前言:因为研究工作的需要,要更改激活函数以适应自己的网络模型,但是单纯的函数替换会训练导致不能收敛.这里还有些不清楚为什么,希望有人可以给出解释.查了一些博客,发现了解决之道.下面将解决过程贴出来供大 ...

  4. Keras还是TensorFlow?深度学习框架选型实操分享

    译者| 王天宇.林椿眄 责编| Jane.琥珀 出品| AI科技大本营 深度学习发展势头迅猛,但近两年涌现的诸多深度学习框架让初学者无所适从.如 Google 的 TensorFlow.亚马逊的 MX ...

  5. TensorFlow 机器学习秘籍第二版:6~8

    原文:TensorFlow Machine Learning Cookbook 协议:CC BY-NC-SA 4.0 译者:飞龙 本文来自[ApacheCN 深度学习 译文集],采用译后编辑(MTPE ...

  6. 激活函数的生成及图像

    所谓激活函数(Activation Function),就是在人工神经网络的神经元上运行的函数,负责将神经元的输入映射到输出端. 激活函数(Activation functions)对于人工神经网络模 ...

  7. opencv 反色处理

    原文链接: opencv 反色处理 上一篇: TensorFlow 常见激活函数 下一篇: TensorFlow dropout 函数 暴力循环计算,计算量比较大,秒级 import cv2 as c ...

  8. 2 ai and machine learning for coders Laurence Moroney 学习笔记(二)chapter2 计算机视觉导论(Introduction to CV))

    前一章介绍了机器学习工作原理的基础知识.您了解了如何开始使用神经网络编程来将数据与标签匹配,以及如何从中推断可用于区分项的规则.一个合乎逻辑的下一步是将这些概念应用到计算机视觉中,在那里我们将有一个模 ...

  9. CV视觉论文alexnet学习笔记(二)

    <imageNet classification with Deep Convolutional Neural Network> 基于卷积神经网络的图像分类(经典网络) 作者:Alex K ...

最新文章

  1. 敏捷测试2015新看点
  2. C++内存分配方式详解——堆、栈、自由存储区、全局/静态存储区和常量存储区
  3. 使用mysql制作学生成绩单_【实例讲解】快速制作学生成绩单
  4. Seaborn——绘制统计图形
  5. php获得对象的类型,php 类型(对象)提示
  6. zabbix4监控mysql_Zabbix4监控Mysql5.7
  7. 和无用代码说再见!阿里文娱无损代码覆盖率统计方案
  8. C#中使用Monitor类、Lock和Mutex类来同步多线程的执行
  9. 扫描之王——NAMP
  10. X4扭曲字体或图形 coreldraw_CorelDRAW X4案例教程上-电子教案文档.ppt
  11. oracle热备是什么意思,Oracle冷备和热备脚本
  12. 冶金物理化学复习 --- 熔渣的基础理论
  13. 国家一级职业资格证书 计算机类有哪些
  14. java中final关键字。PS:转自海子
  15. 红帽Linux如何设置root权限,LINUX下 一句话添加用户并设置ROOT权限
  16. MAC 网速问题 变慢 的来看看 经验
  17. 毕业设计:基于汇编实现的欢乐QQ堂小游戏 附完整代码
  18. star- Transformer
  19. matlab最后一步出错,最后一条错误消息和相关信息
  20. IPHONE绑定武大邮箱的一些坑

热门文章

  1. java大批量文件对比_推荐 | 这 6 个代码对比工具用过的都说好!
  2. android渲染是skia与egl,Huang_Dongsung
  3. centos7.4装mysql_CentOS7.4用yum安装并配置MySQL5.7
  4. DenseNet实验
  5. java遍历范型list_Java 集合(1)-- 俯瞰 Java 集合源码以及分类
  6. 图像超分辨率增强ESRGAN运行教程,有数据
  7. Deep Learning with PyTorch 必看教程集(4本)
  8. 鸿蒙系统小米手机,华为鸿蒙系统已经发布,小米等国产手机会使用鸿蒙系统吗?...
  9. pycharm的项目文件中包括什么_一个完整的项目管理流程包括什么?
  10. 电脑可以开机但是黑屏_铅锤哥:十五种电脑开机黑屏的原因与解决思路