一、前言

我们介绍一个非常有用的函数：sigmoid函数，它们在机器学习中经常用到。尤其是在神经网络中，经常用于作为隐藏层神经元的输出函数。

二、sigmoid函数

sigmoid函数也叫Logistic函数，它可以将一个实数映射到(0,1)的区间。
函数表示如下：f(x)=11+e−xf(x)=\frac1{1+e^{-x}}f(x)=1+e−x1
当x=0x=0x=0时，f(x)=0.5f(x)=0.5f(x)=0.5

其导数为f′(x)=f(x)(1−f(x))f'(x)=f(x)(1-f(x))f′(x)=f(x)(1−f(x))
证明如下：
f(x)=11+e−x=(1+e−x)−1f(x)=\frac1{1+e^{-x}}=(1+e^{-x})^{-1}f(x)=1+e−x1=(1+e−x)−1

f′(x)=−(1+e−x)−2e−x(−1)=e−x(1+e−x)2=1+e−x−1(1+e−x)2=11+e−x−1(1+e−x)2=(11+e−x)(1−11+e−x)=f(x)(1−f(x))\begin{aligned} f'(x) &=-(1+e^{-x})^{-2}e^{-x}(-1)\\ &=\frac{e^{-x}}{(1+e^{-x})^2}\\ &=\frac{1+e^{-x}-1}{(1+e^{-x})^2}\\ &=\frac{1}{1+e^{-x}}-\frac{1}{(1+e^{-x})^2}\\ &=(\frac{1}{1+e^{-x}}) (1-\frac{1}{1+e^{-x}})\\ &=f(x)(1-f(x)) \end{aligned}f′(x)=−(1+e−x)−2e−x(−1)=(1+e−x)2e−x=(1+e−x)21+e−x−1=1+e−x1−(1+e−x)21=(1+e−x1)(1−1+e−x1)=f(x)(1−f(x))

三、代码实现绘图

用matplotlib绘制函数图像：

import matplotlib.pyplot as plt
import numpy as npdef sigmoid(x):return 1/(1+np.exp(-x))x = np.arange(-10, 10, 0.1) #起点，终点，间距
y = sigmoid(x)
plt.plot(x, y)
plt.show()

运行结果：

四、参考资料

《Sigmoid函数求导过程》

sigmoid函数及其图像绘制相关推荐

用matplotlib.pyplot实现正态分布函数的图像绘制
下面是一个正态分布的例子,介绍的很详细,通过对引用函数的改变还可以绘制诸如卡方分布,t分布等常见分布函数的绘制. 如需其他分布函数代码,可以查看我上传的代码文件,里面还包括了柯布-道格拉斯函数三维分布 ...
Sigmoid函数与Softmax函数的区别与联系
目录缘起逻辑回归 Sigmoid Softmax 缘起逻辑回归逻辑回归模型是用于二类分类的机器学习模型(不要说逻辑回归可以做多类分类啊喂,那是二类分类器的组合策略问题,而与逻辑回归分类器本身的构造 ...
【OpenCV】OpenCV实战从入门到精通之 -- 基本图像绘制
目录 1.DrawEllipse()函数的写法 2.DrawFilledCircle()函数的写法 3.DrawPolygon()函数的写法 4.DrawLine()函数的写法基本绘制图形代码: m ...
逻辑回归 — Sigmoid函数 —预测是否出现过交通事故
目录 1. 数据的种类 2. Sigmoid函数 3. 案列 :预测是否会发送交通事故 4. 总结逻辑回归模型是离散数据(二次分布) 1. 数据的种类连续性数据:给定一个区间,可以取区间内任意一实 ...
深度学习笔记（2）：sigmoid函数
sigmoid函数的定义我就是可能太想发sigmod了(做梦),老把sigmoid打成sigmod- 表达式: 在百度上sigmoid函数是这么描述的:sigmoid函数也叫Logistic函数,用 ...
Sigmoid函数与损失函数求导
文章目录 1. sigmoid函数 1.1 从指数函数到sigmoid 1.2 对数函数与sigmoid 2. sigmoid函数求导 3 .神经网络损失函数求导 1. sigmoid函数 sigmo ...
深度学习：Sigmoid函数与损失函数求导
1sigmoid函数 1 从指数函数到sigmoid 2 对数函数与sigmoid 2sigmoid函数求导 3神经网络损失函数求导 1.sigmoid函数 sigmoid函数,也就是s型曲线函数 ...
python中sigmoid函数_机器学习中 Sigmoid 函数的物理含义
讨论范围:二分类问题只有 2 个分类的情况,logistic 曲线可以简化为又叫 sigmoid 函数. 1. Python 画 Sigmoid 函数的图像 import numpy as np ...
sigmoid函数及其导数的python实现与可视化
文章目录一.sigmoid函数的概念二.sigmoid函数的优点三.sigmoid函数的python实现代码四.sigmoid函数的图像一.sigmoid函数的概念 sigmoid函数,也就 ...
Python实现绘制函数图像——以Sigmoid函数为例
在深度学习的研究中,我们经常需要知道激活函数(阶跃函数)的图像,以此判断该神经网络的阈值,并更好的去对权重进行调整.但对于某些复杂的复合函数而言,我们非常困难手画出它的函数图像,这样不仅费时费力,而且 ...

sigmoid函数及其图像绘制

一、前言

二、sigmoid函数

三、代码实现绘图

四、参考资料

sigmoid函数及其图像绘制相关推荐

最新文章

热门文章