python中sigmoid函数_机器学习中 Sigmoid 函数的物理含义

讨论范围：二分类问题

只有 2 个分类的情况，logistic 曲线可以简化为

又叫 sigmoid 函数。

1. Python 画 Sigmoid 函数的图像

import numpy as np

import matplotlib.pyplot as plt

%matplotlib inline

def sigmoid(x):

return 1/(1+np.exp(-x))

x = np.arange(-5., 5., 0.2)

y = sigmoid(x)

plt.plot(x, y)

2. 非数学的理解

作为对比，选择

这条直线。

判断一个对象的分类时，很难做到 100% 的把握，需要算概率。

横坐标是测量值，纵坐标是概率。

p 越大，属于 1 的概率越高，否则属于 0.

p = 0.5 是分界线，无法判断属于哪一个分类。

从 0.5 变到 0.6，基本可以认为属于分类 1，质的飞跃，虽然把握不大。

0.6 -> 0.7, 非常重要的改进。

从 0.9 变到 1，因为把握已经很大了，所以实际的帮助有限。

相对于

或者其他曲线，

Sigmoid 曲线更完美的阐述了这种变化。

3. 数学解释

作用域：将一个 (−∞ ,+∞ ) 之内的实数值变换到区间 [0,1]

测量值 X 的取值区间是 (−∞ ,+∞ ) ，概率 P 的取值区间是 [0,1]。

sigmoid函数，单调增，定义域是(−∞ ,+∞ )，值域是(0,1)。

虽然在 0 和 1 两个点上，不是闭区间。但也近乎完美的满足需求。

正因为单调递增，不套用 sigmoid(logistic) 函数，直接比较 X 的大小，也是不影响结果的。

所以，虽然 logistic 模型不是直线，但依旧属于线性分类器。

是否套用 sigmoid 函数，会影响 Loss 的计算。

python中sigmoid函数_机器学习中 Sigmoid 函数的物理含义相关推荐

矩阵分析理论在实际工程中的应用_机器学习中的线性代数
[妹子说]上一篇文章中讲了如何打好机器学习中的概率统计基础,那今天就再来说说线性代数的学习路径和思路吧. 没问题. 线性代数作为利用空间来投射和表征数据的基本工具,可以方便的对数据进行各种变换,从而让 ...
sigmoid函数_机器学习面试常考知识之激活函数
神经网络的知识激活函数 y=f(Wx+b) 常用的激活函数有sigmoid.tanh.ReLu.LeakyReLU等为什么需要激活函数(这里说的激活函数一般指非线性激活),假设不用激活函数(相 ...
python在工厂中的应用_什么是工厂函数？Python 中工厂函数怎么理解？
其实谈工厂函数前必须首先把嵌套作用域和闭包讲清楚 python有一个很有意思的地方,就是def函数可以嵌套在另一个def函数之中.调用外层函数时,运行到的内层def语句仅仅是完成对内层函数的定义,而不 ...
python决策树实例_机器学习中的决策树及python实例
一棵树在现实生活中有许多枝叶,事实上树的概念在机器学习也有广泛应用,涵盖了分类和回归.在决策分析中,决策树可用于直观地决策和作出决策.决策树,顾名思义,一个树状的决策模型.尽管数据挖掘与机器学习中常常 ...
pandas中drop用法_机器学习笔记：Pandas的delete、drop函数的用法
机器学习笔记:Pandas的delete.drop函数的用法目录drop函数 Axis(轴)含义 drop用法实验 delete函数 drop函数 DataFrame.drop(labels=Non ...
louvian算法缺点优化_机器学习中的优化算法(1)-优化算法重要性,SGD,Momentum(附Python示例)...
本系列文章已转至机器学习的优化器zhuanlan.zhihu.com 优化算法在机器学习中扮演着至关重要的角色,了解常用的优化算法对于机器学习爱好者和从业者有着重要的意义. 这系列文章先讲述优化算 ...
python分类分析模型_机器学习中最常见的四种分类模型
作者:Jason Brownlee 翻译:候博学前言机器学习是一个从训练集中学习出算法的研究领域. 分类是一项需要使用机器学习算法的任务,该算法学习如何为数据集分配类别标签. 举一个简单易懂的例子 ...
机器学习反向传播_机器学习中的神秘化反向传播：您想了解的隐藏数学
机器学习反向传播 By Ibrahima "Prof" Traore, ML expert at Wildcard / w6d.io 作者:Wildcard / w6d.io的 ...
机器学习线性回归学习心得_机器学习中的线性回归
机器学习线性回归学习心得机器学习中的线性回归 (Linear Regression in Machine Learning) There are two types of supervised ma ...

python中sigmoid函数_机器学习中 Sigmoid 函数的物理含义

python中sigmoid函数_机器学习中 Sigmoid 函数的物理含义相关推荐

最新文章

热门文章