https://www.toutiao.com/a6630407688360575502/

2018-12-04 22:46:48

逻辑回归算法

虽然逻辑回归算法的名字中有回归二字,但是它却不是回归算法,它其实是分类算法。它通常是利用已知的自变量来预测一个离散型因变量的值。简单来说,它就是通过拟合一个逻辑函数来预测一个事件发生的概率。所以它预测的是一个概率值,自然它的输出值应该在0到1之间。要想实现输出值的范围在0到1,我们可以使用一个简单的函数来做到,这个函数就是sigmoid函数。

sigmoid函数

sigmoid函数图像

sigmoid函数如上图所示,我们可以看出它的值域在0~1之间。逻辑回归算法和Sigmod函数结合起来可以实现逻辑回归分类器,我们可以在每一个样本特征上都乘以一个回归系数,然后将所有的结果值相加,将总和代入Sigmoid函数,进而得到一个范围在0~1之间的数值。任何大于0.5的数据被分为y=1类,小于0.5被归为y=0类。

逻辑回归分类器

以上就是逻辑回归分类器的计算过程,我们来分析一下这个计算过程,我们输入样本x,然后样本特征xi乘以一个回归系数θj,我们将所有的结果进行相加,其实就是θ的转置*X,然后我们再将求和结果带入sigmoid函数中,最终的结果就是hθ(x)。如果hθ(x)大于0.5,那么这个样本我们就认为y=1,如果如果hθ(x)小于0.5,那么这个样本我们就认为y=0,这就是逻辑回归分类器的核心思想。

使用逻辑回归分类器完成癌症良性和恶性的判别

癌症病人样本

现在我们有一个如上所示的癌症病人的样本数据,其中O表示良性,而X表示恶性,现在我们的任务是通过逻辑回归分类算法学习出一条决策边界,从而将这两个样本给分开,当我们拥有这条决策边界之后,以后当再有新的样本的时候,我们就可以直接代入我们的模型中,就可以得出这个病人是良性还是恶性了。具体来说我们需要学习出如下所示的决策边界:

逻辑回归分类器的决策边界

我们可以看到这条蓝色的决策边界完成分开了两种不同的样本,我们的目的就是训练出这样的一条分类边界那么以后我们的模型就可以判断病人是否患有恶性肿瘤了,要想训练出这样的分类边界,我们可以使用逻辑回归的梯度下降算法

逻辑回归的梯度下降算法

分类边界方程

我们设我们的分类边界的方程如上所示,我们将这个分类边界带入到sigmoid函数中,我们就可以得出逻辑回归分类器的模型表示。

逻辑回归分类器的模型

当我们带入样本特征x1、x2的时候,如果hθ(x)的结果大于0.5,那么我们可以认为这个样本类别为y=1,如果hθ(x)的结果小于0.5,那么我们可以认为这个样本的类别为y=0。

现在模型已经有了,现在的问题是模型中存在未知的参数θ0、θ1和θ2,所以我们现在的任务是通过已知数据,从而训练出最好的参数θ,要想完成这个任务,我们需要使用梯度下降算法。

梯度下降算法

经过梯度下将算法之后,我们可以得出适合已经训练数据的最佳参数θ,假设最好的参数θ0=-3、θ1=1、θ2=1,那么此时我们的逻辑回归分类器的莫模型方程就是

逻辑回归分类器的模型

有了这个模型之后,我们就可以带入未知的样本特征x1和x2,从而得出未知病人样本是否是恶性肿瘤,具体来说如果带入之后如果hθ(x)>0.5就是恶性,而hθ(x)<0.5就是良性,这就是逻辑回归算法在分类中的应用。

基于机器学习逻辑回归算法完成癌症病人的肿瘤是否良性的判断相关推荐

  1. ML之LoR:基于LoR(逻辑回归)算法对乳腺癌肿瘤(9+1)进行二分类预测(良/恶性)

    ML之LoR:基于LoR(逻辑回归)算法对乳腺癌肿瘤(9+1)进行二分类预测(良/恶性) 目录 输出结果 设计思路 数据集 核心代码 输出结果 Testing accuracy (10 trainin ...

  2. 机器学习 逻辑回归算法应用案例

    机器学习 逻辑回归算法应用案例 时间:2020.09.12 出处:https://www.kesci.com/home/project/5bfe39b3954d6e0010681cd1 注明:初学逻辑 ...

  3. 机器学习算法平台alink_机器学习-逻辑回归算法

    1-逻辑回归算法原理推导 逻辑回归算法其实是一个分类算法,是非常经典,优秀的算法.一般我们不知道用哪个分类算法的时候,首先用逻辑回归算法试一试:它不仅可以实现二分类算法,还可以解决多分类问题 逻辑回归 ...

  4. 机器学习——逻辑回归算法

    文章目录 逻辑回归算法 逻辑回归概念 Sigmoid函数 逻辑回归模型 代价函数 最终运用梯度下降求解 实验 总结 逻辑回归算法 首先明确一个概念,逻辑回归并不是解决回归问题,而是解决分类问题,它是通 ...

  5. Python机器学习:逻辑回归算法以及多类分类

    向AI转型的程序员都关注了这个号

  6. 基于机器学习逻辑回归的电信客户流失预测

    直接看视频:https://www.bilibili.com/video/BV1To4y1i78d/?vd_source=8f3cf4ad6c08a40d40ca6809c9c9e8ca 博客会分享完 ...

  7. 【机器学习入门】(9) 逻辑回归算法:原理、精确率、召回率、实例应用(癌症病例预测)附python完整代码和数据集

    各位同学好,今天我和大家分享一下python机器学习中的逻辑回归算法.内容主要有: (1) 算法原理:(2) 精确率和召回率:(3) 实例应用--癌症病例预测. 文末有数据集和python完整代码 1 ...

  8. 基于逻辑回归算法模型搭建思路

    在真实工作场景中,有多种算法依据借贷数据集建立模型,主要使用的算法有逻辑回归.神经网络.决策树.贝叶斯信念网.GBDT算法等,本系列文章旨在为刚入门和对模型感兴趣的同学介绍传统风控模型算法之一--逻辑 ...

  9. 机器学习【逻辑回归算法】

    文章目录 一 介绍 1 应用场景 2 逻辑回归的原理 2.1 输入 2.2 激活函数 3 损失以及优化 3.1 损失 3.2 优化 二 API介绍 三 案例 1 分析 2 代码 四 分类评估方法 1. ...

最新文章

  1. windows兼容Linux php,支持windows与linux的php计划任务的实现方法
  2. Requirejs2.0笔记
  3. 从近年顶会论文看领域自适应(Domain Adaptation)最新研究进展
  4. erdas裁剪影像_运用ERDAS裁剪影像
  5. java中如何使用jdk_java – 如何在JDK7中使用目录globbing
  6. android个推快速集成,个推用户画像产品(个像)Android集成实践
  7. 关于SharePoint解决方案开发模型的凌乱文章…
  8. mysql常用的存储过程_MySQL存储过程的基本函数
  9. 人生苦短 我学python之OldBoy21天入门_day01·Python基础语法
  10. 写高性能 Web 应用程序的 10 个技巧 转自微软资料 .
  11. 价值连城 ImageNet图像分类大神 Andrej Karpathy的采访 给AI 深度学习从业者的建议
  12. LQR控制算法推导以及简单分析
  13. 带圆圈的数字和markdown常用表达式记录
  14. 多张图片合成一个tif文件
  15. vue项目PC端移动端适配方案
  16. 数据价值挖掘利器!阿里云实时数仓AnalyticDB PG
  17. aspnet mvc 中 跨域请求的处理方法
  18. 在单个虚拟机中搭建DPDK测试环境
  19. 初学者-----HTTP协议的基本格式
  20. c语言编程 企业发放,求c语言编程企业员工全年销售额统计及奖金发放系..._统计师_帮考网...

热门文章

  1. 博士后工作站来了!智源研究院获得正式授牌
  2. JRuby:谁说鱼与熊掌不可兼得
  3. PyTorch学习笔记——pytorch图像处理(transforms)
  4. 基于 TensorFlow 在手机端实现文档检测
  5. 干货!图神经网络及其自监督学习
  6. 神经风格迁移模型综述
  7. 不同于NLP,数据驱动方法与机器学习无法攻克NLU,原因有三点
  8. 数据呈现 | 20大数据可视化工具测评
  9. 送你16个matplotlib绘图实用小技巧(附代码)
  10. 报名 | 第三期医工结合系列研讨会:科研领域的知识产权保护