logistic回归

概念：
Logistic回归是一种广义的线性回归分析模型，常用于数据挖掘、疾病自动诊断、经济预测等领域。值得一提的是，logistic回归跟多元线性回归有很多相似之处，模型形式也都是wx+b，w、b为要求的参数，不同点在于因变量不同，logistic回归通过logistic函数L将wx+b对应一个隐形状态p，即p=L（wx+b），若L是logistic函数就是logistic回归，若L是多项式就是多重线性回归。从另一方面来说，如果是连续的就是多重线性回归，如果是二项分布就是logistic回归。
基本思想：
Logistic回归实际上是一种分类方法，用于二分类问题。
先找到一个合适的假设函数，该函数就是我们要找的分类函数，，用它来预测输入数据的判断结果，这个过程需要对数据有一定的了解和分析，并且知道预测函数的基本特征，比如说是不是线性的等。
构造一个代价函数cost，即损失函数。用以表示预测的输出结果和训练数据的实际类别之间的偏差。若考虑所有数据，可以将cost求和或平均，记为J(θ)函数，表示所有预测结果和训练数据的实际类别之间的偏差。
最小化代价函数，获得最优的模型参数解，即J(θ)函数的最小值。因为函数的值越小预测结果就越准确，方法一般使用梯度下降法。
过程：
首先写出逻辑函数（sigmo函数）：

函数图像：（值域在0-1之间）
找到假设函数：

其中h(x)函数的值还有特殊的含义，表示结果取1的概率，类别1和类别2的概率分别为：

利用二项分布可以将上述式子写为：

取似然函数为：

将其取对数得到：

构造cost函数并求和得到J(θ)函数：

将上面式子联立得到J函数，最后求解的就是其中的参数最小值：

逻辑回归实例：（在实际问题中会遇到多个因变量）
寻找某一疾病的危险元素，根据危险元素预测某一疾病发生的概率有多大。
Logistic模型为预测模型，帮助销售部门实现精准营销。
汽车金融信用违约预测案例，根据申请人的资料预测他是否违约。
根据早餐喜好的民意调查，每一个个体为一个案例，预测人们的生活状态、暂定年龄等。
通过气压、湿度等预测会不会下雨。
总结：
逻辑回归的模型和概念实际上很简单，就是两种可能，用0和1表示，0就是没有发生。1就是发生，实际来说比如在电脑上看视频出现广告，用户要么点了要么没点，通过逻辑回归模型就可以预测用户点广告的概率，难得就是对于过程中特征值的分析，所以逻辑回归问题最后也就变为参数估计问题。

logistic回归相关推荐

二值logit模型的适用条件_一文读懂条件Logistic回归
在医学研究中,为了控制一些重要的混杂因素,经常会把病例和对照按年龄,性别等条件进行配对,形成多个匹配组.各匹配组的病例数和对照人数是任意的,比如一个病例和若干个对照匹配即1:1,在医学上称作" ...
logistic回归如何_第七章：利用Python实现Logistic回归分类模型
免责声明:本文是通过网络收集并结合自身学习等途径合法获取,仅作为学习交流使用,其版权归出版社或者原创作者所有,并不对涉及的版权问题负责.若原创作者或者出版社认为侵权,请联系及时联系,我将立即删除文章, ...
第七课.Logistic回归算法
Logistic 回归,又名逻辑回归,它从线性回归发展而来,是一种广义的线性回归模型:该模型预测输出的是样本类别的条件概率分布,因而可以取概率值最大的类别作为分类结果,实质上是一个分类模型. 目录算 ...
R语言广义线性模型函数GLM、R中有几种logistic回归扩展和变异、robust包中的glmRob函数鲁棒logistic回归、ms包中的lrm函数拟合序数逻辑回归
R语言广义线性模型函数GLM.glm函数构建逻辑回归模型(Logistic regression).R中有几种logistic回归扩展和变异.robust包中的glmRob函数鲁棒logistic回归 ...
R语言构建logistic回归模型：构建模型公式、拟合logistic回归模型、模型评估，通过混淆矩阵计算precision、enrichment、recall指标
R语言构建logistic回归模型:构建模型公式.拟合logistic回归模型.模型评估,通过混淆矩阵计算precision.enrichment.recall指标目录
R语言glm拟合logistic回归模型实战：基于glm构建逻辑回归模型及模型系数统计显著性分析、每个预测因子对响应变量的贡献
R语言glm拟合logistic回归模型实战:基于glm构建逻辑回归模型及模型系数统计显著性分析.每个预测因子对响应变量的贡献目录
R语言glm拟合logistic回归模型：模型评估（模型预测概率的分组密度图、混淆矩阵、准确率、精确度、召回率、ROC、AUC）、PRTPlot函数获取logistic模型最优阈值(改变阈值以优化)
R语言glm拟合logistic回归模型:模型评估(模型预测概率的分组密度图.混淆矩阵.Accuray.Precision.Recall.ROC.AUC).PRTPlot函数可视化获取logistic ...
R语言广义加性模型（generalized additive models,GAMs）：使用广义线性加性模型GAMs构建logistic回归
R语言广义加性模型(generalized additive models,GAMs):使用广义线性加性模型GAMs构建logistic回归目录
R语言构建logistic回归模型：WVPlots包PRTPlot函数可视化获取logistic回归模型的最优阈值、优化（precision、enrichment）和recall之间的折衷
R语言构建logistic回归模型:WVPlots包PRTPlot函数可视化获取logistic回归模型的最佳阈值(改变阈值以优化精确度(precision.enrichment)和查全率(recal ...
R语言glm拟合logistic回归模型：模型评估（计算模型拟合的统计显著性）、模型评估（赤信息AIC指标计算）
R语言glm拟合logistic回归模型:模型评估(计算模型拟合的统计显著性).模型评估(赤信息AIC指标计算) 目录

logistic回归

logistic回归相关推荐

最新文章

热门文章