逻辑回归——乳腺癌分类

逻辑回归的数学原理

逻辑回归是一种二分类的有监督学习算法。
对数几率回归。
损失函数采用最大似然函数的负对数。
使用梯度下降算法找最优参数。

对conda 自带数据集分类

导包
读数据
划分训练集和测试集

import numpy as np
import pandas as pd
import matplotlib.pyplot as pltfrom sklearn.datasets import load_breast_cancer
from sklearn.model_selection import train_test_splitcancer=load_breast_cancer()
data=pd.DataFrame(data=cancer.data,columns=cancer.feature_names)xtrain,xtest,ytrain,ytest=train_test_split(data,cancer.target,test_size=0.3,random_state=250)

导入逻辑回归
训练分类器

from sklearn.linear_model import LogisticRegressionlr=LogisticRegression().fit(xtrain,ytrain)

查看训练的各项参数值

lr.coef_

可以看到很多标签的权重特别小，因为逻辑回归默认使用的L2正则化项

也可以使用L1正则化项试一试，但是使用L1正则化项需要加上solver='liblinear'，否则会报错。

lr1=LogisticRegression(penalty='l1',solver='liblinear').fit(xtrain_,ytrain)

可以看到，使用L1正则化项，那些极小的参数都变成了0。

查看一下模型准确率

lr.score(xtest,ytest)

对模型进行优化

因为逻辑回归是一种对数几率回归，为了排除量纲对模型的影响，可以对数据先做标准化处理。

from sklearn.preprocessing import StandardScalers=StandardScaler()
xtrain_=s.fit_transform(xtrain)
xtest_=s.fit_transform(xtest)

使用新的训练集做逻辑回归

lr2=LogisticRegression().fit(xtrain_,ytrain)

查看准确率

lr2.score(xtest_,ytest)

可以看到，准确率略有提升

最后

最后的最后，检查一下模型的查全率和查准率

from sklearn.metrics import classification_reportprint(classification_report(ytest,lr1.predict(xtest_)))

逻辑回归——乳腺癌分类相关推荐

传统机器学习之逻辑回归的分类预测，以威斯康辛州乳腺癌数据集为例
传统机器学习之逻辑回归的分类预测,以威斯康辛州乳腺癌数据集为例文章目录传统机器学习之逻辑回归的分类预测,以威斯康辛州乳腺癌数据集为例 1导入基本库 2读取数据并且变换类型 3输出数据 4可视化数据 ...
深度学习神经网络（5）逻辑回归二分类-Pytorch实现乳腺癌预测
深度学习神经网络逻辑回归二分类-乳腺癌预测一.前言二.代码实现 2.1 引入依赖库 2.2 加载并查看数据集 2.3 数据处理 2.4 数据分割 2.5 迭代训练 2.6 数据验证一.前言 ...
人工智能-逻辑回归、分类评估方法、ROC曲线、类别不平衡
1,逻辑回归介绍逻辑回归:分类模型应用场景:广告点击率.是否垃圾邮件逻辑回归主要用于解决二分类问题输入: 逻辑回归的输入:线性回归的结果激活函数:sigmoid函数回归的结果输入到sigm ...
逻辑回归是分类还是回归_分类和回归：它们是否相同？
逻辑回归是分类还是回归 You might have come across the terms Regression and Classification, and might as well th ...
机器学习笔记-基于逻辑回归的分类预测
天池学习笔记:AI训练营机器学习-阿里云天池基于逻辑回归的分类预测 1 逻辑回归的介绍和应用 1.1 逻辑回归的介绍逻辑回归(Logistic regression,简称LR)虽然其中带有&quo ...
机器学习核心总结-概念、线性回归、损失函数、泛化及数据集划分、特征工程、逻辑回归和分类
文章目录一.机器学习入门概念一.基本概念机器学习:让机器进行学习和决策机器学习分类:无监督学习.监督学习.强化学习深度学习:模拟人脑,自动提取输入特征,是实现机器学习的方式之一神经网络:一 ...
StumbleuponAnalysis－－逻辑回归二元分类
Spark MLlib 下的逻辑回归二元分类训练模型导入必要的包 import numpy as np import pyspark from matplotlib import pyplot a ...
ML机器学习算法（一）: 基于逻辑回归的分类预测
机器学习算法(一): 基于逻辑回归的分类预测 1 逻辑回归的介绍和应用 1.1 逻辑回归的介绍逻辑回归(Logistic regression,简称LR)虽然其中带有"回归"两个 ...
逻辑回归二分类算法python_多分类逻辑回归 (Multinomial Logistic Regression)
前言分类从结果的数量上可以简单的划分为: 二分类(Binary Classification) 多分类(Multinomial Classification). 其中二分类是最常见且使用最多的分类场 ...

逻辑回归——乳腺癌分类

逻辑回归的数学原理

对conda 自带数据集分类

对模型进行优化

最后

逻辑回归——乳腺癌分类相关推荐

最新文章

热门文章