[机器学习笔记] 常用的分类与预测算法
常用的分类与预测算法
| 算法名称 | 算法描述 |
|---|---|
| 回归分析 |
回归分析是确定预测属性（数值型）与其它变量间相互依赖的定量关系最常用的统计学方法。 包括：线性回归、非线性回归、Logistic回归、岭回归、主成分回归、偏最小二乘回归等模型。 |
| 决策树 | 决策树采用自顶向下的递归方式，在内部节点进行属性值的比较，并根据不同的属性值从该节点向下分支，最终得到的叶子节点是学习划分的类 |
| 人工神经网络 | 人工神经网络是一种模仿大脑神经网络结构和功能而建立的信息处理系统，表示神经网络的输入与输出变量之间关系的模型 |
| 贝叶斯网络 | 贝叶斯网络又称信度网络，是Bayes方法的扩展，是目前不确定知识表述和推理领域最有效的理论模型之一 |
| 支持向量机 | 支持向量机是一种通过某种非线性映射，把低维的非线性可分转化为高维的线性可分，在高维空间进行线性分析的算法 |
回归分析
主要回归模型分类
| 回归模型名称 | 适用条件 | 算法描述 |
|---|---|---|
| 线性回归 | 因变量与自变量是线性关系 | 对一个或多个自变量和因变量之间的线性关系进行建模，可用最小二乘法求解模型系数 |
| 非线性回归 | 因变量与自变量之间不都是线性关系 | 对一个或多个变量和因变量之间的非线性关系进行建模。如果非线性关系可以通过简单的函数变换转化成线性关系，用线性回归的思想求解；如果不能转化，用非线性最小二乘法求解。 |
| Logistic回归 | 因变量一般有1和0（是否）两种取值 | 是广义线性回归模型的特例，利用Logistic函数将因变量的取值范围控制在0和1之间，表示取值为1的概率 |
| 岭回归 | 参与建模的自变量之间具有多重共线性 | 是一种改进最小二乘估计的方法 |
| 主成分回归 | 参与建模的自变量之间具有多重共线性 | 主成分回归是根据主成分分析的思想提出来的，是对最小二乘法的一种改进，它是参数估计的一种有偏估计。可以消除自变量之间的多重共线性。 |
线性回归模型是相对简单的回归模型，但是通常因变量和自变量之间呈现某种曲线关系，就需要建立非线性回归模型。
当自变量之间出现多重共线性时，用最小二乘估计的回归系数将会不准确，消除多重共线性的参数改进的估计方法主要有岭回归和主成分回归。
[机器学习笔记] 常用的分类与预测算法相关推荐
- Python3：《机器学习笔记与实战》之Knn算法（2）识别手写数字
Python3:<机器学习笔记与实战>之Knn算法(2)识别手写数字 转载请注明作者和出处:https://blog.csdn.net/weixin_41858342/article/de ...
- 逻辑回归(Logistic Regression, LR)又称为逻辑回归分析，是分类和预测算法中的一种。通过历史数据的表现对未来结果发生的概率进行预测。例如，我们可以将购买的概率设置为因变量，将用户的
逻辑回归(Logistic Regression, LR)又称为逻辑回归分析,是分类和预测算法中的一种.通过历史数据的表现对未来结果发生的概率进行预测.例如,我们可以将购买的概率设置为因变量,将用户的 ...
- [机器学习笔记] 常用关联规则算法
机器学习中常用关联规则算法 关联规则算法是一种基于规则的机器学习算法,该算法可以在大数据中发现彼此之间的关系. 它的目的是:利用一些度量指标来分辨数据库中存在的强规则.也即是说关联规则挖掘是用于知识发 ...
- 机器学习笔记（10）——逻辑回归算法优化之随机梯度下降法
在上一篇文章<机器学习笔记(9)--深入理解逻辑回归算法及其Python实现>中,详细学习了逻辑回归算法的分类原理和使用梯度下降法来最小化损失函数的数学推导过程,从而拟合出分类函数的参数θ ...
- 机器学习中常见的分类 回归 聚类算法小结
Date: 2019-08-15 今天开始总结和复习机器学习知识点: 一句话概括: 1. 聚类:无监督学习,学习结果将产生几个集合,集合中的元素彼此相似: 2. 分类:有监督学习,学习结果将产生几个函 ...
- 决策树分类和预测算法的原理及实现
作者:蓝鲸 算法决策树是一种通过对历史数据进行测算实现对新数据进行分类和预测的算法.简单来说决策树算法就是通过对已有明确结果的历史数据进行分析,寻找数据中的特征.并以此为依据对新产生的数据结果进行预测 ...
- 机器学习笔记（七）——逻辑回归算法
逻辑回归(Logistic Regression,LR).在Kaggle竞赛的统计中,LR算法以63.5%的出产率,荣获各领域中"出场率最高的算法"这一殊荣.在实际场景中,逻辑回归 ...
- 机器学习实验之肿瘤分类与预测（朴素贝叶斯）
文章目录 肿瘤分类与预测(朴素贝叶斯) [实验内容] [实验要求] **[数据集]:威斯康星乳腺肿瘤数据集** 导入sklearn自带的数据集:威斯康星乳腺肿瘤数据集(load_breast_canc ...
- 机器学习实验之肿瘤分类与预测（SVM）
文章目录 肿瘤分类与预测(SVM) [实验内容] [实验要求] **[数据集]:威斯康星乳腺肿瘤数据集** 加载data文件夹里的数据集:威斯康星乳腺肿瘤数据集 查看样本特征和特征值,查看样本特征值的 ...
- 机器学习中常用的分类算法总结
分类算法 分类算法和回归算法是对真实世界不同建模的方法.分类模型是认为模型的输出是离散的,例如大自然的生物被划分为不同的种类,是离散的.回归模型的输出是连续的,例如人的身高变化过程是一个连续过程, ...
最新文章
- 40行代码AC_HDU 1575 TrA 矩阵快速幂(附快速幂+矩阵快速幂的讲解)
- SiteServer 迁移至 Windows 2008 R2 问题汇总
- 轻松scrum之旅 思维导图读书笔记
- oracle DML错误日志（笔记）
- PSP3000高破解率傻瓜包!
- Spring常用注解详解大全(建议收藏)
- 铣削力matlab,船用螺旋桨多轴铣削力仿真与优化+CAD图纸+MATLAB程序
- 修改elementUI 表格透明度，字体颜色
- 二维码的应用领域有哪些？
- mysql定时任务，把7天的数据存到历史表，再删除7天前的数据
- 2021秋季《数据结构》_EOJ 1063.树的双亲存储法（parent+child / parent）
- 单片机原理及接口技术（C51微课第3版）张毅刚课后习题答案
- .co域名后缀怎么样?
- java中finally语句是否一定会被执行
- Relief与Relie-F
- Apache Beam构建流处理任务
- php gpc,【php】请问PHP中$_GPC[ ]怎么用？
- 《Android源码设计模式解析与实战》读书笔记（二十四）
- 美化窗体——VB窗体的背景图充满整个窗体
- 树莓派引脚相对位置示意图