数据挖掘学习笔记3-贝叶斯与决策树

一、朴素贝叶斯
贝叶斯的基础上增加了一个强假设：在y发生的条件下，各特征发生的概率独立（条件独立）
即将联合条件概率转换为各条件概率的连乘积
二、决策树
特点是容易解读，用属性将样本层层分类，直到样本被完全分离或属性用完。
ID3：把大信息增益（为防止将生日、身份证号这类过学习属性，增加分类数量惩罚项）的属性用在树根，递归实现决策树。
为防止过学习，决策树还有修剪的过程（从树梢开始，将叶节点数量大的样本值赋给父节点，去除叶节点），具体为将样本集分为训练集、测试集，还有校验集，用校验集测试误差，一开始误差应该是下降的（刚训练出来的决策树是过学习的，修剪后会表现更好），修剪到一定程度误差会由减变增（决策树转为欠拟合状态），此时应结束修剪。

数据挖掘学习笔记3-贝叶斯与决策树相关推荐

python数据挖掘学习笔记】十九.鸢尾花数据集可视化、线性回归、决策树花样分析
#2018-04-05 16:57:26 April Thursday the 14 week, the 095 day SZ SSMR python数据挖掘学习笔记]十九.鸢尾花数据集可视化.线性回 ...
脑电信号(EEG)处理中的机器学习方法总结——回归模型，SVM、K近邻、人工神经网络、朴素贝叶斯、决策树和随机森林、集成学习、模糊逻辑、LDA线性判别分析、K-means聚类、强化学习、迁移学习
本文归纳总结了机器学习在脑电分析中的应用,并详细介绍回归模型,SVM.K近邻.人工神经网络.朴素贝叶斯.决策树和随机森林.集成学习.模糊逻辑.LDA线性判别分析.K-means聚类.强化学习.迁移学习 ...
Python数据挖掘学习笔记】九.回归模型LinearRegression简单分析氧化物数据
#2018-03-23 16:26:20 March Friday the 12 week, the 082 day SZ SSMR [Python数据挖掘学习笔记]九.回归模型LinearRegre ...
Python3《机器学习实战》学习笔记（三）：决策树实战篇
转载请注明作者和出处: http://blog.csdn.net/c406495762 运行平台: Windows Python版本: Python3.x IDE: Sublime text3 ...
各种机器学习算法的应用场景分别是什么（比如朴素贝叶斯、决策树、K 近邻、SVM、逻辑回归最大熵模型）？...
点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达链接:https://www.zhihu.com/question ...
Python3《机器学习实战》学习笔记（三）：决策树实战篇之为自己配个隐形眼镜
转载请注明作者和出处: http://blog.csdn.net/c406495762 运行平台: Windows Python版本: Python3.x IDE: Sublime text3 一前 ...
数据挖掘学习笔记——GEO数据库：芯片数据分析
数据挖掘数据挖掘学习笔记--GEO数据库:芯片数据分析文章目录数据挖掘一.芯片基础知识 1.1.背景二.GEO数据库概述 2.1.基础简介 2.2.检索页面展示三.GSE项目的三种下载方式 ...
python数据挖掘学习笔记】十六.逻辑回归LogisticRegression分析鸢尾花数据
但是很多时候数据是非线性的,所以这篇文章主要讲述逻辑回归及Sklearn机器学习包中的LogisticRegression算法 #2018-03-28 16:57:56 March Wednesday ...
《统计学习方法》读书笔记——朴素贝叶斯法（公式推导+代码实现）
传送门 <统计学习方法>读书笔记--机器学习常用评价指标 <统计学习方法>读书笔记--感知机(原理+代码实现) <统计学习方法>读书笔记--K近邻法(原理+代码实现 ...

数据挖掘学习笔记3-贝叶斯与决策树

数据挖掘学习笔记3-贝叶斯与决策树相关推荐

最新文章

热门文章