一、贝叶斯公式

条件概率

由上式进一步推导

由此，推广到随机变量的范畴，设 X，Y 为两个随机变量，得到贝叶斯公式：

X可以当作实际输入的数据，Y是所需要预测的类别

二、朴素贝叶斯算法的优缺点

1、朴素贝叶斯优点：

算法逻辑简单,易于实现（算法思路很简单，只要使用贝叶斯公式转化即可！）

分类过程中时空开销小（假设特征相互独立，只会涉及到二维存储）

2、朴素贝叶斯缺点：

理论上，朴素贝叶斯模型与其他分类方法相比具有最小的误差率。但是实际上并非总是

如此，这是因为朴素贝叶斯模型假设属性之间相互独立，这个假设在实际应用中往往是不成

立的，在属性个数比较多或者属性之间相关性较大时，分类效果不好。

朴素贝叶斯模型(Naive Bayesian Model)的朴素(Naive)的含义是"很简单很天真"地假

设样本特征彼此独立. 这个假设现实中基本上不存在(PCA), 但特征相关性很小的实际情况还是很

多的, 所以这个模型仍然能够工作得很好

三、朴素贝叶斯算法流程

朴素贝叶斯假设特征之间相互独立

X可以当作实际输入的数据，Y是所需要预测的类别

训练数据生成训练样本集：TF-IDF 词频逆文档频率
对每个类别计算 P(yi)
对每个特征属性计算所有划分的条件概率
对每个类别计算 p(x|yi)p(yi) yi类别aj出现的频率
以 p(x|yi)p(yi)的最大项作为 x 的所属类别

统计语言模型与 NLP 算法设计_宠乖仪的博客-CSDN博客
HMM算法_宠乖仪的博客-CSDN博客

机器学习之贝叶斯分类算法(nlp)相关推荐

03、机器学习（贝叶斯分类算法与应用）
1. 朴素贝叶斯分类算法原理 1.1 概述贝叶斯分类算法是一大类分类算法的总称贝叶斯分类算法以样本可能属于某类的概率来作为分类依据朴素贝叶 ...
机器学习系列--贝叶斯分类算法
简介贝叶斯分类算法是一大类分类算法的总称贝叶斯分类算法以样本可能属于某类的概率来作为分类依据朴素贝叶斯分类算法是贝叶斯分类算法中最简单的一种注:朴素的意思是条件概率独立性此处要想真正理解,需 ...
【机器学习算法专题（蓄力计划）】十六、机器学习中贝叶斯分类算法
文章目录朴素贝叶斯分类器的三个流程: 贝叶斯原理概念: 贝叶斯分类相关公式: 离散型随机变量 `类条件独立假设` `手写贝叶斯分类` `对于离散值的分类,对于连续值的分类` `Sklearn提供了3 ...
机器学习笔记之朴素贝叶斯分类算法
朴素贝叶斯分类算法: 优点:在数据较少的情况下仍然有效,可以处理多分类问题. 缺点:对于输入数据的准备方式较为敏感. 适用数据类型:标称型数据(离散型数据) 算法原理: 对于某一个条件,这个条件下哪个 ...
【机器学习原理】朴素贝叶斯分类算法
文章目录一.朴素贝叶斯公式 1. 从统计角度看分类问题 2. 贝叶斯公式的基本思想贝叶斯的基本逻辑 3. 用贝叶斯公式进行选择贝叶斯版的预测未来二.朴素贝叶斯分类的算法原理 1. 朴素贝叶斯分 ...
【python机器学习：朴素贝叶斯分类算法】
python机器学习:朴素贝叶斯分类算法朴素贝叶斯介绍贝叶斯公式基本思想示例分析数据展示先验概率和条件概率算法步骤: 代码计算先验概率和条件概率分类朴素贝叶斯介绍贝叶斯分类是一类 ...
机器学习经典算法——朴素贝叶斯分类算法
目录简介基本概念贝叶斯定理贝叶斯公式的本质内涵代码托马斯·贝叶斯简介朴素贝叶斯分类算法作为机器学习最经典的算法之一,该算法是一种有监督学习算法.其理论基础是"贝叶斯定理&qu ...
基于python的贝叶斯分类算法预测_python机器学习：朴素贝叶斯分类算法
大数据挖掘DT机器学习公众号: datayx 贝叶斯分类是一类分类算法的总称,这类算法均以贝叶斯定理为基础,故统称为贝叶斯分类.而朴素朴素贝叶斯分类是贝叶斯分类中最简单,也是常见的一种分类方法.这 ...
机器学习-贝叶斯分类算法与应用
1. 朴素贝叶斯分类算法原理 1.1 概述贝叶斯分类算法是一大类分类算法的总称贝叶斯分类算法以样本可能属于某类的概率来作为分类依据朴素贝叶斯分类算法是贝叶斯分类算法中最简单的一种注:朴素的意思 ...

机器学习之贝叶斯分类算法(nlp)