最小错误率贝叶斯决策
原文链接:http://blog.csdn.net/angel_yuaner/article/details/47042817
在一般的模式识别问题中,人们的目标往往是尽量减少分类的错误,追求最小的错误率。根据之前的文章,即求解一种决策规则,使得:
这就是 最小错误率贝叶斯决策 。
在上式中,P(e|x)≥0,p(x)≥0对于所有的x均成立,故minP(e)等同于对所有的x最小化P(e|x),即:使后验概率P(wi|x)最大化。根据贝叶斯公式:
在上式中,对于所有类别,分母都是相同的,所以决策的时候实际上只需要比较分子,即:
先验概率 P(wi) 和类条件概率密度 p(x|wi) 是已知的。概率密度 p(x|wi) 反应了在 wi 类中观察到特征值x的相对可能性( likelihood )。
举个简单的例子还说明最小错误贝叶斯决策。
假设某地区检测到细胞为正常细胞的概率w1和癌细胞的概率w2分别为:
现在对于一个待决策的细胞,其特征的观察之为 x ,且从类条件概率密度曲线上分别查得:
现在需要对该细胞进行决策,判断是正常细胞还是癌细胞。根据贝叶斯公式,分别计算出 w1 和 w2 的后验概率:
因为: P(w1|x)=0.818>0.182=P(w2|x) ,所以更合理的决策是将 x 归类为 w1 ,即正常细胞。
说白了,贝叶斯决策就是将待分类物x归类于最大后验概率的那一类,即:
等价于: 若p(x|wi)P(wi)=maxkj=1P(wj|x)P(wi),则x∈wi
贝叶斯公式是用来计算后验概率的工具。
对于多类别决策,错误率的计算量较大,可以转化为计算平均正确率P(c)来计算错误率:
最小错误率贝叶斯决策相关推荐
- 最小错误率贝叶斯决策的基本思想_最小错误率贝叶斯决策
在一般的模式识别问题中,人们往往希望尽量减少分类的错误,即目标是追求最小的错误率.其中利用概率论中贝叶斯公式得到的分类决策被称之为最小错误率贝叶斯决策. 问题引入 在某个地区中人们常对细胞中某一种物质 ...
- 模式识别:最小错误率贝叶斯决策分类
一.引言 1.用贝叶斯决策理论分类要事先知道两个条件及要求: ①.各类的先验概率: 及特征向量的条件概率密度: 或后验概率: ②.决策分类的类别一定 2.解决的问题: 已知一定数目的样本,设计分类器, ...
- 最小错误率贝叶斯决策的基本思想_机器学习笔记—模式识别与智能计算(四)基于概率统计的贝叶斯分类器设计(贝叶斯决策)...
系列文章: 机器学习笔记-模式识别与智能计算(一)模式识别概述 机器学习笔记-模式识别与智能计算(二)特征的选择与优化 机器学习笔记-模式识别与智能计算(三)模式相似性测度 同类文章: 机器学习笔记- ...
- 3.正态分布概率模型下的最小错误率贝叶斯决策MATLAB程序代码
一.题目: [题目]:已知三个类别分别为W1:[0,0]T,[2,1]T,[1,0]T; W2:[-1,1]T,[2,0]T,[-2,-1]T; W3:[0,-2]T,[0,-1]T,[1,-2]T. ...
- 【ML学习笔记】17:多元正态分布下极大似然估计最小错误率贝叶斯决策
简述多元正态分布下的最小错误率贝叶斯 如果特征的值向量服从d元正态分布,即其概率密度函数为: 即其分布可以由均值向量和对称的协方差矩阵 唯一确定. 如果认为样本的特征向量在类内服从多元正态分布: 即对 ...
- 最小错误率贝叶斯决策的基本思想_太赞了!机器学习基础核心算法:贝叶斯分类!(附西瓜书案例及代码实现)...
Datawhale 作者:尹晓丹,Datawhale优秀学习者 寄语:首先,简单介绍了生成模型和判别模型,对条件概率.先验概率和后验概率进行了总结:其次,对朴素贝叶斯的原理及公式推导做了详细解读:再次 ...
- 基于最小错误率的贝叶斯决策实现手写数字识别
基于最小错误率的贝叶斯决策实现手写数字识别 1.实验目的 2.实验方法及步骤 (1)平台搭建 (2)特征描述 (3)建立最小错误率贝叶斯决策分类器 (4)实现手写数字识别 3.实验结果 4.实验结果讨 ...
- 机器学习算法(8)——朴素贝叶斯、最小风险贝叶斯决策
最后以巨佬--"贝叶斯大爷"作为基本机器学习算法学习的压轴算法>>>>>>>>>>>>>膜拜!!!!! ...
- 最大似然法,贝叶斯估计、最小错误贝叶斯决策Excel数据分类处理(介绍+Python实现)
模式识别学习,课程实例分享. 文章目录 第一,男女50米跑直方图显示 第二,男女生身高.体重以及50m成绩的平均数与方差最大似然估计 第三,女生身高以及体重的平均数贝叶斯估计 第四,使用贝叶斯最小错误 ...
最新文章
- 作业三——原型化系统——外卖app
- boost::filesystem::detail::possible_large_file_size_support
- 开发中的问题——环境相关
- 同级选择器_10-CSS3选择器详解
- B2C全开源无加密单商户商城源码可二开双端自适应
- 前端筑基篇(一)-ajax跨域原理以及解决方案
- Docker快速配置指南
- 简述移动端常见的布局方式
- Android ASM插桩探索及实战
- ubuntu 20.10 安装万能五笔(ibus模式)
- linux 模拟usb键盘,在Linux下模拟键盘按键
- 前端灰度发布落地方案
- Canonical Coordinate System
- 哪种计算机支持刻录功能,哪种软件更适合刻录CD |用flac刻录CD的方法
- 【RFC6405 IP 电话 (VoIP) SIP 对等互连用例 VoIP SIP Peering Use Cases】(翻译)
- c语言 error c2001,error C2001: 常量中有换行符解决方案
- VLOOKUP函数使用方法大全总结
- 【R语言学习笔记】若干排序问题
- 谷歌(Google)的新魔法——云计算
- ajaxSubmit提交数据重复