1.1 实验目的
本实验旨在让学生对模式识别有一个初步的理解,能够根据自己的设计对贝叶斯决策理论算法有一个深刻地认识,理解二类分类器的设计原理。
1.2 实验条件
PC 机一台、Matlab 仿真软件
1.3 实验原理
1.3.1 最小错误率贝叶斯决策

在模式分类问题中可以利用贝叶斯公式得到使错误率最小的分类规则。以实验问题提到的两类分类问题为例:已知先验分布和观测值的类条件分布。问题:对某个样本X,

已知先验概率和观测值的类条件分布,根据贝叶斯公式可以计算出后验概率

以后验概率为判决函数,决策规则为选择中较大的值对应的类作为决策结果。此种决策方式使得在观测值X下的条件错误率最小。

1.3.2 最小风险贝叶斯决策

首先在已知先验概率和观测值的类条件分布,根据贝叶斯公式可以计算出后验概率

接着利用计算出的后验概率及决策表,按照下面的公式计算出采取的条件风险

最后对上一步得到的a个条件风险值进行比较,找出使其条件风险最小的决策,该就是最小风险贝叶斯决策。

1.4 实验原始记录

模式识别实验:Bayes分类器设计-深度学习文档类资源-CSDN文库https://download.csdn.net/download/qq_56870342/87250709?spm=1001.2014.3001.5503

1.4 实验结果与分析

问题一:根据最小错误率贝叶斯决策,完成分类器设计,画出后验概率的分布曲线以及分类的结果示意图。

样本序号 1 2 3 4 5 6 7 8 9 10 11 12
分类结果 1 1 1 1 1 1 1 1 1 1 1 1
样本序号 13 14 15 16 17 18 19 20 21 22 23 24
分类结果 1 2 1 2 2 2 1 1 1 2 1 2

问题二:根据最小风险贝叶斯决策和决策表画出相应的条件风险的分布曲线和分类结果,并比较最小错误贝叶斯决策和最小风险贝叶斯决策的结果。决策表如下:

决策状态

0 6

2 0

根据最小风险贝叶斯的原理,通过计算条件风险得出分类结果,其分布曲线和分类结果如下:

样本序号 1 2 3 4 5 6 7 8 9 10 11 12
分类结果 2 1 1 1 1 1 1 1 1 1 1 1
样本序号 13 14 15 16 17 18 19 20 21 22 23 24
分类结果 2 2 1 2 2 2 1 1 1 2 1 2

对比最小错误率贝叶斯与最小风险贝叶斯可以发现测试样本1和样本13分类不同。出现差别的主要原因在于风险矩阵的引入。虽然最小错误率的贝叶斯决策可以找到正确率最高的分类结果,但在实际问题中,不同类别分类错误的代价可能不同,例如将有毒蘑菇分类成无毒蘑菇的代价远远大于将无毒蘑菇分类成有毒蘑菇的代价。因此根据实际情况人为的引入分类错误风险,会使得贝叶斯决策更加科学。

问题三:在损失矩阵为0-1损失函数时,比较最小错误贝叶斯与最小风险贝叶斯决策的结果。

0-1损失函数指的是在分类结果正确时风险为0,分类不正确时风险为1。决策表如下:

决策状态

0 1

1 0

0-1损失函数对应的最小风险贝叶斯分类结果如下:

实验所给的24个测试样本分类结果如下:

样本序号 1 2 3 4 5 6 7 8 9 10 11 12
分类结果 1 1 1 1 1 1 1 1 1 1 1 1
样本序号 13 14 15 16 17 18 19 20 21 22 23 24
分类结果 1 2 1 2 2 2 1 1 1 2 1

2

与最小错误贝叶斯分类结果比较(如下图),不难发现分类结果完全一致。通过原理分析:最小错误贝叶斯实际上是特殊的最小风险贝叶斯,当损失矩阵为0-1函数时,两类细胞被分错时的风险(后果的严重程度)相同便为最小错误贝叶斯。最小错误贝叶斯适用于风险相同的情况,适用范围有限,而最小风险贝叶斯则是对这一缺点的改进。

实验一 Bayes 分类器设计相关推荐

  1. 机器学习-模式识别(1)Bayes 分类器设计

    具体步骤: (1)算出各类别特征值的均值 (2)求出特征值的协方差矩阵 (3)将第二步所得矩阵代入判别函数 g1(x). g2 (x) (4)将待测试样本集数据依次代入 g1(x) . g2 (x), ...

  2. 编程设计一个基于条件风险最小的Bayes分类器

    编程设计一个基于条件风险最小的Bayes分类器: 要求: 混淆矩阵维度可任意设定 先验概率基于训练样本集自动求得 样本属性数量可任意输入设定 朴素贝叶斯求条件风险最小公式: 训练数据集: 代码: im ...

  3. 【人工智能实验】SVM分类器的设计与应用

    目录 实验五SVM分类器的设计与应用 一.实验目的 二.实验原理 1.人脸识别系统的基本框架 2.利用主成分分析PCA实现特征提取 3.SVM分类器设计 三.实验结果 1.选用Sigmoid函数作为核 ...

  4. 模式识别作业-线性分类器设计总结

    刚刚做完线性分类器的作业,趁热打铁做下总结.    摘要    模式识别的目的是要在特征空间中设法找到两类(或多类)之间的分界面.基于样本直接设计分类器需要确定三个基本要素:一是分类器即判别函数的类型 ...

  5. 云盘存储 教学反思_对设计训练的设计:以建筑工房工作模型课题的教学实验为例对设计训练方法论的反思...

    「建筑工房」第四期专题报名点击 图像的记忆与城市空间 原文于2019年第2期<时代建筑> 本文阅读时长约15分钟 摘要:围绕建筑设计能力如何被训练这一话题,建筑工房以工作模型为基本教具完成 ...

  6. 2017-2018-1 20155327 实验五 通讯协议设计

    2017-2018-1 20155327 实验五 通讯协议设计 实验一: 实验要求: 在Ubuntu中完成 http://www.cnblogs.com/rocedu/p/5087623.html 中 ...

  7. 2018-2019-1 20165212 实验五 通讯协议设计

    2018-2019-1 20165212 实验五 通讯协议设计 OpenSSL简介 OpenSSL是为网络通信提供安全及数据完整性的一种安全协议,囊括了主要的密码算法.常用的密钥和证书封装管理功能以及 ...

  8. 贝叶斯分类器(Normal Bayes 分类器)

    Normal Bayes 分类器 这个简单的分类器模型是建立在每一个类别的特征向量服从正态分布的基础上的(尽管,不必是独立的),因此,整个分布函数被假设为一个高斯分布,每一类别一组系数.当给定了训练数 ...

  9. 2017-2018-1 201553334 实验五 通讯协议设计

    2017-2018-1 201553334 实验五 通讯协议设计 1.在Ubuntu中完成 http://www.cnblogs.com/rocedu/p/5087623.html 中的作业 提交运行 ...

最新文章

  1. 剑指offer(12)旋转数组的最小数字
  2. Java修炼之路——基础篇——String
  3. maven 部署nexus_Maven部署到Nexus
  4. 读书笔记—《发现你的行为模式(钻石版)》-开篇
  5. 安装配置Exchange 问题集
  6. MySQL之终端(Terminal)管理MySQL
  7. python之featVec[:axis]|extend|append
  8. Python 生命游戏(tkinter版)
  9. 独立思考,提高效率,做更有意义的事
  10. 服务器基础知识全解(汇总版)
  11. 朱啸虎的“合并盈利论”,实为ofo抢道摩拜带节奏
  12. 分分钟安装VMware,并安装linux操作系统
  13. html页面布局—定位
  14. 使用PHP实现蜘蛛访问日志统计
  15. 【初创公司系列】由软件先驱Tom Siebel支持的机器学习创业公司C3.ai申请IPO
  16. Lucene.net和盘古分词使用小结
  17. 高企认定评分标准有哪些?
  18. iOS客户端开启FTP,其他设备访问手机本地文件操作实现
  19. 计算机毕业设计ssm+vue基本微信小程序的快递柜管理系统 uniapp 小程序
  20. 在cdh平台上创建新用户

热门文章

  1. IOS6 自动布局 入门(1)
  2. 5G移动通信系统设计与标准详解-学习笔记
  3. 2021-08-16开发红外额温枪方案用国产芯片CS1258
  4. 高清还原图片(利用网站在线还原,最后用ps进一步优化)
  5. 计算机应用基础个人教学计划,《计算机应用基础》教学计划
  6. myeclipse激活工具闪退问题
  7. ubuntu开机出现started gnome Display manager等错误的方法
  8. Matlab condeig函数与eig函数
  9. CMD以及Dos命令 0o0
  10. Goby资产扫描工具安装及报错处理