PRML-系列一之1.5
决策论
我们已经在1.2节看到概率论如何为我们提供了对量化和操作不确定性的一个一致数学框架。这里，我们转向决策论的讨论，当它与概率论结合时，使得我们在涉及模式识别中遇到的不确定性情况下可以做出最优决策。
假设我们有一个输入向量x以及相应的目标向量t，我们的目标是给出x的新值来预测t。对于回归问题，t由连续变量组成，而对于分类问题，t代表类标签。联合概率分布p（x，t）提供了与这些变量相关的不确定性的完整总结。从一组训练数据确定p（x，t）是推理的例子，是典型地非常棘手的问题，其解决方法是这本书的大部分主题。然而，在实际应用中我们必须经常给t值做出一个具体的预测，或者更一般地根据我们对t有可能取得值的理解采取具体行动，这方面是决定论的主题。
考虑一个医学诊断问题的例子，该问题中我们得到了病人的X射线图像，我们希望确定患者是否患有癌症。在这种情况下，输入矢量x是图像中像素强度的集合，输出变量t代表存在癌症，用C1类表示，或不存在癌症，用C2类表示。我们可以选择一个二元变量例如使t = 0对应于C1类和t = 1对应于C2类。我们将在后面看到，这个标签值的选择对概率模型是特别方便的。一般的推理问题涉及到确定联合分布p（x，Ck）或等效地p（x，t），其给出了这种情况最完整的概率描述。虽然这是一个非常有用的并且信息多的量，但最终我们必须决定是对患者治疗还是不治疗，我们希望这样的选择在某些意义上（Duda和Hart，1973年）是最佳。这是决策步骤，决策论的主题告诉我们如何在给定适当概率的情况下做出最优决策。我们将看到一旦我们解决了推断问题，决策阶段通常是非常简单的，甚至微不足道。
这里，我们介绍了该书其余部分需要的决策论核心思想。进一步的背景，以及更详细的描述，可以在Berger（1985）和Bather（2000年）中发现。
在给出更详细的分析之前，我们首先非正式地考虑如何期望概率在决策中发挥作用。当我们得到新患者的X射线图像时，我们的目标是确定哪个类分配给该图像。我们感兴趣的是给定图像后两个类概率，即p（Ck| x）。使用贝叶斯定理，这些概率可以表达为下面的形式：
请注意，出现在贝叶斯定理中的任何量可以从联合分布p（x，Ck）得到，要么边缘化要么以合适的变量为条件。我们现在可以将ρ（Ck）解释为Ck的先验概率，p（Ck| x）是对应的后验概率。从而p（C1）表示X射线测量之前有癌症的概率。同样地，p（C1| x）是对应的概率，用含有X射线信息的贝叶斯定理来修正。如果我们的目标是最小化x分配到错误类的机会，那么直观上我们会选择具有较高后验概率的类。现在我们表明这种直觉是正确的，并且我们还讨论了制定决策更普遍的标准。
PRML-系列一之1.5相关推荐
- PRML系列：1.5 Decision Theory
PRML系列:1.5 Decision Theory 前言 本打算该系列均用自己的视角重新阐述一遍,但由于时间精力有限,最终还是决定以摘抄中文版PRML的方式,一来可以还原PRML中最本色的内容,二来 ...
- 【干货】机器学习经典书PRML 最新 Python 3 代码实现，附最全 PRML 笔记视频学习资料...
关注上方"深度学习技术前沿",选择"星标公众号", 资源干货,第一时间送达! 将 Bishop 大神的 PRML 称为机器学习圣经一点也不为过,该书系统地介绍了 ...
- 太赞了！开源下载机器学习经典书 PRML所有相关资料：中文译本，官方代码，课程视频，学习笔记...
今天给大家推荐一本机器学习.深度学习的人都应该听说过一本经典教材:<Pattern Recognition and Machine Learning>,中文译名<模式识别与机器学习& ...
- 大牛推荐的30本经典编程书籍，从Python到前端全系列。
注:为了方便阅读与收藏,我们也制作了30本书籍完整清单的Markdown.PDF版以及思维导图版,大家可以在实验楼公众号后台回复关键字"书籍推荐"获取. Python 系列(10本 ...
- 概率语言模型及其变形系列-PLSA及EM算法
转载自:http://blog.csdn.net/yangliuy/article/details/8330640 本系列博文介绍常见概率语言模型及其变形模型,主要总结PLSA.LDA及LDA的变形模 ...
- 大饼博士X Blog文章索引：机器学习方法系列，深度学习方法系列，三十分钟理解系列等
(我怕忘了这好资源) 欢迎转载,转载请注明:本文出自Bin的专栏blog.csdn.net/xbinworld. 技术交流QQ群:433250724,欢迎对算法.机器学习技术感兴趣的同学加入. 以下是 ...
- 我的Blog文章索引：：机器学习方法系列，深度学习方法系列，三十分钟理解系列等
欢迎转载,转载请注明:本文出自Bin的专栏blog.csdn.net/xbinworld. 技术交流QQ群:433250724,欢迎对算法.机器学习技术感兴趣的同学加入.纯技术交流. 以下是我利用业余 ...
- PRML读书会第五期——概率图模型(Graphical Models)【上】
PRML读书会第五期--概率图模型(Graphical Models) 前言 本人系浙江大学人工智能协会(ZJUAI)会员.本学期协会正在举办PRML读书会系列活动,笔者在活动中负责部分记录工作. 下 ...
- 妙用postman系列——postman建组、分享
妙用postman系列--postman建组.分享 添加新的组和请求. 3.生成分享链接 4.导入分享链接
- java 手编线程池_死磕 java线程系列之自己动手写一个线程池
欢迎关注我的公众号"彤哥读源码",查看更多源码系列文章, 与彤哥一起畅游源码的海洋. (手机横屏看源码更方便) 问题 (1)自己动手写一个线程池需要考虑哪些因素? (2)自己动手写 ...
最新文章
- 人类dna信息量_多大容量的硬盘才能装下全部人类的DNA?
- C++ ——统一初始化
- python使用界面-（八）Python 图形化界面设计
- 多标签文本分类 [ALBERT]（附代码）
- carsim学习笔记6——转向系统的学习
- CSDN公式编辑（latex语言应用）整理
- 关于Android回调的理解
- ACM模板——拓扑排序
- English Voice of Way Back Into Love
- Oracs Beta1 非 VPC版出来了
- 常用名词理解（APK,SDK,JDK,API,DLL）
- CSS 美化checkbox
- php7.4 ffi,PHP7.4中FFI的介绍（代码示例）
- seo结构化数据_为什么使用结构化数据有助于您网站的SEO
- IT人士常喝点菊花茶泡枸杞
- 我这样写python代码表白泡到了我的女神师姐
- 黑群晖使用pc端 Drive
- 老司机带你快速实现Python下载与安装
- Python redis 使用教程
- 电子商务交易系统的设计与实现（javaee+mysql）