贝叶斯模型的理解（1）
一直以来，都在听说贝叶斯概率模型，这里记录一下自己对贝叶斯概率模型的一些理解。
贝叶斯模型的建立主要有3个概念：1.先验概率。2.最大似然函数。3.后验概率
这3个概念怎么建立联系呢，以投硬币这个简单的例子来理解最好。
例子：
首先为抛硬币制定一个规则：押一块钱，抛10次硬币，出现正面的次数小于等于6次就额外赢得一块钱，否则就是输掉押的一块钱。
1.先验概率：
根据概率论知识：抛硬币实验服从二项分布B(N,p)，N是进行的实验的次数，p是发生某种结果的概率，在这里p就是出现正面的概率。
于是在抛硬币实验中，最重要的先验信息就是：抛一次硬币，出现正面和反面的概率，是0.5，或者硬币做了手脚，p不等于0.5。这个概率p就是预先知道的一些模型参数。反正我们是提前知道的，做了手脚还是没做手脚。
2.最大似然函数：在给定的样本数据下，找一个概率分布函数或者概率密度函数(似然函数)，使得这些已发生的事件(得到的样本数据)，出现的概率是最大的。
在抛硬币的例子中，如果有信息：有个人抛了10次硬币，其中出现了9次正面，一次反面。
那么现在就是要建立一个概率密度函数来解释这个现象。
下面根据先验信息，建立下面的似然函数：
y表示正面向上。
我们的目标是：在现有的观测结果——抛了10次硬币，其中出现了9次正面，一次反面：
让P(Y=y|r,N)取最大值。那么 r 究竟等于多少，才能使得P(Y=y|r,N)最大呢？也即 r 究竟取多少，才能使得抛了10次硬币，其中出现了9次正面，一次反面 发生的概率是最大的？
下面式子取得最大值，就能解释“抛了10次硬币，其中出现了9次正面”这个现象。
为了更方便地计算最大值，对上面的概率分布取对数log，用L表示，得到下式：
L称为似然函数。最大化P(Y=y|r,N) 与 最大化 LogP(Y=y|r,N) 等价。取对数是为了计算上的方便
将 L 对 r 求偏导数，并且令偏导数等于0，其中N=10，y=9。解得 r = 0.9
就是说，r=0.9，才能解释观测到的现象。
这里，大家一定对r是什么感到好奇，其实，r就是抛一次硬币，正面向上的概率p。这里，我们提前已经知道了硬币做了手脚，p不等于0.5，而根据最大释然的概率密度函数的出的p确实不是0.5，符合先验信息。
下面对先验信息，和似然函数做个总结：
在上面我们解释了两个重要的概念：一个是先验信息，另一个是似然函数。所谓先验信息，就是在进行一次试验之前，我们所掌握的一些信息。比如抛硬币试验，我们掌握的先验信息是：
硬币出现正面的概率和出现反面的概率相等，都为0.5
又或者是：
出现正面的概率和出现反面的概率不相等，出现正面的概率要大于出现反面的概率
似然函数则是指，我们现在拥有了一些样本数据，或者说是进行了一些实验，观测到了一些数据。在观测到的这些数据之后，如果基于这些观测到的数据，为这些数据寻找一个合适的模型，确定出该模型中的各个参数的值。比如上面的10次抛硬币试验，9次正面，1次反面，我们采用的模型是二项分布，模型中的参数 r 等于0.9 最为合适。
下一届介绍后验概率的应用。
贝叶斯模型的理解（1）相关推荐
- 朴素贝叶斯模型简单理解
小白一个,如果有问题欢迎大家指正. 朴素贝叶斯法 朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法.对于给定的训练数据集,首先基于特征条件独立假设学习输入\输出的联合概率分布:然后基于此模型, ...
- 感知和行动的贝叶斯模型
来源:专知 本文附链接,建议阅读5分钟本书探索的贝叶斯方法对感知建模让我们感到兴奋,因为它解释了丰富的数据,并成功地解释了许多实验的结果. 这本书对理解概率推理在感性决策和行动中的作用,提供了一个温和 ...
- 用朴素贝叶斯模型预测柯南中被害人和凶手！
本文来自公众号:超级数学建模 微信号:supermodeling 作者:周铂 本文长度为3000字,建议阅读5分钟 本文介绍朴素贝叶斯模型通过角色特征(性格.行为.与他人关系等)预测其身份(凶手/被害 ...
- 一步步教你轻松学朴素贝叶斯模型算法理论篇1
一步步教你轻松学朴素贝叶斯模型理论篇1 (白宁超2018年9月3日17:51:32) 导读:朴素贝叶斯模型是机器学习常用的模型算法之一,其在文本分类方面简单易行,且取得不错的分类效果.所以很受欢迎,对 ...
- 基于朴素贝叶斯分类器的西瓜数据集 2.0 预测分类_第十章：利用Python实现朴素贝叶斯模型
免责声明:本文是通过网络收集并结合自身学习等途径合法获取,仅作为学习交流使用,其版权归出版社或者原创作者所有,并不对涉及的版权问题负责.若原创作者或者出版社认为侵权,请联系及时联系,我将立即删除文章, ...
- 贝叶斯模型构建分类器的设计与实现
多种贝叶斯模型构建及文本分类的实现 作者:白宁超 2015年9月29日11:10:02 摘要:当前数据挖掘技术使用最为广泛的莫过于文本挖掘领域,包括领域本体构建.短文本实体抽取以及代码的语义级构件方法 ...
- 实现 | 朴素贝叶斯模型算法研究与实例分析
实现 | 朴素贝叶斯模型算法研究与实例分析 (白宁超 2018年9月4日10:28:49) 导读:朴素贝叶斯模型是机器学习常用的模型算法之一,其在文本分类方面简单易行,且取得不错的分类效果.所以很受 ...
- 决策树模型 朴素贝叶斯模型_有关决策树模型的概述
决策树模型 朴素贝叶斯模型 Decision Trees are one of the highly interpretable models and can perform both classif ...
- 如何用朴素贝叶斯模型预测柯南里的被害人和凶手
文章发布于公号[数智物语] (ID:decision_engine),关注公号不错过每一篇干货. 作者 | 周铂(知乎专栏) 这个研究是我在一门课上的期末作业,旨在用一些广泛流传的<柯南> ...
最新文章
- 原生js清空上一个元素内容_原生JS实现动态添加新元素、删除元素方法
- MySQL MyISAM和InnoDB存储引擎的比较
- o_rdonly_O_RDWR, O_CREAT等open函数标志位在哪里定义？ | 学步园
- java restful中文乱码_使用RestTemplate访问RESTful服务乱码处理
- 解码(六):sws_scale像素格式转换代码演示
- java面试第十七天
- 【翻译自mos文章】Oracle GoldenGate 怎么在源头的传输进程和目的端的server/collector进程之间分配 port？...
- Cocos2d-x schedulers 定时器
- 2015计算机二级office真题,2015年计算机二级office题库及答案
- 计算机辅助翻译专业实训报告,计算机辅助翻译实训报告格式（7页）-原创力文档...
- python不解压直接提取文件_不解压直接读取压缩包中的文件
- ThinkpadE450 Win8改Win7 BIOS设置图解
- 【云原生 | 44】Docker搭建Registry私有仓库之管理访问权限
- word文档的生成以及echarts图片的插入
- Linux 系统安全应用
- LBP算法的一些讲解
- 深度学习方法在负荷预测中的应用综述（论文阅读）
- 如何成为一名好的程序员
- Linux安装RPM包、查看本机ip和端口、手动配置ip、中标麒麟无法显示ip地址的详细解决方法
- 在使用windows-build-tools报错Please restart this script from an administ