正态分布均值μ的贝叶斯Bayes估计推导

前面一篇介绍了正态分布均值μ的极大似然估计MLE推导，这篇来介绍正态分布均值μ的贝叶斯Bayes估计推导。
数据x1,x2,…,xn来自正态分布N(μ,σ2)，其中σ2已和。
假设μ的先验分布是正态分布N(0,τ2)，根据样本x1,…,xn写出μ的Bayes估计。
第一步，写出L(μ)

上式中，分母积分后与μ无关。
第二步，对上式中的分子求对数和偏导数

注意，上式中，μ_{N(0,τ2)，x1…xn}N(0,τ2)，这两个都上正态分布。
对于正态分布N(μ,σ2)，其对数为下式：

上式对μ求导后前一项为0，后面为

第三步，令L的对数偏导为0，化简得

分析：当n很大时，分母后面的一项可以忽略，就变成了n个样本的平均数x ̅，与极大似然估计相同。

正态分布均值μ的贝叶斯Bayes估计推导相关推荐

从朴素贝叶斯的角度推导logistic模型
从朴素贝叶斯的角度推导logistic模型文章结构预览 1.朴素贝叶斯算法的理解 2.logistic模型简介 3.从朴素贝叶斯的角度解释为什么logistic模型的sigmoid函数可以表示概率 ...
贝叶斯滤波（三）贝叶斯滤波算法推导
一. 状态估计(state estimation) 状态估计根据可获取的量测数据估算动态系统内部状态的方法. 贝叶斯滤波也就是在已知观测和可选的控制输入的概率分布下,估计出的状态概率分布. 状态随着时 ...
贝叶斯(Bayes)——算法概念梳理与实际应用
基本概念导引: 贝叶斯法是关于随机事件A和B的条件概率和边缘概率的. 其中P(A|B)是在B发生的情况下A发生的可能性. 为完备事件组,即在贝叶斯法则中,每个名词都有约定俗成的名称: P(A)是 ...
分类算法之贝叶斯(Bayes)分类器
摘要:旁听了清华大学王建勇老师的数据挖掘:理论与算法的课,讲的还是挺细的,好记性不如烂笔头,在此记录自己的学习内容,方便以后复习. 一:贝叶斯分类器简介 1)贝叶斯分类器是一种基于统计的分类器,它 ...
朴素贝叶斯算法的推导与实践
1. 概述在此前的文章中,我们介绍了用于分类的算法: k 近邻算法决策树的构建算法 – ID3 与 C4.5 算法但是,有时我们无法非常明确地得到分类,例如当数据量非常大时,计算每个样本与预测样 ...
正态分布均值μ的极大似然估计推导
推导下述正态分布均值的极大似然估计和贝叶斯估计. 数据x1,x2,-,xn来自正态分布N(μ,σ2),其中σ2已和. (1)根据样本x1,-,xn写出μ的极大似然估计. (2)假设μ的先验分布是正态分 ...
[机器学习] 分类 --- Naive Bayes（朴素贝叶斯）
一.概率知识点复习 (1)条件概率就是事件A在另外一个事件B已经发生条件下的发生概率.条件概率表示为P(A|B),读作"在B条件下A的概率". (2)联合概率可以简单的理解为事 ...
NB朴素贝叶斯理论推导与三种常见模型
转自:http://www.tuicool.com/articles/zEJzIbR 朴素贝叶斯(Naive Bayes)是一种简单的分类算法,它的经典应用案例为人所熟知:文本分类(如垃圾邮件过滤). ...
朴素贝叶斯理论推导与三种常见模型
朴素贝叶斯(Naive Bayes)是一种简单的分类算法,它的经典应用案例为人所熟知:文本分类(如垃圾邮件过滤).很多教材都从这些案例出发,本文就不重复这些内容了,而把重点放在理论推导(其实很浅显,别 ...

正态分布均值μ的贝叶斯Bayes估计推导

正态分布均值μ的贝叶斯Bayes估计推导相关推荐

最新文章

热门文章