http://blog.csdn.net/pipisorry/article/details/52599451

基础知识

数据缺失的三种情形：

数据的似然和观测模型

Note: MLE中是将联合概率P(x,y)赋值给实例。

缺失数据的处理：不仅考虑数据产生机制，还要考虑数据被隐藏的机制

随机缺失值：主要是修改投掷结果X（随机变量）吧？

蓄意缺失值：主要是修改观测变量O吧？

随机变量X、观测变量O和实际观测Y

Note: Y是定义的X和O的一个确定函数，不在plate图中显示出来。

图钉变体示例的观测模型

随机缺失：分别最大化似然和观测

上下文特定独立性

蓄意缺失：投掷结果随机变量和蓄意抛弃共同的结果

观测机制的解耦

解耦的含义就是我们可以最大化X的分布的参数的似然，而不用考虑控制Ox分布的参数的值。通常，我们只对前面的参数感兴趣，所以可以简单的忽略后面的参数。

例19.1

完全随机缺失MCAR

随机缺失MAR的条件独立性参数解耦

Note: 第一枚硬币Ox1总是能观察到的，其概率为1。

缺失数据模型Pmissing：事件层面上的MAR条件独立假设

一句话：这个假设就是给定Xobs时，事件Ox和Xhidden独立。也就是说，隐不隐藏和是不是人为改变观测变量O无关？

MAR假设允许学习参数时忽略观测模型

如果Pmissing满足上面的假设则：（xobs和o的联合分布）

MAR假设下的定理

MAR适用场合

似然函数

缺失数据的似然函数表示

似然函数学习的示例

完备数据的似然

不完备数据似然的计算：考虑缺失数据的所有情况，并将其对应的似然相加。而可能赋值的数目是缺失值总量的指数。

不完备数据的多峰似然函数

几何分析：失去参数独立性质，因此也失去了似然函数可分解的性质。

图模型定性分析

数值分析

这个也可以从图19.4看出，当X缺失时，观测到Y，这样Y的两个参数父节点就是相关的？

这个例子说明，在估计CPD P(Y|X)时，我们已经缺失了局部可分解性。

不同CPD间的全局可分解性

Note: 如果是完备数据，这里应该求解的是P(x, y, h)的联合概率分布，没有和式，只有三者（三个局部似然函数）乘积。而存在隐含变量时，应该使用和式将隐含变量积掉。

一般的情况示例

在下面的参数估计中再解决这个不完备数据的参数推断。

可识别性

。。。

皮皮blog

使用不完备数据的最大似然估计MLE

使用不完备数据的贝叶斯学习

[PGM：不完备数据的参数估计]

结构学习

结构得分

结构搜索

结构EM

皮皮blog

带有隐变量的学习模型

隐变量的信息内容

确定基数

引入隐变量

皮皮blog

from: http://blog.csdn.net/pipisorry/article/details/52599451

ref:

PGM：部分观测数据相关推荐

PGM学习之七 MRF，马尔科夫随机场
之前自己做实验也用过MRF(Markov Random Filed,马尔科夫随机场),基本原理理解,但是很多细节的地方都不求甚解.恰好趁学习PGM的时间,整理一下在机器视觉与图像分析领域的MRF的相关 ...
PGM：有向图模型：贝叶斯网络
http://blog.csdn.net/pipisorry/article/details/52489270 为什么用贝叶斯网络联合分布的显式表示 Note: n个变量的联合分布,每个x对应两个值 ...
概率图论PGM的D-Separation(D分离)
为什么80%的码农都做不了架构师?>>> 本文大部分来自:http://www.zhujun.me/d-separation-separation-d.html 其中找了一些资 ...
cesium 3dtiles 加载本地数据_Meteva笔记：加载本地观测数据
Meteva 是由 nmc 开源的全流程检验程序库,提供了常用的各种气象预报检验评估的算法函数,气象检验分析的图片和表格型产品的制作函数,以及检验评估系统示例. 本文介绍如何将 NWPC 生成的站点观 ...
ZeroMQ接口函数之：zmq_pgm – ØMQ 使用PGM 进行可靠的多路传输
ZeroMQ API 目录 :http://www.cnblogs.com/fengbohello/p/4230135.html ----------------------------------- ...
Algorithm之PGM之BNet：贝叶斯网络BNet的相关论文、过程原理、关键步骤等相关配图
Algorithm之PGM之BNet:贝叶斯网络BNet的相关论文.过程原理.关键步骤等相关配图目录 BNet的相关论文 BNet的过程原理 BNet的关键步骤 BNet的相关论文更新-- BNe ...
Matlab之Kalman：用线性系统状态方程，通过系统输入输出观测数据，对系统状态进行最优估计的算法
Matlab之Kalman:用线性系统状态方程,通过系统输入输出观测数据,对系统状态进行最优估计的算法目录问题探究卡尔曼滤波及数据滤波代码实现问题探究用线性系统状态方程,通过系统输入输出观 ...
PPM / PGM / PBM 图像文件格式
PPM / PGM / PBM 图像文件格式声明:引用请注明出处http://blog.csdn.net/lg1259156776/ 说明:在进行图像压缩后传输,然后解压缩显示的过程中,通常会用到P ...
MATLAB中将pgm图片二值化
读取 pgm文件 L=imread('XXX.pgm') 二值化 logicalMap=imbinarize(L) 等比例缩放 map = binaryOccupancyMap(logicalMap, ...
DCMTK：读取DICOM图像,并使用设置创建PGM位图
DCMTK:读取DICOM图像,并使用设置创建PGM位图读取DICOM图像,并使用设置创建PGM位图读取DICOM图像,并使用设置创建PGM位图 #include "dcmtk/conf ...

PGM：部分观测数据

基础知识

数据的似然和观测模型

缺失数据的处理：不仅考虑数据产生机制，还要考虑数据被隐藏的机制

随机变量X、观测变量O和实际观测Y

图钉变体示例的观测模型

随机缺失：分别最大化似然和观测

蓄意缺失：投掷结果随机变量和蓄意抛弃共同的结果

观测机制的解耦

完全随机缺失MCAR

随机缺失MAR的条件独立性参数解耦

缺失数据模型Pmissing：事件层面上的MAR条件独立假设

MAR假设下的定理

MAR适用场合

似然函数

似然函数学习的示例

不完备数据的多峰似然函数

不同CPD间的全局可分解性

一般的情况示例

可识别性

使用不完备数据的最大似然估计MLE

使用不完备数据的贝叶斯学习

结构学习

带有隐变量的学习模型

PGM：部分观测数据相关推荐

最新文章

热门文章