马尔可夫网络,(马尔可夫随机场、无向图模型)(Markov Random Field)
转载自: http://blog.sina.com.cn/s/blog_54d222750101dgz2.html
马尔可夫网络,(马尔可夫随机场、无向图模型)是关于一组有马尔可夫性质随机变量的全联合概率分布模型。
马尔可夫网络类似贝叶斯网络用于表示依赖关系。但是,一方面它可以表示贝叶斯网络无法表示的一些依赖关系,如循环依赖;另一方面,它不能表示贝叶斯网络能够表示的某些关系,如推导关系。马尔可夫网络的原型是易辛模型,最初是用来说明该模型的基本假设。
用前苏联数学家辛钦(1894-1959〕的话来说,就是承认客观世界中有这样一种现象,其未来由现在决定的程度,使得我们关于过去的知识丝毫不影响这种决定性。这种在已知“现在”的条件下,“未来”与“过去”彼此独立的特性就被称为马尔科夫性,具有这种性质的随机过程就叫做马尔科夫过程,其最原始的模型就是马尔科夫链。这即是对荷兰数学家惠更斯(Ch. Huygens, 1629-1659)提出的无后效原理的概率推广,也是对法国数学家拉普拉斯(P. S. Laplace, 1749-1827)机械决定论的否定。
马尔可夫性质:
它指的是一个随机变量序列按时间先后关系依次排开的时候,第N+1时刻的分布特性,与N时刻以前的随机变量的取值无关。拿天气来打个比方。如果我们假定天气是马尔可夫的,其意思就是我们假设今天的天气仅仅与昨天的天气存在概率上的关联,而与前天及前天以前的天气没有关系。其它如传染病和谣言的传播规律,就是马尔可夫的。
随机场:
当给每一个位置中按照某种分布随机赋予相空间的一个值之后,其全体就叫做随机场。我们不妨拿种地来打个比方。其中有两个概念:位置(site),相空间(phase space)。“位置”好比是一亩亩农田;“相空间”好比是种的各种庄稼。我们可以给不同的地种上不同的庄稼,这就好比给随机场的每个“位置”,赋予相空间里不同的值。所以,俗气点说,随机场就是在哪块地里种什么庄稼的事情。
马尔可夫随机场:
也叫马尔可夫网,拿种地打比方,如果任何一块地里种的庄稼的种类仅仅与它邻近的地里种的庄稼的种类有关,与其它地方的庄稼的种类无关,那么这些地里种的庄稼的集合,就是一个马尔可夫随机场。
无向图模型也叫马尔科夫随机场(Markov Random Fields)或马尔科夫网络(Markov Network),无向图模型有一个简单的独立定义:两个节点集A、B都与给定的第三个节点集C相互条件独立,A、B节点之间的路径都被C中的节点分开。
相比之下,有向图模型也叫贝叶斯网络(Bayesian networks)或信念网络(Belief Networks),有向图模型有一个更复杂的独立性观念。
形式化定义:
形式上,一个马尔可夫网络包括:
- 一个无向图 G = (V,E),每个顶点 v ∈V 表示一个在集合的随机变量,每条边 {u,v} ∈ E 表示随机变量u 和 v之间的一种依赖关系。
- 一个函数集合 (也称为因子 或者 团因子 有时也称为特征),每一个 的定义域是图G的团或子团k. 每一个 是从可能的特定联合的指派(到元素k)到非负实数的映射。
联合分布函数:
联合分布(吉布斯测度)用马尔可夫网络可以表示为:
其中是向量,是随机变量在第k个团的状态( 是在第k个团中包含的节点数。),乘积包括了图中的所有团。注意马尔可夫性质在团内的节点存在,在团之间是不存在依赖关系的。这里, 是配分函数,有
.
实际上,马尔可夫网联络经常表示为对数线性模型。通过引入特征函数 ,得到
和
以及划分函数
。
其中,是权重,是势函数,映射团到实数。这些函数有时亦称为吉布斯势;术语势 源于物理,通常从字面上理解为在临近位置产生的势能。
对数线性模型是对势能的一种便捷的解释方式。一个这样的模型可以简约的表示很多分布,特别是在领域很大的时候。另一方面,负的似然函数是凸函数也带来便利。但是即便对数线性的马尔可夫网络似然函数是凸函数,计算似然函数的梯度仍旧需要模型推理,而这样的推理通常是难以计算的。
马尔可夫性质:
马尔可夫网络有这样的马尔可夫性质:图的顶点u在状态的概率只依赖顶点u的最近临节点,并且顶点u对图中的其他任何节点是条件独立的。该性质表示为
顶点u的最近临节点集合 也称为顶点u的马尔可夫毯。
马尔科夫随机场 - 马尔科夫链的数学描述
马尔科夫随机场 - 马尔科夫随机场的数学描述
马尔可夫网络,(马尔可夫随机场、无向图模型)(Markov Random Field)相关推荐
- 概率图之马尔可夫随机场(Markov Random Field,MRF)
现实生活中,许多任务涉及多个因素(变量),并且因素之间存在依赖关系.概率图模型(Probabilistic Graphical Model,PGM)为表示.学习这种依赖关系提供了一个强大的框架,概率图 ...
- 马尔可夫随机场(Markov Random Field)与马尔可夫链
1.什么是随机过程? 在当代科学与社会的广阔天地里,人们都可以看到一种叫作随机过程的数学模型:从银河亮度的起伏到星系空间的物质分布.从分子的布朗运动到原子的蜕变过程,从化学反应动力学到电话通讯理论.从 ...
- 深入理解机器学习——概率图模型(Probabilistic Graphical Model):马尔可夫随机场(Markov Random Field,MRF)
分类目录:<深入理解机器学习>总目录 马尔可夫随机场(Markov Random Field,MRF)是典型的马尔可夫网,这是一种著名的无向图模型,图中每个结点表示一个或一组变量,结点之间 ...
- 马尔科夫随机场Markov Random Field
马尔可夫随机场,描述了具有某种特性的集合.拿种地打比方,如果任何一块地里种的庄稼的种类仅仅与它邻近的地里种的庄稼的种类有关,与其它地方的庄稼的种类无关,那么这些地里种的庄稼的集合,就是一个马尔可夫随机 ...
- 机器学习-白板推导-系列(九)笔记:概率图模型: 贝叶斯网络/马尔可夫随机场/推断/道德图/因子图
文章目录 0 笔记说明 1 背景介绍 1.1 概率公式 1.2 概率图简介 1.2.1 表示 1.2.2 推断 1.2.3 学习 1.2.4 决策 1.3 图 2 贝叶斯网络 2.1 条件独立性 2. ...
- 一次性弄懂马尔可夫模型、隐马尔可夫模型、马尔可夫网络和条件随机场!
1. 马尔可夫网络.马尔可夫模型.马尔可夫过程.贝叶斯网络的区别 相信大家都看过上一节我讲得贝叶斯网络,都明白了概率图模型是怎样构造的,如果现在还没明白,请看我上一节的总结: 贝叶斯网络 这一节我们重 ...
- 一次性弄懂马尔可夫模型、隐马尔可夫模型、马尔可夫网络和条件随机场!(词性标注代码实现)
文章目录 1. 马尔可夫网络.马尔可夫模型.马尔可夫过程.贝叶斯网络的区别 2. 马尔可夫模型 2.1 马尔可夫过程 3. 隐马尔可夫模型(HMM) 3.1 隐马尔可夫三大问题 3.1.1 第一个问题 ...
- PGM:无向图模型:马尔可夫网(随机场)MRF
http://blog.csdn.net/pipisorry/article/details/52489321 马尔可夫网 马尔科夫网是使用无向图描述的图模型,是刻画X上联合分布的一种方法,表示一个分 ...
- 马尔可夫的各种模型 Markov chain HMM CRF
文章目录一览 马尔可夫模型 HMM 什么时候可能会用到HMM 相关定义 举例 观测序列的生成 为什么HMM是生成模型 HMM的3个基本问题 MRF 什么是随机场 概率无向图(MRF)表示的随机变量之间 ...
最新文章
- Input.GetTouch 获取触摸
- Linux(CentOS7.0)下 C访问MySQL (转)
- mysql limit to hosts matching_MySQL 用户访问限制 -- Host Match Limit
- ETL异构数据源Datax_自增ID增量同步_12
- eclipse java source_Eclipse中查看JAVA源代码显示SOURCE NOT FOUND解决办法
- ajax传值给java_java+jquery+ajax+json实现传值
- C#基础知识之图解TCP IP》读书笔记
- JAVA循环嵌套 方法的定义与重载 数组 数组异常 练习
- 图像分辨率和图像大小的计算
- iOS Instrument
- 用Python BeautifulSoup写的一份多线程图片抓取的脚本
- py实战某股票一周收盘价折线图绘制
- 【射影几何02】拓广平面
- 罗克韦尔PLC编程软件ControlLogix平台
- android 设置单边框,Android设置单边圆角边框
- ue4网格转地形_不用建模就能生成地形,SU怎么办到的?!
- Sublime Text 3 -mac版简体中文汉化教程
- java环境一键_Java环境变量一键配置
- 调和分析笔记3:卡尔德隆-济格蒙德分解
- [JAVA]jdk下载
热门文章
- php 5.5 xhprof for windows
- 嵌入式成长轨迹25 【Linux应用编程强化】【Linux下的C编程 下】【实例:客户端/服务器端程序】...
- FusionCharts 的XML标签属性
- 关于vs2008设计视图假死的原因及解决方案总结
- python3 set相关操作
- insert select 过滤掉重复数据
- freemarker页面读取时间date类型报错
- Ribbon中的负载均衡算法实现
- php多人访问抽奖倒计时一致,Javascript和PHP倒计时器为每个人显示相同的计时器...
- print输出 pytorch_pytorch打印网络结构的实例