【晓白】今天我准备更新Machine Learning系列文章希望对机器学习复习和准备面试的同学有帮助！之前更新了感知机和SVM，决策树&代码实战，关注我的专栏可以的文章哦！今天继续更新EM算法和概率图模型，我昨天身体不舒服，就没有更新。。还是那句话，咱们是一个特别正经的技术类分享知乎号。谢谢大家！感兴趣的朋友可以关注我，继续阅读其他的文章。大家只要细心就一定可以找到我的 @晓强DL 代码设计有很多细节，如果需要代码和数据集，可以点关注私信进一步交流获取。如果对基础知识掌握不熟可以阅读我的其他论文，或者私信与我讨论，进入我们的学习家族，一起进步。如果对大家有帮助的话，可以点赞，收藏，喜欢，赞赏，关注支持一下.关注私信，可获得机器学习的面试资料哦，小伙伴们儿抓紧行动吧！知乎主页可以直接找我哦！v+v

EM算法作为一种优化算法，它主要用于优化含有潜在变量的模型，所以在介绍概率图模型之前，我们先要了解一下EM算法哦！

EM算法

参数估计

投一枚不规则的硬币A 10次，如下所示，出现了6次正面，4次反面，问投掷A出现正面的概率是多少？

用极大使然法估计参数

含有隐藏变量，用EM算法估计参数

EM算法估计参数

看具体的例子：

EM算法相关概念

EM算法

EM算法导出

EM算法直观解释

EM算法收敛性

高斯混合模型

高斯分布示意图

高斯混合模型

EM算法推广

算法9.5（GEM算法3）

概率图模型

概率模型

概率图模型是实现该任务的一种很elegant，principled的手段。PGM巧妙地结合了图论和概率论。从图论的角度，PGM是一个图，包含结点与边。结点可以分为两类：隐含结点和观测结点。边可以是有向的或者是无向的。从概率论的角度，PGM是一个概率分布，图中的结点对应于随机变量，边对应于随机变量的dependency或者correlation关系。

概率图模型定义和分类

概率图模型应用

隐马尔可夫模型（HMM）是语音识别的支柱模型；

高斯混合模型（GMM）及其变种K-means是数据聚类的最基本模型；

条件随机场（CRF）广泛应用于自然语言处理（如词性标注，命名实体识别）；

话题模型在工业界大量使用(如腾讯的推荐系统）。

Ising模型获得诺贝尔奖(用马尔可夫随机场对原子建模)。

隐马尔可夫模型HMM

隐马尔可夫模型定义

比如，

所以，

HMM生成观测序列过程

HMM3个基本问题

HMM概率计算算法

直接计算法；

前向算法；

后向算法;

HMM概率直接计算

HMM概率计算前向算法

看例题，

这里比较抽象，如果大家对这部分知识理解有难度，可以在纸上推导计算一遍。

HMM概率计算后向算法

HMM概率与期望值计算

HMM学习算法

监督学习方法；

无监督学习方法；

HMM学习算法-监督学习

HMM学习算法-无监督学习

HMM预测问题

近似算法；

维特比算法；

HMM预测问题近似算法

HMM预测问题维特比算法

至此，今天的文章更新完毕，如果大家有任何机器学习，尤其是深度学习包括但不限于cv，nlp等各个领域的问题都可以关注我：加v,一起讨论！只要你细心，一定能够可以找到我。小白入门也可以咨询，交流。

重要的事情说三遍!

重要的事情说三遍!

重要的事情说三遍!

关注我，阅读我专栏更多文章：

深度学习专栏​zhuanlan.zhihu.com

或者想要了解贪心学院的课程，比如京东NLP和NLP，ML训练营等等系列，感兴趣报名，咨询通过如下方式：贪心＋想要的小伙伴儿可以行动啦！长期有效。贪心：

哈佛、剑桥学生都青睐的京东智联云NLP实战训练营开营​mp.weixin.qq.com

向我咨询哦！晓强Deep Learning的读书分享会，先从这里开始，从大学开始。大家好，我是晓强，计算机科学与技术专业研究生在读。我会不定时的更新我的文章，内容可能包括深度学习入门知识，具体包括CV，NLP方向的基础知识和学习的论文；网络表征学习的相关论文解读。当然我每天的读书心得也会分享给大家，可能涉及我们生活各个方面的书籍。我也会不定时回答大家的问题与大家一同进步，共同交流，互相监督，结交更多的朋友。希望大家多留言，多交流，多多关照。知乎私信加V，小白大佬都可以交流！如果有转载请标明作者链接，有的内容来自其他网页，如果有侵权，可以私信我删除。