PGM：图模型学习概述
http://blog.csdn.net/pipisorry/article/details/52571640
动机
前面我们讨论的问题出发点是给定一个图模型。如在独立性和推理讨论中，假定模型——结构及参数——是输入的一部分。
查询一个模型的方法
手工搭建网络
利用一组从希望建模的那个分布中生成的样本来学习相对于总体的分布模型
模型学习
皮皮blog
这里首先描述学习模型时的目标集合和由这些目标所导致的不同评价指标。然后讨论如何将学习的问题视为一个优化问题以及由该问题的设计引发的问题。最后，对于不同类型的学习任务，给出详细的分类并讨论它们的一些计算后果。
学习目标和评价
[机器学习模型的评价 ]
优化学习
{数值准则——损失函数意味着学习任务应该视为一个优化问题}
优化问题：
经验风险与过拟合
经验分布：用数据D来定义经验分布
事件A在数据D上的经验分布的定义：
所有事件加起来就形成了整个经验分布
经验损失作为真实损失的替代导致的不良后果
防止过拟合
模型选择：偏倚-方差的折中
限制模型类：降低过拟合
专栏：16.A 用于设计和评价机器学习过程的基本实验性条款
抵抗测试、交叉验证、k-折交叉验证、拟合优度、PAC界
[机器学习学习过程的设计和评价]
判别式与生成式训练
生成式训练和判别式训练的应用场景和折中
生成式训练：朴素贝叶斯（马尔可夫）；判别式训练：logistic回归模型。
大多数便于贝叶斯网学习的计算性质在判别式训练中都不能使用。
生成式训练更适用于数据量有限（或者稀疏）的数据学习；判别式训练更适用于大数据集的模型学习。
判别式模型的一个相关的好处是它们可以利用一个独立性假设被明显违反的、非常丰富的特征集。这些丰富的特征通常可以极大地改善分类的准确性。
相反，生成式模型的优点。通常能够为领域提供更自然的解释，并且更善于处理缺失值和无标签的数据。
模型的的合适选择取决于应用，并且不同训练方法的组合往往可能是最好的选择。
皮皮blog
学习任务
模型限制
数据的可观测性
缺失数据
隐变量
网络中的隐变量的包含可以极大地简化结构，并且降低所学网络的复杂性。甚至某个变量集上的一个稀疏模型也可以在其变量的一个子集上诱导出大量的依赖关系。
学习任务的分类
。。。
皮皮blog
from: http://blog.csdn.net/pipisorry/article/details/52571640
ref:
PGM：图模型学习概述相关推荐
- 呆萌的图模型学习——使用networkx计算node2vec，得到节点与边的embedding(三)
networkx基本操作请参考:[呆萌的图模型学习--图基本信息 & Networkx基本操作(二)](呆萌的图模型学习--图基本信息 & Networkx基本操作(二)) node2 ...
- 呆萌的图模型学习——基本概念(一)
图的基本概念 节点 节点可以分为两类:隐含节点和观测节点.边可以分为有向边或无向边.从概率论的角度来看,概率图模型是一个概率分布,图中的节点对应于随机变量,边对应于随机变量的相关性关系.给定一个实际问 ...
- 呆萌的图模型学习——图基本信息 Networkx基本操作(二)
Networkx是python常用的处理图模型的工具包,可以方便的处理图模型: Github项目主页:https://github.com/networkx/networkx 官网基本教程:https ...
- 顶会论文看图对比学习 (GNN+CL) 研究趋势
作者 | 侯宇蓬 单位 | 中国人民大学 来源 | RUC AI Box 随着对比学习(Contrastive Learning)在 CV.NLP 等领域大放异彩,其研究热度近年来也逐步走高.在图学习 ...
- 顶会论文看图对比学习（GNN+CL）研究趋势
每天给你送来NLP技术干货! © 作者|侯宇蓬 机构|中国人民大学高瓴人工智能学院 研究方向|图机器学习与推荐系统 来自 | RUC AI Box 1. 引言 随着对比学习(Contrastive L ...
- 深度学习时代的图模型，清华发文综述图网络
选自arXiv 作者:张子威.崔鹏.朱文武 机器之心编译 参与:路.晓坤 深度学习在多个领域中实现成功,如声学.图像和自然语言处理.但是,将深度学习应用于普遍存在的图数据仍然存在问题,这是由于图数据的 ...
- 模型学习全面概述：利用机器学习查找软件漏洞
选自ACM 作者:Frits Vaandrager 机器之心编译 Communications of the ACM 近日发表一篇题为<Model Learning>的文章,详细介绍了模型 ...
- 图模型+Bert香不香？完全基于注意力机制的图表征学习模型Graph-Bert
作者 | Jiawei Zhang.Haopeng Zhang.Congying Xia.Li Sun 译者 | 凯隐 编辑 | Jane 出品 | AI科技大本营(ID:rgznai100) [导读 ...
- ICLR 2019计算机视觉、NLP、图模型、对抗学习、表示学习和元学习
https://www.toutiao.com/a6703123631590867459/ 原作者:Marina Vinyes 深度学习与NLP编译 关键词:Computer Vision, Natu ...
- DL之RBM：(sklearn自带数据集为1797个样本*64个特征+5倍数据集)深度学习之BRBM模型学习+LR进行分类实现手写数字图识别
DL之RBM:(sklearn自带数据集为1797个样本*64个特征+5倍数据集)深度学习之BRBM模型学习+LR进行分类实现手写数字图识别 目录 输出结果 实现代码 输出结果 实现代码 from _ ...
最新文章
- C语言中的typedef
- Java的几种常见接口用法
- python中的选择结构语句是语句_python3控制语句---选择结构语句
- 都2021年了，不会还有人连深度学习都不了解吧（三）- 损失函数篇
- OpenCV HDF和建立群组Group
- 巧妙利用channel进行golang并发式爬虫
- Jmeter(二十二)_jenkins配置gitlab插件与ant插件
- 如何自行分析定位SAP BSP错误
- nehe教程混合这一节需要注意的两个地方
- On Comparing Side-Channel Preprocessing Techniques for Attacking RFID Devices
- 如何测试Nginx的高性能
- python异步查询数据库_Python中使用aiomysql异步操作MySQL实例效果
- SQL Server完整性备份说明
- MATLAB程序中启动其他软件
- EFResume 一个普通的 Swift 简历模板
- Mysql如何按照指定间隔时间查询数据
- OSChina 周一乱弹 ——生活不止眼前的苟且
- 有了这些组件和模板，天下没有难做的移动端驾驶舱
- 大疆2019届秋招笔试--测试工程师
- 怎么给图片添加水印？