结合图拉普拉斯的半监督学习
摘要：在半监督学习中一个基本的问题是对于潜在数据如何建造图。我们提出使用结合一系列不同的构造图方法。我们计算最优的结合核函数。这个核解决了一个拓展的regularization问题，其要求一个共同最小包括数据和图核集合。我们呈现很好的结果在不同的OCK任务上，最优结合核实从由不同的距离函数和不同的k近邻得到的图。
1 简介
半监督学习的观点是未标记数据可能可以被用来提高学习器的表现在一个监督任务中。半监督学习的关键在于建立一个假设，也就是数据处于一个低维流形空间中数据分布在周围空间。这个流形可以用一个加权离散图来近似，其中经验数据被认为是图中的节点。图构造包含两部分，第一步选择一个距离函数然后应用它去确定图中的边（或者权重）。例如，本文中我们考虑图像之间的距离是基于欧氏距离，欧氏距离结合图像转化，并相关正切距离；我们决定图中的边集合使用K近邻。另一个共同选择是通过一个关于距离d的decreasing 函数加权边。
尽管过剩的未标记数据可能提高经验流形近似的质量，来达到更好的表现，这些方法的实际实验显示它们的表现很大程度上取决于图是如何构造的。因此，模型选择问题必须考虑距离函数的选择和参数k在构造图中的超参。大量方法被提出对于图构造，在本文我们不不选择单图，而是提出结构一系列图。我们的解决方案实现了基于regularization的结合并且边集合会得到一个特定的图。每个图可能使用一个核关联起来。我们应用regularization去选择最好的这些核的结合。最小函数将平滑它去适应数据和它的范数。特殊的是这个regularization是最小的不是在单核空间，而是在对应所有核的凸结合上的最小。因此所有数据（有标记数据）可能被保留来训练，而不会由交叉验证使得减少。
2 图regularization的背景知识
2.1再生希尔伯特核空间
X为集合，K为X * X->R 表示核函数，Hk表示RKHS函数f ：X->R， 当（1）对于任意x, K(x,:)属于Hk（2）再生核属性f(x) =
结合图拉普拉斯的半监督学习相关推荐
- 详解基于图卷积的半监督学习
Kipf和Welling最近发表的一篇论文提出,使用谱传播规则(spectral propagation)快速近似spectral Graph Convolution. 和之前讨论的求和规则和平均规则 ...
- 半监督学习下的高维图构建
简述 介绍 概述 总结 一．简述 本次翻译一篇Liu Wei的一篇论文,之前介绍谱聚类的时候大家都知道,用谱聚类对样本进行分割,大概的流程就是先将原始数据通过不同的规则构建出相似度矩阵,然后再用相似度 ...
- 【科普】半监督学习的概述与思考，及其在联邦学习场景下的应用
关注公众号,发现CV技术之美 在现实世界中,数据往往存在各种各样的问题,例如:图片分类模型对标注数据的依赖性很强.标注图片数据难以获取.大量未标注数据存在.针对某个场景的数据量过小-等等问题. 在联邦 ...
- 半监督学习matlab,基于自适应图的半监督学习方法与流程
本发明属计算机视觉.图形处理 技术领域: ,具体涉及一种基于自适应图的半监督学习方法. 背景技术: :随着计算机网络技术的快速发展和人们对数据访问的多样化,人们可以获得的信息呈指数级别增长,如何利用这 ...
- 机器学习教程 之 半监督学习 基于图正则项的半监督极限学习机
半监督学习是指在模型训练阶段同时利用有标签数据和无标签数据.我之前介绍过的半监督学习方法包括 基于分歧的半监督学习方法 机器学习教程 之 半监督学习 Tri-training方法 (论文.数据集.代码 ...
- [论文阅读] (ASONAM2019) Meta-GNN: 属性异构网络中用于半监督学习的元图神经网络
论文标题:Meta-GNN:Metagraph Neural Network for Semi-supervised learning in Attributed Heterogeneous Info ...
- 半监督学习（一）--(GMM/EM/Based on Graph)
文章目录 1 背景 1.1 基本背景介绍 1.2 基本假设 2 问题描述 2.1 主动学习与半监督学习[使用了未标记数据的学习划分为两种] 3 方法介绍 3.1 混合模型与EM算法(最大期望算法) 3 ...
- 机器学习概念 — 监督学习、无监督学习、半监督学习、强化学习、欠拟合、过拟合、后向传播、损失和优化函数、计算图、正向传播、反向传播
1. 监督学习和无监督学习 监督学习 ( Supervised Learning ) 和无监督学习 ( Unsupervised Learning ) 是在机器学习中经常被提及的两个重要的学习方法. ...
- 低耗时、高精度，微软提基于半监督学习的神经网络结构搜索算法
作者 | 罗人千.谭旭.王蕊.秦涛.陈恩红.刘铁岩 来源 | 微软研究院AI头条(ID:MSRAsia) 编者按:近年来,神经网络结构搜索(Neural Architecture Search, NA ...
最新文章
- 布赖恩·凯利看好比特币现金：更多的用例可以转化为价值
- CSDN代码块显示颜色
- ultraEdit-32 PHP/HTML智能提示
- Qt for VxWorks
- Kotlin协程简介(一)
- 利用命令来打开所有程序，这个装逼给满分！
- MySQL元数据库——information_schema
- Java消息服务~自动分配的消息头
- A - 数据结构实验之栈与队列一：进制转换
- php递归查询 大数组,php 递归 实现无限分类 格式化数组
- C++ set简介及简单应用
- 加密解密：使用对称密码加密文件
- Osql\sqlcmd工具管理 SQL Server
- MySQL呕血汇总--从基础到毕业【收藏篇】
- 8篇论文详解用户历史行为序列建模方法
- arduino 矩阵肩膀_表情矩阵——卖萌无需多言(arduino)
- Java实现医疗系统
- vue2.0生命周期数据共享
- PyTorch深度学习（18）网络结构LeNet、AlexNet
- D和弦的音阶在尤克里里上应该怎么按？