主动学习,半监督学习,直推式学习
在机器学习(Machine learning)领域,监督学习(Supervised learning)、非监督学习(Unsupervised learning)以及半监督学习(Semi-supervised learning)是三类研究比较多,应用比较广的学习技术
- 监督学习:通过已有的一部分输入数据与输出数据之间的对应关系,生成一个函数,将输入映射到合适的输出,
- 非监督学习:直接对输入数据集进行建模
- 半监督学习:综合利用有类标的数据和没有类标的数据,来生成合适的分类函数
半监督学习指的是在训练数据十分稀少的情况下,通过利用一些没有类标的数据,去学习没有标注数据的最优标注,减少标注代价,从而提高学习准确率的方法。
主动学习(active learning):有的时候,有类标的数据比较稀少而没有类标的数据是相当丰富的,但是对数据进行人工标注又非常昂贵,这时候,学习算法可以主动地提出一些标注请求,将一些经过筛选的数据提交给专家进行标注。这里是半监督学习的最大区别,其学习算法不需要人工干预,基于自身对未标记数据加以利用。
筛选过程也就是主动学习主要研究的地方了,怎么样筛选数据才能使得请求标注的次数尽量少而最终的结果又尽量好。
主动学习的过程大致是这样的,有一个已经标好类标的数据集K(初始时可能为空),和还没有标记的数据集U,通过K集合的信息,找出一个U的子集C,提出标注请求,待专家将数据集C标注完成后加入到K集合中,进行下一次迭代。
按wiki上所描述的看,主动学习也属于半监督学习的范畴了,但实际上是不一样的,半监督学习和直推学习(transductive learning)以及主动学习,都属于利用未标记数据的学习技术,但基本思想还是有区别的。
如上所述,主动学习的“主动”,指的是主动提出标注请求,也就是说,还是需要一个外在的能够对其请求进行标注的实体(通常就是相关领域人员),即主动学习是交互进行的。
至于直推学习,它与半监督学习一样不需要人工干预,不同的是,直推学习假设未标记的数据就是最终要用来测试的数据,学习的目的就是在这些数据上取得最佳泛化能力。相对应的,半监督学习在学习时并不知道最终的测试用例是什么。
也就是说,直推学习其实类似于半监督学习的一个子问题,或者说是一个特殊化的半监督学习,所以也有人将其归为半监督学习。
而主动学习和半监督学习,其基本思想上就不一样了,所以还是要加以区分的,如果wiki上对半监督学习的解释能特别强调一下“是在不需要人工干预的条件下由算法自行完成对无标记数据的利用”,问题就会更清楚一些了。
主动学习,半监督学习,直推式学习相关推荐
- 《中国人工智能学会通讯》——11.52 基于直推式学习的异质人脸图像 合成
11.52 基于直推式学习的异质人脸图像 合成 前面介绍的方法都是基于归纳式学习(InductiveLearning) 的,这些方法取得了不错的效果,但是它们也使得测试样本风险误差增加,进而可能影响合 ...
- GNN-图卷积模型-2016:GCN【消息传递(前向传播):聚合函数+更新函数】【聚合函数:mean(邻域所有节点取平均值)】【训练更新函数的参数】【空域+频域】【直推式学习】【同质图】
一.概述 在扎进GCN的汪洋大海前,我们先搞清楚GCN是做什么的,有什么用.深度学习一直都是被几大经典模型给统治着,如CNN.RNN等等,它们无论再CV还是NLP领域都取得了优异的效果,而GCN主要是 ...
- 无监督特征学习(半监督学习+自学习)
综述 如果已经有一个足够强大的机器学习算法,为了获得更好的性能,最靠谱的方法之一是给这个算法以更多的数据.机器学习界甚至有个说法:"有时候胜出者并非有最好的算法,而是有更多的数据." ...
- 【李宏毅机器学习】Semi-supervised Learning 半监督学习(p24) 学习笔记
文章目录 Semi-supervised Learning Introduction Supervised Learning Semi-supervised Learning Why semi-sup ...
- 深度学习第一篇论文——半监督学习Mean Teacher 的学习
最近一个月刚接触深度学习,导师给了一篇论文(mean teacher)让我先理解然后跑论文里面的代码,这个过程中我出现了很多问题,借这篇blog记录下来,也是鼓励自己接着学下去. Mean Teach ...
- 机器学习-算法-半监督学习:半监督学习(Semi-supervised Learning)算法
人工智能-机器学习-算法-半监督学习:半监督学习(Semi-supervised Learning)算法 一.半监督学习算法提出的背景 1.监督学习算法 2.无监督学习算法 3.监督学习的特征选择方法 ...
- 第五课.可变图结构下的归纳式学习图注意力
目录 图采样聚合网络 Inductive and Transductive Learning GraphSAGE 算法流程 GraphSAGE与InductiveLearning的关系 损失函数 注意 ...
- 半监督学习(一)--(GMM/EM/Based on Graph)
文章目录 1 背景 1.1 基本背景介绍 1.2 基本假设 2 问题描述 2.1 主动学习与半监督学习[使用了未标记数据的学习划分为两种] 3 方法介绍 3.1 混合模型与EM算法(最大期望算法) 3 ...
- 一文看懂半监督学习(Semi-supervised Learning)和自监督学习(Self-Supervised Learning)
前言 网络上很多关于此的文章,在这里进行一个梳理 参考: https://zhuanlan.zhihu.com/p/33196506 https://zhuanlan.zhihu.com/p/1395 ...
- 机器学习——监督学习、非监督学习、半监督式学习、增强学习
机器学习的主要问题 supervised learing:监督学习 unsupervised learing:非监督学习 discrete:离散的 continuous:连续的 classificat ...
最新文章
- 浅谈CruiseControl的部署
- c语言中左右对齐的作用,c语言中右对齐的符号
- 前端学习之day02-CSS基础
- 如何在画面中摆放大量图片
- Slickflow.NET核心开源工作流引擎
- labview技巧——获取网络时间
- 中兴捧月比赛DIJKSTRA派算法说明
- 使用MindSpore进行一阶导数计算
- Qt的对话框与窗口--标准的对话框
- goback history 传递参数_goback 返回上一页触发刷新 / 回调传参
- windows配置mysql8.0主从数据库,主从数据同步。
- linux c strtol 函数解析
- MAC设置环境变量PATH和alias创建快捷键
- L1-4 调和平均(天梯赛2020)
- 如何用Autojs来写脚本赚零花钱(第一课)
- 神经网络与深度学习(四)线性分类
- 多个绝对值相加求最大值问题_多个绝对值相加求最值问题
- 写了一个UUE编码的类.
- LVDS转HDMI2.0方案
- 看完就能掌握的PHP核心技术 - ​​​​​​​​面向对象
热门文章
- pycharm中遇到的报错 Unexpected indent / unindent does not match any outer indentation level
- 单片机 C语言 读引脚,单片机引脚读写操作
- 第四次实验任务 任务一
- 蓝桥杯试题及答案分享(Python版)
- 有计算机测试你几岁,How-Old刷屏了吧!测测你看起来几岁?
- 会c语言写贪吃蛇,C语言写贪吃蛇
- PHP icbc工商银行开放平台聚合支付,二维码扫码支付API云收呗对接步骤,稳步发展
- 梦幻西游跑商脚本教程
- 4.7 使用色相/饱和度命令调整图像的色彩 [原创Ps教程]
- matlab 绘制对数曲线图,大神经验!教你用matlab画对数坐标!