【机器学习】有监督、无监督、自监督、半监督、弱监督的区别

有监督：用有标签的数据训练；
无监督：用无标签的数据训练；
K-means等
半监督：利用数据分布上的模型假设建立学习器对未标签样例进行标签。通常是两阶段的训练，先用（较小规模的）有标签数据训练一个Teacher模型，再用这个模型对（较大规模的）无标签数据预测伪标签，作为Student模型的训练数据；
知识蒸馏。
自监督：在无标注数据上训练，通过一些方法让模型学习到数据的inner representation，再接下游任务，例如加一个mlp作为分类器等。但接了下游任务之后还是需要在特定的有标签数据上finetune，只是有时候可以选择把前面的层完全固定，只finetune后面接的网络的参数。
自监督数据监督来源于数据本身，其实就是自己生成一些简单的标签，然后去学习，理论上网络就学习到了图像的一些特征信息，然后再在这个模型的基础上添加其他任务。
将图片分割为多个区域并打乱，然后让模型将它还原为原始图片。和拼图游戏很像。
将图片中部分区域挖空，然后让模型进行预测，使输出能尽量还原输入图片。
将图片旋转一定角度，让模型预测旋转了多少度。或者将图片旋转0、90、180、270度四种类别，让模型预测旋转的类别。
弱监督：用包含噪声的有标签数据训练。
标签的强弱指的是标签蕴含的信息量的多少，比如相对于分割的标签来说，分类的标签就是弱标签，如果我们知道一幅图，告诉你图上有一只猪，然后需要你把猪在哪里，猪和背景的分界在哪里找出来，那么这就是一个已知若标签，去学习强标签的弱监督学习问题

【机器学习】有监督、无监督、自监督、半监督、弱监督的区别相关推荐

【机器学习】监督学习，非监督学习，半监督学习三者的定义区别及举例分析
监督(supervised)= 标签(label),是否有监督,就是输入数据(input)是否有标签,有标签则为有监督学习,没标签则为无监督学习.至于半监督学习,就是一半(一点点)数据有标签,一半(极 ...
点云分割训练哪家强？监督，弱监督，无监督还是半监督？
点击进入->3D视觉工坊学习交流群 0. 笔者个人体会近年来,自动驾驶领域的各项下游任务基本上都要求了对场景的语义理解,比如自动驾驶车辆要能够理解哪个是路面.哪个是交通灯.哪个是行人.哪个是树 ...
远程监督、弱监督、有监督、半监督到底怎么区分
最近火起来的远程监督到底和过去的半监督有什么区别?我的总结如下: 监督学习主要分为以下三类(强化学习等没有考虑): 1.有监督:用有标签的数据训练 2.无监督:用无标签的数据训练 3.弱监督:用含有噪 ...
综述：弱监督下的异常检测算法
一.前言文章标题是: Weakly Supervised Anomaly Detection: A Survey 这是一篇针对"弱监督"异常检测的综述. 其中弱监督异常检测简称 ...
基于弱监督深度学习的医学图像分割方法综述
基于弱监督深度学习的医学图像分割方法综述摘要:基于深度学习的医学影像分割尽管精度在不断的提升,但是离不开大规模的高质量标注数据的训练,被称为弱监督学习的深度学习的一个分支正在帮助医生通过减少对完整和 ...
弱监督的语义分割论文汇总
弱监督的语义分割论文汇总弱监督语义分割导读弱监督语义分割论文整理基于Bounding box的弱监督语义分割基于Image-level labels的弱监督语义分割基于Scribbles的弱 ...
放弃手工标记数据吧！斯坦福大学开源弱监督框架
https://www.toutiao.com/a6668443801553469965/ 手工标记大量数据始终是开发机器学习的一大瓶颈.斯坦福AI Lab的研究人员探讨了一种通过编程方式生成训练数据 ...
让机器“一叶知秋”：弱监督视觉语义分割
编者按:西汉刘安的<淮南子·说山训>中有这样一段话: "见一叶落,而知岁之将暮: 睹瓶中之冰,而知天下之寒." 这两句话显示了人见微而知著的能力,人对这个世界的认知,是 ...
一文尽览！弱监督语义/实例/全景分割全面调研（2022最新综述）
后台回复[ECCV2022]获取ECCV2022所有自动驾驶方向论文! 论文链接:https://arxiv.org/pdf/2207.01223.pdf 汽车人的碎碎念分割,作为最基础的视觉感知任 ...
CVPR2020：点云弱监督三维语义分割的多路径区域挖掘
CVPR2020:点云弱监督三维语义分割的多路径区域挖掘 Multi-Path Region Mining for Weakly Supervised 3D Semantic Segmentation ...

【机器学习】有监督、无监督、自监督、半监督、弱监督的区别

【机器学习】有监督、无监督、自监督、半监督、弱监督的区别相关推荐

最新文章

热门文章