什么是上游任务、下游任务？

①上游任务
预训练模型。一般就是利用上游数据进行预训练，以生成一个包含视觉表征能力的模型。
比如，我们想要的是一个能够提取图片特征能力的卷积神经网络或者Transformer，我们会用大量图片用图片分类这个下游任务或者其他比如自监督的方法（可以参考CLIP）去进行训练，得到一个权重合适的模型（能够很好地提取出图像的特征），那么最后我们把得到的这个模型最后一层的FC层（原本用于图片分类输出类别）去掉，这个模型就成为了一个很好的预训练模型，输入一张图，就能够提取出图像的特征，就可以用于我们的下游任务（在这个模型后面加一些诸如检测头之类的模块，处理我们想要的下游任务，或者修改下FC层，用于另外一堆类别的图像分类）。
上游任务一般称为backbone，主干网络。

②下游任务
下游任务：真正想要解决的任务。如果你想训练一个网络无论是生成任务还是检测任务，你可能会使用一些公开的数据集进行训练，例如coco，imagenet之类的公共数据集进行训练，而这些数据集可能不会很好完成你真正想完成的内容，这就意味着在解决的实际问题的数据集上，要微调这个预训练模型，而这个任务称为下游任务。

③建议再学学如何进行预训练模型的微调

参考CSDN：
下游任务（downstream task）含义
【计算机视觉】上游任务和下游任务的理解

什么是上游任务、下游任务？相关推荐

python 处理snp的vcf文件，统计snp在基因的intron、exon还是上游、下游还是不在基因及基因附近
1.c处理vcf文件,初步统计snp位置位置信息有5种 down_stream是gene下游2k以内,up_stream 是gene上游2k以内,gene_exon是snp在外显子内,gene_in ...
MKS上游和下游集成式压力控制器的技术分析及其替代解决方案
摘要:目前的MKS系列集成式压力控制器本质上是一种流量调节和测量装置,无法直接用来进行准确的压力控制,而且MKS压力控制器还存在测量精度不高.压力控制范围有限和对工作介质洁净度要求很高的不足.为此,为 ...
RxJava系列之上游与下游
系列文章 RxJava系列之简介和观察者设计模式 RxJava系列之上游与下游 RxJava系列之常用创建型操作符 RxJava系列之常用变换操作符 RxJava系列之常用过滤操作符 RxJava系列 ...
软件开发设计中的上游与下游
生产流程中的上下游让我们以一个简单的生产流程开始,尽管它跟软件开发没有关系,这样我们能以此为基础定义软件开发中的上下游. 上面的例子有三个步骤:收集部件.组装部件.喷漆. 一个生产流程跟一条河流很相 ...
RxJava基本使用--上游与下游
RxJava基本使用–上游与下游 var disposable : Disposable? = nullprivate fun rxTest1() {//起点被观察者Observable.creat ...
软件开发中的上游和下游
听了腾讯犀牛鸟王佳对开源的讲解中,对其中的专业术语上游(upstream)和下游(downstream)不理解,看了这篇blog理解了特此转载记录. 看了以下blog后个人理解:自然界上水是高处往低处 ...
软件系统中的上游与下游
在软件系统中,我们可以通过河流理论来判断上下游,最好方法是想象一条河. 下游的水肯定是来自上游的. 如果有人破坏了河的下游部分,那将对上游没有影响. 如果有人破坏了河的上游部分,这将影响下游,即不会得 ...
什么是软件设计中的上游和下游？
①上游行业②中游行业③下游行业
上游产业上游产业指处在整个产业链的开始端,提供原材料和零部件制造和生产的行业. 根据微笑曲线理论,上游往往是利润相对丰厚.竞争缓和的行业,原因是上游往往掌握着某种资源,比如矿产,或掌握核心技术,有较高 ...
如何应对客户投诉，对上游部门如何投诉
团队配合中,由于提供的产品质量不高导致阻塞.响应不积极.沟通不顺畅等问题引起投诉是难免的.那么如何应对投诉,自己的团队遇到上游部门类似问题,要不要投诉,如何投诉,本文就探讨这类问题. 上下游配合,相信 ...

什么是上游任务、下游任务？

什么是上游任务、下游任务？相关推荐

最新文章

热门文章