对 pretext tasks 的理解

在读一些自监督学习算法的时候，遇到了pretext tasks这个术语，所以对这个术语的含义做了下了解。

pretext tasks 通常被翻译作“前置任务”或“代理任务”，有时也用“surrogate task”代替。

pretext task 通常是指这样一类任务，该任务不是目标任务，但是通过执行该任务可以有助于模型更好的执行目标任务。

其本质可以是一种迁移学习：让网络先在其他任务上训练，使模型学到一定的语义知识，再用模型执行目标任务。这里提到的其他任务就是pretext task。

参考：

Self-Supervised Learning 自监督学习中Pretext task的理解

神经网络前置任务（pretext task）有什么作用？

对 pretext tasks 的理解相关推荐

什么是pretext tasks？
1.大约是个啥? pretext tasks 通常被翻译作"前置任务"或"代理任务", 有时也用"surrogate task"代替. 2. ...
NLP中的自监督表示学习，全是动图，很过瘾的
作者:amitness 编译:ronghuaiyang 原文链接: NLP中的自监督表示学习,全是动图,很过瘾的mp.weixin.qq.com 其实在自监督学习的概念提出之前,NLP中就已经运用到 ...
对比学习系列论文MoCo v1（二）：Momentum Contrast for Unsupervised Visual Representation Learning
0.Abstract 0.1逐句翻译 We present Momentum Contrast (MoCo) for unsupervised visual representation learni ...
太强了！用动图演示NLP中的自监督表示学习
作者:amitness 编译:ronghuaiyang 导读其实在自监督学习的概念提出之前,NLP中就已经运用到了这一思想. 虽然计算机视觉在自监督学习方面取得了惊人的进展,但在很长一段时间 ...
[2021-CVPR] Jigsaw Clustering for Unsupervised Visual Representation Learning 论文简析及关键代码简析
[2021-CVPR] Jigsaw Clustering for Unsupervised Visual Representation Learning 论文简析及关键代码简析论文:https:/ ...
KD-VLP：知识蒸馏和预训练还能这么结合？上科大IntelMSRA提出基于知识蒸馏的端到端多模态预训练模型...
关注公众号,发现CV技术之美本文分享论文『KD-VLP: Improving End-to-End Vision-and-Language Pretraining with Object Knowl ...
Vx2Text-多模态任务新进展！哥大Facebook提出VX2TEXT模型，实现了“视频+X”到“文本”的任务...
关注公众号,发现CV技术之美 ▊ 写在前面在本文中,作者提出了VX2TEXT,一个用于从"视频+X"(X代表文本.语音或音频等)的多模态输入来生成文本的框架.为了利用Trans ...
ECCV2022论文列表（中英对照）
Paper ID Paper Title 论文标题 8 Learning Uncoupled-Modulation CVAE for 3D Action-Conditioned Human Motio ...
CutPaste: Self-Supervised Learning for Anomaly Detection and Localization 全文翻译+详细解读
CutPaste: Self-Supervised Learning for Anomaly Detection and Localization 全文翻译+详细解读文章速览全文翻译及详细解释 0 ...

对 pretext tasks 的理解

对 pretext tasks 的理解相关推荐

最新文章

热门文章