【小样本基础】小样本学习方法总结：模型微调、数据增强、迁移学习

本篇博客总结了三大类当前小样本学习的研究方法并总结了这些方法的优缺点。
参考：小样本学习研究综述赵凯琳 , 靳小龙 , 王元卓。

目录

一、基于模型微调的小样本学习

二、基于数据增强的小样本学习

基于无标签数据的方法

基于数据合成的方法

基于特征增强的方法

三、基于迁移学习的小样本学习

基于度量学习的方法

基于元学习的方法

基于图神经网络 \color{red}{图神经网络}

【小样本基础】小样本学习方法总结：模型微调、数据增强、迁移学习相关推荐

数据不够怎么训练深度学习模型？不妨试试迁移学习 ——重用神经网络的结构2...
数据不够怎么训练深度学习模型?不妨试试迁移学习本质就是这个图!pretrained model就是你截取的部分神经网络模型(迁移学习),而nanonet就是你自己加入的网络层. 随着深度学习技术在机 ...
垃圾分类、EfficientNet模型、数据增强(ImageDataGenerator)、混合训练Mixup、Random Erasing随机擦除、标签平滑正则化、tf.keras.Sequence
日萌社人工智能AI:Keras PyTorch MXNet TensorFlow PaddlePaddle 深度学习实战(不定时更新) 垃圾分类.EfficientNet模型.数据增强(ImageD ...
零基础的人可以去大数据培训机构学习大数据开发吗？
随着互联网行业的快速发展,一方面是大企业对大数据相关技术人才的高薪招聘,另一方面是国家政策的大力支持,使得大数据行业备受人们的关注. 面对这么一个热门的行业不少人对大数据产生了浓厚的兴趣,其中不少人是 ...
《强化学习周刊》第37期：视觉深层框架、Transformer World模型、注意力增强强化学习...
No.37 智源社区强化学习组强化学习研究观点资源活动关于周刊强化学习作为人工智能领域研究热点之一,其研究进展与成果也引发了众多关注.为帮助研究与工程人员了解该领域的相关进展和 ...
官方解读，谷歌“T5”模型，如何突破迁移学习局限，实现多基准测试SOTA
2020-02-25 14:35 导语:实现多基准测试SOTA. 过去几年间,迁移学习给 NLP 领域带来了丰硕的成果,掀起了新一波的发展浪潮.而迁移学习之所以如此有效,得益于其利用自监督任务(如语言 ...
pytorch基础（九）- 自定义数据集训练模型和迁移学习
目录 Pokemon Dataset 数据集加载自定义数据集数据预处理图像数据存储结构代码构建模型训练模型迁移学习收集.读取.预处理数据,模型搭建.训练. Pokemon Datase ...
模型的预训练/迁移学习
大多数情况下,我们能够用于训练模型的算力和数据都很有限,要完成一个大型神经网络的训练非常困难,因此我们希望能够尽量重复利用已经训练好的神经网络以节约训练和数据资源.如果我们在执行预测任务时,能够找到一 ...
ResNet网络详解并使用pytorch搭建模型、并基于迁移学习训练
1.ResNet网络详解网络中的创新点: (1)超深的网络结构(突破1000层) (2)提出residual模块 (3)使用Batch Normalization加速训练(丢弃dropout) (1 ...
如何用最强模型BERT做NLP迁移学习？
作者 | 台湾大学网红教授李宏毅的三名爱徒来源 | 井森堡,不定期更新机器学习技术文并附上质量佳且可读性高的代码. 编辑 | Jane 谷歌此前发布的NLP模型BERT,在知乎.Reddit上都引起 ...
bert 中文代码谷歌_如何用最强模型BERT做NLP迁移学习？
作者 | 台湾大学网红教授李宏毅的三名爱徒来源 | 井森堡,不定期更新机器学习技术文并附上质量佳且可读性高的代码. 编辑 | Jane 谷歌此前发布的NLP模型BERT,在知乎.Reddit上都引起 ...

【小样本基础】小样本学习方法总结：模型微调、数据增强、迁移学习

目录

【小样本基础】小样本学习方法总结：模型微调、数据增强、迁移学习相关推荐

最新文章

热门文章