[Transformer] AdaptFormer: Adapting Vision Transformers for Scalable Visual Recognition
微调不到0.2%就超越现有微调方法?港大等提出即插即用的轻量级模块AdaptFormerhttps://mp.weixin.qq.com/s/v5OUKK2jZdm63SwP192yKQ
AdaptFormer: Adapting Vision Transformers for Scalable Visual Recognition
论文: https://arxiv.org/abs/2205.13535
代码: https://github.com/ShoufaChen/AdaptFormer
Introduction
尽管经过预训练的视觉Transformer(ViT)在计算机视觉方面取得了巨大成功,但将ViT适应各种图像和视频任务仍具有挑战性,因为ViT的计算和存储负担很重,每个模型都需要独立地微调以适应不同的任务,从而限制了其在不同领域的可迁移性。为了应对这一挑战,作者提出了一种有效的Transformer自适应方法,即AdaptFormer,它可以将预训练好的VIT有效地适应许多不同的图像和视频任务。
它具有比现有技术相比的几个优点:
首先,AdaptFormer引入了轻量级模块,只向ViT添加了不到2%的额外参数,而它能够在不更新其原始预训练参数的情况下增加ViT的可迁移性,在动作识别基准上显著优于现有的完全微调的模型。
其次,它可以在不同的Transformer中即插即用,并可扩展到许多视觉任务。
第三,在五个图像和视频数据集上进行的大量实验表明,AdaptFormer在很大程度上改善了目标域中的ViTs。例如,当只更新1.5%的额外参数时,与Something-Something v2和HMDB51上的完全优化模型相比,它分别实现了约10%和19%的相对改进。
如上图所示,相比于完全微调整个模型,只微调0.1%参数的AdaptFormer达到了相似的性能。同时,AdaptFormer的可调参数不到2%时,在top-1精度上就超过了完全微调解决方案。
Architecture
图a:传统Transformer block
图b:adaptformer
用AdaptMLP代替MLP块。AdaptMLP由两个子分支组成。
左分支中的MLP层与原始网络相同。
右分支是另外引入的用于任务特定优化的轻量级模块,设计为瓶颈结构,用于限制参数量。
在微调阶段,原始模型部件(图b中的蓝色块)从预训练的checkpoint加载权重,并保持不变,避免下游任务之间的交互。新添加的参数(橙色块)在特定数据域上随任务特定损失进行更新。
在微调后,作者保持共享参数固定,并额外加载前一阶段微调的额外参数的权重。在引入的轻量级模块的帮助下,单个整体模型能够适应多个任务。
Discussion
Tunable parameters analysis
本文的AdaptMLP模块是轻量级的。瓶颈结构的中间通道数很小,因此新引入的参数量很少。因此当添加更多的下游任务时,总模型大小的增长几乎可以忽略。
Applicability
AdaptMLP是一个即插即用模块,可以自适应地插入现有流行的vision transformer架构中。
因为即使不同的ViT可能在MHSA架构中有所不同,但所有主干网络都有相同的MLP层。
与本文的方法相比,最近的prompt相关方法将可训练参数插入到token空间中,如上图所示。
他们在线性投影之前将可学习的参数预先添加到嵌入的token中,
或者在线性投影之后将可学习的参数添加到key and value token中【VPT】。
因此,prompt相关方法不能直接适用于特殊MHSA变体。
此外,根据实验结果,当patch token的数量从图像到视频规模增长时,prompt相关方法的性能不佳。
实验设置
预训练backbone:
使用ViT作为backbone,利用监督训练和自监督训练两种方式对模型进行预训练。
对于image,使用ImageNet-21k监督训练的预训练模型,以及MAE自监督训练模型。对于video,使用VideoMAE监督训练和自监督训练的模型。
AdaptFormer的初始化:
对于原始模型,直接load上游任务中预训练的权重,在微调过程中保持预训练权重frozen。对于新添加的模块,down映射层用Kaiming Normal初始化,其余的部分用零初始化。
Baseline methods:
将AdaptFormer与其他三个常用的微调方法进行比较。
(1)linear probing:将pretrain model作为特征提取器,后面添加一个额外的线性层,只有线性层的参数会更新。
(2)Full Fine-tuning:将所有的参数都设为可学习
(3)VPT:将可学习的参数添加到key and value token中,微调添加的额外参数
下游任务:
image:CIFAR-100 SVHN Food-101
video:SSv2 HMDB51
Experiment
作者将不同微调方法的性能与通过监督训练和自监督预训练的主干进行比较。结果表明,AdaptFormer始终优于linear probing和Visual Prompt tuning(VPT)方法。
如下图4所示,作者在SSv2和HMDB-51数据集上进行了可调参数实验。可以看出,相比于VPT方法,本文的方法在两个数据集上都能达到更高的性能。
通过监测训练阶段的测试精度,作者进一步研究了VPT的优化过程。如图5所示,作者逐渐增加VPT中的token数量,并绘制每个epoch的Top-1精度。当token数小于或等于4时,训练阶段是稳定的,例如{1,2,4}。然而,当数字变为8或更大时,例如{8,16,32},训练过程在大约第十个epoch时崩溃,在训练阶段结束时表现不佳。
消融实验
表a:中间维度控制了AdaptFormer引入参数的数量。小的中间维度引入的参数较少,可能会带来性能损失。作者在中间特征维度上进行消融来研究这种影响。如表a所示,当中间尺寸增加到64时,精度持续提高,当中间尺寸约为64时,精度达到饱和点。
表b:AdaptFormer的性能与添加的层数呈正相关。此外,当引入相同数量的层时,AdapterFormer更喜欢网络的顶部(远离输入图像的部分)而不是底部。
图6:比较并行和串行实例来研究插入方法。并行AdaptFormer比串行AdaptFormer的精度高出0.85%。
图7:对于普通ViT,嵌入patch token的数量随着视频帧的数量线性增加。作者使用不同数量的帧进行了实验,即{2,4,8},结果如上图所示。作者观察到,增加帧数对所有这三种微调方法都是有益的。然而,AdaptFormer始终优于线性方式和VPT方法。
作者使用在ImagNet-21k上预训练的模型在SSv2和HMDB-51上进行动作识别。如表3所示,AdaptFormer对模态引起的域迁移具有鲁棒性。
Conclusion
本文提出了一个概念简单但有效的框架AdaptFormer,用于有效地将预训练的视觉Transformer(ViT)主干迁移到可伸缩的视觉识别任务。通过引入AdaptMLP,本文的AdaptFormer能够调整轻量级模块,以生成适应多个下游任务的特征。在五个数据集(包括图像和视频域)上进行的大量实验验证了本文提出的方法能够以较小的计算成本提高ViT的可迁移性。
[Transformer] AdaptFormer: Adapting Vision Transformers for Scalable Visual Recognition相关推荐
- 【Transformer】Do Vision Transformers See Like Convolutional Neural Networks?
文章目录 一.背景 二.方法 论文链接:https://arxiv.org/pdf/2108.08810.pdf 一.背景 本文发表于 NeurIPS2021 Transformer 现在在视觉方面取 ...
- 【读点论文】EfficientFormer: Vision Transformers at MobileNet Speed,运用纯transformer架构对比卷积模型在终端上部署的推理速度
EfficientFormer: Vision Transformers at MobileNet Speed Abstract 视觉transformer(ViT)在计算机视觉任务中取得了快速的进展 ...
- [Transformer] LITv2(Fast Vision Transformers with HiLo Attention)
Fast Vision Transformers with HiLo Attention 论文: https://arxiv.org/abs/2205.13213 代码(即将开源): GitHub - ...
- [Transformer] EdgeViTs: Competing Light-weight CNNs on Mobile Devices with Vision Transformers
EdgeViTs: Competing Light-weight CNNs on Mobile Devices with Vision Transformers CVPR2022 论文: https: ...
- 将卷积引入transformer中VcT(Introducing Convolutions to Vision Transformers)的pytorch代码详解
文章目录 1. Motivation: 2. Method 2.1 Convolutional Token Embedding 模块 2.2 Convolutional Projection For ...
- Vision Transformers 大有可为!
Vision Transformers 相关的研究最近非常的火,这篇文章是最近看到的,个人觉得相对讲解的比较通俗,以及很多图解帮助理解. 因此,我也花了很多时间去翻译(文章内容 6700字左右),如果 ...
- Intriguing Properties of Vision Transformers论文解析
Intriguing Properties of Vision Transformers 论文地址 本论文系统研究了基于Transformer和CNN构造的图像分类器一些很多有趣的特性,包括纹理与形状 ...
- Five reasons to embrace Transformer in computer vision/在计算机视觉领域拥抱Transformer的5条理由
翻译自微软亚洲研究院官网文章Five reasons to embrace Transformer in computer vision 2021.12.5 人工智能的统一建模故事 "大一统 ...
- 【读点论文】Focal Self-attention for Local-Global Interactions in Vision Transformers局部和全局注意力进行交互实现新SOTA
Focal Self-attention for Local-Global Interactions in Vision Transformers Abstract 本文提出了一种焦点自注意力机制 F ...
最新文章
- centos7 virtualbox使用internal network 内网模式
- 效率达CPU一万倍的神经形态芯片发布后,英特尔引发了多方吐槽
- 解决在ueditor中上传图片通过后台java+SpringMVC添加水印方法
- Western Digital使用5400 rpm级硬盘使所有人感到困惑
- System.nanoTime
- 微信公众号无需二次登录_您无需两次解决问题-您需要一个设计系统
- 3-1HDFS基本概念
- mysql不可重复读是锁的表吗,Mysql事务,并发问题,锁机制-- 幻读、不可重复读(转)...
- SpringCloud学习笔记025---SpringBoot_注释理解_@Qualifier 注释
- C#中DataGradView控件的常用操作
- c#中base64加密解密
- 如何确定autosar的版本_什么是AUTOSAR?AUTOSAR的概要、背景以及目的-汽车电子-与非网...
- NCU SEM 发文检索2014年
- 【怎么用u盘装系统】
- 未转变者服务器bug,未转变者攻略 unturned无敌BUG说明
- 刷脸支付星星之火可以燎原
- PPT——地图快速获取(各地区域)
- java netbeans_Java和Netbeans字体美化
- 用开源github,还是咱中国自己的代码托管平台云效?
- 如何重写equals方法
热门文章
- JAVA中console方法怎么用_使用console对javaScirpt进行全面调试-全面分析console用法
- Tomcat 学习系列1 Tomcat8在win7下配置与使用 和常见问题处理
- 论文剽窃者“自爆家门”?CVPR 最后一天上演“一出好戏 ”!
- @全体开发者, 华为云1024程序员节精彩开启!
- 抖音自媒体怎么将视频一键发布到快手、视频号?
- 凤悦酒店及度假村 酒店投资与资产管理峰会圆满落幕
- 联合国成立区块链联盟以求应对气候变化
- 腾讯云微搭低代码餐饮小程序实例
- MacBook M1系统录屏录制屏内声音
- 手把手教你配置机器学习服务器(二)服务器组装