2021年,作为算法工程师的你们会在CV业务上用Transformer吗?
点上方计算机视觉联盟获取更多干货
仅作学术分享,不代表本公众号立场,侵权联系删除
转载于:作者丨花花,OLDPAN
来源丨知乎问答
编辑丨极市平台
AI博士笔记系列推荐
周志华《机器学习》手推笔记正式开源!可打印版本附pdf下载链接
来源链接:https://www.zhihu.com/question/463585564/answer/1927466979
# 回答一
作者:花花
阿里巴巴高级技术专家
来源链接:https://www.zhihu.com/question/463585564/answer/1927466979
分类任务:transformer在分类任务上超过cnn让大家欣喜若狂,用pretrain进行finetune是一件合理的事情,但可能大家也有意识到,imagenet-1k, imagenet-21k等pretrain的跨domain问题。
其次,实际项目中,包括模型转化,量化,SDK集成直到模型上线仍然有很大量的工作,链条不完善的情况下,不太容易落地,同时在inference速度上当前没有足够好的优化,也是一个劣势。
检测任务:说完分类再来考虑检测,目前两套思路,一种是换掉backbone,以pretrain的方式进行下游任务,部署难度和分类任务一样;另一种是类似DETR这种训练方式,想要取得较好的精度需要更大量的数据,对于实际项目并不容易获取,且训练相较于普通检测方法多了5到10倍的时间,在没有取得很明显的提升的情况下,也不太适合盲目进行落地。
值得一提的几点:
1. 在public dataset 上杀疯了并不代表在实际业务数据上就能很好的work,这点就不展开了,做过落地的都明白。
2. 当前另外一个方向是自监督+transformer(SSL+Transformer),个人认为非常有潜力,包括微软的swin-ssl,Facebook的dino等,都是这方面的尝试
3. 落地场景不同,情况就不同,人脸上亿量级的数据如果要train from scratch,要直接硬上transformer,计算资源是非常非常可观的。
个人一点不成熟的观点,轻喷:
我认为现在transformer还处于不成熟的阶段,大部分的工作都在分类任务上进行尝试,因为训练成本较高,部分paper的实验结果并不solid,提点也有限,虽然百花齐放但还没有一个较为统一的认知和共识,下游任务(detection,segmentation)的验证也不是很solid。同时底层硬件,CUDA,训练框架对transformer的优化也不够完善。
类比CNN的发展历程,我认为目前transformer在CV领域应该还处于AlexNet阶段,距ResNet阶段还有一定的距离,一方面是research这条线继续推陈出新,另一方面是工程部署这条线的持续跟进(可以看到很多社区的框架也在多分布式训练,transformer训练进行优化和加速)。
需要另一个里程碑来统一大家的认知
落地是肯定要落地的,大家一起加油。
# 回答二
作者:OLDPAN
来源链接:
https://www.zhihu.com/question/463585564/answer/1940309173
这个问题问得好呀,说不定楼主都已经踩过坑了 。
在我们组的CV中,识别组大部分的结构都包含transformer,也有一些LSTM和attention,其中有部分模型可以转化为tensorrt然后使用triton部署。相比原生的TensorFlow server要快些。不过仍有提升空间。
而检测组则没有使用transformer,一方面是因为原先的结构比较好部署(ssd,centernet,fcos等结构)比较熟悉,二是cv检测上的transformer结构还不是很成熟,没有比较通用性的backbone可以替换之前使用的resnet这类的通用backbone。
如果之后会使用transformer,我会考虑:
精度提升有多大,对于检测任务来说。如果不是质的提升(十分之一),尽量不考虑
速度能有多快,相比resnet50,同等精度或者高于这个精度能有多快
还是那句话,好不好部署,能否转化为tensorrt,转化后支不支持动态尺寸 这都是问题
其实也简单尝试了一下swin transformer,目前可以转化为tensorrt但只支持固定尺寸,在分类任务上,swin最小结构的精度比res50要高些,但速度嘛,慢了一倍多 ,唉性价比瞬间降低了。
对于我们来说,用不用transformer,关键还是取决于精度和速度能否超过之前的backbone,性价比高不高。不高的话,大概率不会用……
-------------------
END
--------------------
我是王博Kings,985AI博士,华为云专家、CSDN博客专家(人工智能领域优质作者)。单个AI开源项目现在已经获得了2100+标星。现在在做AI相关内容,欢迎一起交流学习、生活各方面的问题,一起加油进步!
我们微信交流群涵盖以下方向(但并不局限于以下内容):人工智能,计算机视觉,自然语言处理,目标检测,语义分割,自动驾驶,GAN,强化学习,SLAM,人脸检测,最新算法,最新论文,OpenCV,TensorFlow,PyTorch,开源框架,学习方法...
这是我的私人微信,位置有限,一起进步!
王博的公众号,欢迎关注,干货多多
王博Kings的系列手推笔记(附高清PDF下载):
博士笔记 | 周志华《机器学习》手推笔记第一章思维导图
博士笔记 | 周志华《机器学习》手推笔记第二章“模型评估与选择”
博士笔记 | 周志华《机器学习》手推笔记第三章“线性模型”
博士笔记 | 周志华《机器学习》手推笔记第四章“决策树”
博士笔记 | 周志华《机器学习》手推笔记第五章“神经网络”
博士笔记 | 周志华《机器学习》手推笔记第六章支持向量机(上)
博士笔记 | 周志华《机器学习》手推笔记第六章支持向量机(下)
博士笔记 | 周志华《机器学习》手推笔记第七章贝叶斯分类(上)
博士笔记 | 周志华《机器学习》手推笔记第七章贝叶斯分类(下)
博士笔记 | 周志华《机器学习》手推笔记第八章集成学习(上)
博士笔记 | 周志华《机器学习》手推笔记第八章集成学习(下)
博士笔记 | 周志华《机器学习》手推笔记第九章聚类
博士笔记 | 周志华《机器学习》手推笔记第十章降维与度量学习
博士笔记 | 周志华《机器学习》手推笔记第十一章稀疏学习
博士笔记 | 周志华《机器学习》手推笔记第十二章计算学习理论
博士笔记 | 周志华《机器学习》手推笔记第十三章半监督学习
博士笔记 | 周志华《机器学习》手推笔记第十四章概率图模型
点分享
点收藏
点点赞
点在看
2021年,作为算法工程师的你们会在CV业务上用Transformer吗?相关推荐
- 2021年,作为算法工程师的你们会在CV业务落地上用Transformer吗?
作者丨花花,OLDPAN 来源丨知乎问答 编辑丨极市平台 [导读]众所周知,Transformer 已经日常在CV学术领域"杀疯了",那么在工业领域情况如何呢? 来源链接:http ...
- 2021年后一个算法工程师的门槛有多高?
链接:https://www.zhihu.com/question/437429362 编辑:深度学习与计算机视觉 声明:仅做学术分享,侵删 想知道2021年后一个算法工程师的门槛有多高,现在我在读研 ...
- 2021年,算法工程师必备的能力是什么?
到底算法工程师需要具备什么样的能力?才能满足"越来越卷"的要求 近年来,关于算法岗位"越来越卷"的声音持续热烈. 我们经常收到一些同学提问:算法岗位听说人才过剩 ...
- 算法工程师面试题【集锦cv/ml/dl】
(一) 机器学习方面 SVM 1. 支撑平面---和支持向量相交的平面:::分割平面---支撑平面中间的平面(最优分类平面) 2. SVM不是定义损失,而是定义支持向量之间的 ...
- 算法工程师落地_模型的更新升级能力
20210728 https://mp.weixin.qq.com/s/lAJV1QPy_ZWJeQ1cIpUdEg 2021年,算法工程师必备的能力是什么? 数据分析和代码编写,java的能力 20 ...
- 从杉数到滴滴——未入门算法工程师工作日记(快手篇)
大家好!好久不见了!今天猹哥迎来了自己的23岁生日,也迎来了自己人生的第一个在职场赶项目ddl度过的生日(泪).祝自己生日快乐的同时,也加班加点的把<从杉数到滴滴>系列又更新了一篇- 熟悉 ...
- 两成开发者月薪超 1.7 万、算法工程师最紧缺! | 中国开发者年度报告
整理 | 郭芮 责编 | 唐小引 出品 | CSDN(ID:CSDNnews) "求知若饥,虚心若愚"--这个原本出自<全球概览>的俳句,因为乔布斯在斯坦福大学毕业演讲 ...
- 2019年:两成开发者月薪超1.7万,算法工程师最紧缺
"求知若饥,虚心若愚"--这个原本出自<全球概览>的俳句,因为乔布斯在斯坦福大学毕业演讲中的引用而备受推崇,流传成为IT界的至理名言之一.在编程界,亦有"代码 ...
- 如何准备算法工程师面试,斩获一线互联网公司机器学习岗offer?
最近互联网公司的秋招如火如荼的进行,我也收到过不少同学的关于面试和选择offer的咨询,因为在之前的专栏文章和一些回答中已经介绍过一些相关经验,这篇文章就做一个全面的总结. 本文将分三个部分: 1.机 ...
最新文章
- 经典重温:卡尔曼滤波器介绍与理论分析
- 双击Jar的启动方法
- 记一次el-input使用的坑
- css 浮动和清除浮动
- matlab动画_弹簧振子振动的matlab动画演示
- 【SpringBoot】Spring+Druid初级配置
- 结构体06:结构体const使用场景
- 洛谷 P1420 最长连号【最长合法子序列/断则归一】
- html页面简单访问限制
- linux git clone 401,Git Eclipse:401未经授权的错误
- Python连接Access数据库详细步骤
- 本特利前置器330180-90-00
- layui实际项目使用过程中遇到的兼容性问题
- NOIp2014 提高组 Day1 T1 生活大爆炸版石头剪刀布
- VB6.0调用WebService
- TS - 勉强入个门儿
- 滴滴裁员 2000 人,具体补偿方案已出
- Exploring the Regularity of Sparse Structure in Convolutional Neural Networks(在卷积神经网络中探索稀疏结构的规律性)
- Leetcode刷题笔记 714. 买卖股票的最佳时机含手续费
- C语言网 1881: 蓝桥杯2017年第八届真题-Excel地址(python)
热门文章
- sinr是什么意思_明明是满格信号,可是却不如两三格,这是什么情况?
- linux 命令查看块设备,系统运维|用 Linux blkid 命令查找块设备详情
- oracle 讲师费用,20080929--ORACLE培训笔记未整理版(讲师:ORA-600)
- python 金字塔的程序_python生成金字塔
- pil模块python_python PIL模块的基本使用
- java 学生信息 list_java用list集合存储学生信息并算出成绩平均值操作
- mysql 用户密码md5_使用MD5编码实现数据库用户密码字段的加密
- Python模块之: fractions模块-分数模块
- 1SVS2K 2.3.2 发布!
- 51 Nod 1161 Partial sums