DINO:2022.3_SOTA_COCO_DETR
通过使用一个对比的方式为了去噪训练,一个混合的query选择方法为了anchor初始化,和一个向前看两次的方案为了box预测。
DINO在模型大小和数据大小上表现出良好的可扩展性,用SwinL backbone在Object365大数据集预训练,达到了COCO val2017 63.2AP 和 test-dev 63.3AP。SOTA in 2022.3
Introduction
DETR的主要问题是收敛慢和query的意义是不明确的。
目前在最好的检测器当前还是经典的检测器,Dyhead、HTC等。为什么? 1.以前的DETR-like模型不如改进的经典检测器;比较经典的研究很多年被很好的优化。 2.DETR-like的模型的可扩展性还没有被很好的研究,还没有人将其扩展到大backbone和大体量数据集上。 本文解决了这两个担忧。
DINO模型在decoder显示制定了query作为动态anchor box(4D锚框坐标表征)并通过decoder多层一步一步精细化他们,像DAB-DETR;在decoder各个层在groud-truth label和box中加入噪声去帮助训练中二分图匹配的稳定,像DN-DETR;还采用了deformable attention为了提高效率。另外,提出了三个新方法。
1.为了提高一对一匹配,提出了对比去噪训练,通过在同一时间加入同一个grond-truth的正、负样本。在给同一个ground-truth box加入两个不同噪声后,我们标记有小噪声的box作为正样本,其他就为负样本。对比去噪训练可以帮助模型避免同一目标的多次输出。 2.query的动态锚盒指定将DETR-like的模型与经典的两阶段模型联系起来。因此,我们提出了一种混合的query选择方法,帮助更好的初始化query。我们从编码器的输出中选择初始锚框作为位置查询。然而,我们让内容查询像以前一样是可以学习的,从而鼓励第一个解码层将重点放在空间先验上。 3.为了利用来自上一层的精细化的box信息去帮助优化相邻的早期层的参数,我们提出一种新的两次前瞻方案,利用后层的梯度来修正更新后的参数。
Method
DINO:2022.3_SOTA_COCO_DETR相关推荐
- 最新:2022校友会中国大学排名发布!
2022年1月25日,全国第三方大学评价机构艾瑞深校友会网(Cuaa.Net)正式发布<2022校友会中国大学排名-高考志愿填报指南>,连续第20年发布校友会中国大学排名,该书将由&quo ...
- 达摩院年终预测出炉:2022 十大科技趋势,AI for Science 高居榜首
作为"一所探索科技未知的研究院",阿里巴巴达摩院成立至今已经四年了. 这四年来,达摩院秉持着"探索科技位置,以人类愿景为驱动力,开展基础科学和颠覆式技术创新研究" ...
- IDEA : 2022.1 版本更新内容一览
文章目录 IDEA : 2022.1 版本更新内容一览 1.关键更新 2.在用户体验上做了改进 3.对于编辑器的改进 4.其他支持 IDEA : 2022.1 版本更新内容一览 1.关键更新 新增了依 ...
- 《安富莱嵌入式周报》第251期:2022.01.31--2022.02.06
往期周报汇总地址:嵌入式周报 - uCOS & uCGUI & emWin & embOS & TouchGFX & ThreadX - 硬汉嵌入式论坛 - P ...
- 《安富莱嵌入式周报》第249期:2022.01.17--2022.01.23
往期周报汇总地址:嵌入式周报 - uCOS & uCGUI & emWin & embOS & TouchGFX & ThreadX - 硬汉嵌入式论坛 - P ...
- 小程序源码:2022虎年全新头像框制作
2021马上就结束了,2022也马上到来了,虎年降至 给大家带来一款以2022虎年为主的一款头像制作小程序源码 内包含了虎年虎娃框,2022元旦新年框,国旗框,国庆几种分类 每一种分类都包含了多种模板 ...
- Mysteel解读:2022年1-10月份马铃薯淀粉进口数据分析
据海关数据显示,2022年10月份我国马铃薯淀粉(3157, 50.00, 1.61%)进口量为3892.00吨,较9月份增多1651.67吨,进口环比增幅73.72%:较2021年10月份减少273 ...
- 盘点:2022年国内31省市数字经济发展相关政策、目标
近年来,我国数字经济发展势头强劲.自2015年我国提出"国家大数据战略"以来,推进数字经济发展和数字化转型的政策不断深化和落地. 结合各地"十四五"规划及数字经 ...
- 小程序源码:2022强大的修复版趣味心理测试小程序源码,趣味测试引流裂变神器
大家还记得以前有一款趣味测嚒? 那款趣味测试可以说在当时是只要当时做小程序的基本是人手一款 不过后来自从腾讯更新小程序登录接口以后,那款小程序也就和接口一起挂了 那么呢现在小编就给大家发布修复过的,修 ...
- 微信小程序:2022强大的修复版趣味心理测试小程序源码,趣味测试引流裂变神器,流量主激励广告实现管道收益
大家还记得以前有一款趣味测嚒? 那款趣味测试可以说在当时是只要当时做小程序的基本是人手一款 不过后来自从腾讯更新小程序登录接口以后,那款小程序也就和接口一起挂了 那么呢现在小编就给大家发布修复过的,修 ...
最新文章
- MCSE2003学习之四
- 远程计算机无法操作,Win10系统下qq远程不能控制对方电脑(点不动)的完全解决方法...
- 2013年,移动App设计的13大精髓
- 【TensorFlow】tf.nn.softmax_cross_entropy_with_logits中的“logits”到底是个什么意思?
- 经典java NIO框架
- java奥运会安排赛程问题_记录奥运-当今五大Java记录框架之间的竞赛
- Python机器学习:评价分类结果001准确度和混淆矩阵
- Microsoft+R:Microsoft R Open (MRO)安装和多核运作
- 研究预测2022年全球VoLTE市场规模达348亿美元
- Servlet原理解析
- 使用Docker实现vsftpd配置——用户访问上传修改篇
- 中国移动 · 边缘计算技术白皮书 | PDF下载
- 如何在SharePoint中隐藏回收站
- 各向异性导电高分子复合薄膜-供应石墨烯基透明导电/聚丙烯腈纳米二维氮化硼纤维薄膜/机械剥离单层MoS2/MoSe2/MoTe2/WS2/WSe2/WTe2/石墨烯定制
- 密码重置用HTML怎么弄,路由器重设密码怎么设置?
- [数据分析] [保姆级教程] 数据差异分析方法
- creo绘图属性模板_creo制作工程图模板教程
- 某程序员因准点下班没加班,被劝退!网友:还有没有天理?
- ren域名有价值吗?值不值得投资?ren域名的应用范围有哪些?
- jdjjsjsjhfshafhiehf
热门文章
- t32 emulation debug port failed
- 【网单服务端】卡丁车深海之城单机游戏服务端+使用说明
- CAD二开之打开时插件命令自动加载(RibbonUI自动显示)
- 个人简历模板 个人简历表下载 个人简历模板下载
- mysql deadlock处理
- 实参可以是任意类型吗_5本可以解决书荒的粮草小说,类型随机,看看有你喜欢的吗?...
- vue中设置外部链接
- 孪生再世代表数字几_正文 第六百一十七章 原来是孪生姐妹?
- 微信小程序秀才成语接龙趣味答题小游戏带流量主源码
- 晒往期云栖大会的照片或感想_赢2017杭州云栖大会门票