通过使用一个对比的方式为了去噪训练,一个混合的query选择方法为了anchor初始化,和一个向前看两次的方案为了box预测。

DINO在模型大小和数据大小上表现出良好的可扩展性,用SwinL backbone在Object365大数据集预训练,达到了COCO val2017 63.2AP 和 test-dev 63.3AP。SOTA in 2022.3

Introduction

DETR的主要问题是收敛慢query的意义是不明确的。

目前在最好的检测器当前还是经典的检测器,Dyhead、HTC等。为什么?                                       1.以前的DETR-like模型不如改进的经典检测器;比较经典的研究很多年被很好的优化。                 2.DETR-like的模型的可扩展性还没有被很好的研究,还没有人将其扩展到大backbone和大体量数据集上。                                                                                                                                            本文解决了这两个担忧。

DINO模型在decoder显示制定了query作为动态anchor box(4D锚框坐标表征)并通过decoder多层一步一步精细化他们,像DAB-DETR;在decoder各个层在groud-truth label和box中加入噪声去帮助训练中二分图匹配的稳定,像DN-DETR;还采用了deformable attention为了提高效率。另外,提出了三个新方法。

1.为了提高一对一匹配,提出了对比去噪训练,通过在同一时间加入同一个grond-truth的正、负样本。在给同一个ground-truth box加入两个不同噪声后,我们标记有小噪声的box作为正样本,其他就为负样本。对比去噪训练可以帮助模型避免同一目标的多次输出。                                                2.query的动态锚盒指定将DETR-like的模型与经典的两阶段模型联系起来。因此,我们提出了一种混合的query选择方法,帮助更好的初始化query。我们从编码器的输出中选择初始锚框作为位置查询。然而,我们让内容查询像以前一样是可以学习的,从而鼓励第一个解码层将重点放在空间先验上。                                                                                                                                                    3.为了利用来自上一层的精细化的box信息去帮助优化相邻的早期层的参数,我们提出一种新的两次前瞻方案,利用后层的梯度来修正更新后的参数。

Method

DINO:2022.3_SOTA_COCO_DETR相关推荐

  1. 最新:2022校友会中国大学排名发布!

    2022年1月25日,全国第三方大学评价机构艾瑞深校友会网(Cuaa.Net)正式发布<2022校友会中国大学排名-高考志愿填报指南>,连续第20年发布校友会中国大学排名,该书将由&quo ...

  2. 达摩院年终预测出炉:2022 十大科技趋势,AI for Science 高居榜首

    作为"一所探索科技未知的研究院",阿里巴巴达摩院成立至今已经四年了. 这四年来,达摩院秉持着"探索科技位置,以人类愿景为驱动力,开展基础科学和颠覆式技术创新研究" ...

  3. IDEA : 2022.1 版本更新内容一览

    文章目录 IDEA : 2022.1 版本更新内容一览 1.关键更新 2.在用户体验上做了改进 3.对于编辑器的改进 4.其他支持 IDEA : 2022.1 版本更新内容一览 1.关键更新 新增了依 ...

  4. 《安富莱嵌入式周报》第251期:2022.01.31--2022.02.06

    往期周报汇总地址:嵌入式周报 - uCOS & uCGUI & emWin & embOS & TouchGFX & ThreadX - 硬汉嵌入式论坛 - P ...

  5. 《安富莱嵌入式周报》第249期:2022.01.17--2022.01.23

    往期周报汇总地址:嵌入式周报 - uCOS & uCGUI & emWin & embOS & TouchGFX & ThreadX - 硬汉嵌入式论坛 - P ...

  6. 小程序源码:2022虎年全新头像框制作

    2021马上就结束了,2022也马上到来了,虎年降至 给大家带来一款以2022虎年为主的一款头像制作小程序源码 内包含了虎年虎娃框,2022元旦新年框,国旗框,国庆几种分类 每一种分类都包含了多种模板 ...

  7. Mysteel解读:2022年1-10月份马铃薯淀粉进口数据分析

    据海关数据显示,2022年10月份我国马铃薯淀粉(3157, 50.00, 1.61%)进口量为3892.00吨,较9月份增多1651.67吨,进口环比增幅73.72%:较2021年10月份减少273 ...

  8. 盘点:2022年国内31省市数字经济发展相关政策、目标

    近年来,我国数字经济发展势头强劲.自2015年我国提出"国家大数据战略"以来,推进数字经济发展和数字化转型的政策不断深化和落地. 结合各地"十四五"规划及数字经 ...

  9. 小程序源码:2022强大的修复版趣味心理测试小程序源码,趣味测试引流裂变神器

    大家还记得以前有一款趣味测嚒? 那款趣味测试可以说在当时是只要当时做小程序的基本是人手一款 不过后来自从腾讯更新小程序登录接口以后,那款小程序也就和接口一起挂了 那么呢现在小编就给大家发布修复过的,修 ...

  10. 微信小程序:2022强大的修复版趣味心理测试小程序源码,趣味测试引流裂变神器,流量主激励广告实现管道收益

    大家还记得以前有一款趣味测嚒? 那款趣味测试可以说在当时是只要当时做小程序的基本是人手一款 不过后来自从腾讯更新小程序登录接口以后,那款小程序也就和接口一起挂了 那么呢现在小编就给大家发布修复过的,修 ...

最新文章

  1. MCSE2003学习之四
  2. 远程计算机无法操作,Win10系统下qq远程不能控制对方电脑(点不动)的完全解决方法...
  3. 2013年,移动App设计的13大精髓
  4. 【TensorFlow】tf.nn.softmax_cross_entropy_with_logits中的“logits”到底是个什么意思?
  5. 经典java NIO框架
  6. java奥运会安排赛程问题_记录奥运-当今五大Java记录框架之间的竞赛
  7. Python机器学习:评价分类结果001准确度和混淆矩阵
  8. Microsoft+R:Microsoft R Open (MRO)安装和多核运作
  9. 研究预测2022年全球VoLTE市场规模达348亿美元
  10. Servlet原理解析
  11. 使用Docker实现vsftpd配置——用户访问上传修改篇
  12. 中国移动 · 边缘计算技术白皮书 | PDF下载
  13. 如何在SharePoint中隐藏回收站
  14. 各向异性导电高分子复合薄膜-供应石墨烯基透明导电/聚丙烯腈纳米二维氮化硼纤维薄膜/机械剥离单层MoS2/MoSe2/MoTe2/WS2/WSe2/WTe2/石墨烯定制
  15. 密码重置用HTML怎么弄,路由器重设密码怎么设置?
  16. [数据分析] [保姆级教程] 数据差异分析方法
  17. creo绘图属性模板_creo制作工程图模板教程
  18. 某程序员因准点下班没加班,被劝退!网友:还有没有天理?
  19. ren域名有价值吗?值不值得投资?ren域名的应用范围有哪些?
  20. jdjjsjsjhfshafhiehf

热门文章

  1. t32 emulation debug port failed
  2. 【网单服务端】卡丁车深海之城单机游戏服务端+使用说明
  3. CAD二开之打开时插件命令自动加载(RibbonUI自动显示)
  4. 个人简历模板 个人简历表下载 个人简历模板下载
  5. mysql deadlock处理
  6. 实参可以是任意类型吗_5本可以解决书荒的粮草小说,类型随机,看看有你喜欢的吗?...
  7. vue中设置外部链接
  8. 孪生再世代表数字几_正文 第六百一十七章 原来是孪生姐妹?
  9. 微信小程序秀才成语接龙趣味答题小游戏带流量主源码
  10. 晒往期云栖大会的照片或感想_赢2017杭州云栖大会门票