「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果。我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和交流可能会让知识的传播更加有意义,从而产生更大的价值。

本期 AI Drive,我们邀请到南京理工大学计算机学院博士生李钢,为大家在线解读其发表在 AAAI 2022 的最新研究成果:Knowledge Distillation for Object Detection via Rank Mimicking and Prediction-guided Feature Imitation。对本期主题感兴趣的小伙伴,3 月 24 日(本周四)晚 7 点,我们准时相约 PaperWeekly 直播间。

直播信息

知识蒸馏是模型压缩的有效手段,但是目标检测网络的知识蒸馏方法却很少被研究。用于分类任务的 soft label,在目标检测上基本没有提升,基于这个发现,我们提出了一种适用于目标检测的锚框排序蒸馏,充分利用了检测网络中,1 个目标匹配多个 anchor 的属性。

此外,我们发现,利用特征蒸馏,虽然可以取得一定的提升,但是特征蒸馏的效率还有很大的提升空间。我们提出利用教师和学生网络的预测差异来引导特征蒸馏,让蒸馏过程更加关注于那些学生网络预测不准的区域。在这个工作中,我们在设计蒸馏算法的时候,充分考虑了目标检测的一些重要属性,比如一对多的标签注册,稠密的预测结果。

论文标题:

Knowledge Distillation for Object Detection via Rank Mimicking and Prediction-guided Feature Imitation

论文链接:

https://arxiv.org/abs/2112.04840

本次分享的具体内容有:

  • 介绍知识蒸馏的背景

  • 介绍锚框排序蒸馏

  • 实验分析和结论

  • 未来工作展望

嘉宾介绍

 李钢 / 南京理工大学博士生 

李钢,南京理工大学计算机学院博士生,研究兴趣为计算机视觉,特别是目标检测,知识蒸馏,自监督、半监督学习。在 AAAI, ACM MM 等人工智能顶级会议上发表论文多篇。曾在商汤研究院,上海人工智能实验室实习。

直播地址 & 交流群

本次直播将在 PaperWeekly 视频号和 B 站直播间进行,扫描下方海报二维码点击阅读原文即可免费观看。线上分享结束后,嘉宾还将在直播交流群内实时 QA,在 PaperWeekly 微信公众号后台回复「AI Drive」,即可获取入群通道

视频号直播间:

扫描下方二维码关注 PaperWeekly 视频号,第一时间获取开播提醒。

B 站直播间:

https://live.bilibili.com/14884511

合作伙伴

直播预告 | AAAI 2022论文解读:基于锚框排序的目标检测知识蒸馏相关推荐

  1. 直播预告 | AAAI 2022论文解读:基于能量的主动域自适应学习方法

    「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...

  2. 直播预告 | AAAI 2022论文解读:基于对比学习的预训练语言模型剪枝压缩

    「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...

  3. 直播预告 | AAAI 2022论文解读:基于生成模型的语音/歌声合成与歌声美化

    「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...

  4. 直播预告 | AAAI 2022论文解读:融入知识图谱的分子对比学习

    「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...

  5. 直播预告 | AAAI 2022论文解读:对称的语义感知的妆容迁移与移除网络

    「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...

  6. CVPR2020论文解读:3D Object Detection三维目标检测

    CVPR2020论文解读:3D Object Detection三维目标检测 PV-RCNN:Point-Voxel Feature Se tAbstraction for 3D Object Det ...

  7. 【AAAI 2021】自监督目标检测知识蒸馏:Distilling Localization for Self-Supervised Representation Learning

    [AAAI 2021]自监督目标检测知识蒸馏:Distilling Localization for Self-Supervised Representation Learning 论文地址: 代码地 ...

  8. 【CVPR 2021】基于解耦特征的目标检测知识蒸馏:Distilling Object Detectors via Decoupled Features

    [CVPR 2021]基于解耦特征的目标检测知识蒸馏:Distilling Object Detectors via Decoupled Features 论文地址: 主要问题: 主要思路: 具体实现 ...

  9. 直播 | AAAI 2022论文解读:三⻆分解一致性约束的端到端语音翻译

    「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...

最新文章

  1. 臭名昭著的数据清理和准备问题,如何利用AI完美解决?
  2. 报文加解密原理_加密系统的组成与过程
  3. python 图表_做自己漂亮的图表,一文学会如何用Python填充图表样式
  4. 学习开发自己的composer包,并使用GitHub实时更新到Packagist
  5. WeChall_PHP-0817
  6. I2C设备驱动编写,struct i2c_device_id,struct i2c_driver,i2c_add_driver,i2c_register_board_info
  7. 小齐是如何提高自己的「编程能力」的?
  8. 第五章节 类的继承(继承的概述)
  9. 如何挑选大数据分析平台
  10. Android播放c4d工程文件方法,安卓播放网络视频怎么实现?
  11. 手机可以python编程吗_如何在安卓手机上编程Python代码并运行-百度经验
  12. 终于搞定Linux下笔记本无线上网
  13. Linux下Centos系统安装
  14. QtCreator添加文件夹
  15. java 线程阻止_Java:在特定队列大小后阻止提交的ExecutorService
  16. B站 x《男人装》首次破圈合作,有趣的灵魂遇见了艺术
  17. 华为云灾备方案,如何保障企业数据安全
  18. Fluid Motion by Curl Noise
  19. 小说更新太慢怎么办_小说:圣墟(挺好看的一部小说,现在更新非常慢)
  20. selenium切换iframe框架案例——翻页爬取网易云音乐歌单作者和名称

热门文章

  1. MTK DDR不能兼容分析
  2. mysql中的逻辑类型如何定义_MYSQL存储过程即常用逻辑知识点总结
  3. 计算机配置文章,看电脑配置的“两个”小妙招!
  4. fiddler手机模拟器抓包_利用Fiddler对Android模拟器网络请求进行抓包
  5. 【loj#2524】【bzoj5303】 [Haoi2018]反色游戏(圆方树)
  6. html加javascript和canvas类似超级玛丽游戏
  7. [NOI2015]软件包管理器
  8. bootstrap源码分析之Carousel
  9. Redis学习笔记1-安装配置
  10. CodeSign error: code signing is required for product type Application in SDK iOS