【CVPR 2021】Refine Myself by Teaching Myself : Feature Refinement via Self-Knowledge Distillation

  • 论文地址：
  • 主要问题：
  • 主要思路：
  • 具体实现：
    • 基本符号：
    • Self-Teacher Network：
    • Self-Feature Distillation：
  • 实验结果：
    • 分类：
  • 分割：
  • 联系作者：
  • 我的公众号：

论文地址：

https://arxiv.org/abs/2103.08273

主要问题：

作者认为训练教师模型太耗时间，因此从自我蒸馏入手。作者把自我知识蒸馏归结为两类：基于数据增强的蒸馏方法（b&#

【CVPR 2021】Refine Myself by Teaching Myself : Feature Refinement via Self-Knowledge Distillation相关推荐

  1. 【AAAI 2021】多出口架构的知识蒸馏：Harmonized Dense Knowledge Distillation Training for Multi-Exit Architectures

    [AAAI 2021]多出口架构的知识蒸馏:Harmonized Dense Knowledge Distillation Training for Multi-Exit Architectures ...

  2. 【CVPR 2021】树状决策知识蒸馏：Tree-like Decision Distillation

    [CVPR 2021]树状决策知识蒸馏:Tree-like Decision Distillation 论文地址: 主要问题: 主要思路: 具体实现: 基本符号: Tree-like Decision ...

  3. 【CVPR 2021】Knowledge Review：知识蒸馏新解法

    [CVPR 2021]Knowledge Review:知识蒸馏新解法 论文地址: 主要问题: 主要思路: 符号假设: 具体实现: 实验结果: 关注我的公众号: 联系作者: 论文地址: https:/ ...

  4. 【CVPR 2021】基于Wasserstein Distance对比表示蒸馏方法：Wasserstein Contrastive Representation Distillation

    [CVPR 2021]基于Wasserstein Distance对比表示蒸馏方法:Wasserstein Contrastive Representation Distillation 论文地址: ...

  5. 【CVPR 2021】自我知识蒸馏：Self-distillation with Batch Knowledge Ensembling Improves ImageNet Classification

    [CVPR 2021]自我知识蒸馏:Self-distillation with Batch Knowledge Ensembling Improves ImageNet Classification ...

  6. 【CVPR 2021】基于解耦特征的目标检测知识蒸馏：Distilling Object Detectors via Decoupled Features

    [CVPR 2021]基于解耦特征的目标检测知识蒸馏:Distilling Object Detectors via Decoupled Features 论文地址: 主要问题: 主要思路: 具体实现 ...

  7. 【CVPR 2021】剪枝篇（一）：Network Pruning via Performance Maximization

    [CVPR 2021]剪枝篇(一):Network Pruning via Performance Maximization 论文地址: 主要问题: 主要思路: 具体实现: 基本符号: 子网络生成: ...

  8. 【CVPR 2021】剪枝篇（五）：基于关键通路的神经网络可解释剪枝

    [CVPR 2021]剪枝篇(五):Neural Response Interpretation through the Lens of Critical Pathways 论文地址: 主要问题: 主 ...

  9. 【CVPR 2021】通用的实例级蒸馏：General Instance Distillation for Object Detection

    [CVPR 2021]通用的实例级蒸馏:General Instance Distillation for Object Detection 论文地址: 主要问题: 主要思路: 主要贡献: 具体实现: ...

  10. 【CVPR 2021】剪枝篇（二）：Convolutional Neural Network Pruning with Structural Redundancy Reduction

    [CVPR 2021]剪枝篇(二):Convolutional Neural Network Pruning with Structural Redundancy Reduction 论文地址: 主要 ...

最新文章

  1. Cocos2dx游戏开发系列笔记6：怎样让《萝莉快跑》的例子运行在vs和手机上
  2. Java 多线程编程之 interruptException
  3. itchat爬取朋友圈签名制作词云
  4. PythonDay8
  5. akoj-1153-p次方求和
  6. Matlab将多个柱形图放于一个图中
  7. mysql 禁止存储过程_为什么阿里巴巴禁止使用存储过程？
  8. 《MATLAB信号处理超级学习手册》——2.7 本章小结
  9. 计算机快捷键屏幕录制,如何录制电脑屏幕视频-电脑实用快捷键（9页）-原创力文档...
  10. 免费查看并下载知网文献
  11. 练习5:MySQL数据插入、更新与删除
  12. 物理挖洞之分块 ！Cocos Creator !
  13. 使用python进行基音周期的计算
  14. 浅析网站 APP 登录界面设计
  15. 前端学习之浏览器从输入URL到页面加载的全过程
  16. Elasticsearch Ingest-Attachment
  17. ABP VNext学习日记14
  18. 用电脑键盘快速打出特殊符号！
  19. CSS里面的长度单位px/pt/em/in/pc/mm/cm解释
  20. 读书笔记 - 《人民的名义》

热门文章

  1. strut2的学习笔记
  2. 微信开发--微信分享自定义图标和标题
  3. 运维的工作内容是什么？有哪几种分类？
  4. EFM32 LG232系列单片机干货之LEUART
  5. Problem H. Curious （莫比乌斯反演）
  6. 【C++】std::numeric_limits 类型对应最值查询
  7. windows中git输错密码后不能重新输入的问题
  8. linux之limit.conf
  9. matlab制作图片显示器,自己动手做一个雷达PPI显示器的动态效果图（附Matlab代码）...
  10. knn闽南语是什么意思_林北是什么意思什么梗 林北梗的出处是什么