改进YOLO系列 | ICLR2022 | OMNI-DIMENSIONAL DYNAMIC CONVOLUTION: 全维动态卷积

单个静态卷积核是现代卷积神经网络（CNNs）的常见训练范式。然而，最近的动态卷积研究表明，学习加权为其输入依赖注意力的n个卷积核的线性组合可以显著提高轻量级CNNs的准确性，同时保持高效的推理。然而，我们观察到现有的作品通过卷积核空间的一个维度（关于卷积核数量）赋予卷积核动态属性，但是另外三个维度（关于每个卷积核的空间尺寸，输入通道数量和输出通道数量）被忽视了。受此启发，我们提出全维动态卷积（ODConv），这是一种更加通用但优雅的动态卷积设计，以推进这一研究领域。ODConv利用一种新的多维注意力机制和并行策略，以学习沿着卷积核空间的所有四个维度的卷积核的互补注意力。作为常规卷积的替代品，ODConv可以插入到许多CNN体系结构中。在ImageNet和MS-COCO数据集上的大量实验证明，ODConv为各种流行的CNN骨干结构带来了可靠的准确性提升，包括轻量级和大型结构，例如，在ImageNet数据集上，对于MobivleNetV2 | ResNet家族，绝对top-1改进为3.77%∼5.71% | 1.86%∼3.72%。有趣的是，由于其改进的特征学习能力，即使只有一个单独的卷积核，ODConv也可以与具有多个卷积核的现有动态卷积对手竞争或超越其性能，从

改进YOLO系列 | ICLR2022 | OMNI-DIMENSIONAL DYNAMIC CONVOLUTION: 全维动态卷积相关推荐

改进YOLOv8 | 即插即用篇 | 全维动态卷积 |《 OMNI-DIMENSIONAL DYNAMIC CONVOLUTION》
单个静态卷积核是现代卷积神经网络(CNNs)的常见训练范式.然而,最近的动态卷积研究表明,学习加权为其输入依赖注意力的n个卷积核的线性组合可以显著提高轻量级CNNs的准确性,同时保持高效的推理.然而, ...
改进YOLO系列 | YOLOv5/v7 更换骨干网络之 MobileNeXt
重新思考瓶颈结构以实现高效移动网络设计倒置残差块成为了移动网络架构设计的主流.它通过引入学习倒置残差和使用线性瓶颈的两个设计规则,改变了经典的残差瓶颈.在本文中,我们重新思考了这种设计改变的必要性, ...
改进YOLO系列 | 添加轻量化Decouple_Head 和 ASFF_Head
绿色为ASFF_Head,浅蓝色Decoupled_Head,深蓝色是第三步加的_initialize_dh_biases方法后的效果. 参数量与计算量对比模型参数量 parameters 计算量 ...
YOLOv5、YOLOv7、YOLOv8改进结构系列：最新结合用于小目标的新CNN卷积构建块
动态卷积 Dynamic convolution
每周汇报,实属不易.近期学习了关于动态卷积的相关内容,写成一个小节,帮助理解什么为动态卷积.内容较为宽泛,若想学习细节知识,可以参考论文.和知乎链接:https://zhuanlan.zhihu.co ...
Dynamic Convolution: Attention over Convolution Kernels
摘要文章提出的动态卷积能够根据输入,动态地集成多个并行的卷积核为一个动态核,可以提升模型表达能力而无需提升网络深度与宽度.通过简单替换成动态卷积,MobileNetV3-small取得了2.3%的性 ...
论文解读：OMNI-DIMENSIONAL DYNAMIC CONVOLUTION
github:https://github.com/OSVAI/ODConv pdf:https://openreview.net/pdf?id=DmpCfq6Mg39 发表年份:2022 普通的卷积 ...
YOLO系列模型改进指南
YOLO系列模型改进指南目前包含yolov5,yolov7,yolov8模型的众多改进方案(都是B站视频教学和附带源码),效果因数据集和参数而定,仅供参考. 如果需要改进模型,建议baseline和 ...
YOLO系列目标检测算法-YOLOv7
YOLO系列目标检测算法目录 - 文章链接 YOLO系列目标检测算法总结对比- 文章链接 YOLOv1- 文章链接 YOLOv2- 文章链接 YOLOv3- 文章链接 YOLOv4- 文章链接 Sca ...

改进YOLO系列 | ICLR2022 | OMNI-DIMENSIONAL DYNAMIC CONVOLUTION: 全维动态卷积

改进YOLO系列 | ICLR2022 | OMNI-DIMENSIONAL DYNAMIC CONVOLUTION: 全维动态卷积相关推荐

最新文章

热门文章