【知识星球】卷积核和感受野可动态分配的分组卷积

欢迎大家来到《知识星球》专栏，这里是网络结构1000变小专题，我们要慢慢开始更新AutoML与网络设计相关的内容。

作者&编辑 | 言有三

1 MixNet

有三AI知识星球-网络结构1000变

MixNet

基于Depthwise的分组卷积是一个非常有效的模型设计，不过它们通常是用同样大小的卷积核，MixNet则使用了可学习的多尺度卷积核提升其性能。

作者/编辑言有三

我们在前面已经给大家讲述过许多的分组卷积模型，比如MobileNet V1/V2中全部都是使用3*3，如果使用其他大小的卷积核，性能如何呢？

上面是实验对比，可以发现随着卷积核增加，性能有增加的趋势，虽然到了9*9之后性能会下降。

既然不同的卷积核大小有性能的差异，说明各自还是学习到了不同的特征表达，再参考到Inception等多尺度结构，自然就可以想到用不同大小的卷积核进行实验。

网络结构如上，关于使用多少种不同尺度的卷积核，有两种思路。第一种，就是人工设定，比如使用3x3, 5x5, 7x7, 9x9等四种卷积核，各自的通道数量可以均分。

当然更好的方式就是基于学习了，让其对卷积核的种类和通道数量划分进行搜索，看看实验对比如下：

上图展示的是在不同计算量下的两套模型的性能对比，上表展示的是具体的指标，结果当然是MixNet性能更优秀了。

[1] Tan M, Le Q V. MixNet: Mixed Depthwise Convolutional Kernels[J]. arXiv preprint arXiv:1907.09595, 2019.

2 ScaleNet

有三AI知识星球-网络结构1000变

ScaleNet

分组网络的不同分支可以拥有同样的感受野，也可以拥有不同的感受野，不过以往都是通过手动进行分配。然而不同的感受野对于不同的任务来说，应该有不同的重要性，ScaleNet就可以学习到不同的权重。

作者/编辑言有三

网络结构如上，可以看到不同尺度在不同网络层的比例不同，整体结构与一般分组卷积无异。

ScaleNet具体的流程是：

(1) 初始化，每个尺度的通道数量进行均匀分配。

(2) 训练该网络直到收敛。

(3) 根据BN层的缩放因子，在满足计算量的约束下，选择其中最重要的一些分支。

(4) 得到新的网络，重新训练该网络。

作者们将这个结构替换掉ResNet中的基本单元，如下：

使用ResNet系列在ImageNet上面的训练结果如下：

可以发现以更低的flops取得了更高的精度，下图展示了各个网络层的统计。

可以看出，不同层所需的尺度比例，即对感受野的需求是不同的。

参考文献

[1] Li Y, Kuang Z, Chen Y, et al. Data-Driven Neuron Allocation for Scale Aggregation Networks[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2019: 11526-11534.

3 关于有三AI知识星球

有三AI知识星球是我们继公众号之后重点打造的原创知识学习社区，有需要的同学可以阅读下文了解生态。

大家可以预览一些内容如下，添加有三微信Longlongtogo加入可以优惠。

以上所有内容

加入有三AI知识星球即可获取

来日方长

点击加入

不见不散

更多精彩

每日更新

转载文章请后台联系

侵权必究

往期精选

【知识星球】卷积核和感受野可动态分配的分组卷积相关推荐

【杂谈】有三AI知识星球一周年了！为什么公众号+星球才是完整的？
文/编辑 | 言有三今天,有三AI知识星球开设正好一周年,在有了微信公众号生态后,为什么我们还要做一个知识星球呢?为什么我们说每一个核心的有三AI粉丝一定是在知识星球里呢?今天来总结一下我们知识星球 ...
【年终总结】2019年有三AI知识星球做了什么，明年又会做什么
如果说微信公众号是有三AI的第一免费生态,那么有三AI知识星球就是我们的第一付费生态,两者的共同特点是,专注系统性原创.虽然现在星球的整体内容数量还不能和微信公众号相比(主要是因为还在做内容规划以及精 ...
【杂谈】有三AI知识星球最近都GAN了哪些内容？
欢迎大家来到<知识星球>专栏,有三AI知识星球GAN已经更新了好一段时间了,那么最近这一个月主要是在更新什么内容呢,下面简单的介绍一下. 作者&编辑 | 言有三 1 GAN与人脸年 ...
【知识星球】关于模型压缩，有三AI知识星球近一个月从模型精简，硬件实现，到模型剪枝分享了哪些内容...
欢迎大家来到<知识星球>专栏,模型压缩是我们星球社区的重点关注内容,本次简介近期分享的一部分内容. 作者&编辑 | 言有三 1 精简模型设计精简模型的设计是模型压缩中的第一步,而 ...
【知识星球】图像生成玩腻了？视频生成技术何不来了解一下
欢迎大家来到<知识星球>专栏,近些年生成对抗网络技术发展的非常快,图像的生成可以达到以假乱真的效果,而视频生成则是图像生成应用的拓展,研究还非常不成熟,我们星球已经开始更新相关专栏. 作者 ...
【知识星球】总有些骨骼轻奇，姿态妖娆的模型结构设计，不知道你知不知道，反正我知道一些...
大家好,欢迎来到<知识星球>专栏,这个专栏专栏剖析有三AI知识星球的内容生态,今天的内容属于网络结构1000变板块. 作者&编辑 | 言有三你大概已经见惯了基本的卷积结构,对残差 ...
【知识星球】分组卷积最新进展，全自动学习的分组有哪些经典模型？
欢迎大家来到<知识星球>专栏,这里是网络结构1000变小专题,今天介绍最新的分组卷积模型的进展. 作者&编辑 | 言有三 1 CondenseNet 有三AI知识星球-网络结构10 ...
【知识星球】模型量化从1bit到8bit，二值到三值
欢迎大家来到<知识星球>专栏,这里是网络结构1000变小专题,模型量化是当前工业界的核心技术,我们最近在知识星球更新相关的内容. 作者&编辑 | 言有三 1 1bit量化-二值网络 ...
【知识星球】千奇百怪的网络结构板块更新到哪里了？
<网络结构>是有三AI知识星球的一个板块,在这里,我们会覆盖几乎所有有意义的网络结构,每日一更,配以图文阅读+论文下载,下面请看当前更新状态. 目前已经超过30篇文章了,内容覆盖了这些. ...

【知识星球】卷积核和感受野可动态分配的分组卷积

【知识星球】卷积核和感受野可动态分配的分组卷积相关推荐

最新文章

热门文章