手机CNN网络模型--MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications

MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications

https://arxiv.org/abs/1704.04861

https://github.com/hollance/MobileNet-CoreML
https://github.com/shicai/MobileNet-Caffe

本文是 Google 针对手机等嵌入式设备提出的一个小网络模型，叫 MobileNets，主要侧重于简单有效。

这个 MobileNets 可以干什么了？

目标检测、细分类、人脸属性分析、场景识别

3 MobileNet Architecture
这个模型主要依赖于 Depthwise Separable Convolution 来降低计算量

3.1. Depthwise Separable Convolution
我们首先来看看什么是 Depthwise Separable Convolution
一个标准的卷积层输入输出分别是：
输入特征图F尺寸假定为 F×F× M, 输出特征图 G 尺寸假定为 G×G× N，卷积层可以参数化为 K×K× N× N 卷积核，

标准卷积计算量为：

其实标准卷积一次性做了两件事：普通的卷积和特征数量的变化。Depthwise separable convolution 主要是将这两件事分开做。分为 depthwise convolutions 和 pointwise convolutions
depthwise convolutions 就是使用一个滤波器对每个输入通道进行卷积，特征数量保持不变
Pointwise convolution 就是使用一个 1×1 卷积，将M个输入特征变为 N个输出特征

Depthwise separable convolutions 的计算量为：

上式加号左边为 Depthwise convolution 计算量，右边是 Pointwise convolution 计算量。

通过比较两者的计算量我们得到节约了多少计算量，一般是 8-9倍：

3.2. Network Structure and Training

网络主体结构：

3.3. Width Multiplier: Thinner Models
如果我们想根据自己的意愿改变网络，这里只需要加入一个参数就可以了 width multiplier

3.4. Resolution Multiplier: Reduced Representation
这里又引入了第二个超参数可用于降低计算量 resolution multiplier

4 Experiments

手机CNN网络模型--MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications相关推荐

MobileNetV1《MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications》
MobileNetV1<MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications> ...
MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications
具体实现代码见:https://github.com/marvis/pytorch-mobilenet class Net(nn.Module):def __init__(self):super(Ne ...
轻量化网络（一）MobileNets: Efﬁcient Convolutional Neural Networks for Mobile Vision Applications
轻量化网络研究(一)MobileNets: Efﬁcient Convolutional Neural Networks for Mobile Vision Applications 研究过深度学习的 ...
【论文翻译】MobileNets: Efficient Convolutional Neural Networks for Mobile VisionApplications【v1, 2017.4】
文章目录 Abstract 1. Introduction 2. Prior Work 3. MobileNet Architecture 3.1. Depthwise Separable Convo ...
论文记录_MobileNets Efficient Convolutional Neural Networks for Mobile Vision Application
版权声明:本文为博主原创文章,未经博主允许不得转载. https://blog.csdn.net/u013082989/article/details/77970196 本文个人博客地址:点击查 ...
Vote3Deep: Fast Object Detection in 3D Point Clouds Using Efficient Convolutional Neural Networks
下图Vote3Deep在KITTI上不可见点云的检测效果. 本文方法:在原生的3D特征(native 3D representation)上执行一个稀疏卷积,接着是一个ReLU非线性,它返回一个新的稀 ...
Bag of Tricks for Image Classiﬁcation with Convolutional Neural Networks（卷积神经网络在图像分类中的技巧）
来源:Tong He Zhi Zhang Hang Zhang Zhongyue Zhang Junyuan Xie Mu L Amazon Web Services fhtong,zhiz,hzaw ...
利用Theano理解深度学习——Convolutional Neural Networks
注:本系列是基于参考文献中的内容,并对其进行整理,注释形成的一系列关于深度学习的基本理论与实践的材料,基本内容与参考文献保持一致,并对这个专题起名为"利用Theano理解深度学习" ...
深度学习之卷积神经网络(Convolutional Neural Networks, CNN)(二)
前面我们说了CNN的一般层次结构, 每个层的作用及其参数的优缺点等内容.深度学习之卷积神经网络(Convolutional Neural Networks, CNN)_fenglepeng的博客-CS ...

手机CNN网络模型--MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications

手机CNN网络模型--MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications相关推荐

最新文章

热门文章