点击上方“计算机视觉工坊”，选择“星标”

干货第一时间送达

在具有有限计算能力和存储器资源的移动设备上运行卷积神经网络（CNN）模型的日益增长的需求促进了对有效模型设计的研究

1

前言

在具有有限计算能力和存储器资源的移动设备上运行卷积神经网络（CNN）模型的日益增长的需求促进了对有效模型设计的研究。近年来已经提出了许多有效的架构，例如：MobileNet，ShuffleNet和NASNet-A。

然而，所有这些模型都严重依赖于深度可分的卷积，这在大多数深度学习框架中缺乏有效的实现。在这项研究中，提出了一个“PeleeNet”的高效架构，采用传统的卷积方式架构。在ImageNet ILSVRC 2012数据集上，提出的PeleeNet比最先进的高效架构MobileNet的精度提高了0.6％（71.3％对70.7％），计算成本降低了11％。

同时，PeleeNet仅占MobileNet模型大小的66％。然后，提出了一种实时物体检测系统，它将PeleeNet与Single Shot MultiBox Detector（SSD）方法相结合，并优化架构以实现快速速度。

提出的检测系统名为Pelee，在PASCAL VOC2007上达到76.4％mAP（平均精度），在MSCOCO数据集上达到22.4% mAP，iPhone 6s上的速度为17.1 FPS，iPhone 8上的速度为23.6 FPS，COCO的结果优于YOLOv2，考虑更高的精度，13.6倍的计算成本和11.3倍的模型尺寸。

PeleeNet 关键特征

• Two-Way Dense Layer：

受GoogLeNet (Szegedy et al. (2015))的两路Dense Layer的激发，研究者使用了一个两路Dense Layer来得到不同尺度的感受野。

其中一路使用一个3×3 的卷积核，它能够较好地捕捉小尺度目标；另一路使用两个3×3的卷积核来学习大尺度目标特征。该结构如下图所示：

• Dynamic Number of Channels in Bottleneck Layer

另一个亮点就是Bottleneck Layer通道数目会随着输入维度的变化而变化，保证输出通道的数目不会超过输出通道。

与原始的 DenseNet 结构相比，实验表明这种方法在节省 28.5% 的计算资源的同时仅仅会对准确率有很小的影响。

• Transition Layer without Compression

实验表明，DenseNet 提出的压缩因子会损坏特征表达，PeleeNet在转换层中也维持了与输入通道相同的输出通道数目。

• Composite Function

为提升实际的速度，采用conventional wisdom of post-activation（Convolution-Batch Normalization (Ioffe & Szegedy (2015))- Relu)）作为我们的复合函数，而不是DenseNet中所用的预激活。对于post-activation而言，所有的批正则化层可以在推理阶段与卷积层相结合，这可以很好的加快速度。

为了补偿这种变化给准确率带来的不良影响，研究者使用一个浅层的、较宽的网络结构。在最后一个密集块之后还增加了一个1×1的卷积层，以得到更强的表征能力。

主要增强&改进

优化了Single Shot MultiBox Detector (SSD) 的网络结构，以加速并将其与 PeleeNet相结合。

在PASCAL VOC(Everingham et al. (2010))2007数据集上达到了 76.4%的准确率，在COCO数据集上达到了22.4%的准确率。

在准确率、速度和模型大小方面，Pelee系统都优于YOLOv2(Redmon & Farhadi (2016))。主要措施如下：

• Feature Map Selection

以不同于原始SSD的方式构建目标检测网络，为了减少计算成本，没使用38×38 的特征图。

• Residual Prediction Block

Lee 等人提出的设计思想（2017），即：使特征沿着特征提取网络传递。对于每一个用于检测的特征图，在实施预测之前构建了一个残差(He et al. 2016)块,ResBlock 的结构如下图所示：

2

PeleeNet架构

整个网络由一个stem block和四个特征提取器组成。除了最后一个阶段，每个阶段的最后一层是具有步幅为2的平均池化层。四阶段结构是大型模型设计中常用的结构。ShuffleNet (Zhang et al (2017)) 使用三阶段结构，并在每个阶段开始时缩小特征图大小。

虽然这可以有效降低计算成本，但我认为早期特征对于视觉任务非常重要，并且过早降低特征图大小会损害表示能力。因此要仍然保持四阶段结构。前两个阶段中的层数被特定的控制到可接受的范围。

3

实验

表1 PeleeNet整体架构

表2 不同设计选择和部件对性能的影响

表3 在Stanford Dogs数据集上的结果

表4 在ImageNet ILSVRC 2012数据集上的结果

表5 不同设计选择对性能的影响

表6 在VOC 2007数据集上的结果

表7 在不同硬件上的结果

PeleeNet 在手机上实验效果图

PeleeNet 出处

文章：Pelee: A Real-Time Object Detection System on Mobile Devices ICLR 2018 workshop track

下载地址：https://arxiv.org/abs/1804.06882

代码：https://github.com/GZQ0723/PeleeNet

本文仅做学术分享，如有侵权，请联系删文。

下载1

在「计算机视觉工坊」公众号后台回复：深度学习，即可下载深度学习算法、3D深度学习、深度学习框架、目标检测、GAN等相关内容近30本pdf书籍。

下载2

在「计算机视觉工坊」公众号后台回复：计算机视觉，即可下载计算机视觉相关17本pdf书籍，包含计算机视觉算法、Python视觉实战、Opencv3.0学习等。

下载3

在「计算机视觉工坊」公众号后台回复：SLAM，即可下载独家SLAM相关视频课程，包含视觉SLAM、激光SLAM精品课程。

重磅！计算机视觉工坊-学习交流群已成立

扫码添加小助手微信，可申请加入3D视觉工坊-学术论文写作与投稿 微信交流群，旨在交流顶会、顶刊、SCI、EI等写作与投稿事宜。

同时也可申请加入我们的细分方向交流群，目前主要有ORB-SLAM系列源码学习、3D视觉、CV&深度学习、SLAM、三维重建、点云后处理、自动驾驶、CV入门、三维测量、VR/AR、3D人脸识别、医疗影像、缺陷检测、行人重识别、目标跟踪、视觉产品落地、视觉竞赛、车牌识别、硬件选型、深度估计、学术交流、求职交流等微信群，请扫描下面微信号加群，备注：”研究方向+学校/公司+昵称“，例如：”3D视觉 + 上海交大 + 静静“。请按照格式备注，否则不予通过。添加成功后会根据研究方向邀请进去相关微信群。原创投稿也请联系。

▲长按加微信群或投稿

▲长按关注公众号

3D视觉从入门到精通知识星球：针对3D视觉领域的视频课程（三维重建系列、三维点云系列、结构光系列、手眼标定、相机标定、orb-slam3等视频课程）、知识点汇总、入门进阶学习路线、最新paper分享、疑问解答五个方面进行深耕，更有各类大厂的算法工程人员进行技术指导。与此同时，星球将联合知名企业发布3D视觉相关算法开发岗位以及项目对接信息，打造成集技术与就业为一体的铁杆粉丝聚集区，近2000星球成员为创造更好的AI世界共同进步，知识星球入口：

学习3D视觉核心技术，扫描查看介绍，3天内无条件退款

圈里有高质量教程资料、答疑解惑、助你高效解决问题

觉得有用，麻烦给个赞和在看~