原作者：lynnandwei 原文地址：http://blog.csdn.net/lynnandwei/article/details/44458033

GoogLeNet, 2014年ILSVRC挑战赛冠军，将Top5 的错误率降低到6.67%. 一个22层的深度网络，论文在http://arxiv.org/pdf/1409.4842v1.pdf，题目为：Going deeper with convolutions。（每次看这么简洁优雅的题目，就想吐槽国内写paper的 八股文题目）。GoogLeNet这个名字也是挺有意思的，为了像开山鼻祖的LeNet网络致敬，他们选择了这样的名字。

BVLC在caffe中给出了网络的实现：https://github.com/BVLC/caffe/tree/master/models/bvlc_googlenet

模型下载地址：http://dl.caffe.berkeleyvision.org/bvlc_googlenet.caffemodel

从论文里整理了一张这个22个层次的模型的图出来（如果考虑pooling层是27层），先将模型跑了一遍结果，还是那只猫：

直观输出是如下，觉得挺准确：

[287 281 285 282 283]
['n02127052 lynx, catamount' 'n02123045 tabby, tabby cat'
 'n02124075 Egyptian cat' 'n02123159 tiger cat' 'n02123394 Persian cat']

caffe的实现和原来论文的模型是有不同的：

not training with the relighting data-augmentation;
not training with the scale or aspect-ratio data-augmentation;
uses "xavier" to initialize the weights instead of "gaussian";
quick_solver.prototxt uses a different learning rate decay policy than the original solver.prototxt, that allows a much faster training (60 epochs vs 250 epochs);
The bundled model is the iteration 2,400,000 snapshot (60 epochs) using quick_solver.prototxt

但是准确度还是达到了 a top-1 accuracy 68.7% (31.3% error) and a top-5 accuracy 88.9% (11.1% error)

我们来分析一下这个模型的层次关系:

原始数据，输入为224*224*3

第一层卷积层 conv1 ，pad是3，64个特征，7*7 步长为2，输出特征为 112*112*64，然后进行relu，经过pool1（红色的max pool） 进行pooling 3*3的核，步长为2， [（112 - 3+1）/2]+1 = 56  特征为56*56*64 ， 然后进行norm

第二层卷积层 conv2， pad是1，3*3，192个特征，输出为56*56*192，然后进行relu，进行norm，经过pool2进行pooling，3*3的核，步长为2 输出为28*28*192 然后进行split 分成四个支线

第三层开始时 inception module ，这个的思想受到使用不同尺度的Gabor过滤器来处理多尺度问题，inception module采用不同尺度的卷积核来处理问题。3a 包含 四个支线：

1： 64个1*1的卷积核（之后进行RULE计算） 变成28*28*64

2： 96个1*1的卷积核 作为3*3卷积核之前的reduce，变成28*28*96， 进行relu计算后，再进行128个3*3的卷积，pad为1， 28*28*128

3：16个1*1的卷积核 作为5*5卷积核之前的reduce，变成28*28*16， 进行relu计算后，再进行32个5*5的卷积，pad为2，变成28*28*32

4：pool层，3*3的核，pad为1，输出还是28*28*192，然后进行32个1*1的卷积，变成28*28*32。

将四个结果进行连接，输出为28*28*256

然后将3a的结果又分成四条支线，开始建立3b的inception module

3b

1：128个1*1的卷积核（之后进行RULE计算） 变成28*28*128

2：128个1*1的卷积核 作为3*3卷积核之前的reduce，变成28*28*128， 再进行192个3*3的卷积，pad为1， 28*28*192，进行relu计算

3：32个1*1的卷积核 作为5*5卷积核之前的reduce，变成28*28*32， 进行relu计算后，再进行96个5*5的卷积，pad为2，变成28*28*96

4：pool层，3*3的核，pad为1，输出还是28*28*256，然后进行64个1*1的卷积，变成28*28*64。

将四个结果进行连接，输出为28*28*480

同理依次推算，数据变化如下表：

一部分输出结果如下：

I0319 22:27:51.257917 5080 net.cpp:208] This network produces output prob

材料集合：

http://deeplearning.net/2014/09/19/googles-entry-to-imagenet-2014-challenge/

[1] Imagenet 2014 LSVRC results, http://karpathy.github.io/2014/09/02/what-i-learned-from-competing-against-a-convnet-on-imagenet/,Last retrieved on: 19-09-2014.

[2] Christian Szegedy, Wei Liu, Yangqing Jia, Pierre Sermanet, Scott Reed, Dragomir Anguelov, Dumitru Erhan, Vincent Vanhoucke, Andrew Rabinovich, Going Deeper with Convolutions, Arxiv Link: http://arxiv.org/abs/1409.4842.

[3] GoogLeNet presentation, http://image-net.org/challenges/LSVRC/2014/slides/GoogLeNet.pptx, Last retrieved on: 19-09.2014..

[4] What I learned from competing against a convnet on imagenet, http://karpathy.github.io/2014/09/02/what-i-learned-from-competing-against-a-convnet-on-imagenet/, Last retrieved on: 19-09-2014.

[5] Girshick, Ross, et al. “Rich feature hierarchies for accurate object detection and semantic segmentation.” arXiv preprint arXiv:1311.2524 (2013).

学习笔记：GoogLeNet相关推荐

1. 经典神经网络论文超详细解读（三）——GoogLeNet InceptionV1学习笔记（翻译＋精读+代码复现）

   前言 在上一期中介绍了VGG,VGG在2014年ImageNet 中获得了定位任务第1名和分类任务第2名的好成绩,而今天要介绍的就是同年分类任务的第一名--GoogLeNet . 作为2014年Ima ...

2. 动手深度学习笔记（四十）7.4. 含并行连结的网络（GoogLeNet）

   动手深度学习笔记(四十)7.4. 含并行连结的网络(GoogLeNet) 7.4. 含并行连结的网络(GoogLeNet) 7.4.1. Inception块 7.4.2. GoogLeNet模型 7 ...

3. 深度学习入门之PyTorch学习笔记：卷积神经网络

   深度学习入门之PyTorch学习笔记 绪论 1 深度学习介绍 2 深度学习框架 3 多层全连接网络 4 卷积神经网络 4.1 主要任务及起源 4.2 卷积神经网络的原理和结构 4.2.1 卷积层 1. ...

4. AI学习笔记（十一）CNN之图像识别(上）

   AI学习笔记之CNN之图像识别(上) 图像识别 图像识别简介 模式识别 图像识别的过程 图像识别的应用 分类与检测 VGG Resnet 迁移学习&inception 卷积神经网络迁移学习fi ...

5. 经典神经网络论文超详细解读（八）——ResNeXt学习笔记（翻译＋精读＋代码复现）

   前言 今天我们一起来学习何恺明大神的又一经典之作: ResNeXt(<Aggregated Residual Transformations for Deep Neural Networks&g ...

6. 伯禹公益AI《动手学深度学习PyTorch版》Task 05 学习笔记

   伯禹公益AI<动手学深度学习PyTorch版>Task 05 学习笔记 Task 05:卷积神经网络基础:LeNet:卷积神经网络进阶 微信昵称:WarmIce 昨天打了一天的<大革 ...

7. 《深度学习》学习笔记

   本文是李宏毅教授<机器学习>课程的学习笔记,简要地介绍了深度学习的基本概念及常见网络架构,包括卷积神经网络.自注意力机制.Transformer.BERT.生成对抗网络.领域自适应网络等, ...

8. Tensorflow深度学习学习笔记

   Tensorflow学习笔记 一.Tensorflow基础及深度学习原理 1.Tensorflow中网络搭建的三种方法 1.keras.models.Sequential() 2.keras.mode ...

9. 深度神经网络及目标检测学习笔记

   这是一段实时目标识别的演示, 计算机在视频流上标注出物体的类别, 包括人.汽车.自行车.狗.背包.领带.椅子等. 今天的计算机视觉技术已经可以在图片. 视频中识别出大量类别的物体, 甚至可以初步理解图 ...

10. 【学习笔记】VGG 网络结构

    跟着大佬学图像分类系列,→ 传送门 ← 本博客图像分类系列文章传送门: AlexNet VGG(当前) GoogleNet ResNet 前言 图像分类是学习目标检测的"量变"内容 ...

最新文章

1. 太原理工大学计算机专业多少分录取分数线,多少分能上山西太原理工大学，往年全国各省各专业录取分数线出炉...
2. php合并数组中相同的元素
3. C#中的深克隆的两种方式
4. SQL Server2016 原生支持JSON
5. hdu4415 不错的想法题
6. 将单链表的每K个节点之间逆序
7. safe-rm替换系统的rm
8. Spring+SpringMVC+MyBatis+SpringSecurity+EhCache+JCaptcha 完整Web基础框架（前言）
9. 微软 word转换pdf_如何将行转换为Microsoft Word表中的列
10. C 结构体嵌套一级指针 二级指针 动态分配内存
11. puppeteer api_使用Node.js和puppeteer API从URL创建PDF文件
12. 《零基础》MySQL LIKE 子句(十六)
13. PHP----练习-----新闻管理----增删改查
14. 近些年deep learning在推荐系统的应用
15. shell脚本使用getopts自定义传入参数选项
16. IAR8.3 STM8安装过程
17. 三角网格(Triangle Mesh)
18. 图像超分辨去噪（去雨雾）
19. java 独木桥_Java实现洛谷 P1007独木桥
20. 计算机导航窗格有两个c盘,电脑怎么格式化所有盘只留系统

热门文章

1. 网易考拉向欧洲市场投入220亿，能掀起多大波澜？
2. 2016-2017-2 《Java 程序设计》课堂实践项目
3. 比rufus/scheduler更独立简洁的定时脚本必备whenever
4. 指向类成员的指针并非指针
5. 一步一步理解拖拽Drag（一）
6. ORACLE RMAN备份--差异增量与累积增量的策略实例图
7. GMF：示例Mindmap 练习一
8. 楼道声光控灯闪烁_照明灯闪烁其中一个原因就是它
9. 解包操作符 python_用解包操作符 * 解包列表
10. 小知识--windows下的电脑关机注销等命令