点击上方“小白学视觉”,选择加"星标"或“置顶

重磅干货,第一时间送达

最近年终总结内容,正好把学习笔记进行总结

ResNet

  • 使用残差网络(或ResNet)赢得了ILSVRC 2015挑战赛

  • 它是由大佬何凯明等人开发的。

  • 使用由152层组成的超深CNN,它的前5位错误率达到了惊人的3.6%。它证实了总体趋势:模型越来越多,参数越来越少。能够训练这种深层网络的关键是使用跳过连接(也称为快捷连接):馈入层的信号也将添加到位于堆栈上方的层的输出中。让我们看看为什么这很有用。

在训练神经网络时,目标是使其成为目标函数h(x)的模型。如果将输入x添加到网络的输出(即,添加跳过连接),则网络将被强制建模为f(x)= h(x)-x而不是h(x)。这称为残差学习。

AlexNet

  • AlexNet CNN架构大获全胜,赢得了2012年ImageNet ILSVRC挑战:它的前五位错误率达到了17%,而倒数第二位的错误率仅为26%

  • 它是由Alex Krizhevsky,Ilya Sutskever和Geoffrey Hinton开发的。

  • 它与LeNet-5非常相似,只是更大和更深,它是第一个将卷积层直接堆叠在彼此之上的方法,而不是在每个卷积层之上堆叠池化层的方法。

  • 它由8个卷积陆地完全连接层和3个最大池化层组成。

为了减少过度拟合,作者使用了两种正则化技术:首先,他们在训练过程中对F8层和F9层的输出应用了50%的丢失率。其次,他们通过将训练图像随机偏移各种偏移量,水平翻转它们并更改亮度条件来执行数据增强。

VGGNet

  • VGGNet是2014年ILSVRC挑战赛的亚军。

  • 它由K.Simon-yan和A.Zisserman开发。

  • 在VGGNet的设计中,发现不需要交替的卷积和池化层。因此,VGGnet依次使用多个卷积层,并在其间合并池层。

  • 它具有非常简单和经典的架构,具有2或3个卷积层,一个池化层,然后又是2或3个卷积层,一个池化层,依此类推(总共只有16个卷积层),最后还有一个密集的具有2个隐藏层和输出层的网络。它仅使用3×3过滤器,但使用了许多过滤器。

GoogleNet

  • GoogLeNet体系结构是由Christian Szegedy等人开发的。由Google Research提供,并通过将前5名错误率降低到7%以下而赢得了2014年ILSVRC挑战。

  • 如此出色的性能很大程度上是因为该网络比以前的CNN更深

  • 这是通过称为初始模块的子网实现的,该子网使GoogLeNet可以比以前的体系结构更有效地使用参数:GoogLeNet的参数实际上比AlexNet少10倍(大约是600万,而不是6000万)。

GoogLeNet使用9个初始模块,它使用平均池从7x7x1024到1x1x1024消除了所有完全连接的层。这样可以节省很多参数。

Google研究人员后来提出了GoogLeNet架构的几种变体,包括Inception-v3和Inception-v4,它们使用了稍有不同的inception模块,并获得了更好的性能。

end

下载1:OpenCV-Contrib扩展模块中文版教程

在「小白学视觉」公众号后台回复:扩展模块中文教程即可下载全网第一份OpenCV扩展模块教程中文版,涵盖扩展模块安装、SFM算法、立体视觉、目标跟踪、生物视觉、超分辨率处理等二十多章内容。

下载2:Python视觉实战项目52讲

在「小白学视觉」公众号后台回复:Python视觉实战项目即可下载包括图像分割、口罩检测、车道线检测、车辆计数、添加眼线、车牌识别、字符识别、情绪检测、文本内容提取、面部识别等31个视觉实战项目,助力快速学校计算机视觉。

下载3:OpenCV实战项目20讲

在「小白学视觉」公众号后台回复:OpenCV实战项目20讲即可下载含有20个基于OpenCV实现20个实战项目,实现OpenCV学习进阶。

交流群

欢迎加入公众号读者群一起和同行交流,目前有SLAM、三维视觉、传感器、自动驾驶、计算摄影、检测、分割、识别、医学影像、GAN、算法竞赛等微信群(以后会逐渐细分),请扫描下面微信号加群,备注:”昵称+学校/公司+研究方向“,例如:”张三 + 上海交大 + 视觉SLAM“。请按照格式备注,否则不予通过。添加成功后会根据研究方向邀请进入相关微信群。请勿在群内发送广告,否则会请出群,谢谢理解~

笔记 | 那些不得不掌握的卷积神经网络CNN的架构相关推荐

  1. tensorflow学习笔记五:mnist实例--卷积神经网络(CNN)

    mnist的卷积神经网络例子和上一篇博文中的神经网络例子大部分是相同的.但是CNN层数要多一些,网络模型需要自己来构建. 程序比较复杂,我就分成几个部分来叙述. 首先,下载并加载数据: import ...

  2. [人工智能-深度学习-33]:卷积神经网络CNN - 常见分类网络- LeNet网络结构分析与详解

    作者主页(文火冰糖的硅基工坊):文火冰糖(王文兵)的博客_文火冰糖的硅基工坊_CSDN博客 本文网址:https://blog.csdn.net/HiWangWenBing/article/detai ...

  3. 深度学习(DL)与卷积神经网络(CNN)学习笔记随笔-04-基于Python的LeNet之MLP

    原文地址可以查看更多信息 本文主要参考于:Multilayer Perceptron  python源代码(github下载 CSDN免费下载) 本文主要介绍含有单隐层的MLP的建模及实现.建议在阅读 ...

  4. 深度学习(DL)与卷积神经网络(CNN)学习笔记随笔-03-基于Python的LeNet之LR

    原地址可以查看更多信息 本文主要参考于:Classifying MNIST digits using Logistic Regression  python源代码(GitHub下载 CSDN免费下载) ...

  5. 【从线性回归到 卷积神经网络CNN 循环神经网络RNN Pytorch 学习笔记 目录整合 源码解读 B站刘二大人 绪论(0/10)】

    深度学习 Pytorch 学习笔记 目录整合 数学推导与源码详解 B站刘二大人 目录传送门: 线性模型 Linear-Model 数学原理分析以及源码详解 深度学习 Pytorch笔记 B站刘二大人( ...

  6. 【 卷积神经网络CNN 数学原理分析与源码详解 深度学习 Pytorch笔记 B站刘二大人(9/10)】

    卷积神经网络CNN 数学原理分析与源码详解 深度学习 Pytorch笔记 B站刘二大人(9/10) 本章主要进行卷积神经网络的相关数学原理和pytorch的对应模块进行推导分析 代码也是通过demo实 ...

  7. 【卷积神经网络CNN 实战案例 GoogleNet 实现手写数字识别 源码详解 深度学习 Pytorch笔记 B站刘二大人 (9.5/10)】

    卷积神经网络CNN 实战案例 GoogleNet 实现手写数字识别 源码详解 深度学习 Pytorch笔记 B站刘二大人 (9.5/10) 在上一章已经完成了卷积神经网络的结构分析,并通过各个模块理解 ...

  8. TensorFlow2.0 学习笔记(三):卷积神经网络(CNN)

    欢迎关注WX公众号:[程序员管小亮] 专栏--TensorFlow学习笔记 文章目录 欢迎关注WX公众号:[程序员管小亮] 专栏--TensorFlow学习笔记 一.神经网络的基本单位:神经元 二.卷 ...

  9. 卷积神经网络CNN+唐宇迪博士CNN课程学习笔记

    卷积神经网络CNN学习笔记 卷积神经网络主要由输入层.卷积层.ReLU层.池化层和全连接层组成. 卷积层 卷积层涉及参数:(1)滑动窗口步长:(2)卷积核尺寸:(3)边缘填充:(4)卷积核个数. (1 ...

最新文章

  1. python减少内存_如何降低 Python 的内存消耗量?
  2. Zabbix housekeeper processes more than 75% busy
  3. matlab五子棋_应用 | 五子棋游戏——没人能在我的程序里打败我
  4. 谈“发表(撰写)学术论文的注意事项”
  5. kdj指标主要看哪个值_KDJ绝密买卖法则
  6. 为什么说ip协议是无连接协议
  7. lodash和debounce
  8. Struts tiles入门(最最简单的例子)
  9. java中的NIO和IO到底是什么区别?20个问题告诉你答案
  10. 天地图专题一:加载天地图
  11. ABP框架 配置权限、本地语言文件、左侧菜单项
  12. 【机器学习系列】EM算法第一讲:EM算法相关概述及收敛性证明
  13. 小米路由mpk插件二维码_小米WiFi6路由器新品:修改密码自动同步已连接设备,这功能不错...
  14. 网络流(17/24)
  15. Markdown从入门到放弃
  16. 2020智能营销领域最具商业合作价值企业盘点
  17. torch.bmm()和torch.matmul()函数的用法和区别,矩阵相乘
  18. 你不必使用弱引用以避免内存泄漏
  19. web 项目 连接mycat 读写分离失效问题
  20. P1074 靶形数独题解

热门文章

  1. 数据安全引担忧?get它,让你吃一颗“定心丸”
  2. 2019世界机器人大赛圆满落幕,荆州中学等15支队伍获「全能奖」
  3. 清华成立视觉智能研究中心,邓志东任中心主任
  4. 媲美Pandas?一文入门Python的Datatable操作
  5. 何恺明、吴育昕最新成果:用组归一化替代批归一化
  6. 实战 | 深度学习轻松学:如何用可视化界面来部署深度学习模型
  7. 中国“神威”获超算排行榜四连冠,却遭外媒质疑
  8. 刚进来的小伙伴说Nginx只能做负载均衡,还是太年轻了
  9. Datawhale Ring限量100份来了!
  10. Kaggle知识点:数据分析思路与工具(EDA)