导读:深度学习可以应用在各大领域中,根据应用情况的不同,深度神经网络的形态也各不相同。

常见的深度学习模型主要有全连接(Fully Connected,FC)网络结构卷积神经网络(Convolutional Neural Network,CNN)和循环神经网络(Recurrent Neural Network,RNN)。

它们均有着自身的特点,在不同的场景中发挥着重要作用。本文将为读者介绍三种模型的基本概念以及它们各自适用的场景。

作者:刘祥龙 杨晴虹 胡晓光 于佃海 白浩杰 深度学习技术及应用国家工程实验室 百度技术学院

来源:大数据DT(ID:hzdashuju)

01 全连接网络结构

全连接(FC)网络结构是最基本的神经网络/深度神经网络层,全连接层的每一个节点都与上一层的所有节点相连。

全连接层在早期主要用于对提取的特征进行分类,然而由于全连接层所有的输出与输入都是相连的,一般全连接层的参数是最多的,这需要相当数量的存储和计算空间。

参数的冗余问题使单纯的FC组成的常规神经网络很少会被应用于较为复杂的场景中。常规神经网络一般用于依赖所有特征的简单场景,比如说房价预测模型和在线广告推荐模型使用的都是相对标准的全连接神经网络。FC组成的常规神经网络的具体形式如图2-7所示。

▲图2-7 FC组成的常规神经网络

02 卷积神经网络

卷积神经网络(CNN)是一种专门用来处理具有类似网格结构的数据的神经网络,如图像数据(可以看作二维的像素网格)。与FC不同的地方在于,CNN的上下层神经元并不都能直接连接,而是通过“卷积核”作为中介,通过“核”的共享大大减少了隐藏层的参数。

简单的CNN是一系列层,并且每个层都通过一个可微函数将一个量转化为另一个量,这些层主要包括卷积层(Convolutional Layer)、池化层(Pooling Layer)和全连接层(FC Layer)。

卷积网络在诸多应用领域都有很好的应用效果,特别是在大型图像处理的场景中表现得格外出色。图2-8展示了CNN的结构形式,一个神经元以三维排列组成卷积神经网络(宽度、高度和深度),如其中一个层展示的那样,CNN的每一层都将3D的输入量转化成3D的输出量。

▲图2-8 CNN的结构形式

03 循环神经网络

循环神经网络(RNN)也是常用的深度学习模型之一(如图2-9所示),就像CNN是专门用于处理网格化数据(如一个图像)的神经网络,RNN是一种用于处理序列数据的神经网络。

如音频中含有时间成分,因此音频可以被表示为一维时间序列;语言中的单词都是逐个出现的,因此语言的表示方式也是序列数据。RNN在机器翻译、语音识别等领域中均有非常好的表现。

▲图2-9 简单的RNN结构

关于作者:刘祥龙,副教授,博士生导师,现任职于北京航空航天大学软件开发环境国家重点实验室,主要研究大数据检索、大规模视觉分析、可信赖深度学习等。

杨晴虹,博士,中科院系列高级工程师,北航软件学院人工智能专业主讲教师,美国南康涅狄格州立大学图书信息科学访问学者,美国耶鲁大学技术创新实验室数据分析专家。

胡晓光,百度杰出研发架构师,10余年自然语言处理研发经验,参与的机器翻译项目获得国家科技进步二等奖,现负责飞桨核心训练框架和模型算法的研发,致力于打造最好用的深度学习平台。

于佃海,百度深度学习平台飞桨(PaddlePaddle)总架构师。2008年从北京大学毕业加入百度,长期从事机器学习、自然语言处理相关的技术研发和平台建设工作。

白浩杰,北航、大连理工特聘讲师,百度认证深度学习布道师,美国佛罗里达国际大学高性能数据实验室访问学者,致力于移动对象数据库、数据可视化、机器学习、深度学习等方向的研究。

本文摘编自《飞桨PaddlePaddle深度学习实战》,经出版方授权发布。

延伸阅读《飞桨PaddlePaddle深度学习实战》

点击上图了解及购买

转载请联系微信:DoctorData

推荐语:本书由百度官方出品,内容全面、由浅入深、注重实践,基于飞桨PaddlePaddle深度学习平台,较为全面地覆盖了学习深度学习技术所必须具备的基础知识以及深度学习主要核心技术,包括相关的数学基础、Python编程基础、机器学习基础以及正向/反向传播算法、卷积神经网络、循环神经网络等,尽量做到读懂一本书即可达到“零基础”到“全精通”。

划重点????

干货直达????

  • 最新!数字人民币横空出世,5万深圳人瓜分1000万红包!

  • 《数字孪生体技术白皮书》重磅发布(附完整版下载)

  • 两道例题详解贝叶斯定理

  • 什么是HBase?它是怎样工作的?终于有人讲明白了

更多精彩????

在公众号对话框输入以下关键词

查看更多优质内容!

PPT | 读书 | 书单 | 硬核 | 干货 讲明白 | 神操作

大数据 | 云计算 | 数据库 | Python | 可视化

AI | 人工智能 | 机器学习 | 深度学习 | NLP

5G | 中台 | 用户画像 1024 | 数学 | 算法 数字孪生

据统计,99%的大咖都完成了这个神操作

????

图解3种常见的深度学习网络结构:FC、CNN、RNN相关推荐

  1. 深度学习 | MATLAB实现CNN卷积神经网络结构及参数概述

    深度学习 | MATLAB实现CNN卷积神经网络结构及参数概述 目录 深度学习 | MATLAB实现CNN卷积神经网络结构及参数概述 基本介绍 模型描述 训练过程 计算函数 参考资料 基本介绍 卷积神 ...

  2. 【常见的深度学习框架】

    [深度学习基础篇-常见的深度学习框架] 文前白话 常见的深度学习框架 1.Caffe 2.TensorFlow 3. PyTorch 其他框架 Reference 文前白话 深度学习是一个发展极为迅速 ...

  3. linux常见命令---深度学习炼丹炉必备---更新中

    目录 linux常见命令---深度学习炼丹炉必备---更新中 1.修改环境变量 2.查看当前conda环境 3.如果执行conda activate ***出现问题时需要初始化shell 4.查看当前 ...

  4. 深度学习实战篇-基于RNN的中文分词探索

    深度学习实战篇-基于RNN的中文分词探索 近年来,深度学习在人工智能的多个领域取得了显著成绩.微软使用的152层深度神经网络在ImageNet的比赛上斩获多项第一,同时在图像识别中超过了人类的识别水平 ...

  5. 【深度学习篇】---CNN和RNN结合与对比,实例讲解

    推荐下我自己建的人工智能Python学习群:[809160367],群里都是学Python的,如果你想学或者正在学习Python ,欢迎你加入,大家都是软件开发党,不定期分享干货,还有免费直播课程领取 ...

  6. 深度学习 Day 4——利用RNN玩转股票预测

    深度学习 Day 4--利用RNN玩转股票预测 文章目录 深度学习 Day 4--利用RNN玩转股票预测 一.前言 二.准备工作 1.我的环境 2.设置GPU 3.加载数据 三.数据预处理 1.归一化 ...

  7. Pytorch深度学习(2) -- RNN及其进阶模型实现 ( GRU LSTM Deep-Rnn Bi-Rnn)

    Pytorch深度学习(2) -- RNN及其进阶模型实现 0 预测训练函数 1.RNN实现 RNN小结 2.GRU实现 GRU小结 3.LSTM实现 LSTM小结 4.Deep-RNN 加入参数nu ...

  8. 5种小型设备上深度学习推理的高效算法

    [导读]文中为AI实践者和研究者们介绍了5种高效模型推断算法,希望这篇文章能够帮助大家更清楚地认识到,在我们所使用的深度学习库的背后,有多少优化正在被应用,从而在像移动电话等小型边缘设备上实现越来越多 ...

  9. 深度学习网络结构大全

    1 Lenet 7层:卷积+下采样+卷积+下采样+全连接+全连接+全连接 可以很好的进行数字识别 第一次运用卷积神经网络 参考:(39条消息) 详解深度学习之经典网络架构(一):LeNet_cheny ...

最新文章

  1. C++_泛型编程与标准库(二)
  2. C++ pair的使用
  3. java中6左移2怎么算_(六)Java中的按位运算
  4. mysql官网二进制包_mysql二进制包安装与配置实战记录
  5. sql server 数据库改名
  6. 后端学习 - MyBatis
  7. Educational Codeforces Round 16 C. Magic Odd Square 矩阵构造
  8. RabbitMQ播放模块! 构架
  9. Win32 程序运行原理
  10. 如何反映两条曲线的拟合精度_用水平仪如何检测导轨的直线度?
  11. 127.0.0.1 myz.php,XXE漏洞总结 · MYZ’s Blog
  12. linux中pri=100,浅析Linux中PRI和NI的关系
  13. div+css与table布局
  14. linux安装oracle
  15. 哪个相机可以拍gif动图_你见过最搞笑的gif是什么?那些搞笑的动图都是用什么gif制作app制作的?...
  16. 真正的Maven经常使用命令
  17. NERO8.0刻录系统光盘
  18. 安全加密 - 加密算法 - 摘要算法 - 秘钥交换协议 - 量子加密
  19. java开发的格式与书写规范
  20. Mybatis使用关联查询由于表名字段重复导致的问题

热门文章

  1. Linux工作笔记-使用find和grep检索文件或子文件中是否包含指定字符串
  2. C++与QML交互(信号与槽通知QML,C++注册QML,QML结点映射C++类)
  3. Qt学习笔记-http服务的初步认识(使用程序下载网站上的图片)
  4. android 侧滑效果,android 侧滑效果
  5. java简单编程_「4」Java简单编程
  6. linux中时间片,能讲一下在Linux系统中时间片是怎么分配的还有优先级的具体算法是...
  7. Hyper-v和VMware 兼容问题
  8. 服务器开机忘记密码怎么修改,服务器忘记mysql密码怎么修改?
  9. linux simple这个目录哪来的,Arch Linux 碎碎念
  10. spark-sql createOrReplaceTempView 和createGlobalTempView区别