深度学习之神经网络的结构
一、神经网络的结构
二、神经网络的变种
①convolutional neural network(卷积神经网络)---->good for image recognition(擅长图像识别)
②long short-term memory network(长短期记忆网络)---->good forspeech recognition(擅长语音识别)
③最简单的原版---->多层感知机(MLP)
三、神经网络的介绍
神经元网络之名来源于人的大脑,那么它的神经元指的是什么呢?相互的神经元之间又是如何连接的呢?
对于神经元而言,我们可以理解为一个用来装数字的容器,装着的数字在0到1之间:
例子:
神经元中装着的数字代表对应的像素的灰度值,其中0代表纯黑像素,1代表纯白像素,我们把神经元里装着的数叫做‘激活值(activation)’
神经网络的最后一层的十个神经元分别代表0到9这十个数字,它们的激活值同理都在0到1之间,这些值代表系统认为输入的图像对应着的哪个数字的可能性
网络中间还有几层称之为‘隐含层’,里面进行着处理识别数字的具体工作
神经网络工作的时候,上一层的激活值决定下一层的激活值,所以说神经网络处理信息的核心机制是一层的激活值是通过怎样的运算,算出下一层的激活值的。某种程度上这是模仿生物中神经元组成的网络:某些神经元的激发就会促使另一些神经元的激发。
对于一个已经训练好了的神经网络(可以识别数字)而言,大体过程是这样的:
①如果你的输入图像是28x28=784,那么首先在你的网络输入层的784个神经元处输入了784个代表输入图像各像素的灰度值:
②接着,这一层激活值图案会让下一层的激活值产生某些特殊的图案(注:这里的‘图案’pattern等价于‘模式识别’中的‘模式’)
四、为何就觉得这种层状结构就可以做到智能判断呢?
当人类在识别数字的时候,我们是在组合数字的各个部件:
在理想情况下,我们希望倒数第二层中的各个神经元能分别对应一个笔画部件,这样一来当我们输入一个9或者8这种带圈的数字时,某一个神经元的激活值就会接近1,而且我并不特指某种样子的圈,而是希望这种所有位于图像顶部的圆圈图案都能点亮这个神经元,这样一来,从第三层到最后一层,我们只要学习哪些部件能组合出哪个数字即可。
识别圆圈的任务同理可以拆分成更细微的问题,一种合理的方法便是首先识别出数字图形中更小的边:
于是我们希望也许网络第二层的各个神经元就能对应上各种各样的短边:
如果神经网络真的能够识别出这类边缘和图案,它就能很好的运用到其他的图像识别任务上来。
甚至不光是图像识别,世界上各种人工智能的任务都可以转化为抽象元素,一层层的抽丝剥茧,就比如语音识别:
语音识别就是从原音频中识别出特殊的声音,组合成特定的音节,再组合成单词再组合成短语,以及更加抽象的概念
转载于:https://www.cnblogs.com/koushihao/p/7905508.html
深度学习之神经网络的结构相关推荐
- 3Blue1Brown深度学习笔记 深度学习之神经网络的结构 Part 1 ver 2.0
神经元 3B1B先讨论最简单的MLP(多层感知器),只是经典的原版,就已经能识别手写数字. 这里一开始我们把神经元看作装有数字的容器,装着一个0~1之间的数字.但是最后更准确一些,我们把神经元看作一个 ...
- 深度学习卷积神经网络重要结构之通道注意力和空间注意力模块
#主要原理 提出CBAM的作者主要对分类网络和目标检测网络进行了实验,证明了CBAM模块确实是有效的. 以ResNet为例,论文中提供了改造的示意图,如下图所示: #CMAB模块实现,依据上面原理 # ...
- 【深度学习】如何从结构出发更好的改进一个神经网络(二)
[深度学习]如何从结构出发更好的改进一个神经网络(二) 文章目录 1 空洞卷积(dilated convolution) 2 PReLU 3 LeakyReLU可以解决神经元"死亡" ...
- 【深度学习】如何从结构出发更好的改进一个神经网络
[深度学习]如何从结构出发更好的改进一个神经网络 文章目录 1 降采样和升采样 2 UNet++模型诞生 3 参数多了是导致UNet++比UNet好吗 4 一些思路 5 改进卷积结构5.1 转置卷积5 ...
- 数据不够怎么训练深度学习模型?不妨试试迁移学习 ——重用神经网络的结构2...
数据不够怎么训练深度学习模型?不妨试试迁移学习 本质就是这个图!pretrained model就是你截取的部分神经网络模型(迁移学习),而nanonet就是你自己加入的网络层. 随着深度学习技术在机 ...
- 深度学习(1)基础1 -- 深度学习与神经网络基础
目录 一.深度学习与神经网络 1.深度学习定义 2.神经网络 3.深度学习过程 4.深度学习功能 二.深度学习应用 三.分类数据集推荐 一.深度学习与神经网络 1.深度学习定义 深度学习(deep l ...
- 人工智能、机器学习、深度学习和神经网络的区别
人工智能 背景:人工智能最初可以追溯至1956年,当时多名计算机科学家在达特茅斯会议上共同提出了人工智能的概念.在随后几十年中,人工智能一方面被认为是人类文明未来的发展方向,另一方面也被认为是难以企及 ...
- 一文掌握深度学习、神经网络和学习过程的历史
来源:算法与数学之美 本质上,深度学习是一个新兴的时髦名称,衍生于一个已经存在了相当长一段时间的主题--神经网络. 从20世纪40年代开始,深度学习发展迅速,直到现在.该领域取得了巨大的成功,深度学习 ...
- 零基础入门深度学习(3) - 神经网络和反向传播算法
无论即将到来的是大数据时代还是人工智能时代,亦或是传统行业使用人工智能在云上处理大数据的时代,作为一个有理想有追求的程序员,不懂深度学习(Deep Learning)这个超热的技术,会不会感觉马上就o ...
最新文章
- Netty @Sharable的使用
- MySQL这三道常见的面试题,你有被问过吗?
- Python爬虫利器五Selenium用法
- html鼠标自动向下滑动,基于JavaScript实现鼠标向下滑动加载div的代码
- xenCenter创建镜像库和挂载硬盘
- 景观设计常用的SU插件(Sketchup)
- 分页显示java_java分页实现 怎样用java实现分页显示?
- 如何准备全国计算机二级Python,二级Python考试技巧
- 过来看!2021年物联卡资费标准,附:套餐价格+卡板价格
- FANUC机器人的奇异点回避功能说明
- linux桌面只运行浏览器,分享|4 个 Linux 桌面上的轻量级图像浏览器
- decelerate(decelerates)
- 用Scipy实现K-means聚类算法
- python 利用cip.cc查询IP归属地
- 突发!ST再发涨价函!6月1日起全线涨价!
- Oracle Grid Infrastructure架构
- IT学习的网站和工具
- Oracle-OGG trail 文件大小引起的进程异常 OGG-01172
- 基于stm32的两轮自平衡小车1(模块选型篇)
- 关于NXP 汽车ABS ASIC芯片BA13系列轮速部分驱动