深度学习与神经网络的异同

1 相同点：
二者均采用分层结构，系统包括输入层，隐藏层（多层），输出层组成的多层网络，只有相邻层节点之间有连接，同一层以及跨层节点之间相互无连接，每一层都可以看作是一个logistic回归模型。
2 不同点：
（1）神经网络：特征映射到值，特征是人工挑选的。
输入层->多层隐藏层->输出层其输出层的维度与输入层一样
（a）采用BP算法调整参数，即采用迭代式算法来训练整个网络。随机设定初值，计算当前网络的输出，然后根据当前输出和样本真实标签之间的差去改变前面各层的参数，直到收敛；

（b）比较容易过拟合，参数比较难调整，而且需要不少的技巧。

（c）训练速度比较慢。在成熟比较少（小于等于3）的情况下效果并不比其他方法更优；

（2）深度学习：信号->特征->值。特征是由网络自己选择。
输入层 - 卷积层 -降维层（采样层） -卷积层 - 降维层 – … – 隐藏层 -输出层输出层的维度要比输入层的维度小很多（卷积降维）
从广义上说深度学习的网络结构也是多层神经网络的一种。传统意义上的多层神经网络是只有输入层、隐藏层、输出层。其中隐藏层的层数根据需要而定，没有明确的理论推导来说明到底多少层合适。
　　而深度学习中最著名的卷积神经网络CNN（由手工设计卷积核变成自动卷积核）。在原来多层神经网络的基础上，加入了特征学习部分，这部分是模仿人脑对信号处理上的分级的。具体操作就是在原来的全连接的层前面加入了部分连接的卷积层与降维层（采样层）。其中卷积层和降维层是对输入信号的加工，连接层（隐藏层）是实现与输出目标之间的映射。每个卷积层都包含多个特征映射，因此可以将深度学习理解为特征学习或表示学习。特征学习通过机器学习技术自身来产生好特征，这使得机器学习向“全自动数据分析”又前进了一步。

深度学习与神经网络的异同相关推荐

深度学习（1）基础1 -- 深度学习与神经网络基础
目录一.深度学习与神经网络 1.深度学习定义 2.神经网络 3.深度学习过程 4.深度学习功能二.深度学习应用三.分类数据集推荐一.深度学习与神经网络 1.深度学习定义深度学习(deep l ...
从神经元到神经网络、从神经网络到深度学习：神经网络、深度学习、神经元、神经元模型、感知机、感知机困境、深度网络
从神经元到神经网络.从神经网络到深度学习:神经网络.深度学习.神经元.神经元模型.感知机.感知机困境.深度网络目录从神经元到神经网络.从神经网络到深度学习神经网络:
针对深度学习（神经网络）的AI框架调研
针对深度学习(神经网络)的AI框架调研在我们的AI安全引擎中未来会使用深度学习(神经网络),后续将引入AI芯片,因此重点看了下业界AI芯片厂商和对应芯片的AI框架,包括Intel(MKL CPU). ...
DL：听着歌曲《成都》三分钟看遍主流的深度学习的神经网络的发展框架(1950~2018)
DL:听着歌曲<成都>三分钟看遍主流的深度学习的神经网络的发展框架(1950~2018) 视频链接:听着歌曲<成都>三分钟看遍主流的深度神经网络的发展框架(1950~2018) ...
深度学习（神经网络） —— BP神经网络原理推导及python实现
深度学习(神经网络) -- BP神经网络原理推导及python实现摘要 (一)BP神经网络简介 1.神经网络权值调整的一般形式为: 2.BP神经网络中关于学习信号的求取方法: (二)BP神经网络原理 ...
深度学习（神经网络）[1]——单层感知器
深度学习(神经网络)[1] -- 单层感知器算法描述 python实现示例运行结果可视化算法描述最原始的神经网络模型,类似于神经网络中的单个神经元,该算法局限性也很大,只适用于解决线性可分的 ...
人工智能、机器学习、深度学习和神经网络的区别
人工智能背景:人工智能最初可以追溯至1956年,当时多名计算机科学家在达特茅斯会议上共同提出了人工智能的概念.在随后几十年中,人工智能一方面被认为是人类文明未来的发展方向,另一方面也被认为是难以企及 ...
python神经网络教程16_Python深度学习之神经网络视频
Python深度学习之神经网络视频课程简介该阶段是深度学习的入门课程,主要介绍经典的深度学习框架TensorFlow的使用,IO操作,以及神经网络基础.卷积神经网络的相关知识,并用卷积神经网络原理 ...
01.神经网络和深度学习 W2.神经网络基础
文章目录 1. 二分类 2. 逻辑回归 3. 逻辑回归损失函数 4. 梯度下降 5. 导数 6. 计算图导数计算 7. 逻辑回归中的梯度下降 8. m个样本的梯度下降 9. 向量化 10. 向量化的更 ...
一文掌握深度学习、神经网络和学习过程的历史
来源:算法与数学之美本质上,深度学习是一个新兴的时髦名称,衍生于一个已经存在了相当长一段时间的主题--神经网络. 从20世纪40年代开始,深度学习发展迅速,直到现在.该领域取得了巨大的成功,深度学习 ...

深度学习与神经网络的异同

深度学习与神经网络的异同相关推荐

最新文章

热门文章