为什么是“深度”学习而不是宽度？

为什么是深度而不是宽度？

先说说我个人的理解，如下图所示，圆圈表示神经元，有两种方式。第一种，只有一层神经层，有8个神经元；第二种方式，有两层神经层，分别有2个和4个神经元。相比之下，第一种更“宽”更“浅”，第二种更“窄”更“深”。对于每个输入，两种方式都可能产生8种结果(第一种：8*1；第二种：2*4)，但是第二种方式的神经元总数更少。

因此，在神经元数目相同的情况下，“深度”学习出现的情况会更多，效果也会更好、更全面。

多说一句，在操作系统课程中，内存管理中多级页表技术来节省空间也与“深度”这个问题原理相同。

下面这张图是《深度学习入门教程》中看到的，是对上面这个问题的解释，这里与逻辑门类比，与上面的解释本质是一样的。

为什么是“深度”学习而不是宽度？相关推荐

仿真的数据能否用来深度学习_数字孪生弥合了深度学习的数据鸿沟
点击上方"蓝色字体",选择 "设为星标" 关键讯息,D1时间送达! 随着企业开始使用可将其数据投入使用的深度学习(DL)项目,他们必须保护这些数据,而数字孪生是 ...
python类的使用的生物学应用_当AI遇到生物-深度学习在生物研究中的应用案例列表...
有可能改变未来的一项技术之一是基因科技,据麦卡锡去年发布的一份报告,预计到2025年,全球将会累计产生10亿人次的全基因组数据,而检测基因的成本将下降到接近为0.考虑到每一个人的全基因组数据将会达到1 ...
【AI不惑境】网络的宽度如何影响深度学习模型的性能？
大家好,这是专栏<AI不惑境>的第三篇文章,讲述模型宽度与模型性能的关系. 进入到不惑境界,就是向高手迈进的开始了,在这个境界需要自己独立思考.如果说学习是一个从模仿,到追随,到创造的过程 ...
为什么深度学习（Deep Learning）要使用GPU而不是CPU？
从上述两张图可以看到,GPU的ALU(运算单元)数量远多于CPU,但是GPU的Control要远远少于CPU,这使得GPU的单Core的自由度要远远低于CPU. 在设计目标上,CPU目标是是并行执行几 ...
深度学习笔记（七）：网络宽度（卷积核个数）的一些想法
文章目录一.前言二.网络深度的意义三.宽度的意义四. 网络宽度设计 4.1 网络宽度的下限在哪? 4.2 网络宽度对模型性能的影响 4.3 网络宽度和深度谁更加重要? 五.如何加有效地利用宽度 ...
网络的宽度如何影响深度学习模型的性能？
大家好,这是专栏<AI不惑境>的第三篇文章,讲述模型宽度与模型性能的关系. 进入到不惑境界,就是向高手迈进的开始了,在这个境界需要自己独立思考.如果说学习是一个从模仿,到追随,到创造的过程 ...
TVM 优化 ARM GPU 上的移动深度学习
TVM 优化 ARM GPU 上的移动深度学习随着深度学习的巨大成功,将深度神经网络部署到移动设备的需求正在迅速增长.与桌面平台上所做的类似,在移动设备中使用 GPU 既有利于推理速度,也有利于能源 ...
深度学习到底有哪些卷积？
深度学习到底有哪些卷积? 深度学习中不同种类的卷积(比如 2D / 3D / 1x1 /转置/扩张(Atrous)/空间可分/深度可分/平展/分组/混洗分组卷积),能帮理解实际的工作方式. 总结深度学 ...
语义分割：基于openCV和深度学习（二）
语义分割:基于openCV和深度学习(二) Semantic segmentation in images with OpenCV 开始吧-打开segment.py归档并插入以下代码: Semanti ...
深度学习常见问题解析
深度学习常见问题解析计算机视觉与自动驾驶今天一.为什么深层神经网络难以训练? 1.梯度消失.梯度消失是指通过隐藏层从后向前看,梯度会变得越来越小,说明前面层的学习会显著慢于后面层的学习,所以学习 ...

为什么是“深度”学习而不是宽度？

为什么是“深度”学习而不是宽度？相关推荐

最新文章

热门文章