思维导图

本节课由机器学习过渡到深度学习。如果理解了机器学习的原理及算法的三步骤，就可以很自然地将ML的内容迁移到DL中。 因为ML与DL的学习步骤是完全一样的。最大的区别就是DL的学习函数变成了含有许多层的隐藏层。

神经网络

神经网络的最基本的单位叫做神经元。每一个神经元中都包含有一个函数(如sigmoid函数)。特征输入作为输入层（input layer），输入后与参数w和偏差b进行结合(如：wx+b)作为神经元的输入。输入神经元中就相当于是在神经元中进行了一个约束函数的计算。计算好的结果会作为输出进入下一层的神经元中。下一层神经元又有各自不同的w和b，与上层输出一起结合在该层的神经元中进行约束函数的计算。 一直到输出层（output layer）。输出层输出的结果就是最终的预测值y。

若继续往下深究，经过一次神经网络得到的预测值会与真实值进行损失函数Loss的计算。并可以通过优化(如：梯度下降)的方法更新神经网络中的w和b。通过不断地迭代，得到最终的w* 和 b*。

其实这样想来，就能顿悟：ML与DL确实有异曲同工之妙。

矩阵运算

一般来说，数据在模型中都是转换成向量的形式，以方便使用矩阵进行运算。而矩阵运算在计算机中能够很方便快速的计算出来。所以使用矩阵的形式，再结合GPU运算，就能极大提高训练的速度，缩短训练时间。

做法简说

总结来说，DL的输入和输出都是固定的。甚至，DL可以直接把所有特征丢进神经网络中，由神经网络来挑选它认为最佳的特征。因此在进行DL的研究任务时，我们最主要的任务就是设计其中的神经网络结构，比如：设计神经元的个数，每层神经网络应该放置多少个神经元，应该设计多少层神经网络，各层神经网络之间的连接方式，神经元里的约束函数设计…… 这么看来，DL的研究过程仍然任重道远。

下图为辨认图片中数字的举例说明。

李宏毅机器学习笔记——深度学习相关推荐

机器学习笔记 - 深度学习、对话机器人、微软机器人框架
一.对话机器人概述 1.相关技术路线 (1)基于模板的对话机器人基于模板的对话机器人是通过人工设定对话场景,并对每个应用场景编写一些有针对性的对话模板.基于模板的优点是准确度高,缺点是需要大量的人工 ...
李宏毅机器学习【深度学习】（12）【深度学习强力的解释2】
普遍性定理过去有一个理论告诉我们说,任何continuous function,它都可以用一层neural network来完成(只要那一层只要够宽的话).这是90年代,很多人放弃做deep lea ...
机器学习笔记——深度学习入门篇
前向传播与反向传播转载于:https://www.cnblogs.com/hdu-cpd/p/5988606.html
自学机器学习、深度学习、人工智能学习资源推大聚合
想要解决如何自学机器学习.深度学习和人工智能这一问题,首先要了解三个概念以及它们之间的关系. 人工智能:人工智能英文缩写为AI,它是研究.开发用于模拟.延伸和扩展人的智能的理论.方法.技术及应用系统的 ...
【李宏毅机器学习笔记】 17、迁移学习（Transfer Learning）
[李宏毅机器学习笔记]1.回归问题(Regression) [李宏毅机器学习笔记]2.error产生自哪里? [李宏毅机器学习笔记]3.gradient descent [李宏毅机器学习笔记]4.Cl ...
手机上的机器学习资源！Github标星过万的吴恩达机器学习、深度学习课程笔记，《统计学习方法》代码实现！...
吴恩达机器学习.深度学习,李航老师<统计学习方法>.CS229数学基础等,可以说是机器学习入门的宝典.本文推荐一个网站"机器学习初学者",把以上资源的笔记.代码实现做成 ...
下载量过百万的吴恩达机器学习和深度学习笔记更新了！（附PDF下载）
今天,我把吴恩达机器学习和深度学习课程笔记都更新了,并提供下载,这两本笔记非常适合机器学习和深度学习入门.(作者:黄海广) 0.导语我和同学将吴恩达老师机器学习和深度学习课程笔记做成了打印版,放在g ...
吴恩达老师的机器学习和深度学习课程笔记打印版
注意:下载笔记.视频.代码:请点击"阅读原文" 我和同学将吴恩达老师机器学习和深度学习课程笔记做成了打印版,放在github上,下载后可以打印. 公布了深度学习笔记的word和ma ...
新建网站了！Github标星过万的吴恩达机器学习、深度学习课程笔记，《统计学习方法》代码实现，可以在线阅读了！...
吴恩达机器学习.深度学习,李航老师<统计学习方法>,可以说是机器学习入门的宝典.本文推荐一个网站"机器学习初学者",把以上资源的笔记.代码实现做成了网页版,可以在线阅读 ...
吴恩达深度学习笔记_Github标星过万的吴恩达机器学习、深度学习课程笔记，《统计学习方法》代码实现，可以在线阅读了！...
吴恩达机器学习.深度学习,李航老师<统计学习方法>,可以说是机器学习入门的宝典.本文推荐一个网站"机器学习初学者",把以上资源的笔记.代码实现做成了网页版,可以在线阅读 ...

李宏毅机器学习笔记——深度学习

思维导图

神经网络

矩阵运算

做法简说

李宏毅机器学习笔记——深度学习相关推荐

最新文章

热门文章