2018-3-21李宏毅机器学习视频笔记（十三）--“Hello Wrold” of Deep learning

Keras：

有关的介绍：总的来说就是一个深度学习框架

keras - CSDN博客

https://blog.csdn.net/xiaomuworld/article/details/52076202

软件工程中的框架：一种可复用的设计构件（从宏观上大体结构的一种规定约束）

软件工程中的框架扫个盲嘿嘿 - CSDN博客
https://blog.csdn.net/molitiantang/article/details/7868102

每一个epoch中会Update很多的参数，因为每一个batch被选择之后就会进行计算Loss Function然后进行参数的更新

SGD的速度比较会，上面的例子就是一个SGD，虽然SGD的方向是不稳定的。

使用Mini-batch的主要原因就是实用性

问题：

为什么使用batch size比较大的时候速度回比较快？？

答：使用了平行运算，就是同时运算的。

为甚不让batch size 开到很大？、

答：cpu存储，当设置很大的时候实际是表现并不好

解释问题：当有batch的时候GPU是如何平行的加速？？

理论上这两中方法运算时间是一样的，但是事实上的运算时间会是第一种的越是第二种的两倍

故而有了GPU，一定要知道使用mini-batch，不然也没有加速

2018-3-21李宏毅机器学习视频笔记（十三）--“Hello Wrold” of Deep learning相关推荐

2018-3-21李宏毅机器学习视频笔记（十二）--Backpropagation
视频来源: 李宏毅机器学习(2017)_哔哩哔哩 (゜-゜)つロ干杯~-bilibili https://www.bilibili.com/video/av10590361/?p=14 复合函数求偏 ...
201-3-19李宏毅机器学习视频笔记七（游戏解释Gradient Descent）
视频部分: 视频7:使用帝国时代游戏解释Gradient Descent 李宏毅机器学习(2017)_哔哩哔哩 (゜-゜)つロ干杯~-bilibili https://www.bilibili.co ...
视频+笔记+能够跑通的代码，《李宏毅机器学习完整笔记》发布！
点击我爱计算机视觉标星,更快获取CVML新技术 [导读]关于机器学习的学习资料从经典书籍.免费公开课到开源项目应有尽有,可谓是太丰富啦,给学习者提供了极大的便利.但网上比比皆是的学习资料大部分都是英文 ...
ng机器学习视频笔记（十三） ——异常检测与高斯密度估计
ng机器学习视频笔记(十三) --异常检测与高斯密度估计 (转载请附上本文链接--linhxx) 一.概述异常检测(anomaly detection),主要用于检查对于某些场景下,是否存在异常内容 ...
喜大普奔：Datawhale开源项目《李宏毅机器学习完整笔记》发布了！
开源地址 https://github.com/datawhalechina/leeml-notes [导读]关于机器学习的学习资料从经典书籍.免费公开课到开源项目应有尽有,可谓是太丰富啦,给学习者提 ...
ng机器学习视频笔记（十四） ——推荐系统基础理论
ng机器学习视频笔记(十三) --推荐系统基础理论 (转载请附上本文链接--linhxx) 一.概述推荐系统(recommender system),作为机器学习的应用之一,在各大app中都有应用. ...
机器学习系列笔记十三: 集成学习/模型聚合
机器学习系列笔记十三: 集成学习/模型聚合文章目录机器学习系列笔记十三: 集成学习/模型聚合什么是集成学习 Voting Hard Voting 模拟实现Hard Voting 集成学习使用V ...
ng机器学习视频笔记（二） ——梯度下降算法解释以及求解θ
ng机器学习视频笔记(二) --梯度下降算法解释以及求解θ (转载请附上本文链接--linhxx) 一.解释梯度算法梯度算法公式以及简化的代价函数图,如上图所示. 1)偏导数由上图可知,在a点 ...
ng机器学习视频笔记（三） ——线性回归的多变量、特征缩放、标准方程法
ng机器学习视频笔记(三) --线性回归的多变量.特征缩放.标准方程法 (转载请附上本文链接--linhxx) 一.多变量当有n个特征值,m个变量时,h(x)= θ0+θ1x1+θ2x2-+θnxn ...

2018-3-21李宏毅机器学习视频笔记（十三）--“Hello Wrold” of Deep learning

2018-3-21李宏毅机器学习视频笔记（十三）--“Hello Wrold” of Deep learning相关推荐

最新文章

热门文章