这几天每天花了点时间看完了吴恩达的深度学习课程视频。目前还只有前三个课程，后面的卷积神经网络和序列模型尚未开课。课程的视频基本上都是十分钟出头的长度，非常适合碎片时间学习。

一直以为深度学习的重点在于设计精巧、神秘的算法来模拟人类解决问题。学了这门课程才明白如何根据实际问题优化、调整模型更为重要。事实上，深度学习所使用的核心算法几十年来都没变过。

什么是机器学习呢?以二类分类监督学习为例，假设我们已经有了一堆训练数据，每个训练样本可以看作n维空间里的一个点，那么机器学习的目标就是利用统计算法算出一个将这个n维空间分成两个部分(也就是把空间切成两半)的分界面，使得相同类别的训练数据在同一个部分里(在分界面的同侧)。而所用的统计算法无非是数学最优化理论的那些算法，梯度下降法等等。

在机器学习的模型中，神经网络是一个比较特殊的模型。因为它比较万能。万能二字可不是随便说说的，有定理为证，万能近似定理说，当神经网络的隐藏单元足够多，它就能逼近任意函数。也就是说，只要提供的训练数据量充足，就一定能用一个隐藏单元够多的神经网络去拟合这些训练数据。然而神经网络也有一个很严重的缺点：收敛速度太慢。这一缺点导致很长时间以来神经网络基本上都只能当作理论的标杆而很少被应用于实际问题。

近年来神经网络的兴起得益于三点：1. 算法进展;2. 大数据;3. 硬件提升。这三点使得神经网络(特别是深层网络)的训练速度大幅度提升。前面有说到，模型优化调整过程对于模型的建立至关重要。使用机器学习解决实际问题是一个持续迭代探索优化的过程，需要不断地试错。就好比在走迷宫，你不可能一开始就知道正确的路线在哪，只能加快步伐，尽可能快，尽可能早地走过每一条死路，并祈祷出口是存在着的。优化调整需要反复地训练模型，观察结果。在以前，一次训练可能耗时几个月甚至几年，这种情况下进行迭代调优的时间成本是不可接受的。而现在一次迭代可能只需要很短的一段时间，同时并发技术也使得同时训练不同参数的模型的方案变得可行。快速迭代，优化调整，使神经网络能够越来越多的应用于各种实际问题。

吴恩达的课程数学上是比较基础的。课程前面部分讲解了神经网络相关的主要算法，后面则侧重于讲工程上如何使用各种策略来调整优化模型使之能够快速地拟合实际问题。下图是对这门课主要知识点的总结。放在这儿以后回头温习用。

干货丨吴恩达深度学习课程的思维导图总结相关推荐

  1. 【DeepLearning】吴恩达深度学习课程笔记思维导图

    查看全文 http://www.taodudu.cc/news/show-4249537.html 相关文章: 吴恩达机器学习--反向传播算法 2018滴水LUA手游脚本制作实战视频教程 Unity3 ...

  2. 吴恩达深度学习课程的漫画版来了！（漫画、视频、笔记都可以下载了！）

    吴恩达深度学习课程,个人认为是对初学者最友好的课程,非常系统.初学者如果希望快速入门,建议从这门课开始.由于是视频课,除了课程笔记之外,可以先看看课程漫画,更有助于理解. 尽管是英文版,但英文水平达到 ...

  3. 360题带你走进深度学习！吴恩达深度学习课程测试题中英对照版发布

    吴恩达的深度学习课程(deepLearning.ai)是公认的入门深度学习的宝典,本站将课程的课后测试题进行了翻译,建议初学者学习.所有题目都翻译完毕,适合英文不好的同学学习. 主要翻译者:黄海广 内 ...

  4. github标星8331+：吴恩达深度学习课程资源（完整笔记、中英文字幕视频、python作业，提供百度云镜像！）...

    吴恩达老师的深度学习课程(deeplearning.ai),可以说是深度学习入门的最热门课程,我和志愿者编写了这门课的笔记,并在github开源,star数达到8331+,曾经有相关报道文章.为解决g ...

  5. 神经网络隐藏层个数怎么确定_含有一个隐藏层的神经网络对平面数据分类python实现（吴恩达深度学习课程1第3周作业）...

    含有一个隐藏层的神经网络对平面数据分类python实现(吴恩达深度学习课程1第3周作业): ''' 题目: 建立只有一个隐藏层的神经网络, 对于给定的一个类似于花朵的图案数据, 里面有红色(y=0)和 ...

  6. 吴恩达深度学习课程笔记（初步认识神经网络）

    吴恩达深度学习课程笔记1 课程主要内容 1.神经网络与深度学习介绍 2.Improving Deep Neural Networks:超参数调整,正则化,优化方法 3.结构化机器学习工程:比如如何分割 ...

  7. 吴恩达深度学习课程之第四门课 卷积神经网络 第二周 深度卷积网络

    本文参考黄海广主编针对吴恩达深度学习课程DeepLearning.ai <深度学习课程 笔记 (V5.1 )> 第二周 深度卷积网络 2.1 为什么要进行实例探究?(Why look at ...

  8. 吴恩达深度学习课程笔记（四）：卷积神经网络2 实例探究

    吴恩达深度学习课程笔记(四):卷积神经网络2 实例探究 吴恩达深度学习课程笔记(四):卷积神经网络2 实例探究 2.1 为什么要进行实例探究 2.2 经典网络 LeNet-5 AlexNet VGG- ...

  9. 吴恩达深度学习课程笔记－3

    吴恩达深度学习课程笔记-3 src="http://nbviewer.jupyter.org/github/HuaGuo1992/Blog/blob/master/%E5%90%B4%E6% ...

最新文章

  1. 高等数学：第十章 曲线积分与曲面积分（3）高斯共识、通量、散度、斯托克斯共识、环流量、旋度
  2. js中同时得到整数商及余数_js和vue实现时分秒倒计时的方法
  3. python的标准类型内建函数_Python随手笔记之标准类型内建函数
  4. Odoo快速部署 附Odoo的Docker启动脚本
  5. 【11.18总结】从SAML出发在重定向中发现的XSS漏洞
  6. mosquitto查看订阅记录_Mosquitto\Client
  7. 删除所有的.svn 文件
  8. java 的数据类型转换_java数据类型转换汇总
  9. 10大黑客专用的 Linux 操作系统...
  10. 普及一下IPTV行业
  11. Markdown latex语法合集
  12. 数值分析(9)：数值积分之Newton-Cotes求积公式和复合求积公式
  13. XCELSIUS例子(CX钻取).
  14. 电脑视频加水印软件 视频消重
  15. Git学习笔记之三：Git 工作区、暂存区和版本库
  16. Go语言基础数据类型所占内存大小
  17. 【渝粤教育】广东开放大学 工程经济 形成性考核
  18. java 配置全局过滤器,如何为Spring Cloud Gateway加上全局过滤器
  19. 【20210805】【数据分析】标称型数据和数值型数据
  20. 读IDEO 设计改变一切的思考

热门文章

  1. 唐杰：AI 未来靠迭代
  2. 重构广义应用数学：人工智能，数学发展的重大机遇
  3. 然后Denton et al, 2015 搞出了非常NB的改进版本
  4. 考研成绩查询系统（jsp、mysql、java）
  5. 数论重大突破：120年后，希尔伯特的第12个数学难题借助计算机获得解决
  6. 用GAN还原语义标注图！还能手动改细节（附论文、代码）
  7. LeetCode: 108. Convert Sorted Array to Binary Search Tree
  8. 哥德尔90年前的「不完备性定理」，奠定了计算机与AI的理论基础
  9. 史上最强神经网络绘制神器来啦！一系列暗黑操作！
  10. 刚刚，“达摩院2020十大科技趋势”正式发布！