# 吴恩达:初学者如何进入深度学习领域? #

一个人是如何进入深度学习领域的呢?虽然大多数都是自学但是仍得益于专业化的设计。什么是序列模型?什么是注意力模型?是不是非得微积分才能理解这些概念,其实如果只在电脑上操作两个矩阵相乘只需要高中知识就够了。

当然了,深入学习还需要线性代数的支撑,需要了解非常基本的知识,了解一些编程。但是有人已经做了机器学习的调用,所以进行深度学习非常容易。

初学者在学习人工智能的时候,应该多实践,了解算法之间的不同之处,一开始不要费心去收集数据。在学习的过程中要进行自我测试,花时间修改架构,尝试新东西,高效的构建神经网络,但规模也不要太大,神经网络的规模要在你可支出的范围之内即可。

你可以在前六个月建立一个完整项目,眼光不要只放在数据这一个小的方面。必须着手构建实用的机器学习的系统思维框架,打个比方,我们在学习编程的时候哦,必须必须学习一些语法,Python也好,C++也好。但同样重要的是,也许编码中更重要的部分是理解如何将这些代码融合在一起。什么时候应该在函数列中放置一些东西?

你什么时候不放置?什么样的框架能让程序员更加高效?我记得当我在卡内基梅隆大学读本科时,我的一个朋友会先试着用代码来调试他们的代码。他每一行都要注意语法错误。语法错误是可怕的,应该学习如何调试。另外,机器学习程序中调试的方式与二进制搜索方式非常不同。

非常擅长调试机器学习算法的人,会让某些东西工作起来的速度很容易就快了10倍,也许是几百倍,他们调试的过程非常高效。与学习数学类似,深度学习的一个挑战是,有太多的的概念。如果你忽略了概念,那么你就可能弄不清后面要做的事情的前提条件。(雷锋网)

因此,在深度学习的专业化学习中,要尽量打破概念,最大限度提高可理解性。这样的话,当深入学习时,就会有足够的信心。另外,我发现,如果我尝试教给学生最有用的技巧,并让他们即刻使用,就会缩短他们“强制”学习的时间。现在的世界变化太快了,也许几年的时间就会天翻地覆,但我认为我们还需要更多的进行强化学习。

深度学习令人如此兴奋,但人工智能团队不应该只使用深度学习,我的团队就会使用一系列的工具。有时候我们使用PC电脑,试图在PC上找出解决问题的原因,有时候使用代理模型,有时候使用草稿,这里面或许会有一些对行业有巨大影响的内容。

多样化的技能可以帮助我们发现更适用解决问题的工具。在学术方面我也有期望。假如我只做学术,并且有无限的预算,不用担心短期的影响的话,我会把所有的精力都花在研究无监督学习上,因为无监督学习是一个美丽的想法,它让人兴奋。举一个自监督学习的例子:我在网上抓取了一些无标签的图像数据,数据的种类各种各样,那么我会将每张图片旋转、翻转,然后训练一个有监督的神经网络预测图片原来的方位。

因为旋转了图片,所以产生的有标签的数据就是无限多。研究人员已经发现,通过无标签数据和捏造标签数据集,然后训练一个大型的新网络,采用隐藏层表示并使用迁移学习能够将其转移到另一个强大的算法上面。无监督学习越来越重要,并且在现实世界里发挥着作用,尤其是在计算机视觉领域,此概念融合其他学科的概念会让人兴奋。

我对稀疏编码也非常感兴趣,我看到过一个慢特征分析,其想法可以追溯到我们十年前的工作内容,但当时我们都被监督学习所分散精力,所以希望研究者可以围绕主题探索更多的工作,以便能够出圈。

2020-03-11 11:34:46

吴恩达:初学者如何进入深度学习领域?相关推荐

  1. 吴恩达《神经网络与深度学习》精炼笔记(5)-- 深层神经网络

    上节课我们主要介绍了浅层神经网络.首先介绍神经网络的基本结构,包括输入层,隐藏层和输出层.然后以简单的2 layer NN为例,详细推导了其正向传播过程和反向传播过程,使用梯度下降的方法优化神经网络参 ...

  2. 吴恩达《神经网络与深度学习》精炼笔记(4)-- 浅层神经网络

    上节课我们主要介绍了向量化.矩阵计算的方法和python编程的相关技巧.并以逻辑回归为例,将其算法流程包括梯度下降转换为向量化的形式,从而大大提高了程序运算速度.本节课我们将从浅层神经网络入手,开始真 ...

  3. 吴恩达【神经网络和深度学习】Week4——深层神经网络

    文章目录 Deep Neural Network 1.Deep L-layer Neural Network 2.Forward Propagation in a Deep Network 3.Get ...

  4. 吴恩达《神经网络和深度学习》第二周编程作业—用神经网络思想实现逻辑回归

    吴恩达<神经网络和深度学习>-用神经网络思想实现逻辑回归 1 安装包 2 问题概述 3 学习算法的一般架构 4 构建算法的各个部分 4.1 激活函数 4.2 初始化参数 4.3 前向和后向 ...

  5. 吴恩达《神经网络和深度学习》第四周编程作业—深度神经网络应用--Cat or Not?

    吴恩达<神经网络和深度学习>- 深度神经网络应用--Cat or Not? 1 安装包 2 数据集 3 模型的结构 3.1 两层神经网络 3.2 L层深度神经网络 3.3 通用步骤 4 两 ...

  6. 吴恩达老师机器学习和深度学习课程文字版下载

    有人把吴恩达老师的机器学习课程和深度学习课程做成了文字版,提供pdf下载,Github获得21K+12.8Kstar! 现在提供下载! 获取方式:扫码进入公众号,回复"pdf2"即 ...

  7. 完结撒花!吴恩达DeepLearning.ai《深度学习》课程笔记目录总集

    作者: 大树先生 博客: http://blog.csdn.net/koala_tree 知乎:https://www.zhihu.com/people/dashuxiansheng GitHub:h ...

  8. 永久免费!吴恩达刚公布的深度学习课程上线网易云课堂

    原来中标的是网易云课堂! 6 月 23 日,吴恩达宣布离开百度三个月后的创业项目:Deeplearning.ai,8 月 8 日,吴恩达的最新课程"Deep Learning Special ...

  9. 【吴恩达deeplearning.ai】深度学习(7):卷积神经网络

    计算机视觉(Computer Vision)是一门研究如何教机器"看"的科学,计算机视觉研究相关的理论和技术,试图创建能够从图像或者多维数据中获取"信息"的人工 ...

  10. Coursera吴恩达《神经网络与深度学习》课程笔记(1)-- 深度学习概述

    红色石头的个人网站:redstonewill.com 吴恩达(Andrew Ng)相信大家都不陌生了.8 月 8 日,吴恩达在他自己创办的在线教育平台 Coursera 上线了他的人工智能专项课程(D ...

最新文章

  1. lab_2 Selenium
  2. Codeforces 352B - Jeff and Periods
  3. 【opencv】经典的细化提取骨架理论及源代码
  4. Eclipse代码自动补全
  5. 通讯接口应用笔记3:使用W5500实现Modbus TCP服务器
  6. GDB调试带参数argc argv的程序
  7. php 什么时候使用单例,php什么时候使用单例模式
  8. SQL SERVER 2008的转置函数PIVOT
  9. HTML5新增的视频元素与音频元素
  10. java吃处理器吗_java – 为什么eclipse几乎没有吃掉所有CPU的原因
  11. 好用的文本编辑器推荐
  12. C++ for循环嵌套 实现 打印10行10列星图
  13. 如何理解Ture Time
  14. 台湾POWEREX电源拆解测试,告诉发烧友什么叫专业
  15. FlowNet:使用卷积网络学习光流
  16. Xadmin文档(二)
  17. uniapp提示用户开启定位,跳转到开启定位页面
  18. 2018最新Go语言实战抽奖系统
  19. 06_02_任务三:Spring JDBCTemplate 声明式事务
  20. 理解RHEL上安装oracle的配置参数 :/etc/security/limits.conf, /etc/profile, /etc/pam.d/login

热门文章

  1. 树状笔记软件for linux,Ubuntu 14.04安装开源树状笔记管理软件 WikidPad 2.2
  2. jieba详细使用说明
  3. np.nan is an invalid document, expected byte or unicode string
  4. 信息理论基础 周炯槃 常迥
  5. numpy向量加一个常数=向量中的每个值加上这个常数,最后返回一个同维的向量
  6. 关于Java的Classpath详解
  7. 智源论坛 | 知识与认知图谱(5月30日,活动报名)
  8. 什么样的数学问题可以“下金蛋”?
  9. 算法——计算的灵魂(《算法》一本写了近40年的书)
  10. 亚马逊专家揭秘:如何建立自动检测乳腺癌的深度学习模型