吴恩达《深度学习》 学习笔记1
1.2 什么是神经网络
本节从房价预测的例子讲起，如图1所示。
图1 房屋价格预测模型—单个神经元
已知几组房屋面积和价格之间的对应关系，想要构建一个根据房屋面积预测房屋价格的模型。最简单的模型是用一条直线进行拟合，由于房价不能为负数，所以在负值阶段取0值，这就是著名的”ReLU”函数。以上构建出的模型就是一个最简单的神经元（neuron）模型：给定一个输入x（房屋面积），喂给神经元后，得到输出y（房屋价格）。
在预测房价时，除了房屋面积外，还有很对因素会对其产生影响，例如卧室的数量、邮编、周边富裕程度等，这时候模型的输入变量就会有多个，需要多个神经元，如图2所示。
图2 房屋价格预测模型—多个神经元
从上往下，第一个神经元可以考虑房间的尺寸大小，第二个神经元考虑是否可以步行，第三个神经元考虑附近学校的质量，最终将这几个神经元的输出带入到一个神经元中，做出房价的预测。
在实际的神经网络中，神经元是否和某个输入连接是由这个模型自己决定的，所以实际的模型连接如图3所示。
图3 房屋价格预测模型—神经网络
这样就构建了一个用于预测房屋价格的神经网络模型。
1.3 用神经网络进行监督学习
监督学习是已知输入和输出的集合来训练模型的一种机器学习方法。
图4 监督学习应用领域
在房地产领域的房屋价格预测（使用标准神经网络）、在线广告的点击预测（使用标准神经网络）、图片分类（使用卷积神经网络）、语音识别（使用循环神经网络）、机器翻译（使用循环神经网络）及自动驾驶（更复杂的复合型神经网络）等。
标准神经网络（Standard NN）、卷积神经网络（Convolutional NN）和循环神经网络（Recurrent NN）在文献中的示意图见图5。
图5 文献中的不同类型神经网络示意图
结构化数据和非结构化数据如图6所示，左图为结构化数据，数据分类明确，结构规整。右图为非结构化数据，包括语音、图像、文本等。非结构化数据对计算机来说更难理解，但是深度神经网络的出现使得计算机的表现异常优秀。
图6 结构化数据和非结构化数据
1.4 为什么深度学习会兴起
神经网络和深度学习背后的理论已经发展了几十年了，但是为什么最近几年才突然火热起来呢？图7说明了背后的原因。
图7 规模驱动了深度学习进程
图中红线为传统的机器学习方法，如支持向量机、Logistic回归等，这些机器学习方法在数据量增大时，性能会逐渐提高，当数据规模到达一定程度时，性能表现会区域饱和，不再增加。而神经网络则会随着数据量的增加，性能不断提升，而且当神经网络的规模增大时，这种性能的增加更为明显。
近几年来，随着互联网、手机、物联网的发展，海量的数据在不断产生，这使得深度神经网络的表现异常出色。但是需要注意的是，当数据量较小时，人工设计的SVM等传统机器学习模型和深度神经网络模型的性能差异不明显，是上下浮动的。
总结起来，深度学习兴起的主要原因有三个方面：
1.数据 2.计算能力 3.算法
其中的数据是指大数据的出现，计算能力是指GPU等硬件设备的快速发展，算法是指不断涌现的新型算法在提升神经网络的训练效率，如ReLU激活函数等。
吴恩达《深度学习》 学习笔记1相关推荐
- [转载]《吴恩达深度学习核心笔记》发布，黄海广博士整理！
红色石头 深度学习专栏 深度学习入门首推课程就是吴恩达的深度学习专项课程系列的 5 门课.该专项课程最大的特色就是内容全面.通俗易懂并配备了丰富的实战项目.今天,给大家推荐一份关于该专项课程的核心笔记 ...
- 737 页《吴恩达深度学习核心笔记》发布，黄海广博士整理！
点击上方"AI有道",选择"置顶"公众号 重磅干货,第一时间送达 深度学习入门首推课程就是吴恩达的深度学习专项课程系列的 5 门课.该专项课程最大的特色就是内容 ...
- 799页！吴恩达深度学习笔记.PDF
吴恩达深度学习课程,是公认的最优秀的深度学习课程之一,目前没有教材,只有视频,本文提供完整笔记下载,这本笔记非常适合和深度学习入门. 0.导语 黄海广博士和同学将吴恩达老师深度学习视频课程做了完整的笔 ...
- 吴恩达深度学习课程的漫画版来了！（漫画、视频、笔记都可以下载了！）
吴恩达深度学习课程,个人认为是对初学者最友好的课程,非常系统.初学者如果希望快速入门,建议从这门课开始.由于是视频课,除了课程笔记之外,可以先看看课程漫画,更有助于理解. 尽管是英文版,但英文水平达到 ...
- github标星8331+：吴恩达深度学习课程资源（完整笔记、中英文字幕视频、python作业，提供百度云镜像！）...
吴恩达老师的深度学习课程(deeplearning.ai),可以说是深度学习入门的最热门课程,我和志愿者编写了这门课的笔记,并在github开源,star数达到8331+,曾经有相关报道文章.为解决g ...
- 深度学习入门首推资料--吴恩达深度学习全程笔记分享
本文首发于微信公众号"StrongerTang",可打开微信搜一搜,或扫描文末二维码,关注查看更多文章. 原文链接:(https://mp.weixin.qq.com/s?__bi ...
- 吴恩达深度学习课程笔记（初步认识神经网络）
吴恩达深度学习课程笔记1 课程主要内容 1.神经网络与深度学习介绍 2.Improving Deep Neural Networks:超参数调整,正则化,优化方法 3.结构化机器学习工程:比如如何分割 ...
- 在等吴恩达深度学习第5课的时候，你可以先看看第4课的笔记
大数据文摘作品 编译:党晓芊.元元.龙牧雪 等待吴恩达放出深度学习第5课的时候,你还能做什么?今天,大数据文摘给大家带来了加拿大银行首席分析师Ryan Shrott的吴恩达深度学习第4课学习笔记,一共 ...
- 吴恩达深度学习教程——中文笔记网上资料整理
吴恩达深度学习笔记整理 内容为网上博主博文整理,如有侵权,请私信联系. 课程内容: Coursera:官方课程安排(英文字幕).付费用户在课程作业中可以获得作业评分,每门课程修完可获得结课证书:不付费 ...
- 吴恩达深度学习资料 Quiz+ 编程+ ppt+学习笔记（可jupyter笔记本实战）
网上有很多关于吴恩达深度学习的资源(视频,或者是编程的讲解) 我找了很长时间,发现了可以进行自己应用jupyter笔记本进行编程的方式. 里面有每节课的Quiz以及应用jupyter笔记本进行每周的编 ...
最新文章
- Python学习笔记：开始Python编程
- js中的apply()、call() 和 bind()
- antd 设置表头属性_解决react使用antd table组件固定表头后，表头和表体列不对齐以及配置fixed固定左右侧后行高度不对齐...
- spring mvc学习（52）：json数据类型提交
- 简单的深度优先遍历和广度优先遍历
- cocos2d-x 3.0游戏实例学习笔记《卡牌塔防》第八部---怪物出场
- tensorflow-object-detection
- Java基础篇：嵌套 switch 语句
- Spring 在xml文件中配置Bean
- 中国政法大学政治与公共管理学院丛日云教授在毕业典礼上的演讲在网络上暴红，
- python decorator_python3（十八）decorator
- 美图秀秀5 android,美图秀秀Android版v1.4.5上线 优化拼图排版秀北爱
- 确定你的电脑是否支持安装64位操作系统
- Springboot实现拦截器与过滤器
- linux百度文字识别,基于Linux平台的图片文字识别系统
- 【汇正财经】两市缩量下跌
- css图片压缩不变形
- 《智能对话机器人开发实战20讲》--学习笔记--AIML基础功能拓展-与互联网的集成
- vue3 源码分析-运行流程分析
- 在线编辑PDF:GcPDF|PDF在线预览GrapeCity Documen PDF