Andrew Ng吴恩达深度学习Course_1笔记
基于吴恩达深度学习课程所记的相关笔记
目录
- 术语概念
- 第一周 深度学习概念
- 第二周 神经网络基础
- Notation
- logistic回归函数
- Loss function损失函数和Cost function成本函数
- 梯度下降法
- logistics回归中的梯度下降法
- 向量化logistics回归
- 损失函数cost(optional)
- 简单神经网络——判断图上是否是猫
- logistics回归图片识别流程图(以识别猫为例)
- 第三周 浅层神经网络
- Hidden layer隐藏层
- 隐藏节点
- 多个例子的向量化
- 向量化实现的矩阵表示
- 激活函数
- 激活函数的导数
- 神经网络的梯度下降算法
- 随机初始化
- 构建神经网络的一般方法
- 第四周 深层神经网络
- deep neural network
- 深层网络中的前向传播
- 核对矩阵维数
- 深层神经网络的构建
- 前向和反向传播
- 参数和超参数
- 构造深层网络及应用
- 基本步骤
- 课后作业
术语概念
NN: Neural Network神经网络
ReLU函数:修正线性单元
sigmoid函数: σ ( z ) \sigma(z) σ(z) = 1 1 + e − z \frac{1}{1+e^{-z}} 1+e−z1
SIMD:单指令多数据流
broadcasting:在python中使用numpy进行按位运算的时候,有一个小技巧可以帮助减少代码量——那就是broadcasting,广播机制。 简单来说,broadcasting可以这样理解:如果你有一个m * n的矩阵,让它加减乘除一个1 * n的矩阵,它会被复制m次,成为一个m * n的矩阵,然后再逐元素地进行加减乘除操作。同样地对m * 1的矩阵成立。行和列至少要有一个匹配。比如一个4 * 3的矩阵和一个3 * 2的矩阵相乘,就不能用broadcasting,只能用numpy. dot。
m:训练集规模
增大训练集大小不会对算法性能产生影响,反而可能有很大帮助;减小神经网络规模或许性能会更好。
成本函数cost function: J = 1 m ∑ i = 1 m L ( a (
Andrew Ng吴恩达深度学习Course_1笔记相关推荐
- Andrew Ng吴恩达深度学习Course_2笔记
术语概念 NLP::自然语言处理 CV(computer vision):计算机视觉 超参数: 正则化: Mini-batch:子训练集,面对训练集样本过多的情况,梯度下降迭代一次时间过长,因此分为多 ...
- 737 页《吴恩达深度学习核心笔记》发布,黄海广博士整理!
点击上方"AI有道",选择"置顶"公众号 重磅干货,第一时间送达 深度学习入门首推课程就是吴恩达的深度学习专项课程系列的 5 门课.该专项课程最大的特色就是内容 ...
- 深度学习入门首推资料--吴恩达深度学习全程笔记分享
本文首发于微信公众号"StrongerTang",可打开微信搜一搜,或扫描文末二维码,关注查看更多文章. 原文链接:(https://mp.weixin.qq.com/s?__bi ...
- 吴恩达深度学习课程笔记(初步认识神经网络)
吴恩达深度学习课程笔记1 课程主要内容 1.神经网络与深度学习介绍 2.Improving Deep Neural Networks:超参数调整,正则化,优化方法 3.结构化机器学习工程:比如如何分割 ...
- 吴恩达深度学习课程笔记(四):卷积神经网络2 实例探究
吴恩达深度学习课程笔记(四):卷积神经网络2 实例探究 吴恩达深度学习课程笔记(四):卷积神经网络2 实例探究 2.1 为什么要进行实例探究 2.2 经典网络 LeNet-5 AlexNet VGG- ...
- 免费分享全套吴恩达深度学习课程笔记以及编程作业集合
分享吴恩达深度学习全套 笔记 笔记来源于吴恩达老师课程中口述翻译,并包含板书.可以取代看视频,做到更快速学习. (部分目录) (部分目录) (板书) 编程作业 扫描二维码后台回复"0&quo ...
- 吴恩达深度学习课程笔记-3
吴恩达深度学习课程笔记-3 src="http://nbviewer.jupyter.org/github/HuaGuo1992/Blog/blob/master/%E5%90%B4%E6% ...
- [转载]《吴恩达深度学习核心笔记》发布,黄海广博士整理!
红色石头 深度学习专栏 深度学习入门首推课程就是吴恩达的深度学习专项课程系列的 5 门课.该专项课程最大的特色就是内容全面.通俗易懂并配备了丰富的实战项目.今天,给大家推荐一份关于该专项课程的核心笔记 ...
- 吴恩达深度学习课程笔记之卷积神经网络(2nd week)
0 参考资料 [1] 大大鹏/Bilibili资料 - Gitee.com [2] [中英字幕]吴恩达深度学习课程第四课 - 卷积神经网络_哔哩哔哩_bilibili [3] 深度学习笔记-目录 ...
最新文章
- 久未更 ~ 一之 —— 关于ToolBar
- 正确的理解iOS MVC
- Linux安装包deb和rpm格式,deb格式和rpm格式是什么?_网站服务器运行维护
- 九度oj 1523 从上往下打印二叉树
- vue属性_computed(计算属性)methods(方法)
- fpga map测试_一种基于SELECTMAP的可配置且高速的FPGA配置电路及实现方法与流程
- Hibernate之必须导入jar包
- 阿里P8亲自讲解!java分布式需要学什么技术
- matlab如何建立一个空矩阵,然后往里面赋值
- (总结)Linux下多行合并成一行,中间加分隔符
- GitHub 一周热点速览:前后端最佳实践
- Openssl s_server命令
- PowerDesigner将建好的数据表格导出到excel
- 2019年数据库系统工程师上午真题及答案解析
- dcs world f15c教学_教师成长 | PBL在幼儿英文绘本教学中的应用
- 一个可以直接套用的行星齿轮传动比(转速比)结论
- 通达信手机版分时图指标大全_通达信精选指标——挣开眼就买卖版指标详解
- DirectSound学习(二)--流式缓冲区
- 每日一题【62】导数-公切线问题
- 女人长的漂亮不如活的漂亮(Top60)