吴恩达深度学习笔记4-Course1-Week4【深层神经网络】
深层神经网络(DNN):
一、深层神经网络
4层的神经网络:
二、前向与反向传播
前向 (forward propagation):
反向 (backward propagation):
notation:
n[l]:第l层的unit个数
W[l]:(n[l] , n[l−1])
b[l]:(n[l] , 1)
dW[l]:(n[l] , n[l−1])
db[l]:(n[l] , 1)
single example:
x:(n[0] , 1)
z[l]:(n[l] , 1)
a[l]=z[l]=dz[l]:(n[l] , 1)
multiple example:
x:(n[0] , m)
Z[l]:(n[l] , m)
A[l]=Z[l]=dZ[l]=dA[l]:(n[l] , m)
三、参数与超参数
参数(parameters):
训练网络得到的模型参数用于预测:W[l],b[l]
超参数(hyperparameters):
训练网络过程中所需要的的参数,超参数某种程度上决定着模型的参数 W[l],b[l] 的最终结果。
学习速率:α
迭代次数:N
隐藏层的层数:L
每一层的神经元个数:n[1],n[2],⋯
激活函数g(z)的选择
吴恩达深度学习笔记4-Course1-Week4【深层神经网络】相关推荐
- 吴恩达深度学习之二《改善深层神经网络:超参数调试、正则化以及优化》学习笔记
一.深度学习的实用层面 1.1 训练/开发/测试集 机器学习时代,数据集很小,可能100.1000.10000条,这种级别.可以按 70%.30% 划分训练集和测试集,训练后直接用测试集评估.或者按 ...
- 吴恩达深度学习课程-Course 2 改善深层神经网络 第三周 TensorFlow入门编程作业
虽然申请书的ddl临近,但还是先写写编程作业- 编程作业的代码用的是tf1,而我的环境为tf2,所以 TensorFlow入门 TensorFlow教程 1 - 探索Tensorflow库 1.1 - ...
- 吴恩达深度学习笔记3-Course1-Week3【浅层神经网络】
浅层神经网络: 一.浅层神经网络的表示 本文中的浅层神经网络指的是 two layer nn 即 one input layer + one hidden layer + one output lay ...
- 吴恩达深度学习笔记(四)
吴恩达深度学习笔记(四) 卷积神经网络CNN-第二版 卷积神经网络 深度卷积网络:实例探究 目标检测 特殊应用:人脸识别和神经风格转换 卷积神经网络编程作业 卷积神经网络CNN-第二版 卷积神经网络 ...
- 花书+吴恩达深度学习(十四)卷积神经网络 CNN 之经典案例(LetNet-5, AlexNet, VGG-16, ResNet, Inception Network)
目录 0. 前言 1. LeNet-5 2. AlexNet 3. VGG-16 4. ResNet 残差网络 5. Inception Network 如果这篇文章对你有一点小小的帮助,请给个关注, ...
- 花书+吴恩达深度学习(十二)卷积神经网络 CNN 之全连接层
目录 0. 前言 1. 全连接层(fully connected layer) 如果这篇文章对你有一点小小的帮助,请给个关注,点个赞喔~我会非常开心的~ 花书+吴恩达深度学习(十)卷积神经网络 CNN ...
- 799页!吴恩达深度学习笔记.PDF
吴恩达深度学习课程,是公认的最优秀的深度学习课程之一,目前没有教材,只有视频,本文提供完整笔记下载,这本笔记非常适合和深度学习入门. 0.导语 黄海广博士和同学将吴恩达老师深度学习视频课程做了完整的笔 ...
- 吴恩达深度学习笔记——卷积神经网络(Convolutional Neural Networks)
深度学习笔记导航 前言 传送门 卷积神经网络(Convolutional Neural Networks) 卷积神经网络基础(Foundations of Convolutional Neural N ...
- 吴恩达深度学习笔记——神经网络与深度学习(Neural Networks and Deep Learning)
文章目录 前言 传送门 神经网络与深度学习(Neural Networks and Deep Learning) 绪论 梯度下降法与二分逻辑回归(Gradient Descend and Logist ...
- 吴恩达深度学习笔记——结构化机器学习项目(Structuring Machine Learning Projects)
深度学习笔记导航 前言 传送门 结构化机器学习项目(Machine Learning Strategy) 机器学习策略概述 正交化(orthogonalization) 评价指标 数字评估指标的单一性 ...
最新文章
- 如何用Pandas处理文本数据?
- vue的自定义标签tag是什么意思啊_好好的衣服为什么洗一次就废,服装标签上的图标究竟是什么意思?...
- ConcurrentHashMap介绍
- 基于R的信用评分卡模型解析
- 下列哪个滤波器是非线性的_数字图像处理复习题(选择题及相应答案)
- 关于centos docker版本过低导致 is not a valid repository/tag: invalid reference format
- matlab读取其他位置,将文件的数据读取到matlab中,进行编辑,然后将其保存到其他位置...
- 12 PP配置-生产主数据-工艺路线相关-定义物料类型分配
- 游戏建模成熟期:在这个阶段,技术已经比较成熟了,可以独挡一面
- 本体学习的概念及目标
- SpringBoot2.X + SpringCache + redis解决乱码问题
- vector容器易错知识点集锦
- 组合数递推的计算方法 c语言,组合数公式的递推公式
- 什么是失血模型和充血模型?(DDD)
- python课程改进建议_关于python课程的浅显理解和一些小建议
- jquery 鼠标拖动排序Li或Table
- 数据正常运行之后,突然遇见:CiteSpace will re-run the process and keep non-empty intervals only.问题
- java数组初始化0_Java自学-数组 初始化数组
- c++ 多边形求交集代码(凸多边形与凸多边形交集)
- 【Unity】光照贴图动态加载