深层神经网络(DNN):


一、深层神经网络

4层的神经网络:


二、前向与反向传播

前向 (forward propagation):

反向 (backward propagation):

notation:
n[l]:第l层的unit个数
W[l]:(n[l] , n[l−1])
b[l]:(n[l] , 1)
dW[l]:(n[l] , n[l−1])
db[l]:(n[l] , 1)

single example:
x:(n[0] , 1)
z[l]:(n[l] , 1)
a[l]=z[l]=dz[l]:(n[l] , 1)

multiple example:
x:(n[0] , m)
Z[l]:(n[l] , m)
A[l]=Z[l]=dZ[l]=dA[l]:(n[l] , m)


三、参数与超参数

参数(parameters):
训练网络得到的模型参数用于预测:W[l],b[l]

超参数(hyperparameters):
训练网络过程中所需要的的参数,超参数某种程度上决定着模型的参数 W[l],b[l] 的最终结果。

学习速率:α
迭代次数:N
隐藏层的层数:L
每一层的神经元个数:n[1],n[2],⋯
激活函数g(z)的选择

吴恩达深度学习笔记4-Course1-Week4【深层神经网络】相关推荐

  1. 吴恩达深度学习之二《改善深层神经网络:超参数调试、正则化以及优化》学习笔记

    一.深度学习的实用层面 1.1 训练/开发/测试集 机器学习时代,数据集很小,可能100.1000.10000条,这种级别.可以按 70%.30% 划分训练集和测试集,训练后直接用测试集评估.或者按 ...

  2. 吴恩达深度学习课程-Course 2 改善深层神经网络 第三周 TensorFlow入门编程作业

    虽然申请书的ddl临近,但还是先写写编程作业- 编程作业的代码用的是tf1,而我的环境为tf2,所以 TensorFlow入门 TensorFlow教程 1 - 探索Tensorflow库 1.1 - ...

  3. 吴恩达深度学习笔记3-Course1-Week3【浅层神经网络】

    浅层神经网络: 一.浅层神经网络的表示 本文中的浅层神经网络指的是 two layer nn 即 one input layer + one hidden layer + one output lay ...

  4. 吴恩达深度学习笔记(四)

    吴恩达深度学习笔记(四) 卷积神经网络CNN-第二版 卷积神经网络 深度卷积网络:实例探究 目标检测 特殊应用:人脸识别和神经风格转换 卷积神经网络编程作业 卷积神经网络CNN-第二版 卷积神经网络 ...

  5. 花书+吴恩达深度学习(十四)卷积神经网络 CNN 之经典案例(LetNet-5, AlexNet, VGG-16, ResNet, Inception Network)

    目录 0. 前言 1. LeNet-5 2. AlexNet 3. VGG-16 4. ResNet 残差网络 5. Inception Network 如果这篇文章对你有一点小小的帮助,请给个关注, ...

  6. 花书+吴恩达深度学习(十二)卷积神经网络 CNN 之全连接层

    目录 0. 前言 1. 全连接层(fully connected layer) 如果这篇文章对你有一点小小的帮助,请给个关注,点个赞喔~我会非常开心的~ 花书+吴恩达深度学习(十)卷积神经网络 CNN ...

  7. 799页!吴恩达深度学习笔记.PDF

    吴恩达深度学习课程,是公认的最优秀的深度学习课程之一,目前没有教材,只有视频,本文提供完整笔记下载,这本笔记非常适合和深度学习入门. 0.导语 黄海广博士和同学将吴恩达老师深度学习视频课程做了完整的笔 ...

  8. 吴恩达深度学习笔记——卷积神经网络(Convolutional Neural Networks)

    深度学习笔记导航 前言 传送门 卷积神经网络(Convolutional Neural Networks) 卷积神经网络基础(Foundations of Convolutional Neural N ...

  9. 吴恩达深度学习笔记——神经网络与深度学习(Neural Networks and Deep Learning)

    文章目录 前言 传送门 神经网络与深度学习(Neural Networks and Deep Learning) 绪论 梯度下降法与二分逻辑回归(Gradient Descend and Logist ...

  10. 吴恩达深度学习笔记——结构化机器学习项目(Structuring Machine Learning Projects)

    深度学习笔记导航 前言 传送门 结构化机器学习项目(Machine Learning Strategy) 机器学习策略概述 正交化(orthogonalization) 评价指标 数字评估指标的单一性 ...

最新文章

  1. 如何用Pandas处理文本数据?
  2. vue的自定义标签tag是什么意思啊_好好的衣服为什么洗一次就废,服装标签上的图标究竟是什么意思?...
  3. ConcurrentHashMap介绍
  4. 基于R的信用评分卡模型解析
  5. 下列哪个滤波器是非线性的_数字图像处理复习题(选择题及相应答案)
  6. 关于centos docker版本过低导致 is not a valid repository/tag: invalid reference format
  7. matlab读取其他位置,将文件的数据读取到matlab中,进行编辑,然后将其保存到其他位置...
  8. 12 PP配置-生产主数据-工艺路线相关-定义物料类型分配
  9. 游戏建模成熟期:在这个阶段,技术已经比较成熟了,可以独挡一面
  10. 本体学习的概念及目标
  11. SpringBoot2.X + SpringCache + redis解决乱码问题
  12. vector容器易错知识点集锦
  13. 组合数递推的计算方法 c语言,组合数公式的递推公式
  14. 什么是失血模型和充血模型?(DDD)
  15. python课程改进建议_关于python课程的浅显理解和一些小建议
  16. jquery 鼠标拖动排序Li或Table
  17. 数据正常运行之后,突然遇见:CiteSpace will re-run the process and keep non-empty intervals only.问题
  18. java数组初始化0_Java自学-数组 初始化数组
  19. c++ 多边形求交集代码(凸多边形与凸多边形交集)
  20. 【Unity】光照贴图动态加载

热门文章

  1. tvnewpro 病毒清除
  2. 学习笔记之-php编码技巧
  3. 【Finish】Python Day 2
  4. stm32f103c8t6移植uCOS Ⅲ出现Error: L6407W,解决方法:内核配置以减小代码规模
  5. XML和JSON两种数据交换格式的比较
  6. 学破解 一 PE格式之MS-DOS MZ header
  7. 聊一下我们团队的理念
  8. 不带参数的SQL语句执行方法
  9. c++中的new、operator new、placement new
  10. 01-sql优化及索引