基于吴恩达深度学习课程所记的相关笔记

目录

  • 术语概念
  • 第一周 深度学习概念
  • 第二周 神经网络基础
    • Notation
    • logistic回归函数
    • Loss function损失函数和Cost function成本函数
    • 梯度下降法
    • logistics回归中的梯度下降法
    • 向量化logistics回归
    • 损失函数cost(optional)
    • 简单神经网络——判断图上是否是猫
    • logistics回归图片识别流程图(以识别猫为例)
  • 第三周 浅层神经网络
    • Hidden layer隐藏层
    • 隐藏节点
    • 多个例子的向量化
    • 向量化实现的矩阵表示
    • 激活函数
    • 激活函数的导数
    • 神经网络的梯度下降算法
    • 随机初始化
    • 构建神经网络的一般方法
  • 第四周 深层神经网络
    • deep neural network
    • 深层网络中的前向传播
    • 核对矩阵维数
    • 深层神经网络的构建
    • 前向和反向传播
    • 参数和超参数
    • 构造深层网络及应用
      • 基本步骤
  • 课后作业

术语概念

NN: Neural Network神经网络

ReLU函数:修正线性单元

sigmoid函数: σ ( z ) \sigma(z) σ(z) = 1 1 + e − z \frac{1}{1+e^{-z}} 1+e−z1​

SIMD:单指令多数据流

broadcasting:在python中使用numpy进行按位运算的时候,有一个小技巧可以帮助减少代码量——那就是broadcasting,广播机制。 简单来说,broadcasting可以这样理解:如果你有一个m * n的矩阵,让它加减乘除一个1 * n的矩阵,它会被复制m次,成为一个m * n的矩阵,然后再逐元素地进行加减乘除操作。同样地对m * 1的矩阵成立。行和列至少要有一个匹配。比如一个4 * 3的矩阵和一个3 * 2的矩阵相乘,就不能用broadcasting,只能用numpy. dot。

m:训练集规模

增大训练集大小不会对算法性能产生影响,反而可能有很大帮助;减小神经网络规模或许性能会更好。

成本函数cost function: J = 1 m ∑ i = 1 m L ( a (

Andrew Ng吴恩达深度学习Course_1笔记相关推荐

  1. Andrew Ng吴恩达深度学习Course_2笔记

    术语概念 NLP::自然语言处理 CV(computer vision):计算机视觉 超参数: 正则化: Mini-batch:子训练集,面对训练集样本过多的情况,梯度下降迭代一次时间过长,因此分为多 ...

  2. 737 页《吴恩达深度学习核心笔记》发布,黄海广博士整理!

    点击上方"AI有道",选择"置顶"公众号 重磅干货,第一时间送达 深度学习入门首推课程就是吴恩达的深度学习专项课程系列的 5 门课.该专项课程最大的特色就是内容 ...

  3. 深度学习入门首推资料--吴恩达深度学习全程笔记分享

    本文首发于微信公众号"StrongerTang",可打开微信搜一搜,或扫描文末二维码,关注查看更多文章. 原文链接:(https://mp.weixin.qq.com/s?__bi ...

  4. 吴恩达深度学习课程笔记(初步认识神经网络)

    吴恩达深度学习课程笔记1 课程主要内容 1.神经网络与深度学习介绍 2.Improving Deep Neural Networks:超参数调整,正则化,优化方法 3.结构化机器学习工程:比如如何分割 ...

  5. 吴恩达深度学习课程笔记(四):卷积神经网络2 实例探究

    吴恩达深度学习课程笔记(四):卷积神经网络2 实例探究 吴恩达深度学习课程笔记(四):卷积神经网络2 实例探究 2.1 为什么要进行实例探究 2.2 经典网络 LeNet-5 AlexNet VGG- ...

  6. 免费分享全套吴恩达深度学习课程笔记以及编程作业集合

    分享吴恩达深度学习全套 笔记 笔记来源于吴恩达老师课程中口述翻译,并包含板书.可以取代看视频,做到更快速学习. (部分目录) (部分目录) (板书) 编程作业 扫描二维码后台回复"0&quo ...

  7. 吴恩达深度学习课程笔记-3

    吴恩达深度学习课程笔记-3 src="http://nbviewer.jupyter.org/github/HuaGuo1992/Blog/blob/master/%E5%90%B4%E6% ...

  8. [转载]《吴恩达深度学习核心笔记》发布,黄海广博士整理!

    红色石头 深度学习专栏 深度学习入门首推课程就是吴恩达的深度学习专项课程系列的 5 门课.该专项课程最大的特色就是内容全面.通俗易懂并配备了丰富的实战项目.今天,给大家推荐一份关于该专项课程的核心笔记 ...

  9. 吴恩达深度学习课程笔记之卷积神经网络(2nd week)

    0 参考资料 [1]  大大鹏/Bilibili资料 - Gitee.com [2] [中英字幕]吴恩达深度学习课程第四课 - 卷积神经网络_哔哩哔哩_bilibili [3]  深度学习笔记-目录 ...

最新文章

  1. 久未更 ~ 一之 —— 关于ToolBar
  2. 正确的理解iOS MVC
  3. Linux安装包deb和rpm格式,deb格式和rpm格式是什么?_网站服务器运行维护
  4. 九度oj 1523 从上往下打印二叉树
  5. vue属性_computed(计算属性)methods(方法)
  6. fpga map测试_一种基于SELECTMAP的可配置且高速的FPGA配置电路及实现方法与流程
  7. Hibernate之必须导入jar包
  8. 阿里P8亲自讲解!java分布式需要学什么技术
  9. matlab如何建立一个空矩阵,然后往里面赋值
  10. (总结)Linux下多行合并成一行,中间加分隔符
  11. GitHub 一周热点速览:前后端最佳实践
  12. Openssl s_server命令
  13. PowerDesigner将建好的数据表格导出到excel
  14. 2019年数据库系统工程师上午真题及答案解析
  15. dcs world f15c教学_教师成长 | PBL在幼儿英文绘本教学中的应用
  16. 一个可以直接套用的行星齿轮传动比(转速比)结论
  17. 通达信手机版分时图指标大全_通达信精选指标——挣开眼就买卖版指标详解
  18. DirectSound学习(二)--流式缓冲区
  19. 每日一题【62】导数-公切线问题
  20. 女人长的漂亮不如活的漂亮(Top60)

热门文章

  1. Kafka过期数据清理
  2. 2019年西安邀请赛
  3. ftp服务器输入密码无法显示,登录FTP服务器时提示输入密码
  4. 安装Anaconda3
  5. Windows系统如何配置pycharm的anaconda环境
  6. 安卓开发工具汇总,开发人员必备利器
  7. 国产化?我们在信创下的改变。。。
  8. pandas自定义函数进行数据清洗
  9. docker部署zabbix6.0服务
  10. 切入AIGC新赛道,「炎黄盈动」发布国内首个AI低代码平台