吴恩达深度学习笔记（归一化）

视频链接：https://mooc.study.163.com/learn/2001281003?tid=2001391036&_trace_c_p_k2_=62cabe78c973465198105c469f1eaf6d#/learn/content?type=detail&id=2001702118

１．常见防止过拟合的方法

正则化
随机失活（dropout）
数据增广
early stop

２．归一化

$\mu= \frac{1}{m}\cdot \sum_{i= 1}^{m}\cdot x^{i}$

$x := x-\mu$

$\delta = \frac{a}{b}\sum_{i= 1}^{m}x^{\left (i \right )}\ast \ast 2$

3.　针对损失函数形如： $J\left ( w,b \right )= \frac{1}{m}\sum_{i= 1}^{m}\L \left ( \widehat{y^{i}} -y^{i}\right )$ 非归一化的特征输入,如（1，1）

吴恩达深度学习笔记（归一化）相关推荐

吴恩达深度学习笔记（四）
吴恩达深度学习笔记(四) 卷积神经网络CNN-第二版卷积神经网络深度卷积网络:实例探究目标检测特殊应用:人脸识别和神经风格转换卷积神经网络编程作业卷积神经网络CNN-第二版卷积神经网络 ...
799页！吴恩达深度学习笔记.PDF
吴恩达深度学习课程,是公认的最优秀的深度学习课程之一,目前没有教材,只有视频,本文提供完整笔记下载,这本笔记非常适合和深度学习入门. 0.导语黄海广博士和同学将吴恩达老师深度学习视频课程做了完整的笔 ...
吴恩达深度学习笔记——卷积神经网络（Convolutional Neural Networks）
深度学习笔记导航前言传送门卷积神经网络(Convolutional Neural Networks) 卷积神经网络基础(Foundations of Convolutional Neural N ...
吴恩达深度学习笔记——神经网络与深度学习（Neural Networks and Deep Learning）
文章目录前言传送门神经网络与深度学习(Neural Networks and Deep Learning) 绪论梯度下降法与二分逻辑回归(Gradient Descend and Logist ...
吴恩达深度学习笔记——结构化机器学习项目（Structuring Machine Learning Projects）
深度学习笔记导航前言传送门结构化机器学习项目(Machine Learning Strategy) 机器学习策略概述正交化(orthogonalization) 评价指标数字评估指标的单一性 ...
吴恩达深度学习笔记1-Course1-Week1【深度学习概论】
2018.5.7 吴恩达深度学习视频教程网址网易云课堂:https://mooc.study.163.com/smartSpec/detail/1001319001.htm Coursera:htt ...
吴恩达深度学习笔记（四）—— 正则化
有关正则化的详细内容: 吴恩达机器学习笔记(三) -- Regularization正则化 <机器学习实战>学习笔记第五章 -- Logistic回归主要内容: 一.无正则化二.L2正 ...
吴恩达深度学习笔记_Github标星过万的吴恩达机器学习、深度学习课程笔记，《统计学习方法》代码实现，可以在线阅读了！...
吴恩达机器学习.深度学习,李航老师<统计学习方法>,可以说是机器学习入门的宝典.本文推荐一个网站"机器学习初学者",把以上资源的笔记.代码实现做成了网页版,可以在线阅读 ...
吴恩达--深度学习笔记
这是一个督促自己学习的笔记文章目录这是一个督促自己学习的笔记 1.logistic回归 1. 神经网络基础----二分分类 2. logistic回归 3. logistic回归损失函数 4. 梯 ...
吴恩达深度学习笔记（四）——深度学习的实践层面
一.数据集的划分要确保验证集和测试集的数据来自同一分布. 二.偏差和方差方差:训练集和验证集的数据分布是否均匀,训练集和验证集之间的差别: 偏差:训练集和真实结果的差别. 高偏差:欠拟合高方差: ...

吴恩达深度学习笔记（归一化）

吴恩达深度学习笔记（归一化）相关推荐

最新文章

热门文章