1.为什么要正则化？

保留某些特征，正则化可以使得减少这些特征对于预测结果的影响。吴恩达推荐不正则化b这个参数。

正则化函数如下：

lambda:正则化参数，像学习率一样由自己定义。

Q1：为什么要加入正则化项？就可以控制各种参数的大小？

A1: 因为如果我们令 LAMBDA的值很大的话, 为了使代价函数 J 尽可能的小，所有的参数W 的值都会在一定程度上减小。但若 λ 的值太大了，那么 W的值都会趋近于0，这样我们所得到的只能是一条平行于x轴的直线。所以对于正则化，我们要取一个合理的 λ 值，这样才能更好的应用正则化.

举个例子：以房价为例，输入的特征有房屋的大小，位置，和离咖啡馆的距离等参数。其中离咖啡馆距离这一特征影响房价的作用非常非常非常小（假设这是我们已知的，机器不知道），这时候机器开始进行训练，由于训练过程中机器发现距离咖啡店100m和距离咖啡店1m对价格影响甚微，所以这个特征的参数设置为10000或者1都OK,but我们还加入了正则化，这时最小化J就会使得这个W得设置为1，因为J函数就得是最小的时候算作参数呀，给他设置为1（意思就是设置了一个最小的数字）相当于忽略这个特征。从而实现了正则化的目的。

【吴恩达机器学习】正则化相关推荐

吴恩达机器学习 -- 正则化
8.1 过拟合的问题过拟合问题会导致线性回归和逻辑回归效果变差,那么过拟合到底是指什么意思呢? 一个回归问题的例子: 图一的线性回归模型,欠拟合:图三的逻辑回归模型虽然经过了所有的样本点,但是它预测 ...
吴恩达——机器学习（正则化Regularization）
正则化 Regularization 1.过拟合 overfitting eg1:线性回归图一:欠拟合,高偏差图三:过拟合,高方差(一般在变量很多的时候发生,这种时候训练出的方程总能很好拟合训练数 ...
【CV】吴恩达机器学习课程笔记第10章
本系列文章如果没有特殊说明,正文内容均解释的是文字上方的图片机器学习 | Coursera 吴恩达机器学习系列课程_bilibili 目录 10 应用机器学习的建议 10-1 决定下一步做什么 10 ...
带你少走弯路：五篇文章学完吴恩达机器学习
本文是吴恩达老师的机器学习课程[1]的笔记和代码复现部分,这门课是经典,没有之一.但是有个问题,就是内容较多,有些内容确实有点过时. 如何在最短时间学完这门课程?作为课程的主要翻译者和笔记作者,我推荐 ...
python第六周实验_机器学习 | 吴恩达机器学习第六周编程作业(Python版）
实验指导书下载密码:ovyt 本篇博客主要讲解,吴恩达机器学习第六周的编程作业,作业内容主要是实现一个正则化的线性回归算法,涉及本周讲的模型选择问题,绘制学习曲线判断高偏差/高方差问题.原始实 ...
吴恩达机器学习笔记-应用机器学习的建议
评估假设我们之前已经学习过一些机器学习的算法,现在我们来谈谈如何评估算法学习得到的假设.当发现预测的结果和实际的数据有误差的时候,我们需要进行一些调整来保证预测的准确性,大部分情况下,有以下几种办法 ...
下载量过百万的吴恩达机器学习和深度学习笔记更新了！（附PDF下载）
今天,我把吴恩达机器学习和深度学习课程笔记都更新了,并提供下载,这两本笔记非常适合机器学习和深度学习入门.(作者:黄海广) 0.导语我和同学将吴恩达老师机器学习和深度学习课程笔记做成了打印版,放在g ...
python分类预测降低准确率_python实现吴恩达机器学习练习3（多元分类器和神经网络）...
Programming Exercise 3: Multi-class Classification and Neural Networks 吴恩达机器学习教程练习3,练习数据是5000个手写数字(0 ...
吴恩达|机器学习作业目录
一个多月除了上课自习,就是在coursera和网易云课堂上学习吴恩达机器学习的课程,现在学完了,以下是一个多月来完成的作业目录,整理一下以便使用: 1.0 单变量线性回归 1.1 多变量线性回归 2. ...
吴恩达机器学习6——机器学习算法改进、系统设计
吴恩达机器学习6 一.机器学习算法改进 1. 机器学习算法评价 1.1 评估模型 1.2 模型选择和交叉验证集 2. 偏差与方差 2.1 诊断偏差和方差 2.2 正则化和偏差/方差 2.3 学习曲线 ...

【吴恩达机器学习】正则化

1.为什么要正则化？

【吴恩达机器学习】正则化相关推荐

最新文章

热门文章