吴恩达——机器学习（正规方程）

之前学习了一般的梯度下降法，今天听了吴教授的另外一种方法——正规方程法（区别于迭代法的直接求解法）

首先，直接解释一下什么叫做正规方程法：

如上图显示的预测房价的模型，现实有四个特征值，额外加了x0这个特征值，构成矩阵，接着根据线性代数求解的方法可以直接代入式子：

进行求解，其实有个疑惑就是对于矩阵不可逆的情况，其实很简单，对于特征类似的特征可以进行删除，就跟线性代数不可逆的解决方法一样。

接下来简要比较一下梯度下降法与正规方程法的优缺点：

首先说梯度下降法，梯度下降法需要进行迭代，花费时间，此外梯度下降法需要进行特征缩放，而正规方程法并不需要。只需要将特征矩阵代入式子进行计算。

然后我们再来谈一谈这个正规方程法：直接代式子确实简单方便，但是最大的缺点在于当特征量太多的时候，计算机的计算任务比较繁杂，还是需要依靠梯度下降法，一般以一万为临界吧，但是也不是绝对的。此外，对于比较复杂的算法，如SVM、神经网络还是不太适用正规方程法。

吴恩达——机器学习（正规方程）相关推荐

带你少走弯路：五篇文章学完吴恩达机器学习
本文是吴恩达老师的机器学习课程[1]的笔记和代码复现部分,这门课是经典,没有之一.但是有个问题,就是内容较多,有些内容确实有点过时. 如何在最短时间学完这门课程?作为课程的主要翻译者和笔记作者,我推荐 ...
下载量过百万的吴恩达机器学习和深度学习笔记更新了！（附PDF下载）
今天,我把吴恩达机器学习和深度学习课程笔记都更新了,并提供下载,这两本笔记非常适合机器学习和深度学习入门.(作者:黄海广) 0.导语我和同学将吴恩达老师机器学习和深度学习课程笔记做成了打印版,放在g ...
吴恩达机器学习训练1：线性回归（多变量）
吴恩达机器学习训练1:线性回归(多变量) 本小节为练习1中选做题,为多变量(多特征参数)的线性回归计算. 还是预测房价的例子,假设已经两个特征参数,分别是房子的尺寸和卧室的数量,在数据的第一列和第二列 ...
吴恩达机器学习笔记（自用）
吴恩达机器学习机器学习的定义什么是机器学习? 机器学习算法 1.监督学习(Supervised Learning) 2.无监督学习(Unsupervised Learning) 单变量线性回归模 ...
吴恩达机器学习课程笔记(英文授课) Lv.1 新手村（回归）
目录 1-1机器学习的相关名词 1-2 什么是机器学习? 1.definition 定义 2.主要的机器学习算法的分类 1-3有监督学习及常用算法 1.定义 2.两种数据类型补充:categorica ...
吴恩达机器学习视频学习笔记
吴恩达机器学习视频笔记介绍 Introduction 线性回归 Linear Regression 单变量 One Variable 多变量 Multiple Variables 多项式回归 Pol ...
吴恩达机器学习课程笔记一
吴恩达机器学习课程笔记前言监督学习---`Supervised learning` 无监督学习---`Unsupervised learning` 聚类异常检测降维增强学习---`Reinf ...
吴恩达机器学习——第三周学习笔记
二元分类(Binary Classfication) 分类,一种方法是使用线性回归,将所有大于0.5的预测映射为1,将所有小于0.5的预测映射为0.然而,这种方法并不能很好地工作,因为分类实际上不是一 ...
【吴恩达机器学习】第二周课程精简笔记——多元线性回归和计算参数分析
1. Multivariate Linear Regerssion(多元线性回归) (1)Multiple Feature We now introduce notation for equation ...
吴恩达机器学习课程-作业1-线性回归（python实现）
Machine Learning(Andrew) ex1-Linear Regression 椰汁学习笔记最近刚学习完吴恩达机器学习的课程,现在开始复习和整理一下课程笔记和作业,我将陆续更新. Li ...

吴恩达——机器学习（正规方程）

吴恩达——机器学习（正规方程）相关推荐

最新文章

热门文章