多项式回归

在线性回归中，我们通过如下函数来预测对应房屋面积的房价：

hθ(x)=θ0+θ1∗sizeh_θ(x)=θ_0+θ_1∗sizehθ(x)=θ0+θ1∗size

通过程序我们也知道，该函数得到的是直线拟合，精度欠佳。现在，我们可以考虑对房价特征 sizesizesize 进行平方，以及获得更加精准的 sizesizesize 变化：

hθ(x)=θ0+θ1∗size+θ2∗size2hθ(x)=θ_0+θ_1∗size+θ_2∗size^2hθ(x)=θ0+θ1∗size+θ2∗size2

这就是多项式回归。

如下图所示，多项式回归得到了更好的拟合曲线。但我们也发现，在房屋面积足够大时，曲线反而出现了下沿，这意味着房价反而随着在房屋面积足够大时，与面积成反比，这明显不符合可观规律（虽然我们很渴望这样的情况出现）：

进一步地，我们考虑加上三次方项目或者替换二次方项为开方，得到如下两种预测：

(1)hθ(x)=θ0+θ1∗size+θ2∗size2+θ3∗size3(1)\quad h_θ(x)=θ_0+θ_1∗size+θ_2∗size^2+θ_3∗size^3(1)hθ(x)=θ0+θ1∗size+θ2∗size2+θ3∗size3
(2)hθ(x)=θ0+θ1∗size+θ2∗size(2)\quad h_θ(x)=θ_0+θ_1∗size+θ_2∗\sqrt {size}(2)hθ(x)=θ0+θ1∗size+θ2∗size

在该例中，因为三次方项会带来很大的值，所以优先考虑采用了开方的预测函数。

1.6 多项式回归-机器学习笔记-斯坦福吴恩达教授相关推荐

1.7 程序示例--多项式回归-机器学习笔记-斯坦福吴恩达教授
程序示例–多项式回归下面,我们有一组温度(temperature)和实验产出量(yield)训练样本,该数据由博客 Polynomial Regression Examples 所提供: tempe ...
4.4 机器学习系统设计--垃圾邮件分类-机器学习笔记-斯坦福吴恩达教授
机器学习系统设计–垃圾邮件分类假定我们现有一封邮件,其内容如下: From: cheapsales@buystufffromme.com To: ang@cs.stanford.edu Subjec ...
4.3 偏差与方差-机器学习笔记-斯坦福吴恩达教授
偏差与方差在机器学习中,偏差(bias) 反映了模型无法描述数据规律,而方差(variance) 反映了模型对训练集过度敏感,而丢失了数据规律,高偏差和高方差都会造成新数据到来时,模型给出错误的预 ...
3.12 程序示例--多分类问题-机器学习笔记-斯坦福吴恩达教授
多分类问题我们手上包含有手写字符的数据集,该数据集来自斯坦福机器学习的课后作业,每个字符图片大小为 20×20 ,总的样本规模为 5000×400 , 我们的神经网络设计如下,包含 1 个隐含层,隐 ...
1.8 欠拟合和过拟合-机器学习笔记-斯坦福吴恩达教授
欠拟合和过拟合问题在上一节中,我们利用多项式回归获得更加准确的拟合曲线,实现了对训练数据更好的拟合.然而,我们也发现,过渡地对训练数据拟合也会丢失信息规律.首先,引出两个概念: 欠拟合(under ...
10.1 掌握大数据-机器学习笔记-斯坦福吴恩达教授
掌握大数据在算法分析与优化一节中,我们就提到,在机器学习界流传着这样一句话: It's not who has the best algorithm that wins. It's who has ...
9.1 基于内容的推荐系统-机器学习笔记-斯坦福吴恩达教授
基于内容的推荐系统推荐系统是机器学习最重要的应用之一,你所知道的淘宝.亚马逊.facebook.豆瓣这些网站都把推荐系统作为了核心.在某个电影资讯的网站,有那么一份用户对于电影的打分(1 - 5 分 ...
8.1 概述-机器学习笔记-斯坦福吴恩达教授
概述异常检测(Anomaly Detection)是机器学习里面的一个常见应用,机器通过训练,将知道什么样的样本是正常样本,从而具备识别异常样本的能力. 飞机制造商在飞机引擎从生产线上流入市场前,会 ...
6.6 二分 K-Means 算法-机器学习笔记-斯坦福吴恩达教授
二分 K-Means 算法该算法补充自 <机器学习实战> 一书常规的 K-Means 算法的误差通常只能收敛到局部最小,在此,引入一种称为二分 K-Means(bisecting km ...

1.6 多项式回归-机器学习笔记-斯坦福吴恩达教授

多项式回归

1.6 多项式回归-机器学习笔记-斯坦福吴恩达教授相关推荐

最新文章

热门文章