均值标准化

假定我们现在新注册了一个用户 Eve(5)，他还没有对任何电影作出评价：

Y=[5500?5??0??40??0054?0050?]Y=\left[\begin{matrix} 5&5&0&0&?\\ 5&?&?&0&?\\ ?&4&0&?&?\\ 0&0&5&4&?\\ 0&0&5&0&?\\ \end{matrix}\right]Y=⎣⎢⎢⎢⎢⎡55?005?4000?05500?40?????⎦⎥⎥⎥⎥⎤

则 Eve(5) 对于电影内容的偏好应当被参数 θ(5)θ^{(5)}θ(5) 所评估，注意到我们的最小化代价函数过程：

min⁡x(1),...,x(nm);θ(1),...,θ(nu)12∑(i,j):r(i,j)=1((θ(j))Tx(i)−y(i,j))2+λ2∑i=1nm∑k=1n(xk(i))2+λ2∑j=1nu∑k=1n(θk(j))2\min_{x^{(1)},...,x^{(n_m)};θ^{(1)},...,θ^{(n_u)}} \frac 12 \sum_{(i,j):r(i,j)=1} ((θ^{(j)})^Tx^{(i)}-y^{(i,j)})^2+\frac {\lambda} 2 \sum_{i=1}^{n_m} \sum_{k=1}^n(x^{(i)}_k)^2 + \frac {\lambda} 2 \sum_{j=1}^{n_u} \sum_{k=1}^n(θ^{(j)}_k)^2x(1),...,x(nm);θ(1),...,θ(nu)min21(i,j):r(i,j)=1∑((θ(j))Tx(i)−y(i,j))2+2λi=1∑nmk=1∑n(xk(i))2+2λj=1∑nuk=1∑n(θk(j))2

由于该用户没有对任何电影作出评价， θ(5)θ^{(5)}θ(5) 能影响上式的项只有：

λ2∑j=1nu∑k=1n(θk(j))2\frac {\lambda} 2 \sum_{j=1}^{n_u} \sum_{k=1}^n(θ^{(j)}_k)^22λj=1∑nuk=1∑n(θk(j))2

为了最小化该式，我们只能令 θ(5)=(00)θ^{(5)}=\left(\begin{matrix}0\\0\end{matrix}\right)θ(5)=(00) ，从而，Eve(5) 对任何电影的评价将会被预测为：

y(i,5)=(θ(5))Tx(i)=0y(i,5)=(θ^{(5)})^Tx^{(i)}=0y(i,5)=(θ(5))Tx(i)=0

显然，这就是一种“不负责任”的预测了，系统会因此认为 Eve 对任何电影都不感冒，那么，Eve 就是吃饱了撑的来注册这个网站。

为了这个解决这个问题，我们会先求取各个电影的平均得分 μμμ ：

μ=(2.52.522.251.25)μ=\left(\begin{matrix} 2.5\\ 2.5\\ 2\\ 2.25\\ 1.25\\ \end{matrix}\right)μ=⎝⎜⎜⎜⎜⎛2.52.522.251.25⎠⎟⎟⎟⎟⎞

并求取 Y−μY−μY−μ ，对 YYY 进行均值标准化：

Y−μ=[2.52.5−2.5−2.5?2.5??−2.5??−2−2??−2.25−2.252.751.75?−1.25−1.253.75−1.25?]Y-μ=\left[\begin{matrix} 2.5 & 2.5 & -2.5 & -2.5 & ?\\ 2.5 & ? & ? & -2.5 & ?\\ ? & -2 & -2 & ? & ?\\ -2.25 & -2.25 & 2.75 & 1.75 & ?\\ -1.25 & -1.25 & 3.75 & -1.25 & ?\\ \end{matrix}\right]Y−μ=⎣⎢⎢⎢⎢⎡2.52.5?−2.25−1.252.5?−2−2.25−1.25−2.5?−22.753.75−2.5−2.5?1.75−1.25?????⎦⎥⎥⎥⎥⎤

对于用户 jjj ，他对电影 iii 的评分就为：
y(i,j)=(θ(i))Tx(j)+μiy(i,j)=(θ^{(i)})^Tx^{(j)}+μ_iy(i,j)=(θ(i))Tx(j)+μi

那么 Eve 对电影的评分就为：
y(i,5)=(θ(5))Tx(j)+μi=μiy(i,5)=(θ^{(5)})^Tx^{(j)}+μ_i=μ_iy(i,5)=(θ(5))Tx(j)+μi=μi

即，系统在用户未给出评价时，默认该用户对电影的评价与其他用户的平均评价一致。貌似利用均值标准化让用户的初始评价预测客观了些，但这也是盲目的，不准确的。实际环境中，如果一个电影确实没人被评价过，那么他没有任何理由被推荐给用户。

9.4 均值标准化-机器学习笔记-斯坦福吴恩达教授相关推荐

4.4 机器学习系统设计--垃圾邮件分类-机器学习笔记-斯坦福吴恩达教授
机器学习系统设计–垃圾邮件分类假定我们现有一封邮件,其内容如下: From: cheapsales@buystufffromme.com To: ang@cs.stanford.edu Subjec ...
1.5 特征缩放-机器学习笔记-斯坦福吴恩达教授
特征缩放引子在前一章节中,对房屋售价进行预测时,我们的特征仅有房屋面积一项,但是,在实际生活中,卧室数目也一定程度上影响了房屋售价.下面,我们有这样一组训练样本: 注意到,房屋面积及卧室数量两个特 ...
3.12 程序示例--多分类问题-机器学习笔记-斯坦福吴恩达教授
多分类问题我们手上包含有手写字符的数据集,该数据集来自斯坦福机器学习的课后作业,每个字符图片大小为 20×20 ,总的样本规模为 5000×400 , 我们的神经网络设计如下,包含 1 个隐含层,隐 ...
10.1 掌握大数据-机器学习笔记-斯坦福吴恩达教授
掌握大数据在算法分析与优化一节中,我们就提到,在机器学习界流传着这样一句话: It's not who has the best algorithm that wins. It's who has ...
9.1 基于内容的推荐系统-机器学习笔记-斯坦福吴恩达教授
基于内容的推荐系统推荐系统是机器学习最重要的应用之一,你所知道的淘宝.亚马逊.facebook.豆瓣这些网站都把推荐系统作为了核心.在某个电影资讯的网站,有那么一份用户对于电影的打分(1 - 5 分 ...
8.2 高斯分布模型-机器学习笔记-斯坦福吴恩达教授
高斯分布模型我们已经知道,异常检测的核心就在于找到一个概率模型,帮助我们知道一个样本落入正常样本中的概率,从而帮助我们区分正常和异常样本. 高斯分布(Gaussian Distribution) 模 ...
8.1 概述-机器学习笔记-斯坦福吴恩达教授
概述异常检测(Anomaly Detection)是机器学习里面的一个常见应用,机器通过训练,将知道什么样的样本是正常样本,从而具备识别异常样本的能力. 飞机制造商在飞机引擎从生产线上流入市场前,会 ...
7.3 程序示例--PCA 模型-机器学习笔记-斯坦福吴恩达教授
程序示例–PCA 模型 # coding: utf8 # pca/pca.pyimport numpy as npdef normalize(X):"""数据标准化处理A ...
6.6 二分 K-Means 算法-机器学习笔记-斯坦福吴恩达教授
二分 K-Means 算法该算法补充自 <机器学习实战> 一书常规的 K-Means 算法的误差通常只能收敛到局部最小,在此,引入一种称为二分 K-Means(bisecting km ...

9.4 均值标准化-机器学习笔记-斯坦福吴恩达教授

均值标准化

9.4 均值标准化-机器学习笔记-斯坦福吴恩达教授相关推荐

最新文章

热门文章