均方误差、平方差、方差、均方差

均方误差、平方差、方差、均方差、协方差
一，MSE（均方误差）（Mean Square Error）
均方误差也叫方法损失函数或者最小二乘法
作为机器学习中常常用于损失函数的方法，均方误差频繁的出现在机器学习的各种算法中，但是由于是舶来品，又和其他的几个概念特别像，所以常常在跟他人描述的时候说成其他方法的名字。
均方误差的数学表达为：

如公式所示，通过计算每个预测值和实际值之间的差值的平方和再求平均，机器学习中它经常被用于表示预测值和实际值相差的程度。平方损失函数是光滑的，可以用梯度下降法求解，但是，当预测值和真实值差异较大时，它的惩罚力度较大，因此对异常点较为敏感。

二，平方差
平方差的定义很简单，顾名思义就是两个数先做平方然后再求差值：

三，方差以及期望
方差是在概率论和统计方差衡量随机变量或一组数据时离散程度的度量。概率论中方差用来度量随机变量和其数学期望（即均值）之间的偏离程度。其数学公式为：

其中D(X)表示数据集X的方差，表示集合D的数学期望（即均值）：

四，标准差（均方根误差）
即RMSE （均方根误差）（Root Mean Square Error）
对方差开平方就是均方差，而均方差又称标准差，即：

发现没有，方差与我们要处理的数据的量纲是不一致的，虽然能很好的描述数据与均值的偏离程度，但是处理结果是不符合我们的直观思维的。
举个例子：比如一个班男生的平均身高是170cm,标准差是10cm,那么方差就是100cm^2。可以进行的比较简便的描述是本班男生身高分布是170±10cm，方差就无法做到这点。

五，协方差
协方差：如果随机变量X和Y的方差DX>0,DY>0成立，则称E[(X-EX)(Y-EY)]为随机变量X与Y的协方差，记为Cov(X,Y)，即：
Cov(X,Y)=E[(X-EX)(Y-EY)]=E(XY)-EX*EY
其中：

可见协方差的本质上是一个期望。
称为随机变量X,Y的相关系数，若=0 则称X与Y是不相关的，若则表示X,Y有相关性。
COV(X,Y)是描述随机变量X与Y之间偏差关联程度的，比如研究父亲身高X与孩子身高Y之间的关系。

均方误差、平方差、方差、均方差相关推荐

python 均方误差_方差、标准差、均方差、均方误差
方差是在概率论和统计学中衡量随机变量或一组数据时离散程度的度量.概率论中方差用来度量随机变量和其数学期望(即均值)之间的偏离程度.统计中的方差(样本方差)是每个样本值与全体样本值的平均数之差的平方值的 ...
【概率与统计】---均方误差，方差，协方差，协方差矩阵
一,均方误差个人理解:平均的平方的误差值,即,误差的平方的期望值(误差就是每个估计值与真实值的差):换句话说,也就是多个样本的时候,均方误差等于每个样本的误差平方再乘以该样本出现的概率的和. 二.方 ...
和方差均方差均方根
近日机器学习众多公式把自己搞得焦头烂额,终于找到了一篇思路比较简单可以快速上手的文章,保存一下,免得以后找不到了这是原文 http://blog.csdn.net/Eric2016_Lv/artic ...
【数学知识】方差、标准差、均方差、均方误差区别总结
一.方差的含义百度百科上方差是这样定义的: (variance)是在概率论和统计方差衡量随机变量或一组数据时离散程度的度量.概率论中方差用来度量随机变量和其数学期望(即均值)之间的偏 ...
【误差】方差、标准差、均方误差和均方根误差的区别总结
文章目录来源方差方差与标准差均方差.均方误差.均方根误差均方根值来源 https://blog.csdn.net/zengxiantao1994/article/details/77855 ...
方差、标准差、均方误差的总结
方差百度百科中关于方差的解释为:(variance)是在概率论和统计方差衡量随机变量或一组数据时离散程度的度量.概率论中方差用来度量随机变量和其数学期望(即均值)之间的偏离程度.统计中的方差(样本方 ...
方差、标准差、均方差等各种差
问题背景:突然被各种差搞蒙了头,决定来好好理一理这各种差. 一.方差方差这个词,我们从中学时代就接触了,应该很熟悉. 它是用来衡量离散程度.概率论中方差用来度量随机变量和其数学期望(即均值)之间的偏 ...
方差、标准差和均方根误差的区别总结
一.方差方差(variance):是在概率论和统计方差衡量随机变量或一组数据时离散程度的度量.概率论中方差用来度量随机变量和其数学期望(即均值)之间的偏离程度.统计中的方差(样本方差)是各个数据分别 ...
matlab均值、方差函数
经常要用到,系统整理了一下. 1. 均值 Matlab函数:mean >>X=[1,2,3] >>mean(X)=2 如果X是一个矩阵,则其均值是一个向量组.mean(X,1) ...
深度学习中偏差和方差
本文部分内容摘自https://blog.csdn.net/wuzqChom/article/details/75091612 从上面可以看出来均方误差由方差和偏差构成,那偏差和方差的高低又代表什么呢 ...

均方误差、平方差、方差、均方差

均方误差、平方差、方差、均方差相关推荐

最新文章

热门文章