机器学习对回归模型的评价指标：均方误差、可解释方差和R方值

2024-05-23 16:00:06

学习过概率与统计的同学们都知道，对于线性回归及其他的回归模型来说，评价连续性可拟合的数据就不能使用离散二分类器的评价指标对回归模型进行评价。因此我们引入了均方误差（mean squared error MSE）、可解释方差(Explained Var score)和R方值( $R^2$ )。

首先我们先看一下这三个概念是如何计算一个评价值(score)的：

均方误差：

又称MSE，是个使用频度很高的评价指标，在概率论和数理统计中的数学定义式就是：

前i个样本属性实际值 $y_i$ 与预测值距离差 $\hat y_i$ 的平方和均值。

$MSE= \frac{1}{n} \sum ^n _ {i=1} ( y_i- \hat y_i)^2$

MSE衡量的是样本整体与模型预测值偏离程度。

可解释方差：

这部分很少有资料提到可解释方差的公式，根据一些资料的描述，可解释方差是(1- 样本值与预测值之差的方差/样本方差)，数学公式描述为：

$Evar = 1 - \frac {\sum ^n_{i=1} ((y_i-\hat y) - E{(\vec y_-\hat {y} } ))^2 }{\sum ^n_{i=1} (y_i - \bar y)^2}$

E表示均值；

因为是从代码中解读的公式，所以这个公式可能写的有点不太对，望有人指出正确的公式是咋个模样。

看着怪折腾的……

可解释方差指标衡量的是所有预测值和样本之间的差的分散程度与样本本身的分散程度的相近程度。本身是分散程度的对比。最后用1-这个值，最终值越大表示预测和样本值的分散分布程度越相近。

$R^2$ 值：

$R^2$ 又名决定系数，

公式为

$R^2 = 1-\frac {MSE}{Var(Y))}= 1 - \frac {MSE} {\frac {1} {n} \sum ^n_{i=1} (y_i - \bar y))}$

这个公式的作为指标的意图就相对明显了。决定系数计算出来越是接近1，预测值越接近真实样本值。

机器学习对回归模型的评价指标：均方误差、可解释方差和R方值相关推荐

机器学习中分类和回归模型的评价指标
分类算法的效果评估 1,准确率accuracy_score from sklearn.metrics import accuracy_score 2,精确率/查准率precision_score fr ...
学习机器学习四回归模型——线性回归、L1正则化(Lasso回归)、L2正则化(ridge回归)
还记得什么是回归吗?回忆下回归就是连续的输出,分类是离散的. 回归模型一般分为:①线性回归--就是线性方程,类似为一元一次方程(y=wx+b),比如你的年龄: ②逻辑回归(类似为曲线方程) 线性回归 ...
R语言基于glmnet构建Logistic回归模型使用L1正则化并可视化系数及最佳lambda值
R语言基于glmnet构建Logistic回归模型使用L1正则化并可视化系数及最佳lambda值 Glmnet主要用于拟合广义线性模型.筛选可以使loss达到最小的正则化参数lambda.该算法非常快 ...
【机器学习】回归模型评价指标原理与基于sklearn的实现
1 前言回归任务是机器学习中常见的任务,特别是涉及到具体的发电量预测.风力预测等工业任务时,有非常多的应用场景.回归任务不同于分类任务,回归任务的预测值一般是连续的数,分类任务的预测值则是离散的值( ...
【转载】回归模型的评价指标
[转载]https://www.cnblogs.com/nxf-rabbit75/p/10415812.html 分类问题的评价指标是准确率,那么回归算法的评价指标就是MSE,RMSE,MAE.R-S ...
机器学习--逻辑回归模型(Logistic Regression)
1.逻辑回归逻辑回归(Logistic Regression)是一种用于二元分类问题的机器学习算法.逻辑回归的目的是基于输入特征预测一个样本属于某个特定的类别的概率. 逻辑回归的核心思想是将线性回归 ...
图解机器学习之回归模型性能评估指标
一个房价预测的任务,老板说你看看这个模型咋样? 我们先绘制一个坐标轴: Y 轴为房价,X 轴为年份.将过去房价数据绘制为绿色,回归模型绘制为蓝色. 关键问题是,怎么知道这个模型的好坏呢? 为了评估该模 ...
二、机器学习之回归模型分析
文章目录一.回归模型 1.1 回归模型定义 1.2 回归模型分析方法二.回归分析 2.1 线性回归和多项式回归 2.1.1 线性回归定义 2.2.2 代码实现分析: 2.2 逻辑回归 2.2.1 ...
【Python机器学习】回归模型：推土机售价预测
文章目录使用机器学习预测推土机的售价零.导入模块一.EDA 1.1 查看基本信息 1.2 特征类型转换 1.3 联表+特征初筛 1.3.1 删除包含重复信息的特征 1.3.2 fiBaseMod ...

最新文章

热门文章