1. 回归评估指标

1.1 平均绝对误差 MAE

MAE：（Mean Absolute Error）平均绝对误差，从图形上看，MAE 就相当于将数据点与拟合之间之间的距离绝对值之和。

(1)MAE=1m∑i=1m∣y(i)−y^(i)∣MAE=\frac{1}{m}\sum_{i=1}^m|y^{(i)}-\hat{y}^{(i)}| \tag{1}MAE=m1i=1∑m∣y(i)−y^(i)∣(1)

MAE 缺点 ：绝对值函数是不可微分的，这不利于使用诸如梯度下降方法，因此我们将使用更常见的 MSE 均方误差。

1.1.1 Sklearn 计算 MAE

from sklearn.metrics import mean_absolute_error
from sklearn.linear_model import LinearRegressionclassifier = LinerRegression()
classifier.fit(X, y)guesses = classifier.predict(X)error = mean_absolute_error(y, guesses)

1.2 均方误差 MSE

MSE：（Mean Squared Error）均方误差，从图形上看，为数据点到拟合直线之间的距离的平方。

(2)MSE=1m∑i=1m(y(i)−y^(i))2MSE=\frac{1}{m}\sum_{i=1}^m(y^{(i)}-\hat{y}^{(i)})^2 \tag{2}MSE=m1i=1∑m(y(i)−y^(i))2(2)

MSE 和 MAE 有局限性：同一个算法模型，解决不同的问题，不能体现此模型针对不同问题所表现的优劣。因为不同实际应用中，数据的量纲不同，无法直接比较预测值，因此无法判断模型更适合预测哪个问题，因此我们将使用衡量线性回归最好的指标：R2R^2R2。^[1]

1.2.1 Sklearn 计算 MSE

from sklearn.metrics import mean_squared_error
from sklearn.linear_model import LinearRegressionclassifier = LinerRegression()
classifier.fit(X, y)guesses = classifier.predict(X)error = mean_squared_error(y, guesses)

1.3 判定系数 R^2

为了拟合一组数据，最简单的方法就是取这组数据的均值并作直线，已知这个简单模型的 MSE 大于线性回归的 MSE ，然而大多少呢？因此类似于假设检验的检验统计量，我们将线性回顾的 MSE 除以简单模型的 MSE，用1减去这个分数，就得到了R2R^2R2 :

(3)R2=1−∑i=1m(y^(i)−y(i))2∑i=1m(yˉ−y(i))2R^2=1-\frac{\sum_{i=1}^m(\hat{y}^{(i)}-y^{(i)})^2}{\sum_{i=1}^m(\bar{y}-y^{(i)})^2} \tag{3}R2=1−∑i=1m(yˉ−y(i))2∑i=1m(y^(i)−y(i))2(3)

(4)=1−(∑i=1m(y^(i)−y(i))2)/m(∑i=1m(yi−yˉ)2)/m\quad\quad\quad=1-\frac{(\sum_{i=1}^m(\hat{y}^{(i)}-y^{(i)})^2)/m}{(\sum_{i=1}^m(y^{i}-\bar{y})^2)/m} \tag{4}=1−(∑i=1m(yi−yˉ)2)/m(∑i=1m(y^(i)−y(i))2)/m(4)

(5)=1−MSE(y^,y)Var(y)=1-\frac{MSE(\hat{y}, y)}{Var(y)} \tag{5}=1−Var(y)MSE(y^,y)(5)

R2∈[−∞,1]R^2\in [-\infty,1]R2∈[−∞,1]

如果这个回归模型不太好，则两个 MSE 将很接近，则R2R^2R2将趋于0；
如果这个回归模型很好，则回归模型的 MSE 应比简单模型的 MSE 小得多，因此R2R^2R2将趋于1
若R2≤0R^2 \le 0R2≤0，则说明这个回归模型还不如简单模型（很可能数据不存在线性关系）。
因此，R2R^2R2越接近于1，则说明回归模型越好；R2R^2R2越接近于0，则说明回归模型越不好。

1.3.1 Sklearn 计算 R^2

from sklearn.metrics import r2_scorey_true = [1, 2, 4]
y_pred = [1.3, 2.5, 3.7]r2_score(y_true, y_pred)

0.9078571428571429

参考资料

[1] Volcano！.机器学习：衡量线性回归法的指标（MSE、RMSE、MAE、R Squared）[EB/OL].https://www.cnblogs.com/volcao/p/9104183.html, 2018-05-29.

机器学习 | 回归评估指标相关推荐

机器学习 | 分类评估指标
文章目录 1. 分类评估指标 1.1 混淆矩阵 Confusion Matrix 1.1.1 scikit-learn 混淆矩阵函数接口 1.2 真阳性TP.假阳性FP.真阴性TN.假阴性FN 1.2 ...
西瓜书+实战+吴恩达机器学习（一）机器学习基础（数据集划分、分类回归评估指标）
文章目录 0. 前言 1. 数据集划分方法 2. 模型性能度量 2.1. 回归评估指标 2.2. 分类评估指标 3. 非均等代价如果这篇文章对你有一点小小的帮助,请给个关注,点个赞喔,我会非常开心的 ...
机器学习模型评估指标总结！
↑↑↑关注后"星标"Datawhale 每日干货 & 每月组队学习,不错过 Datawhale干货作者:太子长琴,Datawhale优秀学习者本文对机器学习模型评估指标 ...
【机器学习基础】非常详细！机器学习模型评估指标总结！
作者:太子长琴,Datawhale优秀学习者本文对机器学习模型评估指标进行了完整总结.机器学习的数据集一般被划分为训练集和测试集,训练集用于训练模型,测试集则用于评估模型.针对不同的机器学习问题(分 ...
机器学习模型评估指标ROC、AUC详解
我是小z ROC/AUC作为机器学习的评估指标非常重要,也是面试中经常出现的问题(80%都会问到).其实,理解它并不是非常难,但是好多朋友都遇到了一个相同的问题,那就是:每次看书的时候都很明白,但回过 ...
机器学习性能评估指标汇总
机器学习性能评估指标汇总 Accuracy:准确率 Precision:精确率 / 查准率 Recall:召回率 / 查全率 F1 score:F1 值 PR:查准率.查全率曲线 ROC:真正率.假正 ...
机器学习模型评估指标总结
常用机器学习算法包括分类.回归.聚类等几大类型,以下针对不同模型总结其评估指标一.分类模型常见的分类模型包括:逻辑回归.决策树.朴素贝叶斯.SVM.神经网络等,模型评估指标包括以下几种: (1)二 ...
机器学习常用评估指标的前世今生
在机器学习中,性能指标(Metrics)是衡量一个模型好坏的关键,通过衡量模型输出y_predict和y_true之间的某种"距离"得出的. 性能指标往往使我们做模型时的最终目标, ...
kmeans及模型评估指标_机器学习模型评估指标总结
常用机器学习算法包括分类.回归.聚类等几大类型,以下针对不同模型总结其评估指标一.分类模型常见的分类模型包括:逻辑回归.决策树.朴素贝叶斯.SVM.神经网络等,模型评估指标包括以下几种: (1)二 ...

机器学习 | 回归评估指标

文章目录