R方是统计学里常用的统计量，在不同任务模型下的解读和用途不一，有时候会出现误用情况。本文总结了对R方的理解和用法，遵循“从一般到特殊”的思路，先讲一般回归模型中的R方，再讲线性回归模型里的R方。"一般"回归模型包括线性模型，随机森林，神经网络等。

• R方的定义

R方的名字是coefficient of determination，另一个名字是Nash–Sutcliffe model efficiency coefficient。给定一系列真值

和对应的预测值

，R方的定义为

R方的含义是，预测值解释了

变量的方差的多大比例，衡量的是预测值对于真值的拟合好坏程度。通俗理解，假定

的方差为1个单位，则R方表示"使用该模型之后，

的残差的方差减少了多少"。比如R方等于0.8，则使用该模型之后残差的方差为原始

值方差的20%。

• R方=1：最理想情况，所有的预测值等于真值。
• R方=0：一种可能情况是"简单预测所有y值等于y平均值"，即所有
  都等于
  （即真实y值的平均数），但也有其他可能。
• R方<0：模型预测能力差，比"简单预测所有y值等于y平均值"的效果还差。这表示可能用了错误模型，或者模型假设不合理。
• R方的最小值没有下限，因为预测可以任意程度的差。因此，R方的范围是
  。
• 注意：R方并不是某个数的平方，因此可以是负值。

Python里的scikit-learn包（v0.23.1）里，sklearn.metrics.r2_score即是R方的实现。sklearn的RandomForestRegressor等回归模型中，带有score(self, X, y)的函数，这个函数返回的是根据X得到的预测值和真值y的R方。

• R方和均方误差（mean squared error）的联系

（未完待续）

• R方是否适合评估一般模型的预测能力

（未完待续）

• R方的解读

（如何解读R方结果？比如

=0.3）

• 线性回归模型的R方

线性模型可以理解为“以最小化R方为目标，寻找y和x之间的最优线性关系”。

学过线性回归的人，估计都会知道用R方评估模型的拟合程度。此处R方定义和上述一样，度量的是根据X拟合得到的

值和真实

的接近程度。但由于最小二乘线性模型的特殊性，R方有几个特殊地方。数学证明过程略过，只讲结论。对数学推导过程感兴趣的，可以看wikipedia词条

^[1]。

1. 对于不固定截距的简单线性模型（y = mx + b）, R方等于x和y的pearson correlation coefficient的平方。因此，此处的R方范围是[0,1]。R方等于0，表示x和y的散点图完全随机，没有线性关系（或者说，线性相关关系等于0）。R方等于1，表示所有(x,y)散点落在一条直线上。
2. 对于不固定截距的多元线性模型，R方等于
   和
   的pearson correlation coefficient的平方。因此，R方范围同样是[0,1]。R方等于1，表示完美的线性拟合。
3. 对于固定截距的线性模型（英语是"regression through the origin"），R方不等同
   和
   的相关系数平方，其范围不是[0,1]。给定一组变量，比较"固定截距的线性模型"和"不固定截距的线性模型"的R方是没有意义的，因为两个R方的含义不同。
4. 线性模型的R方会随着x变量的增长而单调递增。因此，在带有k个自变量的线性模型里加入第k+1个变量，无论新加入的变量和y的关系如何，再重新拟合模型，R方一定是增长的。因此，用R方是否增长来衡量第k+1个变量对模型的提升水平是不合理的。
5. 为了衡量新加入变量是否提高模型拟合程度，有人发明了adjusted R squared。
6. R方并不能用于说明以下的假设是否成立^[1]
   1. 模型中的自变量是因变量产生变化的原因。
   2. 模型存在omit-variable bias，即忽略了某个重要自变量导致出现偏差。
   3. 所选用的回归模型是合理的。
   4. 所选用的自变量集合是最合理的。
   5. 自变量之间存在共线性。
   6. 如果对自变量进行变换，模型的拟合程度将会提升。
   7. 选用的数据量足够用于得到有说服力的结论。

• 用Pearson相关系数评价一般模型的预测准确度是否合适

简单回答：不合适。此处Pearson相关系数评估的是，

的变化趋势是否符合直线，而不是预测的准确度。

上文提到，简单线性回归模型的R方等于x和y的Pearson相关系数平方，多元线性模型的R方等于

和

的Pearson相关系数的平方。

因此，计算两组数据的相关系数，比如

和

，等同于以

作自变量拟合得到线性模型

，再计算该模型的R方。

此处的用意是什么？意思是，Pearson相关系数并不能衡量两组数据的接近程度，而是度量了两组数的线性相关关系。换句话说，Pearson相关系数衡量的是

的变化趋势是否符合一条直线。

看到有的论文，以Pearson相关系数衡量非线性模型（比如神经网络）的拟合或预测能力，这是不合理的。实际上，此处Pearson相关系数评估的是该非线性模型叠加一个线性模型的预测能力。

参考

1. ^^abWikipedia entry on the Coefficient of determination https://en.wikipedia.org/wiki/Coefficient_of_determination