统计|如何理解线性回归分析中残差检验的基本步骤

本博文源于《商务统计》，旨在讲述如何对线性回归分析中已经拟合好的直线做残差分析。当谈起残差，必须了解残差是y的实际值和预测值之差。

线性回归模型的残差检验假定条件

线性假定：X与Y之间的关系是线性的
独立性假定：对于一个特定的x，它所对应的残差 ∈ \in ∈与其它x所对应的残差 ∈ \in ∈相互独立
正态假定:残差服从期望为0的一个正态分布
同方差假定:对于所有的x，残差 ∈ \in ∈的方差都是相同的

残差检验的基本步骤

线性关系的检验

横轴自变量，纵轴因变量
横轴自变量，纵轴残差

从图上可以看见这是非线性关系，说明不满足残差检验的假定条件

从图上可以看见都落于水平线周围，比较均匀，这符合残差检验的假定条件线性假定。

独立性假定检验

跟上面一样画个残差图，如果图上显示的非水平，带有曲线的味道，那就非独立。一般统计软件已经帮你做好了，只需要看下非独立的情况长什么样就行了。

正态性假定检验

这个统计软件也可以，那就是QQ图，matlab可以做
matlabqq(Quantile-Quantile)图绘制并讲解

服从正态分布的QQ图，就跟图上类似，点在一条直线上。

同方差假定检验

也是画散点图，如果不是水平线上，那就是异方差。

总结

在做线性回归分析残差检验中，牢记画两个图就行了，一种是残差图，一种是QQ图。目的就是测量是否满足四种线性回归模型的假定。

统计|如何理解线性回归分析中残差检验的基本步骤相关推荐

线性回归分析中的哑变量
最近偶尔在重温统计学,发现自己工作后用了各种高级的统计分析方法,各种统计模型,却忽视了统计学中一些最基础的知识,而这些知识是所有这些高级方法的基础,基础不扎实,高级方法用起来真觉得底气不足,今天看到哑 ...
SAS多元线性回归分析与残差分析(画残差图，残差的正太概率图含变量交叉项，写残差向量，计算回归系数的置信区间，检验自变量系数是否相等，利用R²，MSE，CP,PRESS准则和逐步回归法选择最优方程)
例题: 1. 某科学基金会的管理人员希望估计从事数学研究工作的中等或较高水平的数学家的年工资额Y与他们的研究成果(论文.著作等)的质量指标X1,从事研究工作的时间X2以及能成功获得资助的指标X3之间的 ...
统计学习：线性回归分析（1）
统计学习最近一直在处理数据,发现自己的理论基础不够,在某些小细节上做不好选择. 因此,开始了这趟补习之旅,将学习成果总结出来,也方便大家的学习于讨论. 线性回归分析线性回归分析,是一个很强大的工具 ...
统计|如何理解多元线性回归的F检验的作用与目的
本博文源于<商务统计>,旨在讲述如何理解多元线性回归中的F检验. 问题起源我们通过统计软件计算多元线性回归的参数,计算测得后,如何更好的描述你拥有回归参数对y的影响呢?换句话说,如果某一 ...
利用最小二乘法，用直线拟合点时，为什么计算竖直距离而非垂直距离？为什么在线性回归分析中，求的是距离平方和最小，而不是距离之和最小？
我的理解是,直接求距离之和可能导致多个解存在的情况,而求距离平方和可以保证唯一解,参考: 当且仅当a=b时,不等式等号成立参考文章:利用最小二乘法,用直线拟合5点时,为什么计算竖直距离而非垂直距离?
matlab多元回归分析怎么计算,matlab在多元线性回归分析中的相关计算
%本程序演示多元线性回归求解问题,2020.07 clc, clear X1=[161819172016161519181817 18202116181919211917171821]'; X2=[3 ...
一元线性回归分析的残差诊断
1973年安斯库姆(Anscombe)构造了四组数据,用这四组数据得到的经验回归方程是相同的, 都是y=3.00+0.500x, 决定系数都是,r2=0.667, 相关系数r=0.816. 这四组数据 ...
基于矩阵计算的线性回归分析方程中系数的估计
一.问题描述: 回归分析就是利用已知的数据来确定回归方程中的系数. 一元线性回归分析是一种非常简单也是非常基本的回归理论,能够用来刻画两个变量之间的以线性关系的变化趋势,进而预测未知点处的数据. 一元 ...
最小二乘法在回归分析中的演算过程
最小二乘法在统计学的线性回归分析中是使用最广和最常见的方法.本博文主要讲最小二乘法在一元线性回归中的推算过程,当然多元线性回归的推算过程与一元线性回归是类似的. 首先,讲一下什么是回归分析:回归分析是 ...