回归分析中的多重共线性问题

最近做回归分析，出现了相关系数与回归方程系数符号相反的问题，经过研究，确认是多重共线性问题并探索了解决方法。

在此将多重共线性的相关知识整理如下。

解释变量理论上的高度相关与观测值高度相关没有必然关系，有可能两个解释变量理论上高度相关，但观测值未必高度相关，反之亦然。所以多重共线性本质上是数据问题。

造成多重共线性的原因有一下几种：

1、解释变量都享有共同的时间趋势；

2、一个解释变量是另一个的滞后，二者往往遵循一个趋势；

3、由于数据收集的基础不够宽，某些解释变量可能会一起变动；

4、某些解释变量间存在某种近似的线性关系；

判别：

1、发现系数估计值的符号不对；

2、某些重要的解释变量t值低，而R方不低

3、当一不太重要的解释变量被删除后，回归结果显著变化；

检验；

1、相关性分析，相关系数高于0.8，表明存在多重共线性；但相关系数低，并不能表示不存在多重共线性；

2、vif检验；

3、条件系数检验；

解决方法：

1、增加数据；

2、对模型施加某些约束条件；

3、删除一个或几个共线变量；

4、将模型适当变形；

5、主成分回归

处理多重共线性的原则：

1、多重共线性是普遍存在的，轻微的多重共线性问题可不采取措施；

2、严重的多重共线性问题，一般可根据经验或通过分析回归结果发现。如影响系数符号，重要的解释变量t值很低。要根据不同情况采取必要措施。

3、如果模型仅用于预测，则只要拟合程度好，可不处理多重共线性问题，存在多重共线性的模型用于预测时，往往不影响预测结果；

以上是摘抄《计量经济学中级教程》潘省初主编

回归分析中的多重共线性问题相关推荐

spss回归分析_回归分析中的简单斜率检验：用SPSS或jamovi实现
哈哈,不简单的"简单效应",How old are you? 之前的两篇文章,我们已经深入探讨了如何用SPSS做方差分析中的简单效应检验,并且最终得到结论:要用GLM语句,不需要再 ...
回归分析中自变量共线性_具有大特征空间的回归分析中的变量选择
回归分析中自变量共线性介绍 (Introduction) Performing multiple regression analysis from a large set of independen ...
回归模型中的多重共线性 + 危害 + 原因 + 判断标准 + 解决办法，回归系数
1. 多重共线性多重共线性是指线性回归模型中的解释变量之间由于存在精确或高度相关关系. 例如:某个回归模型包含2个变量,年龄和工作经验年数,常识可知年龄越大,工作经验年数越大,两个变量可能存在高度 ...
R语言使用car包的influencePlot函数将回归分析中的离群点（outlier）、杠杆(leverage)和影响(influence)的信息组合成一个高度信息量丰富的合成图
R语言使用car包的influencePlot函数将回归分析中的离群点(outlier).杠杆(leverage)和影响(influence)的信息组合成一个高度信息量丰富的合成图目录
多元线性模型分类变量方差_第三十一讲 R多元线性回归中的多重共线性和方差膨胀因子...
在前两讲中,我们介绍了多元线性回归的概念以及多元线性回归中的交互作用.今天学习的主要内容是多元线性回归中的多重共线性和方差膨胀因子. 1. 共线性的概念 1 共线性在多元回归中,两个或多个预测变量可 ...
回归分析中的p值和R方哪个更重要？
在回归分析中,解释变量的回归系数p值和方程的R方哪个更重要?有人说,我们领域的研究似乎更看重p值,而不管R方这种说法值得商榷. 在统计上,回归系数的p值很重要,它是前提.但当涉及理论解释时,R方就更重 ...
线性回归分析中的哑变量
最近偶尔在重温统计学,发现自己工作后用了各种高级的统计分析方法,各种统计模型,却忽视了统计学中一些最基础的知识,而这些知识是所有这些高级方法的基础,基础不扎实,高级方法用起来真觉得底气不足,今天看到哑 ...
统计|如何理解线性回归分析中残差检验的基本步骤
本博文源于<商务统计>,旨在讲述如何对线性回归分析中已经拟合好的直线做残差分析.当谈起残差,必须了解残差是y的实际值和预测值之差. 线性回归模型的残差检验假定条件线性假定:X与Y之间的关 ...
回归分析中，简述几种残差的定义？性质？作用以及特点？
回归分析中常用的残差有普通残差,学生化残差,删除残差,删除学生化残差.下面给出这几种残差的定义,性质,作用和特点. 回归分析的几种残差定义和性质回归分析中回归诊断的主要内容普通残差学生化残差删 ...
最小二乘法在回归分析中的演算过程
最小二乘法在统计学的线性回归分析中是使用最广和最常见的方法.本博文主要讲最小二乘法在一元线性回归中的推算过程,当然多元线性回归的推算过程与一元线性回归是类似的. 首先,讲一下什么是回归分析:回归分析是 ...

回归分析中的多重共线性问题

回归分析中的多重共线性问题相关推荐

最新文章

热门文章