一、多重共线性的确认：

做出自变量间的相关系数矩阵：如果相关系数超过0.9的变量在分析时将会存在共线性问题。在0.8以上可能会有问题。但这种方法只能对共线性作初步的判断，并不全面。

1. 容忍度（Tolerance）

有 Norusis 提出，即以每个自变量作为应变量对其他自变量进行回归分析时得到的残差比例，大小用1减决定系数来表示。该指标越小，则说明该自变量被其余变量预测的越精确，共线性可能就越严重。陈希孺等根据经验得出：如果某个自变量的容忍度小于0.1，则可能存在共线性问题。

2. 方差膨胀因子（Variance inflation factor, VIF）:

由Marquardt于1960年提出，实际上就是容忍度的倒数。VIF都是大于1的数，一般认为小于5时几近没有多重共线性，在[5, 10)间时存在一定的多重共线性，大于10则有需要关注的多重共线性，这时应当对变量进行调整，大于100时有严重册多重共线性，此时后续回归的系数具有高度可变性，故系数不可信。

3. 特征根（Eigenvalue）

该方法实际上就是对自变量进行主成分分析，如果相当多维度的特征根等于0，则可能有比较严重的共线性。

4. 条件指数（Condition Idex）

由Stewart等提出，当某些维度的该指标数值大于30时，则能存在共线性。
K(A)=∣∣A∣∣⋅∣∣A−1∣∣∣∣A∣∣=max⁡x∣∣Ax∣∣∣∣x∣∣∣∣A−1∣∣=max⁡y∣∣A−1y∣∣∣∣y∣∣=1/min⁡y∣∣y∣∣∣∣A−1y∣∣=1/min⁡x∣∣Ax∣∣∣∣x∣∣K(A) = ||A|| \cdot ||A^{-1}||\\ ||A|| =\max\limits_{x} \frac{||Ax||}{||x||} \\ ||A^{-1}|| = \max\limits_{y} \frac{||A^{-1}y||}{||y||} = 1/\min\limits_y\frac{||y||}{||A^{-1}y||} = 1/\min\limits_x\frac{||Ax||}{||x||} K(A)=∣∣A∣∣⋅∣∣A−1∣∣∣∣A∣∣=xmax∣∣x∣∣∣∣Ax∣∣∣∣A−1∣∣=ymax∣∣y∣∣∣∣A−1y∣∣=1/ymin∣∣A−1y∣∣∣∣y∣∣=1/xmin∣∣x∣∣∣∣Ax∣∣其中，y=Axy=Axy=Ax。
∣∣A∣∣||A||∣∣A∣∣为矩阵AAA的范数，表示AAA对向量xxx的拉伸能力，∣∣A−1∣∣||A^{-1}||∣∣A−1∣∣为矩阵A−1A^{-1}A−1的范数，表示A−1A^{-1}A−1对向量xxx的压缩能力。二者乘积即为Kappa条件数K(A)K(A)K(A)，表示了矩阵AAA对向量的拉伸与压缩能力。K(A)K(A)K(A)越大，AAA对向量xxx的干涉（拉伸与压缩）能力越强，共线性越强，解的稳定性越差。故当κ(A)\kappa(A)κ(A)大于一定值时（），认为AAA存在多重共线性。

kappa<100则认为有共线性程度很小。
100<=kappa<=1000则认为存在中等程度或者较强的共线性。
若kappa>1000则认为存在很严重的共线性

#R语言代码：
kappa(A)

二、多重共线性的对策：

【1】增大样本量，可部分的解决共线性问题
【2】采用多种自变量筛选方法相结合的方式，建立一个最优的逐步回归方程。
【3】从专业的角度加以判断，人为的去除在专业上比较次要的，或者缺失值比较多，测量误差比较大的共线性因子。
【4】进行主成分分析，用提取的因子代替原变量进行回归分析。
【5】进行岭回归分析，它可以有效的解决多重共线性问题。
【6】进行通径分析（Path Analysis），它可以对应自变量间的关系加以精细的刻画。

多重共线性的诊断与对策相关推荐

多重共线性的诊断（R语言）
多重共线性的诊断 1.方差扩大因子法经验表明,VIFj≥10VIF_{j}\geq10VIFj≥10时,就说明自变量xjx_{j}xj与其余变量之间有严重的多重共线性,且这种多重共线性可能会过度 ...
matlab消除多重共线性,第matlab计量经济学多重共线性的诊断与处理.doc
第matlab计量经济学多重共线性的诊断与处理.doc 第五节多重共线性的诊断与处理5.1多重共线性的诊断数据来源:<计量经济学>于俊年编著对外经济贸易大学出版社2000.6p208-p2 ...
vif诊断多重共线性
多重共线性的诊断\n1.方差扩大因子法\n经验表明,V I F j ≥ 10 VIF_{j}\\geq10VIF \nj\n\t\n ≥10时,就说明自变量x j x_{j}x \nj\n\t\n ...
2-4回归模型的诊断和优化 - 多重共线性
多重共线性是指线性回归模型中的解释变量之间由于存在精确相关关系或高度相关关系而使模型估计失真或者难以估计准确. 即存在一组不全为0的数使得多重共线性的成因: 不同的自变量存在相同的趋势引入了滞后的 ...
[DataAnalysis]多元线性回归深入浅出-案例+模型假设+参数估计方法+模型评判方法+变量选择+多重共线性问题
一.案例介绍 1.目的:利用上市公司当年的公开财务指标预测来年盈利情况最重要的投资人决策依据. 2.数据来源:随机抽取深市和沪市2002和2003年的500个上市公司样本预测来年的净资产收益率. 3. ...
emc整改措施及案例_EMC整改经典对策
标题: EMI 快速诊断与对策 2008-01-06 12:30:35 EMI 快速诊断与对策 EMI FAST DIAGNOSIS AND COU NTERMEASURE 深圳电子产品质量检测中心 ...
统计分析---多重共线性
多重共线性 ------主要参考何晓群<应用回归分析> ------仅用于个人学习知识整理和R语言代码整理 ------看到本站的另一篇总结多重共线性文章,觉得不错,附上链接:多重共线性的 ...
多重共线性问题如何解决？
一.多重共线性说明多重共线性一般是指:如果有两个或者多个自变量高度相关(相关系数大于0.8),难以区分一个自变量对因变量的影响和作用,将自变量相关性产生的后果定义为多重共线性,一般提出多重共线性 ...
多重共线性的处理方法
回归分析需要考虑多重共线性问题.多重共线性是指自变量之间存在高度相关性,导致回归模型的系数估计不稳定和假设检验不可靠.在实际应用中,许多自变量之间都可能存在一定程度的相关性,如果没有进行控制,就会导致 ...
CDA数据分析师level2（模拟题考点记录）
CDA数据分析师level2模拟题考点记录背景目前CDA一级题目刷完,课看完,但是由于疫情无法出去考试,所以先复习level2.level2的考试课程大致刷了一遍,整体ppt也看过一遍,但是感觉l ...

多重共线性的诊断与对策