VIF，共线相关性理解

多重共线性是指在变量空间中，存在自变量可以近似地等于其他自变量的线性组合

如果将所有自变量用于线性回归或逻辑回归的建模，将导致模型系数不能准确表达自变量对Y的影响。

比如：如果X1和X2近似相等，则模型Y = X1 + X2 可能被拟合成Y = 3 X1 - X2，原来 X2 与 Y 正向相关被错误拟合成负相关，导致模型没法在业务上得到解释。

在评分卡建模中，可能将很多相关性很高的变量加入到建模自变量中，最终得到的模型如果用变量系数去解释自变量与目标变量的关系是不合适的。

相关矩阵是指由样本的相关系数组成的矩阵，自变量相关系数过大意味着存在共线性，同时会导致信息冗余，维度增加。

设置相关系数的阈值，当大于threshold时，删除IV值较小的变量。

VIF（variance inflation factors）VIF =1/（1-R^2）式中，R^2是以xj为因变量时对其它自变量回归的复测定系数。

VIF越大，该变量与其他的变量的关系越高，多重共线性越严重。如果所有变量最大的VIF超过10，删除最大VIF的变量。

参考：

多重共线性：python中利用statsmodels计算VIF和相关系数消除共线性_ab1112221212的博客-CSDN博客

https://www.cnblogs.com/wqbin/p/11109650.html(可决系数)

VIF，共线相关性理解相关推荐

前端入门学习笔记（三十五）vue.js入门（三）条件 v-if 与循环 v-for，v-for 中 in 和 of 的区别
1.v-if v-if相当好理解,这里我就只贴实例代码了 <div id="app"><p v-if="true">现在你看到我了< ...
机器学习多变量回归算法_如何为机器学习监督算法识别正确的自变量？
机器学习多变量回归算法 There is a very famous acronym GIGO in the field of computer science which I have learn ...
金融风控——Python建模
金融风控基础篇风控的基本概念 0 基于AI的风控应用 1 什么是信用风险? 2 信用模型和欺诈模型的区别 3 小额现金贷 vs 大额信贷 4 信用评分建模的基本流程 5 和风控建模相关的问题有: 数 ...
Python探索性数据分析(EDA)统计数据和建模
探索性数据分析(EDA) 在统计学中,探索性数据分析是一种分析数据集以总结其主要特征的方法,通常使用统计图形和其他数据可视化方法. 可以使用或不使用统计模型,但主要是 EDA 用于查看数据可以告诉我们 ...
谈谈雷达信号处理之脉冲压缩
写作时间:2020-06-30 目录: 1.概念说明 2.脉冲压缩怎么来的 3.脉冲压缩原理 4.可以进行脉冲压缩的信号正文: 1.概念说明概念澄清,在雷达信号处理中,脉冲压缩.匹配滤波.相关接收 ...
数据结构与算法分析-二叉树,树和森林
二叉树,树和森林考试内容二叉树.树和森林的定义树: 树(Tree)是n(n>=0)个结点的有限集,它或为空树(n= 0); 或为非空树,对于非空树T: 有且仅有一个称之为根的结点: 除根结 ...
Vue详解及综合案例
一.Vue简介 1.1 简介 Vue (读音 /vjuː/,类似于 view) 是一套用于构建用户界面的渐进式的js框架,发布于 2014 年 2 月.与其它大型框架不同的是,Vue 被设计为可以自底 ...
比较全面的随机森林算法总结
点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达前言上节介绍了集成学习方法包括bagging法和boosting ...
吐血整理！万字原创读书笔记，数据分析的知识点全在这里了
作者:JaneK 来源:大数据DT 导读:今天这篇文章是「大数据」内容合伙人JaneK关于<Python数据分析与数据化运营>的一篇读书笔记. 本文目录: Python数据分析与挖掘 01 ...
Python 各种回归（含sklearn）
机器学习 https://www.jb51.net/article/164603.htm 多元回归 https://zhuanlan.zhihu.com/p/61084966?utm_source=w ...

VIF，共线相关性理解

VIF，共线相关性理解相关推荐

最新文章

热门文章