一 WOE

1.1 概念

1.2 样例

二 IV

2.1 概念

2.2 样例

三参考材料

IV和WOE通常是用在对模型的特征筛选，在模型刚建立时，选择的变量往往比较多，这个时候就需要有一种方法来帮助我们衡量什么变量应该进入模型什么变量应该舍弃，IV和WOE就可以帮助我们进行衡量。对于一个变量来说，我们考虑该变量是否可以加入预测一般可以考虑以下五个因素：(1)变量的预测能力(2)变量的鲁棒性(3)变量在业务上的可解释性(4)变量的生成难度(5)变量之间的相关性。

对于上述的第一点，就可以用IV和WOE值来进行判断，值越大就表示预测能力越强。计算WOE和IV是评分卡模型的一个重要环节，比如判断用户收入对用户是否会发生逾期的预测强度。这两个值有两个方面的应用：

1.指导变量离散化。在建模过程中，时常需要对连续变量进行离散化处理，如将年龄进行分段。但是变量不同的离散化结果（如：年龄分为［0-20］还是［0-15］）会对模型产生不同影响。因此，可以根据指标所反应的预测强度，调整变量离散化结果。（对一些取值很多的分类变量，在需要时也可以对其进行再分组，实现降维。）

2.变量筛选。我们需要选取比较重要的变量加入模型，预测强度可以作为我们判断变量是否重要的一个依据。

接下来看看WOE和IV的计算方法。

一 WOE

1.1 概念

WOE（Weight Of Evidence）用来衡量变量的预测强度，要使用WOE的话，首先要对变量进行分箱，分箱之后，对于其中第i组的WOE值公式如下：

$WOE_i=ln \frac{py_i}{pn_i}=ln\frac{\#y_i/\#y_r}{\#n_i/\#n_r}$

其中， $py_i$ 表示表示该组中的正例占该组的比例， $pn_i$ 表示整体的正例占总样本的比例。

1.2 样例

下面用一个例子（该样例取自第三篇参考材料）来说明具体的步骤：

假设现在某个公司举行一个活动，在举行这个活动之前，先在小范围的客户中进行了一次试点，收集了一些用户对这次活动的一些响应，然后希望通过这些数据，去构造一个模型，预测如果举行这次的活动，是否能够得到很好的响应或者得到客户的响应概率之类。

假设我们已经从公司客户列表中随机抽取了100000个客户进行了营销活动测试，收集了这些客户的响应结果，作为我们的建模数据集，其中响应的客户有10000个。另外假设我们也已经提取到了这些客户的一些变量，作为我们模型的候选变量集，这些变量包括以下这些:

最近一个月是否有购买；
最近一次购买金额；
最近一笔购买的商品类别；
是否是公司VIP客户；

假设，我们已经对这些变量进行了离散化，统计的结果如下面几张表所示。

(1) 最近一个月是否有过购买：

(2) 最近一次购买金额：

(3) 最近一笔购买的商品类别：

(4) 是否是公司VIP客户：

我们以其中的一个变量“最近一次购买金额”变量为例：

我们把这个变量离散化为了4个分段：<100元，[100,200)，[200,500)，>=500元。首先，根据WOE计算公式，这四个分段的WOE分别为：

通过上述表格中的WOE结果，我们可以对这个结果的正负值做一个分析，直观的来看，根据ln函数的特性，就是当这个组中响应样本的比例比总体的响应比例小时为负数，相等时为0，大于时为正数。

有了上述的结果之后，我们可以把这个变量的所有分组的WOE值的绝对值加起来，这个可以在一定程度上表示这个变量的预测能力，但是我们一般的时候不会这么做，因为对于分组中的样本数量相差悬殊的场景，WOE值可能不能很好的表示出这个变量的预测能力，我们一般会用到另一个值：IV值。这个值在计算的时候，比WOE值多考虑了一层该变量下该分组占该变量下所有样本的比例。

二 IV

2.1 概念

IV值的计算公式是在WOE的基础上多乘了一个 $(py_i-pn_i)$ ，还记得 $py_i$ 是表示该变量的该组中响应的样本占该组样本的比例， $pn_i$ 表示该变量所有响应样本占该变量所有样本的比例。

2.2 样例

还是继续上面的例子，我们在计算出WOE值之后，其实计算IV值就会简单很多了，接下来把“最后一次购买金额”这个变量的各个分组的IV值都计算出来

把上面的IV1,IV2,IV3,IV4加起来，就是这个变量的IV值，然后把所有变量的IV值都算出来，就可以根据IV值的大小来看出变量的预测能力。

三参考材料

1. WOE与IV值

2. 用IV和WOE来做特征筛选

3.数据挖掘模型中的IV和WOE详解

【机器学习基础】IV和WOE值相关推荐

6 机器学习 IV与WOE 分箱过抽样与欠抽样
机器学习 1 IV与WOE 1.1 IV IV,Information Value,指的是信息价值或者信息量. IV可以理解为特征筛选的量化指标, 用于衡量数据特征的预测能力或者在模型预测过程中对预测 ...
学习记录633@python特征筛选之WOE值与IV值
在使用逻辑回归.决策树等模型算法构建分类模型时,经常需要对特征变量进行筛选.因为有时可能会获得100多个候选特征变量,通常不会直接把这些特征变量放到模型中去进行拟合训练,而是从这些特征变量中挑选一些放 ...
【推荐系统】WOE、IV、OR值、信息增益、卡方检验
目录特征起因评分卡模型中的IV和WOE详解信息增益 OR值卡方检验 GaussRank 高基数数据特征起因特征工程综述常看常新工业级推荐系统中的特征工程 - 杨旭东的文章 - 知乎 ...
【机器学习基础】非常详细！机器学习模型评估指标总结！
作者:太子长琴,Datawhale优秀学习者本文对机器学习模型评估指标进行了完整总结.机器学习的数据集一般被划分为训练集和测试集,训练集用于训练模型,测试集则用于评估模型.针对不同的机器学习问题(分 ...
特征工程中的IV和WOE详解
1.IV的用途 IV的全称是Information Value,中文意思是信息价值,或者信息量. 我们在用逻辑回归.决策树等模型方法构建分类模型时,经常需要对自变量进行筛选.比如我们有200个候选自变 ...
风控建模中的IV和WOE
在风控建模中IV(信息价值)和WOE(证据权重)分别是变量筛选和变量转换中不可缺少的部分. 很多文章已经讨论过这两个变量,本文在吸收前人优秀成果的基础上,希望用通俗易懂的语言让大家快速理解这两 ...
信用评分的简单小结（ROC，IV，WOE）
转自:http://chen.yi.bo.blog.163.com/blog/static/150621109201011115616880/ 由于专业的关系,我学习信用评分的时候往往最关注模型那一块 ...
woe分析_特征工程中的IV和WOE详解
1.IV的用途 IV的全称是Information Value,中文意思是信息价值,或者信息量. 我们在用逻辑回归.决策树等模型方法构建分类模型时,经常需要对自变量进行筛选.比如我们有200个候选自变 ...
woe分析_用IV和WOE来做特征筛选
什么是变量的离散化变量的离散化就是只抽取出一个变量,分析变量当中的分组与标签的分布情况. 比如对于某个活动客户有响应和不响应的情况(这里的响应与否就是我们的标签),有多个变量: 最近一个月是否有购买 ...
银行业评分卡制作——IV、WOE
参考链接:https://blog.csdn.net/kevin7658/article/details/50780391 1.IV的用途 IV的全称是Information Value,中文意思是信 ...

【机器学习基础】IV和WOE值

一 WOE

1.1 概念

1.2 样例

二 IV

2.1 概念

2.2 样例

三参考材料

【机器学习基础】IV和WOE值相关推荐

最新文章

热门文章

【机器学习基础】IV和WOE值

一 WOE

1.1 概念

1.2 样例

二 IV

2.1 概念

2.2 样例

三 参考材料

【机器学习基础】IV和WOE值相关推荐

最新文章

热门文章

三参考材料