使用MIC进行变量选择

如果有很多自变量，我们能在很多自变量中选出几个对因变量影响最大的吗?或许MIC可以解决这个问题哦。

# -*- coding: utf-8 -*-
"""
Created on Mon Mar 14 19:52:57 2016@author: Luyixiao
"""import numpy as np
from minepy import MINE
import matplotlib.pyplot as pltdef print_stats(mine):print "MIC", mine.mic()
#    print "MAS", mine.mas()#detecting periodic relationships with unknown frequencies
#    print "MEV", mine.mev()
#    print "MCN (eps=0)", mine.mcn(0)
#    print "MCN (eps=1-MIC)", mine.mcn_general()x1 = np.linspace(0, 1, 1000)
x2 = np.random.randn(x1.shape[0])+0.5
x3 = np.random.randn(x1.shape[0])#normal mean = 0,dev = 1
x4 = np.random.random_sample(x1.shape[0])#random
x5 = 2*np.random.randn(x1.shape[0])+10 #normal mean = 10,dev = 2
x6 = 4*np.random.random_sample(x1.shape[0])#random*4
y = np.sin(10 * np.pi * x1) + x2
#y = np.sin(10 * np.pi * x1) + x2*0.01
mine = MINE(alpha=0.6, c=15)print "MIC between y and x1:"
mine.compute_score(x1, y)
print_stats(mine)
plt.scatter(x1, y,  color='red')
plt.show()
print "MIC between y and x2:"
mine.compute_score(x2, y)
print_stats(mine)
plt.scatter(x2, y,  color='blue')
plt.show()
print "MIC between y and x3(normal disturbtion):"
mine.compute_score(x3, y)
print_stats(mine)
print "MIC between y and x4(random disturbtion):"
mine.compute_score(x4, y)
print_stats(mine)
print "MIC between y and x3(normal disturbtion):"
mine.compute_score(x5, y)
print_stats(mine)
print "MIC between y and x4(random disturbtion):"
mine.compute_score(x6, y)
print_stats(mine)

这里，y只与x1，x2有关。函数表达式是y=sin（10*3.14*x1）+x2。

运行之后的效果是这样的。

首先是x1变量与y的MIC值

MIC between y and x1:
MIC 0.34578174965

散点图是

然后是x2的：

MIC between y and x2:
MIC 0.583633971634

散点图是

那么还有几个变量呢？

MIC between y and x3(normal disturbtion):
MIC 0.125493013005
MIC between y and x4(random disturbtion):
MIC 0.126849697109
MIC between y and x3(normal disturbtion):
MIC 0.134937129482
MIC between y and x4(random disturbtion):
MIC 0.147182587126

相比较而言，这几个无关变量与y的MIC值都是比较小的，不管这些无关系数的范围在什么区间。

使用MIC进行变量选择相关推荐

【运筹学】人工变量法总结 ( 人工变量法解的分析 | 标准型变换 | 构造单位阵 | 目标函数引入 M | 计算检验数 | 选择入基变量 | 选择出基变量 | 中心元变换 | ) ★★
文章目录一.人工变量法及解的分析二.案例三.线性规划标准型变换四.人工变量法构造单位阵五.初始单纯形表六.初始单纯形表 : 计算非基变量检验数七.初始单纯形表 : 最优解判定八.初始单 ...
【运筹学】线性规划人工变量法 ( 人工变量法案例 | 第二次迭代 | 中心元变换 | 检验数计算 | 最优解判定 | 选择入基变量 | 选择出基变量 )
文章目录一.第二次迭代 : 中心元变换二.第二次迭代 : 单纯形表三.第二次迭代 : 计算检验数四.第二次迭代 : 最优解判定五.第二次迭代 : 选择入基变量六.第二次迭代 : 选择出基变 ...
【运筹学】线性规划人工变量法 ( 人工变量法案例 | 第一次迭代 | 中心元变换 | 检验数计算 | 选择入基变量 | 选择出基变量 )
文章目录一.第一次迭代 : 中心元变换二.第一次迭代 : 单纯形表三.第一次迭代 : 计算检验数四.第一次迭代 : 最优解判定五.第一次迭代 : 选择入基变量六.第一次迭代 : 选择出基变 ...
【运筹学】线性规划数学模型 ( 单纯形法 | 第一次迭代 | 方程组同解变换 | 计算新单纯形表 | 计算检验数 | 入基变量选择 | 出基变量选择 )
文章目录一.初始基可行解后第一次迭代二.迭代后新的单纯形表三.方程组同解变换四.生成新的单纯形表五.解出基可行解六.计算检验数 σj\sigma_jσj 并选择入基变量七.计算 θ\t ...
UA MATH567 高维统计专题1 稀疏信号及其恢复7 LASSO的预测误差与变量选择一致性
UA MATH567 高维统计专题1 稀疏信号及其恢复7 LASSO的预测误差与变量选择一致性 Prediction Error Variable Selection Consistency Pred ...
LASSO与Item Response Theory模型中的隐变量选择
LASSO与Item Response Theory模型中的隐变量选择 Item Response Theory简介统计模型 Latent Traits Selection 两参数模型的LASSO ...
UA MATH571A 多元线性回归II 变量选择
UA MATH571A 多元线性回归II 变量选择多项式回归与交互项回归阶数的确定含质量型变量的回归含质量型变量的交互项二值变量与二值变量的交互项二值变量与数量型变量的交互项变量选择的准 ...
hotelling变换_基于Hotelling-T²的偏最小二乘（PLS）中的变量选择
hotelling变换背景 (Background) One of the most common challenges encountered in the modeling of spectro ...
面板数据、工具变量选择和Hausman检验的若干问题
面板数据作为计量经济学中的一个小分支,多数本科学校没有学过,此课程主要面向研究生及以上,但是面板数据的实证分析在核心刊物上屡屡出现. 一.面板数据哪里好一般而言,面板数据模型的误差项由两部分组成,一 ...

使用MIC进行变量选择

使用MIC进行变量选择相关推荐

最新文章

热门文章