随机森林特征个数mtry matlab,基于随机森林的特征选择算法

2.1 算法描述

本文提出了一种基于随机森林的Wrapper特征选择方法RFFS,利用随机森林算法的变量重要性度量对特征进行排序,然后采用序列后向搜索方法,每次从特征集合中去掉一个最不重要(重要性得分最小)的特征,逐次进行迭代,并计算分类正确率,最终得到变量个数最少、分类正确率最高的特征集合作为特征选择结果。为了保证实验结果的稳定性,本文采用了10折交叉验证方法,在每一次迭代中,将数据集划分成10等份,利用其中的9份作为训练集用于构建随机森林分类器,剩余的1份作为验证集数据进行验证。在10折交叉验证过程中,选择测试集上分类准确率最高的一次迭代产生的变量重要性排序作为删除特征的依据,将10次迭代的平均分类准确率作为该轮迭代的分类精度。具体过程如算法1所示。

算法1 基于随机森林的特征选择算法RFFS

输入:原始数据集S

输出:验证集上的最大分类正确率TGMaxAcc及其对应的特征集合FGSort

步骤:

1.初始化

1.1读入原始数据集S

1.2设置TGMaxAcc=0

2.For(ft in N-2)

2.1 将数据集S随机划分成10等份

2.2 设置局部最大分类准确率TLMaxAcc=0

2.3 设置局部平均分类准确率TLMeanAcc=0

2.4 初始化10折交叉验证中每次迭代的分类准确率

TLAcc[1∶10]=0

2.5 For(i in 1∶10)

2.5.1 在S上运行randomForest创建分类器

2.5.2 在测试集上执行predict进行分类

2.5.3 比较分类结果与观测值,计算TLAcc

2.5.4 计算TLMeanAcc=TLMeanAcc+TLAcc[i]/10

2.5.5 If(TLMaxAcc<=TLAcc[i])

2.5.6 则TLMaxAcc=TLAcc[i]

2.5.7 对特征按变量重要性排序并存为FSort

2.6 If(TGMaxAcc<=TLMeanAcc)

则TGMaxAcc=TLMeanAcc

FGSort=FSort

2.7 从FSort中去掉重要性得分最低的一个特征,得到新的数据集S

3.输出结果

3.1输出全局最高分类准确率TGMaxAcc

3.2输出全局最高分类准确率对应的特征集合FGSort

注:ft代表循环变量,N代表数据集中所有特征个数。

随机森林特征个数mtry matlab,基于随机森林的特征选择算法相关推荐

用相关法辨识系统的脉冲响应 matlab,基于相关分析法的系统辨识算法对比及仿真...
计算机工程应用技术 ComputerKnowledgeand Technology 电脑知识第12卷第9期 (2016年3月) 基于相关分析法的系统辨识算法对比及仿真冀征难 (国防科技大学机电工程 ...
奇异值分解水印 matlab,基于奇异值分解的数字图像水印算法研究毕业论文
内容介绍原文档由会员何倩倩发布基于奇异值分解的数字图像水印算法研究毕业论文本文共计54页,25261字: 摘要数字水印是将身份确认信息或保密信息镶嵌于图像中的一种技术,可靠的水印可为信息 ...
基于rnn的语音降噪matlab,基于RNN的音频降噪算法 (附完整C代码)
前几天无意间看到一个项目rnnoise. 基于RNN的音频降噪算法. 采用的是 GRU/LSTM 模型. 阅读下训练代码,可惜的是作者没有提供数据训练集. 不过基本可以断定他采用的数据集里,肯定有ur ...
【源码】基于拥挤距离的特征选择算法
提出了两种新的特征选择算法.第一种是filter方法,第二种是wrapper方法.这两种算法都以多目标优化中的拥挤距离作为特征排序的度量.不太拥挤的特征对目标属性(类)有很大的影响.实验结果表明了算法 ...
随机森林特征重要性计算_R语言随机森林模型中具有相关特征的变量重要性
原文链接: http://tecdat.cn/?p=13546tecdat.cn 变量重要性图是查看模型中哪些变量有趣的好工具.由于我们通常在随机森林中使用它,因此它看起来非常适合非常大的数据集.大 ...
随机游走模型 matlab,基于随机游走的图像分割matlab代码
[实例简介] 利用随机游走模型对图像进行了分割编程环境是matlab 含有示例图片可以直接运行 [实例截图] [核心代码] Randomwalksforimagesegmentation_matl ...
python随机森林特征重要性原理_用随机森林进行特征重要性度量，筛选出来的重要特征是否只对该随机森林来说是重要的，而对其他模型不一定？...
你的问题可以给出肯定的回答,重要性本来就是一个依赖于模型的指标,一些指标对模型A重要,但对B未必重要. 举个很简单的例子,在欧式距离中,量纲很重要,数值大距离就大数值小距离就小.而在余弦夹角表示距离时 ...
基于颜色特征的图像匹配MATLAB,基于颜色特征的图像检索系统这是个MATLAB程序 - 下载 - 搜珍网...
压缩包 : 基于颜色特征的图像检索系统.rar 列表基于颜色特征的图像检索系统\007.bmp 基于颜色特征的图像检索系统\01.bmp 基于颜色特征的图像检索系统\011.BMP 基于颜色特征的图 ...
模拟退火算法团簇matlab,基于改进Basin-Hopping Monte Carlo算法的Fen-Ptm(5≤n+m≤24)合金团簇结构优化...
摘要: 合金纳米团簇可以充分利用多种金属的协同效应来实现材料的多功能特性,因而备受关注.本文利用改进的Basin-Hopping Monte Carlo算法研究了不同尺寸和不同比例下的Fe-Pt二元合 ...

随机森林特征个数mtry matlab,基于随机森林的特征选择算法

随机森林特征个数mtry matlab,基于随机森林的特征选择算法相关推荐

最新文章

热门文章