Random Forest 实用经验（转）

总结两条关于random forest的实用经验。给定数据和问题，对于算法选择有参考价值。

小样本劣势，大样本优势

小样本情况下（1k~100k）： RF相对与经典算法（SVM or Boosting）没优势，一般来说效果更差
大样本情况下（1M+）：这时候其他算法基本上跑不动了。RF凭借着快速的 training 和 testing，成为唯一能够实际操作的算法。这也从一个侧面证明了工业界的哲学：数据第一，算法第二
如何针对不同问题，设计使用RF的方法，从而能够产生海量数据，是一门艺术
2. RF 与 KNN有相似的效果

RF 和 KNN 都可以看成对空间劈分的算法。RF 对空间的劈分是预计算的（在training过程中确定）；而 KNN则是根据 testing sample adaptively劈分空间的。可以将RF视为KNN的一种快速算法。
KNN做不好的问题，RF也做不好

转自于
https://www.douban.com/note/212245564/

关于Knn和Random Forests的感觉
http://kkx.github.io/

Random Forest 实用经验（转）相关推荐

多元随机森林回归（Multivariate Random Forest Regreesor）经验总结
多元随机森林回归(Multivariate Random Forest Regreesor)经验总结随机森林多元回归问题是否需要分析自变量相关性最近在使用随机森林解决多元回归问题,本文涉及一些 ...
系列《使用sklearn进行集成学习——理论》《使用sklearn进行集成学习——实践》目录 1 Random Forest和Gradient Tree Boosting参数详解 2 如何调参？
系列 <使用sklearn进行集成学习--理论> <使用sklearn进行集成学习--实践> 目录 1 Random Forest和Gradient Tree Boosting ...
[Machine Learning] Random Forest 随机森林
阅读目录 1 什么是随机森林? 2 随机森林的特点 3 随机森林的相关基础知识 4 随机森林的生成 5 袋外错误率(oob error) 6 随机森林工作原理解释的一个简单例子 7 随机森林的Pyth ...
【机器学习】随机森林（Random Forest）
1 什么是随机森林? 作为新兴起的.高度灵活的一种机器学习算法,随机森林(Random Forest,简称RF)拥有广泛的应用前景,从市场营销到医疗保健保险,既可以用来做市场营销模拟的建模,统计客户来 ...
机器学习 - 随机森林 Random Forest
先修知识: 决策树.可以看我之前写的文章https://blog.csdn.net/weixin_41332009/article/details/112276531 集成学习.也可以看之前写的文章h ...
Random Forest（随机森林）在软件缺陷预测领域的应用及其特点
这篇博客也就简单总结一些基础知识.从我个人的经验和别人的论文来看,Random Forest是最适用于软件缺陷预测的机器学习算法.例如这篇文章: Osman, Haidar, Mohammad Gha ...
Random Forest和Gradient Tree Boosting模型如何调参
作者:城东链接:https://www.zhihu.com/question/34470160/answer/114305935 来源:知乎著作权归作者所有,转载请联系作者获得授权. 我来讲一讲R ...
Random Forest和Gradient Tree Boosting如何调参
作者:城东链接:https://www.zhihu.com/question/34470160/answer/114305935 来源:知乎著作权归作者所有,转载请联系作者获得授权. 使用skle ...
随机森林(Random Forest )
上一篇:决策树(Decision Tree) 随机森林是一个具有高度灵活的机器学习算法,随机森林(Random Forest,简称RF)拥有广泛的应用前景,在当前的很多数据集上,相对其他算法有着很大的 ...

Random Forest 实用经验（转）

Random Forest 实用经验（转）相关推荐

最新文章

热门文章