20210524 -

0. 引言

有时候做实验，一般采用比较简单的分类算法来测试一下这个数据怎么样，比如决策树，随机森林，因为代表编码比较简单，直接sklearn几行代码就完事了。但是最终在测试神经网络的时候，经常性的发现，神经网络的效果还不如决策树好。

其实这个结论，我也不是非常惊讶，我就是有点好奇是为什么。现在各种论文里大肆鼓吹神经网络，深度学习，当然对于图像，语音等领域，神经网络提升的效果必然是非常好的。但是，有时候在有些领域，也有人为了发论文来使用神经网络，实际上他的效果用普通的机器学习算法也能达到这样的效果，而且训练时间还短。

但是，话说回来，那为什么会出现这种情况呢！？
带着这个疑问，我在谷歌上搜索了相关的关键词，只找到一篇最相关的，但是读完也没觉得他完全解决我的疑问。

1. 为什么有时候决策树比神经网络效果还好

从最开始学神经网络，各种论断就是，只要层数够多，神经网络可以模拟任何函数。

这句话，也不能说不对。现在遇到的实际问题就是说，有时候明显发现一个数据在神经网络上就是不如决策树。在谷歌搜了了相关文章之后，发现了文章[1]，文章题目非常贴合我的疑问。

（未完待续）

参考

[1]When and Why Tree-Based Models (Often) Outperform Neural Networks

当神经网络的模型还不如决策树的效果好相关推荐

算法模型---树相关---决策树
决策树的特点决策树的用途决策树的适用范围数据类型特征可以连续和离散因变量分类时是离散,回归时是连续算法支持模型树结构特征选择连续值处理缺失值处理剪枝 ID3 分类多叉树信息 ...
DL之DNN：自定义2层神经网络TwoLayerNet模型(计算梯度两种方法)利用MNIST数据集进行训练、预测
DL之DNN:自定义2层神经网络TwoLayerNet模型(计算梯度两种方法)利用MNIST数据集进行训练.预测导读利用python的numpy计算库,进行自定义搭建2层神经网络TwoLayerN ...
今晚直播 | 北邮博士生纪厚业：异质图神经网络之模型和应用
「PW Live」是 PaperWeekly 的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和交流可能会让知识的传播更加有意义, ...
PW Live 直播 | 北邮博士生纪厚业：异质图神经网络之模型和应用
「PW Live」是 PaperWeekly 的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和交流可能会让知识的传播更加有意义, ...
决策树模型朴素贝叶斯模型_有关决策树模型的概述
决策树模型朴素贝叶斯模型 Decision Trees are one of the highly interpretable models and can perform both classif ...
卷积神经网络常用模型,卷积神经网络数学建模
有哪些深度神经网络模型? 目前经常使用的深度神经网络模型主要有卷积神经网络(CNN).递归神经网络(RNN).深信度网络(DBN).深度自动编码器(AutoEncoder)和生成对抗网络(GAN)等. ...
【学习日记】手写数字识别及神经网络基本模型
2021.10.7 [学习日记]手写数字识别及神经网络基本模型 1 概述张量(tensor)是数字的容器,是矩阵向任意维度的推广,其维度称为轴(axis).深度学习的本质是对张量做各种运算处理,其分 ...
人工神经网络的基本模型,神经网络解剖学模型图
神经网络是什么? 神经网络可以指向两种,一个是生物神经网络,一个是人工神经网络.生物神经网络:一般指生物的大脑神经元,细胞,触点等组成的网络,用于产生生物的意识,帮助生物进行思考和行动. 人工神经网络 ...
预测未来八小时降水情况的神经网络天气模型
文 / Nal Kalchbrenner 和 Casper Sønderby, Google Research 准确预测未来数分钟到数周内的天气情况是一项基础科学挑战,会对社会的众多领域产生广泛的影响 ...

当神经网络的模型还不如决策树的效果好

0. 引言

1. 为什么有时候决策树比神经网络效果还好

参考

当神经网络的模型还不如决策树的效果好相关推荐

最新文章

热门文章