遗传算法神经网络深度学习概率论模糊数学之间有什么区别？

遗传算法

神经网络

深度学习

概率论

模糊数学

？？？

--------------

模糊数学是数学的一个分支，

遗传算法和神经网络都属于智能计算方法，不属于数学的一个分支，是涉及到多门学科的一类计算方法。

遗传算法是一种智能计算方法，针对不同的实际问题可以设计不同的计算程序。它主要有复制，交叉，变异三部分完成，是仿照生物进化过程来进行计算方法的设计。

神经网络是一种模型，

遗传算法是一种求最优化的算法。

神经网络是用来描述非线性关系。

深度学习的网络结构也是多层神经网络的一种。，因而深度学习是利用神经网络，描述现实中，非线性关系的算法。

遗传算法：一种求最优的算法。

深度学习：描述实现中输入和输出的非线性的算法。

神经网络：一种数学模型。

概率论：描述现实世界中的大量数据出现规律的理论工具。概率论是基于测度论的纯数学分支。

模糊数学：研究和处理模糊性想象的数学。度量事件发生的一个过程。模糊数学的理论尚未成熟、体系还未形成，

---

分类算法比较

各种分类算法比较

各种分类算法的优缺点。

1决策树（Decision Trees）的优缺点

决策树的优点：

一、决策树易于理解和解释.人们在通过解释后都有能力去理解决策树所表达的意义。

二、对于决策树，数据的准备往往是简单或者是不必要的.其他的技术往往要求先把数据一般化，比如去掉多余的或者空白的属性。

三、能够同时处理数据型和常规型属性。其他的技术往往要求数据属性的单一。

四、决策树是一个白盒模型。如果给定一个观察的模型，那么根据所产生的决策树很容易推出相应的逻辑表达式。

五、易于通过静态测试来对模型进行评测。表示有可能测量该模型的可信度。

六、 在相对短的时间内能够对大型数据源做出可行且效果良好的结果。

七、可以对有许多属性的数据集构造决策树。

八、决策树可很好地扩展到大型数据库中，同时它的大小独立于数据库的大小。

决策树的缺点：

一、对于那些各类别样本数量不一致的数据，在决策树当中,信息增益的结果偏向于那些具有更多数值的特征。

二、决策树处理缺失数据时的困难。

三、过度拟合问题的出现。

四、忽略数据集中属性之间的相关性。

2 人工神经网络的优缺点

人工神经网络的优点：分类的准确度高,并行分布处理能力强,分布存储及学习能力强，对噪声神经有较强的鲁棒性和容错能力，能充分逼近复杂的非线性关系，具备联想记忆的功能等。

人工神经网络的缺点：神经网络需要大量的参数，如网络拓扑结构、权值和阈值的初始值；不能观察之间的学习过程，输出结果难以解释，会影响到结果的可信度和可接受程度；学习时间过长,甚至可能达不到学习的目的。

3 遗传算法的优缺点

遗传算法的优点：

一、与问题领域无关切快速随机的搜索能力。

二、搜索从群体出发，具有潜在的并行性，可以进行多个个体的同时比较，鲁棒性好。

三、搜索使用评价函数启发，过程简单。

四、使用概率机制进行迭代，具有随机性。

五、具有可扩展性，容易与其他算法结合。

遗传算法的缺点：

一、遗传算法的编程实现比较复杂,首先需要对问题进行编码,找到最优解之后还需要对问题进行解码,

二、另外三个算子的实现也有许多参数,如交叉率和变异率,并且这些参数的选择严重影响解的品质,而目前这些参数的选择大部分是依靠经验.没有能够及时利用网络的反馈信息,故算法的搜索速度比较慢，要得要较精确的解需要较多的训练时间。

三、算法对初始种群的选择有一定的依赖性，能够结合一些启发算法进行改进。

4 KNN算法(K-Nearest Neighbour) 的优缺点

KNN算法的优点：

一、简单、有效。

二、重新训练的代价较低（类别体系的变化和训练集的变化，在Web环境和电子商务应用中是很常见的）。

三、计算时间和空间线性于训练集的规模（在一些场合不算太大）。

四、由于KNN方法主要靠周围有限的邻近的样本，而不是靠判别类域的方法来确定所属类别的，因此对于类域的交叉或重叠较多的待分样本集来说，KNN方法较其他方法更为适合。

五、该算法比较适用于样本容量比较大的类域的自动分类，而那些样本容量较小的类域采用这种算法比较容易产生误分。

KNN算法缺点：

一、 KNN算法是懒散学习方法（lazy learning,基本上不学习），一些积极学习的算法要快很多。

二、类别评分不是规格化的（不像概率评分）。

三、输出的可解释性不强，例如决策树的可解释性较强。

四、该算法在分类时有个主要的不足是，当样本不平衡时，如一个类的样本容量很大，而其他类样本容量很小时，有可能导致当输入一个新样本时，该样本的K个邻居中大容量类的样本占多数。该算法只计算“最近的”邻居样本，某一类的样本数量很大，那么或者这类样本并不接近目标样本，或者这类样本很靠近目标样本。无论怎样，数量并不能影响运行结果。可以采用权值的方法（和该样本距离小的邻居权值大）来改进。

五、计算量较大。目前常用的解决方法是事先对已知样本点进行剪辑，事先去除对分类作用不大的样本。

5 支持向量机（SVM）的优缺点

SVM的优点：

一、可以解决小样本情况下的机器学习问题。

二、可以提高泛化性能。

三、可以解决高维问题。

四、可以解决非线性问题。

五、可以避免神经网络结构选择和局部极小点问题。

SVM的缺点：

一、对缺失数据敏感。

二、对非线性问题没有通用解决方案，必须谨慎选择Kernelfunction来处理。

6 朴素贝叶斯的优缺点

优点：

一、朴素贝叶斯模型发源于古典数学理论，有着坚实的数学基础，以及稳定的分类效率。

二、 NBC模型所需估计的参数很少，对缺失数据不太敏感，算法也比较简单。

缺点：

一、理论上，NBC模型与其他分类方法相比具有最小的误差率。但是实际上并非总是如此，这是因为NBC模型假设属性之间相互独立，这个假设在实际应用中往往是不成立的（可以考虑用聚类算法先将相关性较大的属性聚类），这给NBC模型的正确分类带来了一定影响。在属性个数比较多或者属性之间相关性较大时，NBC模型的分类效率比不上决策树模型。而在属性相关性较小时，NBC模型的性能最为良好。

二、需要知道先验概率。

三、分类决策存在错误率

7 Adaboosting方法的优点

一、 adaboost是一种有很高精度的分类器。

二、可以使用各种方法构建子分类器，Adaboost算法提供的是框架。

三、当使用简单分类器时，计算出的结果是可以理解的。而且弱分类器构造极其简单。

四、简单，不用做特征筛选。

五、不用担心overfitting。

8 Rocchio的优点

Rocchio算法的突出优点是容易实现，计算（训练和分类）特别简单，它通常用来实现衡量分类系统性能的基准系统，而实用的分类系统很少采用这种算法解决具体的分类问题。

9各种分类算法比较

根据这篇论文所得出的结论,

Calibrated boosted trees的性能最好，随机森林第二，uncalibrated bagged trees第三,calibratedSVMs第四， uncalibrated neural nets第五。

性能较差的是朴素贝叶斯，决策树。

有些算法在特定的数据集下表现较好

遗传算法神经网络深度学习概率论模糊数学之间有什么区别？相关推荐

机器学习、数据科学、人工智能、深度学习和统计学之间的区别！
↑↑↑关注后"星标"Datawhale 每日干货 & 每月组队学习,不错过 Datawhale干货作者:Vincent Granville,来源:机器之心在这篇文章中, ...
一文读懂机器学习、数据科学、人工智能、深度学习和统计学之间的区别！
点击上方,选择星标或置顶,不定期资源大放送! 阅读大概需要15分钟 Follow小博主,每天更新前沿干货作者:Vincent Granville 来源:机器之心公众号链接:http://www.d ...
什么是深度学习，深度学习和机器学习之间，主要有什么区别
在深度学习中,计算机模型学习直接从图像.文本或声音中执行分类任务.深度学习模式可以达到新的精确度,有时甚至超过人类的表现.大多数深度学习方法使用神经网络的架构,这也是深度学习模型通常被称为深度神经网络 ...
神经网络(深度学习)----MLPClassifier库的初尝试
文章目录神经网络(深度学习) 神经网络模型神经网络调参默认情况(1层hidden层,包含100个隐单元hidden unit) 减少隐单元个数添加多层隐层切换激活函数正则化操作随机化种子 ...
实用卷积神经网络运用python pdf_解析卷积神经网络—深度学习实践手册中文pdf高清版...
解析卷积神经网络-深度学习实践手册从实用角度着重解析了深度学习中的一类神经网络模型--卷积神经网络,向读者剖析了卷积神经网络的基本部件与工作机理,更重要的是系统性的介绍了深度卷积神经网络在实践应用方面 ...
3.神经网络-深度学习入门
3.神经网络深度学习入门本文的文件和代码链接:github地址 1.激活函数 sigmoid h ( x ) = 1 1 + e − x h(x) = \frac{1}{1 + e^{-x}} h ...
神经网络+深度学习+增强学习
神经网络+深度学习+增强学习神经网络像飞机的灵感来源于鸟类,雷达的灵感来源于蝙蝠,红外线的灵盖来源于蛇,而本文要讨论的神经网络灵感来源于我们自己,人类大脑的神经元结构.从神经元结构被提出,到时下火 ...
深度学习、机器学习、人工智能的区别
日萌社人工智能AI:Keras PyTorch MXNet TensorFlow PaddlePaddle 深度学习实战(不定时更新) 深度学习.机器学习.人工智能的区别 1.机器学习是人工智能 ...
深度学习中FLOPS和FLOPs的区别与计算
深度学习中FLOPS和FLOPs的区别与计算 FLOPS FLOPs 单位换算 Params和FLOPs的计算 CONV标准卷积层 FC全连接层 NVIDIA GPU的浮点计算能力 GPU的计算能力的 ...
深度学习与芯片之间的羁绊往事
https://www.toutiao.com/a6707824921382224392/ 2019年人工智能逐步从弱人工智能迈入下一阶段,而这一切都离不开强大的芯片.现有深度神经网络需要用更短的时间 ...

遗传算法神经网络深度学习概率论模糊数学之间有什么区别？

遗传算法神经网络深度学习概率论模糊数学之间有什么区别？相关推荐

最新文章

热门文章

遗传算法 神经网络 深度学习 概率论 模糊数学 之间有什么区别？

遗传算法 神经网络 深度学习 概率论 模糊数学 之间有什么区别？相关推荐

最新文章

热门文章

遗传算法神经网络深度学习概率论模糊数学之间有什么区别？

遗传算法神经网络深度学习概率论模糊数学之间有什么区别？相关推荐