径向基神经网络与多层感知器的比较

1、径向基神经网络

径向基函数网络是由三层构成的前向网络：第一层为输入层，节点个数的能与输入的维数；第二层为隐含层，节点个数视问题的复杂度而定；第三层为输出层，节点个数等于输出数据的维数。

一般地，径向基函数记为Φ(x,y)=ϕ(∣∣x−y∣∣)\Phi(x,y)=\phi(||x-y||)Φ(x,y)=ϕ(∣∣x−y∣∣)，其中||x||指欧几里得范数。根据E.M.Stein和G.Weiss的定义，径向基函数必须满足：如果∣∣x1∣=∣∣x2∣∣||x_1|=||x_2||∣∣x1∣=∣∣x2∣∣，则Φ(x1)=ϕ(x2)\Phi(x_1)=\phi(x_2)Φ(x1)=ϕ(x2)。由径向基函数的定义可知，函数值仅与自变量的范数有关。

2、多层感知器

多层感知器（MLP，Multilayer Perceptron）是一种前馈人工神经网络模型，其将输入的多个数据集映射到单一的输出的数据集上。

3、两者的异同

对于任意一个多层感知器，都存在一个可以替代它的径向基神经网络，反之，任意一个径向基神经网络，也存在一个多层感知器可以替代它。两者功能相近，但又有明显区别：

径向基神经网络是三层网络（输入层、隐含层、输出层），只有一个隐含层，而多层感知器则可以有多个隐含层。
径向基神经网络的隐含层和输出层完全不同，隐含层采用非线性函数（径向基函数）作为基函数，而输出层采用线性函数，两者作用不同。在多层感知器中，隐含层和输出层没有本质区别，一般都采用非线性函数。由于径向基函数网络输出的是线性加权和，因此学习速度更快。
径向基神经网络的基函数计算的是输入向量与基函数中心之间的欧氏距离（两者取差值，再取欧几里得范数），而多层感知器的隐单元的激励函数则计算输入向量与权值的内积。
多层感知器对非线性映射全局逼近，而径向基函数使用局部指数衰减的非线性函数进行局部逼近，因此，要达到相同的精度，径向基函数需要的参数比多层感知器少得多。
BP网络使用sigmoid函数作为激励函数，有很大的输入可见域。径向基函数网络引入RBF函数，当输入值偏离基函数中心时，输出逐渐减小，并很快趋于零。这一点比多层感知器更符合神经元响应基于感受域这一特点，比BP网络具有更深厚的理论基础。同时由于输入可见区域很小，径向基函数网络需要更多的径向基神经元。

径向基神经网络与多层感知器的比较相关推荐

人工神经网络：多层感知器
提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录前言一.今日所学二.今日重点前言虽然异或问题成为感知器和早期神经网络的阿喀琉斯之踵,但它并非无解的问题.恰恰相反,解 ...
深度学习入门系列1：多层感知器概述
本人正在学习<deep learning with python>–Jason Brownlee,有兴趣的可以一起学习. 仅供学习参考,不做商用! 大家好,我技术人Howzit,这是深度学 ...
神经网络与机器学习笔记—多层感知器（MLP）
多层感知器(MLP) Rosenblatt感知器和LMS算法,都是单层的并且是单个神经元构造的神经网络,他们的局限性是只能解决线性可分问题,例如Rosenblatt感知器一直没办法处理简单异或问题.然 ...
keras从入门到放弃(六）多层感知器(神经网络)
多层感知器(神经网络) 从线性回归模型和对数几率回归模型本质上都是单个神经元计算输入特征的加权使用一个激活函数计算输出单个神经元(二分类) 多和神经元(多分类) 但是单层神经元有缺陷无法拟合& ...
神经网络入门回顾（感知器、多层感知器）
神经网络属于"联结主义",和统计机器学习的理论基础区别还是很不一样. 以我自己的理解,统计机器学习的理论基于统计学,理论厚度足够强,让人有足够的安全感:而神经网络的理论更侧重于代数 ...
多层感知器及常见激活函数-深度神经网络DNN及计算推导
多层感知器在之前的博客中,我们了解到,感知器(指单层感知器)具有一定的局限--无法解决异或问题,即线性不可分的问题. 将多个单层感知器进行组合,就可以得到一个多层感知器(MLP--Multi-Lay ...
数据代码分享|Python用NLP自然语言处理LSTM神经网络Twitter推特灾难文本数据、词云可视化与SVM，KNN，多层感知器，朴素贝叶斯，随机森林，GBDT对比
作者:Yunfan Zhang Twitter是一家美国社交网络及微博客服务的网站,致力于服务公众对话.迄今为止,Twitter的日活跃用户达1.86亿.与此同时,Twitter也已成为突发紧急情况时 ...
用Python实现多层感知器神经网络
作者|Vivek Patel 编译|Flin 来源|towardsdatascience 除非你能学习到一些东西,否则不要重复造轮子. 强大的库已经存在了,如:TensorFlow,PyTorch,K ...
深度学习（一）多层感知器MLP/人工神经网络ANN
目录一.定义和公式 1. 多层感知器 Multi Layer Perceptron MLP 2. MLP实现非线性分类 3. Keras介绍二. 代码实战 1. 建立MLP模型实现二分类 1.1 ...
OpenCV 神经网络 - 多层感知器（MLP）
一.简述人工神经网络(ANN) 简称神经网络(NN),能模拟生物神经系统对物体所作出的交互反应,是由具有适应性的简单单元(称为神经元)组成的广泛并行互连网络. 二.M-P神经元 "M-P神 ...

径向基神经网络与多层感知器的比较

1、径向基神经网络

2、多层感知器

3、两者的异同

径向基神经网络与多层感知器的比较相关推荐

最新文章

热门文章