BP网络和RBF网络

一、BP网络：反向传播网络

二、RBF网络：径向基函数网络（Radial Basis Function）

RBF结构上并不复杂，通常只有三层。输入层、中间层计算输入 x 矢量与样本矢量 c 欧式距离的 Radial Basis Function (RBF) 的值，输出层算它们的线性组合。其模型可以数学表示为：

$y_{_{j}}=\sum_{i=1}^{n}w_{ij}\phi (\left | \left | x-u_{i} \right | \right |^{2}),(j=1,...,p)$

和普通的三层神经网络，RBF 神经网络的区别在中间层。中间层采用 RBF Kernel 对输入作非线性变换，以便输出层训练线性分类器：

RBF kernel：

$h(\left \| x-c_{i} \right \|)=e^{-\gamma \left \| x-c_{i} \right \|^{2}}$

输入为2D时RBF kernel:

RBF 拥有较小的支集。针对选定的样本点，它只对样本附近的输入有反应，RBF 使样本点只被附近（圈内）的输入激活,如下图所示。

总结：

RBF网络能够逼近任意的非线性函数，可以处理系统内的难以解析的规律性，具有良好的泛化能力，并有很快的学习收敛速度，已成功应用于非线性函数逼近、时间序列分析、数据分类、模式识别、信息处理、图像处理、系统建模、控制和故障诊断等。

简单说明一下为什么RBF网络学习收敛得比较快。当网络的一个或多个可调参数（权值或阈值）对任何一个输出都有影响时，这样的网络称为全局逼近网络。由于对于每次输入，网络上的每一个权值都要调整，从而导致全局逼近网络的学习速度很慢。BP网络就是一个典型的例子。

如果对于输入空间的某个局部区域只有少数几个连接权值影响输出，则该网络称为局部逼近网络。常见的局部逼近网络有RBF网络、小脑模型（CMAC）网络、B样条网络等。

BP网络和RBF网络相关推荐

神经网络（BP神经网络、RBF网络、模拟退火算法、HOPFIELD神经网络、Botzmann机）
神经网络学习.笔记神经网络发展多层前馈神经网络 RBF径向基函数网络 ART自适应谐振理论网络 SOM 自组织映射网络级联相关网络 Elman网络循环神经网络 Botzmann机(引入较多其他 ...
bp神经网络是什么网络,神经网络和bp神经网络
1.什么是BP神经网络? BP算法的基本思想是:学习过程由信号正向传播与误差的反向回传两个部分组成:正向传播时,输入样本从输入层传入,经各隐层依次逐层处理,传向输出层,若输出层输出与期望不符,则将误差 ...
RBF网络逼近算法（matlab）——S-Function函数实现
RBF网络原理 RBF网络原理同BP网络类似,具体原理及公式推导下次更新,这里先简单说明. 不同的是RBF网络的激活函数使用的是高斯基函数(其值在输入空间中有限范围为非零值),而不是Sigmoid函 ...
神经网络 - BP神经网络与RBF神经网络模型解决实际问题 - （Matlab建模）
目录神经网络模型简述实例:交通运输能力预测设计 MATLAB程序及仿真结果由于货物运输.地方经济及企业发展的紧密联系,因此作为反映货物运输需求的一项重要指标, 货运量预测研究和分析具有较强的实际 ...
径向基网络（RBF network）之BP监督训练
径向基网络(RBF network)之BP监督训练 zouxy09@qq.com http://blog.csdn.net/zouxy09 之前看了流行学习的时候,感觉它很神奇,可以将一个4096维的 ...
RBF网络——核心思想：把向量从低维m映射到高维P，低维线性不可分的情况到高维就线性可分了...
RBF网络能够逼近任意的非线性函数,可以处理系统内的难以解析的规律性,具有良好的泛化能力,并有很快的学习收敛速度,已成功应用于非线性函数逼近.时间序列分析.数据分类.模式识别.信息处理.图像处理.系统 ...
（《机器学习》完整版系列）第5章神经网络——5.2 RBF网络（单层RBF就可解决异或问题）与ART网络（实现“自适应谐振”）
单层RBF神经网络就可解决异或问题. ART网络已发展出一个了一个算法族,需要理解它是如何实现"自适应谐振"的. RBF网络径向基函数网络RBF如图5.3所示,此图为缩略图,即一 ...
径向基网络（RBF）实现函数插值（拟合）
本博文借鉴了径向基网络(RBF network)之BP监督训练,并在其基础上加以改进:1.对原始数据进行k-means聚类,而不是随机选取中心.2.为了防止过拟合,在权重更新时增加了正则项.本文也算是 ...
m分别使用BP神经网络和GRNN网络进行时间序列预测matlab仿真
目录 1.算法描述 2.仿真效果预览 3.MATLAB核心程序 4.完整MATLAB 1.算法描述广义回归神经网络是径向基神经网络的一种,GRNN具有很强的非线性映射能力和学习速度,比RBF具有更强 ...

BP网络和RBF网络

BP网络和RBF网络相关推荐

最新文章

热门文章