径向基RBF神经网络
1985年,Powell提出了多变量插值的径向基函数(RBF)方法。1988年Moody和Darken提出了一种神经网络结构,即RBF神经网络,属于前向神经网络类型,它能够以任意精度逼近任意连续函数,特别适合于解决分类问题。
RBF网络的结构与多层前向网络类似,它是一种三层前向网络。输入层由信号源结点组成,第二层为隐含层,隐单元数视所描述问题的需要而定,隐单元的变换函数是RBF,它是对中心点径向对称且衰减的非负非线性函数,第三层为输出层,它对输入模式的作用作出相应。从输入空间到隐含层空间的变换是非线性的,而从隐含层空间到输出层空间变换是线性的。
RBF网络的基本思想是:用RBF作为隐单元的“基”构成隐含层空间,这样就可以将输入矢量直接映射到隐空间,而不需要通过权连接。当RBF的中心点确定以后,这种映射关系也就确定了。而隐含层空间到输出空间的映射是线性的,即网络的输出是隐单元输出的线性加权和,此处的权即为网络可调参数。从总体上看,网络由输入到输出的映射是非线性的,而网络输出对可调参数而言却又是线性的。这样,网络的权就可由线性方程组直接解出,从而大大加快学习速度并避免局部极小问题。
- RBF神经网络模型
径向基神经网络的激活函数采用径向基函数,通常定义为空间任一点到某一中心之间欧氏距离的单调函数。径向基神经网络的激活函数是以输入向量和权值向量之间的距离为自变量的。径向神经网络的激活函数一般表达式为,随着权值和输入向量之间距离的减少,网络输出是递增的,当输入向量和权值向量一致时,神经元输出1。b为阈值,用于调整神经元的灵敏度。利用径向基神经元和线性神经元可以建立广义回归神经网络,该种神经网络适用于函数逼近方面的应用;径向基神经元和竞争神经元可以组成概率神经网络,此种神经网络适用于解决分类问题。输出层和隐含层所完成的任务是不同的,因而它们的学习策略也不相同。输出层是对线性权进行调整,采用的是线性优化策略,因而学习速度较快。而隐函数是对激活函数(格林函数或高斯函数,一般为高斯函数)的参数进行调整,采用的是非线性优化策略,因而学习速度较慢。
尽管RBF网络的输出是隐单元输出的线性加权和,学习速度加快,但并不等于径向基神经网络就可以取代其他前馈网络。这是因为径向神经网络很可能需要比BP网络多得多的隐含层神经元来完成工作。
- RBF网络学习算法
RBF神经网络学习算法需要求解的参数有3个:基函数的中心、方差以及隐含层到输出层的权值。根据径向基函数中心选取方法的不同,RBF网络有多种学习方法。下面介绍自组织选取中心的RBF神经网络学习法。此方法由两个阶段组成:
- 自组织学习阶段,此阶段为无监督学习过程,求解隐含层基函数的中心与方差;
- 监督学习阶段,此阶段求解隐含层到输出层之间的权值。
- 求方差
径向基神经网络中常用的径向基函数是高斯函数,因此径向基神经网络的激活函数可表示为:
其中xp为第p个输入样本。h为隐含层的结点数。
如果d是样本的期望输出值,那么基函数的方差可表示为:
因此方差可由下式求解得出:其中是所选取中心之间的最大距离
- 基于K-均值聚类方法求取基函数中心ci
- 网络初始化 随机选取h个训练样本作为聚类中心ci
- 将输入的训练样本集合按最近邻规则分组,按照xp 与中心为ci之间的欧式距离将xp分配到输入样本的各个聚类集合之中。
- 重新调整聚类中心,计算各个聚类集合中训练样本的平均值,即新的聚类中心ci, 如果新的聚类中心不再发生变化,所得到的ci就是RBF神经网络最终的基函数中心,否则返回2进行下一轮求解
- 计算隐含层和输出层之间的权值
用最小二乘法直接计算得到:
转自https://www.cnblogs.com/gscienty/p/6566579.html
径向基RBF神经网络相关推荐
- RBF(径向基)神经网络
RBF(径向基)神经网络 只要模型是一层一层的,并使用AD/BP算法,就能称作BP神经网络.RBF神经网络是其中一个特例.本文主要包括以下内容: 什么是径向基函数 RBF神经网络 RBF神经网络的学习 ...
- python rbf神经网络_RBF(径向基)神经网络
只要模型是一层一层的,并使用AD/BP算法,就能称作 BP神经网络.RBF 神经网络是其中一个特例.本文主要包括以下内容: 什么是径向基函数 RBF神经网络 RBF神经网络的学习问题 RBF神经网络与 ...
- 高斯径向基函数(RBF)神经网络
高斯径向基函数(RBF)神经网络 牛顿插值法-知乎 泰勒公式 径向基函数-wiki 径向基网络之bp训练 RBF网络逼近能力及其算法 线性/非线性,使用"多项式"逼近非线性,通过调 ...
- RBF(径向基)神经网络 非线性函数回归的实现
径向基神将网络的神经元模型: 径向基神经王阔的节点激活函数采用径向基函数,通常定义空间任意一点到某一中心之间的欧氏距离的单调函数. 从模型可以得到,径向基神经网络的激活函数的输入向量是 输入向量和 ...
- 径向基RBF(radial basis function)函数、RBF神经网络、 反推(back-stepping)控制
文章目录 1. 什么是径向基函数 1. 高斯径向基函数 2. 反演S型函数 3. 拟多二次函数 2. 正则化径向基神经网络 3. 基于RBF网络逼近的自适应控制 1. 问题描述 2. RBF 网络原理 ...
- 人工神经网络——径向基函数(RBF)神经网络
此博客排版不好,重新用Markdown写了一篇,同时附上了代码,戳这里 本文摘自:<模式识别与智能计算--matlab技术实现第三版>与<matlab神经网络43个案例分析> ...
- 基于径向基函数RBF神经网络的非线性函数拟合研究-含Matlab代码
目录 一.RBF神经网络基本原理 二.模型建立 三.RBF网络拟合结果分析 四.注意事项 五.参考文献 六.Matlab代码获取 一.RBF神经网络基本原理 1988年Broomhead和Lowe将径 ...
- 径向基函数(rbf)神经网络 基础篇 奥利给 干就完了!
今天咱们就一起把径向基函数神经网络翻个底朝天,好好琢磨一下哈.老铁,走着. ![在这里插入图片描述](https://img-blog.csdnimg.cn/2019112613170742.png? ...
- 径向基函数RBF神经网络相关函数设置
一.newrb() 该函数可以用来设计一个近似(approximate)径向基网络.其调用格式为 [net, tr]=newrb(P, T, GOAL, SPREAD, MN, DE) 其中,P为Q组 ...
最新文章
- 把一个dataset的表放在另一个dataset里面_视频自监督一. STCR: 一个基于数据增强的简单有效正则项 (降低静态信息的影响)...
- Splitting into digits
- YBTOJ:字符串匹配(KMP)
- python o创建文件_Python 文件I/O
- sqlserver安全加固
- sublime text3:呼出安装插件的快捷键
- php小算法总结一(数组重排,进制转换,二分查找)
- [Android Studio]Failed to install Intel HAXM 问题解决
- DNN硬件加速器设计2 -- Survey of DNN Development Resouces and DNN Hardware(MIT)
- wireshark:包重组
- android关于无法debug
- oracle recover database,standby库,在sqlplus下用recover standby database进行手工恢复
- 智博联反射波测桩分析软件 V141125专业版
- 我的滑板鞋-2017年在魅力之都继续摩擦
- 复制互联网——2010全球最值得模仿的230个网站
- 简单c语语言游戏教案大全,大班语言活动教案大全简单趣味
- 亚马逊16条领导力原则
- Entropy attack——hash函数的熵攻击
- 那天,比尔・盖茨差点“砍掉”了这个 160 亿美元的项目:不运行 Windows,是种侮辱...
- 基于Android实现的小型在线订餐APP饿了么