深度学习:径向基网络(RBF)
http://blog.csdn.net/pipisorry/article/details/71872331
如果对于输入空间的某个局部区域只有少数几个连接权值影响输出,则该网络称为局部逼近网络。常见的局部逼近网络有RBF网络、小脑模型(CMAC)网络、B样条网络等。
RBF网络能够逼近任意的非线性函数,可以处理系统内的难以解析的规律性,具有良好的泛化能力,并有很快的学习收敛速度,已成功应用于非线性函数逼近、时间序列分析、数据分类、模式识别、信息处理、图像处理、系统建模、控制和故障诊断等。
为什么RBF网络学习收敛得比较快?当网络的一个或多个可调参数(权值或阈值)对任何一个输出都有影响时,这样的网络称为全局逼近网络。由于对于每次输入,网络上的每一个权值都要调整,从而导致全局逼近网络的学习速度很慢。BP网络就是一个典型的例子。
基于高斯核的RBF神经网络拓扑结构
第一层输入层:由信号源节点构成,仅起到数据信息的传递作用,对输入信息不做任何变换。
第二层隐含层:节点数视需要而定。隐含层神经元核函数(作用函数)是高斯函数,对输入信息进行空间映射的变换。
第三层输出层,对输入模式做出响应。输出层神经元的作用函数为线性函数,对隐含层神经元输出的信息进行线性加权后输出,作为整个神经网络的输出结果。
径向基网络传递函数是以输入向量与阈值向量之间的距离|| X-Cj ||作为自变量的。其中|| X-Cj ||是通过输入向量和加权矩阵C的行向量的乘积得到的。此处的C就是隐藏层各神经元的中心参数,大小为隐层神经元数目*可见层单元数。再者,每一个隐神经元中心参数C都对应一个宽度向量D,使得不同的输入信息能被不同的隐层神经元最大程度地反映出来。随着权值和输入向量之间距离的减少,网络输出是递增的,当输入向量和权值向量一致时,神经元输出为1。图中的b为阈值,用于调整神经元的灵敏度。
径向基神经网络传递参数可以取多种形式。常见的有:
①Gaussian函数(高斯函数)
这里使用的就是这个
②Reflected sigmoidal函数(反常S型函数)
③逆Multiquadric函数(逆 畸变校正函数)
RBF神经网络中心选取方法
对于RBF神经网络的学习算法,关键问题是隐藏层神经元中心参数的合理确定。常用的方法是从中心参数(或者其初始值)是从给定的训练样本集里按照某种方法直接选取,或者是采用聚类的方法确定。
①直接计算法(随机选取RBF中心)
隐含层神经元的中心是随机地在输入样本中选取,且中心固定。一旦中心固定下来,隐含层神经元的输出便是已知的,这样的神经网络的连接权就可以通过求解线性方程组来确定。适用于样本数据的分布具有明显代表性。
②自组织学习选取RBF中心法
RBF神经网络的中心可以变化,并通过自组织学习确定其位置。输出层的线性权重则是通过有监督的学习来确定的。这种方法是对神经网络资源的再分配,通过 学习,使RBF的隐含层神经元中心位于输入空间重要的区域。这种方法主要采用K-均值聚类法来选择RBF的中心,属于无监督(导师)的学习方法。
③有监督(导师)学习选取RBF中心
通过训练样本集来获得满足监督要求的网络中心和其他权重参数。常用方法是梯度下降法。
④正交最小二乘法选取RBF中心法
正交最小二乘法(Orthogoal least square)法的思想来源于线性回归模型。神经网络的输出实际上是隐含层神经元某种响应参数(回归因子)和隐含层至输出层间连接权重的线性组合。所有隐含层神经元上的回归因子构成回归向量。学习过程主要是回归向量正交化的过程。
在很多实际问题中,RBF神经网络隐含层神经元的中心并非是训练集中的某些样本点或样本的聚类中心,需要通过学习的方法获得,使所得到的中心能够更好地反应训练集数据所包含的信息。
[人工神经网络——径向基函数(RBF)神经网络]
[径向基函数(RBF)神经网络]
from: http://blog.csdn.net/pipisorry/article/details/71872331
ref:
深度学习:径向基网络(RBF)相关推荐
- 深度学习 --- 径向基神经网络RBF详解
上一节我们基本上打开了深度学习的大门,其实下一步应该是卷积神经网络即CNN了,但是呢卷积神经网络的最后一层采用的是径向基神经网络,为了以后到CNN不用再费力气将RBF和保持CNN的整体性和连贯性,因此 ...
- matlab径向基网络,MATLAB——径向基网络拟合曲线和分类
1.广义RBF P=:.:; rand('state',pi); %指定状态,产生相同的随机数 T=sin(*P)+rand(,length(P)); % 给正弦函数加噪声 plot(P,T,'o') ...
- 径向基网络(RBF network)之BP监督训练
径向基网络(RBF network)之BP监督训练 zouxy09@qq.com http://blog.csdn.net/zouxy09 之前看了流行学习的时候,感觉它很神奇,可以将一个4096维的 ...
- 径向基网络(RBF)实现函数插值(拟合)
本博文借鉴了径向基网络(RBF network)之BP监督训练,并在其基础上加以改进:1.对原始数据进行k-means聚类,而不是随机选取中心.2.为了防止过拟合,在权重更新时增加了正则项.本文也算是 ...
- RBF(Radial Basis Function Network)+径向基网络
RBF(Radial Basis Function Network)+径向基网络 在SVM中引入Gaussian Kernel就能在无限多维的特征转换中得到一条"粗壮"的分界线(或 ...
- 【机器学习】径向基(RBF)神经网络的tensorflow实现
[机器学习]径向基(RBF)神经网络的tensorflow实现 一.tensorflow简介 1.1.基础概念 1.1.1计算图 1.1.2 Session会话 1.2.应用流程 二.RBF神经网络的 ...
- 径向基神经网络RBF
RBF网络原理 RBF网络,即径向基神经网络,也是前馈型网络的一种.它的设计思想和BP网络完全不一样. Cover定理:将复杂的模式分类问题非线性的投射到高维空间将比投射到低维空间更可能是线性可分的. ...
- 【深度学习】孪生网络(Siamese Network)的模式和训练过程
[深度学习]孪生网络(Siamese Network)的模式和训练过程 文章目录 1 概述 2 Siamese network 孪生神经网络 3 孪生神经网络和伪孪生神经网络分别适用于什么场景呢? 4 ...
- 新论文推荐:Auto-Keras:自动搜索深度学习模型的网络架构和超参数
Auto-Keras 是一个开源的自动机器学习库,由美国德州农工大学(Texas A&M University)助理教授胡侠和他的两名博士生:金海峰.Qingquan Song提出.Auto- ...
- HALCON 20.11:深度学习笔记(4)--- 网络和训练过程
HALCON 20.11:深度学习笔记(4)--- 网络和训练过程 HALCON 20.11.0.0中,实现了深度学习方法.关于网络和训练过程如下: 在深度学习中,任务是通过网络发送输入图像来执行的. ...
最新文章
- 使用ajax实现多个查询条件功能以及下拉分页
- 修改 Docker 的默认存储路径
- 皮一皮:确定不是备胎???
- python3下载文件-在Python 3中从web下载文件?
- 从注册流程 分析如何安全退出多个Activity 多种方式(附DEMO)
- Latex 数学公式使用入门
- python中 __name__及__main()__的妙处
- emd实现信息隐藏_【读书笔记】深入理解TensorFlow架构设计与实现原理(五)
- APP技巧:微信10个实用小技巧,太实用了,赶紧收藏!
- Erlang消息传递-tut15.erl
- 在VS2010开发的MVC3 应用程序中设定默认的浏览器
- 容器精华问答 | Docker和虚拟机有什么差别?
- 表单提交中文乱码_Java学习路线分享如何处理中文参数
- C语言之预处理探究(二):条件编译(Condition Compile)
- vue前台导出zip文件_在Vue.js中使用JSZip实现在前端解压文件的方法_心病_前端开发者...
- navicat连接sqlserver出现im002错误
- [书籍推荐]为了自己的钱包,为了自己的时间——分享一下自己的淘书经验
- 4——编码规则以及vim的使用和虚拟环境
- candence的图纸大小设置_Revit出图通用步骤5_图纸布局
- 怎么在安全模式里找计算机用户,安全模式怎么解除