rbf神经网络参数设置_基于梯度下降法的RBF神经网络(04)
1.调节权值及高斯基函数的参数w,cj,b
采用RBF网络对如下离散模型进行逼近:y(k)=u(k)^3+y(k-1)/[1+y(k-1)^2]。
(1) 数学分析:设q=y(k-1)/[1+y(k-1)^2],即q(x)=x/[1+x^2]:
q'=(1-x^2)/(1+x^2)2,令q'=0,得x=±1。
∴ 当x∈(-∞,-1)∪(1,+∞)时,y'<0,即单调递减;当x∈(-1,1)时,y'>0,即单调递增。
∴ (-∞,-1)与(1,+∞)是单调递减区间,(-1,1)是单调递减区间。
∴ x=-1是极小值点,x=1是极大值点。极小值为-0.5,极大值为0.5。分析,当x∈(-∞,-1)单调递减,该区间极小值“-0.5”为最小值,并且该区间上的最大值从负向无限趋近于零;当x∈(-1,1)时,单调递增,该区间极大值“0.5”为最大值;当x∈(1,+∞)时,单调递减,该区间最小值从正向无限趋近于零。故:q(x)的取值范围是[-0.5,0.5]。
(2) 程序仿真:
x
(3) 参数设置:
网络结构:2-5-1。
输入变量:x(1)=u(t)=sin(t)取值为[-1,1],x(2)=y(t)离线测试范围是[-1.5,1.5]。注意:t=k*T,T=0.001。
动量因子:0.05。
学习率:0.15。
网络的初始权值:0-1之间的随机值。
考虑到网络的第一个输入范围为[-1,1],第二个输入范围为[-1.5,1.5],取高斯基函数的中心参数取值为cj=[-1,-0.5,0,0.5,1;-1,-0.5,0,0.5,1]。
bj=3.0。
设仿真过程中,M=1时为只调节权值w,取固定的cj和b。
设仿真过程中,M=2时为只调节权值w和高斯基函数的cj和b。
%% RBF神经网络参数辨识
由仿真结果可见,采用梯度下降法可以实现很好的逼近效果,其中高斯基函数的参数值cj和bj的取值很重要。
参考文献:《RBF神经网络自适应控制MATLAB仿真》_刘金琨
rbf神经网络参数设置_基于梯度下降法的RBF神经网络(04)相关推荐
- rbf神经网络参数设置_隐含层节点数对RBF网络逼近的影响(06)
由高斯函数的表达式可见,逼近误差除了与高斯函数的中心点坐标cj和宽度参数bj有关,还与隐含层神经元节点数量有关. 实例:采用RBF网络对如下离散模型进行逼近:y(k)=u(k)^3+y(k-1)/[1 ...
- loss下降auc下降_随机梯度下降法介绍及其参数讲解
算法介绍 简单来说,梯度下降就是从山顶找一条最短的路走到山脚最低的地方.但是因为选择方向的原因,我们找到的的最低点可能不是真正的最低点.如图所示,黑线标注的路线所指的方向并不是真正的地方. 既然是选择 ...
- 基于梯度下降法的——线性回归拟合
点击"小詹学Python",选择"置顶"公众号 重磅干货,第一时间送达 本文转载自数据分析挖掘与算法,禁二次转载 阅读本文需要的知识储备: 高等数学 运筹学 P ...
- sklearn逻辑回归参数设置_【机器学习笔记】:逻辑回归实战练习(二)
作者:xiaoyu 微信公众号:Python数据科学 知乎:python数据分析师 前言 前几篇介绍了逻辑回归在机器学习中的重要性:5个原因告诉你:为什么在成为数据科学家之前,"逻辑回归&q ...
- 卷积神经网络训练准确率突然下降_基于联邦学习和卷积神经网络的入侵检测方法...
王蓉1,马春光2,武朋2 1. 哈尔滨工程大学计算机科学与技术学院,哈尔滨 150001:2. 山东科技大学计算机科学与工程学院,青岛 266590 doi :10.3969/j.issn.1671- ...
- BP神经网络参数设置及实例
BP网络的训练函数 训练方法 训练函数 梯度下降法 traingd 有动量的梯度下降法 traingdm 自适应lr梯度下降法 traingda 自适应lr动量 ...
- 卷积神经网络学习路线(五)| 卷积神经网络参数设置,提高泛化能力?
前言 这是卷积神经网络学习路线的第五篇文章,主要为大家介绍一下卷积神经网络的参数设置,调参技巧以及被广泛应用在了哪些领域,希望可以帮助到大家. 卷积神经网络的参数设置 这个举个例子来说是最好的,因为直 ...
- 梯度下降算法_批梯度下降法,Minibatch梯度下降法和随机梯度下降法之间的区别...
什么是梯度下降法? 梯度下降法是一种机器学习中常用的优化算法,用来找到一个函数(f)的参数(系数)的值,使成本函数(cost)最小. 当参数不能解析计算时(如使用线性代数),并且必须通过优化算法搜索时 ...
- matlab rbf函数_基于径向基函数(RBF)的无网格伪谱法与程序实现(2)——微分矩阵...
参考资料 Gregory E. Fasshauer. Meshfree Approximation Methods with MATLAB. P.387 P401 数值实现 Matlab 2019a ...
- 随机梯度下降法_动量梯度下降法(gradient descent with momentum)
简介 动量梯度下降法是对梯度下降法的改良版本,通常来说优化效果好于梯度下降法.对梯度下降法不熟悉的可以参考梯度下降法,理解梯度下降法是理解动量梯度下降法的前提,除此之外要搞懂动量梯度下降法需要知道原始 ...
最新文章
- linux软件包安装方式汇总
- myeclipse java maven web 项目结构,Myeclipse 10 Maven 构建 Java Web 项目
- Gym-101466K Random Numbers(线段树,数学,唯一分解定理)
- 求和(莫比乌斯反演)
- URAL 1233 Amusing Numbers 好题
- 关于Tomcat的部署
- 如何卸载zabbix且删除
- linux命令之tee,linux tee命令
- 16. Shell scripts
- XcodeGhost:墙、感染、信任和欺骗
- 配置微信公众号之公众号绑定小程序
- 快速由PCI迁移到PCIe
- 学计算机方面该怎样保养眼睛,电脑一族如何保护眼睛
- dede php低版本出现500错误,织梦后台生成文章提示500错误怎么办
- php 配置文件设置时区_PHP中设置时区方法
- selenium+python自动化(完整脚本一)
- win10解决安装时的2503 2502问题
- 高通平台的usb2.0测试_深圳格拉布斯研究院全自动高通量催化剂制备及筛选设备已正式启用...
- 在XShell中修改ip为静态ip
- Java 视频截取帧数保存为本地图片及删除本地图片