智能优化算法应用：基于GWO优化BP神经网络 - 附代码

智能优化算法应用：基于GWO优化BP神经网络 - 附代码

智能优化算法应用：基于GWO优化BP神经网络

文章目录智能优化算法应用：基于GWO优化BP神经网络1.鸢尾花iris数据介绍

2.数据集整理

3.GWO优化BP神经网络3.1 BP神经网络参数设置

3.2 GWO灰狼算法应用

4.测试结果：

5.Matlab代码

摘要：本文主要介绍如何用灰狼算法优化BP神经网络，利用鸢尾花数据，做一个简单的讲解。

本案例利用matlab公用的iris鸢尾花数据，作为测试数据，iris数据是特征为4维，类别为3个类别。数据格式如下：

特征1

特征2

特征3

类别

单组iris数据

5.3

2.1

1.2

1

3种类别用1，2，3表示。

iris数据总共包含150组数据，将其分为训练集105组，测试集45组。如下表所示：

训练集(组)

测试集(组)

总数据(组)

105

45

150

类别数据处理：原始数据类别用1，2，3表示为了方便神经网络训练，类别1，2，3分别用1，0，0；0，1，0；0，0，1表示。

当进行数据训练对所有输入特征数据均进行归一化处理。

3.1 BP神经网络参数设置

通常而言，利用智能算法一般优化BP神经网络的初始权值和阈值来改善BP神经网络的性能。本案例基于iris数据，由于iris数据维度不高，采用简单的BP神经网络。神经网络参数如下：

图1.神经网络结构

神经网络参数如下：

%创建神经网络

inputnum = 4; %inputnum 输入层节点数 4维特征

hiddennum = 10; %hiddennum 隐含层节点数

outputnum = 3; %outputnum 隐含层节点数

net = newff( minmax(input) , [hiddennum outputnum] , { 'logsig' 'purelin' } , 'traingdx' ) ;

%设置训练参数

net.trainparam.show = 50 ;

net.trainparam.epochs = 200 ;

net.trainparam.goal = 0.01 ;

net.trainParam.lr = 0.01 ;

3.2 GWO灰狼算法应用

灰狼算法具体原理请参照：https://blog.csdn.net/u011835903/article/details/107716390

灰狼算法的参数设置为：

popsize = 20;%种群数量

Max_iteration = 20;%最大迭代次数

lb = -5;%权值阈值下边界

ub = 5;%权值阈值上边界

% inputnum * hiddennum + hiddennum*outputnum 为权值的个数

% hiddennum + outputnum 为阈值的个数

dim = inputnum * hiddennum + hiddennum*outputnum + hiddennum + outputnum ;% inputnum * hiddennum + hiddennum*outputnum维度

这里需要注意的是，神经网络的阈值数量计算方式如下：

本网络有2层：

第一层的权值数量为：4*10 = 40； 即inputnum * hiddennum；

第一层的阈值数量为：10；即hiddennum；

第二层的权值数量为：3*10 = 30；即hiddenum * outputnum；

第二层阈值数量为：3；即outputnum；

于是可知我们优化的维度为：inputnum * hiddennum + hiddennum*outputnum + hiddennum + outputnum = 83；

灰狼算法适应度函数值设定：

本文设置灰狼算法的适应度函数如下：

fitness=argmin(∑i=0N(Simout?GroundTruth)2)

fitness = argmin(\sum_{i=0}^N(Simout - GroundTruth)^2)fitness=argmin(i=0∑N?(Simout?GroundTruth)2)

例如：实际标签值为1，0，0；网络预测值为1.1，0.1，0.1；那么该单组数据的适应度值(误差)为 ：

(1?0.1)2+(0?0.1)2+(0?0.1)2=0.83

(1-0.1)^2+(0-0.1)^2+(0-0.1)^2 = 0.83(1?0.1)2+(0?0.1)2+(0?0.1)2=0.83

所有测试数据误差之和即为最终的适应度值。那么神经网络的最终目的就是寻找到一组初始权值和阈值使得神经网络最终得到的误差最小。(注意适应度函数根据不同的应用按需要设置)

从灰狼算法的收敛曲线可以看到，整体误差是不断下降的，说明灰狼算法起到了优化的作用：

图2 灰狼算法收敛曲线

测试统计如下表所示

测试结果

测试集误差

训练集误差

BP神经网络

10.580

32.313

GWO-BP

5.596459

23.813974

https://mianbaoduo.com/o/bread/aJiTkpo=

智能优化算法应用：基于GWO优化BP神经网络 - 附代码相关教程