【LSTM回归预测】基于matlab布谷鸟算法优化LSTM回归预测【含Matlab源码 2037期】

一、布谷鸟算法优化LSTM预测

1 布谷鸟搜索算法
布谷鸟算法是一种新型的群智能搜索算法，布谷鸟算法具有参数数目少、鲁棒性强、通用性好和全局寻优能力突出等多方面综合优势。布谷鸟算法以寻得全局最优鸟窝为目标，采用如式(3)所示的方法进行鸟窝位置更新：

从位置更新式(3)可以发现，布谷鸟鸟窝位置更新受到搜索步长α影响，如对搜索步长α进行有效扰动，可以对CS的前后期搜索能力进行强化和调整。本文采用引入步长扰动因子的方式进行步长扰动，步长扰动因子公式如式(4)所示，步长扰动因子可以对步长进行动态扰动，使算法搜索前期的步长较大，从而扩大搜索范围，避免陷入局部最优。后期步长较小，则可增加算法的局部探索能力，更精准的获得最优值。

式中：m表示步长扰动因子，T为设置的最大迭代次数，t为当前迭代次数。增加步长扰动后的CS的鸟窝路径及位置更新式(3)此时为：

2 LSTM
LSTM在RNN的框架基础通过增加遗忘、输入和输出3个门限，很好的解决了RNN的长期依赖问题，避免了梯度消失或梯度爆炸。LSTM的结构如图1所示。

图1 LSTM模块内部结构
LSTM的各门的计算过程如下：

式(6)～(10)中，W表示各类输入循环权重，b表示偏置项；it为遗忘门，ft为输入门，ot为输出门，ct为记忆单元的向量值，σ表示范围在(0,1)之间的sigmoid函数。

LSTM 的回归拟合能力受到其网络中关键参数(如时间窗宽和隐藏层神经元数目等)影响，靠经验调参存在一定的局限，所以采用智能算法优化LSTM参数受到研究人员的重视。文献[10]和[19]分别LSTM预测模型对股票和变压器油中溶解气体浓度预测进行预测，并分别采用遗传算法(GA)和粒子群算法(PSO)优化模型的关键参数。本文探索采用1.2节所述的ICS来优化LSTM风速预测模型的关键参数。

4 CS优化LSTM过程
采取CS对LSTM的关键参数进行寻优，流程如下：

种群初始化。设置最大迭代次数T、鸟窝数量和概率参数pa。
随机化鸟窝位置。以回归均方根误差最小为适应度函数，计算随机鸟窝位置的适应度，得到目前最优鸟窝位置x0b。
鸟窝位置更新。依据步长扰动后的鸟窝更新公式(5)更新鸟窝的位置，并计算更新后新一代最优鸟窝。随机产生r∈[0,1],并将r与鸟窝主人可发现外来鸟蛋的概率pa比较，如果r<pa,则鸟窝位置不发生变化，反之则鸟窝位置再次随机变化，
计算新鸟窝的适应度值并更新确定全局最优鸟窝。
判断算法是否结束。结束则输出最优时间窗宽TS和隐藏层神经元数目Nn神经元数目；否则回到3)继续搜寻。

二、部分源代码

clear
close all
%% 数据读取
geshu=200;%训练集的个数
%读取数据
shuru=xlsread(‘数据的输入.xlsx’);
shuchu=xlsread(‘数据的输出.xlsx’);
nn = randperm(size(shuru,1));%随机排序
% nn=1:size(shuru,1);%正常排序
input_train =shuru(nn(1:geshu)