matlab 深度学习工具箱使用笔记—lstm网络

在2017的版本之后，matlab上线了自己的lstm网络工具箱，至此，搭建简单的网络时，就可以只用工具包所提供的函数，并且matlab提供了GUI和训练过程界面，可以方便的使用，至于tensorflow的使用方法，将在以后的博文中讲解

data = chickenpox_dataset;%读取数据集

data = [data{:}];%将数据集变为数组的形式，此时得到的是一个1n维的数组，n代表n个时刻，其中存储的是每个时刻的值，即对于时序预测，只有发生的顺序，不存在实际的时间

figure

plot(data)

xlabel(“Month”)

ylabel(“Cases”)

title(“Monthy Cases of Chickenpox”)

numTimeStepsTrain = floor(0.9numel(data));%将90%的数据设定为训练集

dataTrain = data(1:numTimeStepsTrain+1);%定义训练集和测试集

dataTest = data(numTimeStepsTrain+1:end);%

mu = mean(dataTrain);%求均值和方差，为以后的归一化做准备

sig = std(dataTrain);

dataTrainStandardized = (dataTrain - mu) / sig;%归一化，这里是防止数据发散

XTrain = dataTrainStandardized(1:end-1);做了一个时序的错位，将后一个时刻的作为标签，标签和特征参量的大小对应

YTrain = dataTrainStandardized(2:end);

numFeatures = 1;输入特征维数

numResponses = 1;输出特征维数

numHiddenUnits = 200;每一层lstm网络中存在多少神经元

layers = [ …

sequenceInputLayer(numFeatures)输入层，参数是输入特征维数

lstmLayer(numHiddenUnits)lstm层，如果想要构建多层lstm，改几个参数就行了

fullyConnectedLayer(numResponses)全连接层，也就是输出的维数

regressionLayer];该参数说明是在进行回归问题，而不是分类问题

options = trainingOptions(‘adam’, …

‘MaxEpochs’,250, …这个参数是最大迭代次数，即进行250次训练，每次训练后更新神经网络参数

‘GradientThreshold’,1, …

‘InitialLearnRate’,0.005, …学习率

‘LearnRateSchedule’,‘piecewise’, …

‘LearnRateDropPeriod’,125, …训练125次后学习率下降，衰落因子为0.2

‘LearnRateDropFactor’,0.2, …

‘Verbose’,0, …

‘Plots’,‘training-progress’);

net = trainNetwork(XTrain,YTrain,layers,options);

以上是神经网络搭建与训练部分的代码，来源于2018官方文档，各参数的详细说明已经写在了参数旁边

有几个问题，与tensor不同，没有一个类似于timestep的参数来确定输入究竟和多少个参数相关，怀疑是因为lstm网络中存在自己的遗忘门和更新门，并且lstm神经网络是步进式的输入，只要有网络的的储存的状态，就可以针对输入，得到输出。

具体的预测部分的代码将在下一次的博文中进行探讨