LSTM和循环网络RNN学习简记

前馈网络回顾

要理解循环网络，首先需要了解前馈网络的基础知识。这两种网络的名字都来自于它们通过一系列网络节点数学运算来传递信息的方式。前馈网络将信息径直向前递送（从不返回已经过的节点），而循环网络则将信息循环传递。

在前馈网络中，样例输入网络后被转换为一项输出；在进行有监督学习时，输出为一个标签。也就是说，前馈网络将原始数据映射到类别，识别出信号的模式，例如一张输入图像应当给予“猫”还是“大象”的标签。

我们用带有标签的图像定型一个前馈网络，直到网络在猜测图像类别时的错误达到最少。将参数，即权重定型后，网络就可以对从未见过的数据进行分类。已定型的前馈网络可以接受任何随机的图片组合，而输入的第一张照片并不会影响网络对第二张照片的分类。看到一张猫的照片不会导致网络预期下一张照片是大象。

这是因为网络并没有时间顺序的概念，它所考虑的唯一输入是当前所接受的样例。前馈网络仿佛患有短期失忆症；它们只有早先被定型时的记忆。

循环网络

循环网络与前馈网络不同，其输入不仅包括当前所见的输入样例，还包括网络在上一个时刻所感知到信息。以下是[由Elman提出的早期循环网络]的示意图，图中最下行的 BTSXPE 代表当前的输入样例，而 CONTEXT UNIT 则表示前一时刻的输出。

循环网络在第 t-1 个时间步的判定会影响其在随后第t个时间步的判定。所以循环网络有来自当下和不久之前的两种输入，此二者的结合决定了网络对于新数据如何反应，与人类日常生活中的情形颇为相似。

循环网络与前馈网络的区别便在于这种不断将自身上一刻输出当作输入的反馈循环。人们常说循环网络是有记忆的。[参考 #2]为神经网络添加记忆的目的在于：序列本身即带有信息，而循环网络能利用这种信息完成前馈网络无法完成的任务。

这些顺序信息保存在循环网络隐藏状态中，不断向前层层传递，跨越许多个时间步，影响每一个新样例的处理。

人类记忆会在体内不断进行不可见的循环，对我们的行为产生影响而不显现出完整样貌，而信息也同样会在循环网络的隐藏状态中循环。英语中有许多描述记忆反馈循环的说法。例如，我们会说“一个人被往日所为之事纠缠”，这其实就是在讲过去的输出对当前造成了影响。法国人称之为“Le passé qui ne passe pas”，即 “过去之事不曾过去”。

让我们用数学语言来描述将记忆向前传递的过程：

ht=ϕ(Wxt+Uht−1)

h_t = \phi(Wx_t+Uh_{t-1})

这里的ϕ\phi可以理解为激活函数,如sigmoid，thah，relu等。

第 t 个时间步的隐藏状态是 hth_t。它是同一时间步的输入xt x_t 的函数，由一个权重矩阵W（和我们在前馈网络中使用的一样）修正，加上前一时间步的隐藏状态 ht−1h_{t-1} 乘以它自己的隐藏状态－隐藏状态矩阵的 U（或称过渡矩阵，与马尔可夫链近似）。权重矩阵是决定赋予当前输入及过去隐藏状态多少重要性的筛选器。它们所产生的误差将会通过反向传播返回，用于调整权重，直到误差不能再降低为止。
权重输入与隐藏状态之和用函数ϕ\phi进行挤压－可能是逻辑S形函数（sigmoid函数）或双曲正切函数，视具体情况而定－这是将很大或很小的值压缩至一个逻辑空间内的标准工具，同时也用于产生反向传播所能接受的梯度。
由于这一反馈循环会在系列的每一个时间步发生，每一个隐藏状态不仅仅跟踪前一个隐藏状态，还包括了记忆能力范围内所有在ht−1h_{t-1} 之前的状态。

若输入一系列字母，则循环网络必定会根据第一个字符来决定对第二个字符的感知，例如，第一个字母如果是 q，网络就可能推断下一个字母是 u，而第一个字母如果是 t，则网络可能推断下一个字母是 h。
由于循环网络具有时间维度，所以可能用动画示意最为清楚（最先出现的节点垂直线可被视为一个前馈网络，随时间展开后变为循环网络）。

在上图中，每一个x都是一个输入样例，w 是用于筛选输入的权重，a 是隐藏层的激活状态（附加权重后的输入与上一个隐藏状态之和），而b则是隐藏层用修正线性或sigmoid单元进行变换（或称“挤压”）后的输出。

沿时间反向传播（BPTT）

前文提到，循环网络的目的是准确地对序列输入进行分类。我们依靠误差反向传播和梯度下降来达成这一目标。

前馈网络的反向传播从最后的误差开始，经每个隐藏层的输出、权重和输入反向移动，将一定比例的误差分配给每个权重，方法是计算权重与误差的偏导数－∂E/∂w，即两者变化速度的比例。随后，梯度下降的学习算法会用这些偏导数对权重进行上下调整以减少误差。

循环网络则使用反向传播的一种扩展方法，名为沿时间反向传播，或称BPTT。在这里，时间其实就表示为一系列定义完备的有序计算，将时间步依次连接，而这些计算就是反向传播的全部内容。

无论循环与否，神经网络其实都只是形如 f(g(h(x))) 的嵌套复合函数。增加时间要素仅仅是扩展了函数系列，我们用链式法则计算这些函数的导数。

怎么来的，怎么回去。回去的时候是：误差和偏导来返回分配传递误差，利用梯度下降来调整W，U，从而使误差变小。

截断式BPTT

截断式BPTT是完整BPTT的近似方法，也是处理较长序列时的优先选择，因为时间步数量较多时，完整BPTT每次参数更新的正向/反向运算量会变的非常高。该方法的缺点是，由于截断操作，梯度反向移动的距离有限，因此网络能够学习的依赖长度要短于完整的BPTT。

梯度消失（与膨胀）

像大多数神经网络一样，循环网络并非新事物。在上世纪九十年代早期，梯度消失问题成为影响循环网络表现的重大障碍。

正如直线表示x如何随着y的变化而改变，梯度表示所有权重随误差变化而发生的改变。如果梯度未知，则无法朝减少误差的方向调整权重，网络就会停止学习。

循环网络在寻找最终输出与许多时间步以前的事件之间的联系时遇到了重大障碍，因为很难判断应当为远距离的输入赋予多少重要性。（这些输入就像曾曾…曾祖父母一样，不断向前追溯时会迅速增多，而留下的印象通常很模糊。）

原因之一是，神经网络中流动的信息会经过许多级的乘法运算。

凡是学过复合利率的人都知道，任何数值，只要频繁乘以略大于一的数，就会增大到无法衡量的地步（经济学中的网络效应和难以避免的社会不平等背后正是这一简单的数学真理）。反之亦然：将一个数反复乘以小于一的数，也就会有相反的效果。赌徒要是每下一美元注都输掉97美分，那片刻就会倾家荡产。

由于深度神经网络的层和时间步通过乘法彼此联系，导数有可能消失或膨胀。

梯度膨胀时，每个权重就仿佛是一只谚语中提到的蝴蝶，所有的蝴蝶一齐扇动翅膀，就会在遥远的地方引发一场飓风。这些权重的梯度增大至饱和，亦即它们的重要性被设得过高。但梯度膨胀的问题相对比较容易解决，因为可以将其截断或挤压。而消失的梯度则有可能变得过小，以至于计算机无法处理，网络无法学习－这个问题更难解决。

反复应用sigmoid函数的结果如下图所示。数据曲线越来越平缓，直至在较长的距离上无法检测到斜度。梯度在经过许多个层后消失的情况与此相似。

长短期记忆单元（LSTM）

九十年代中期，德国学者Sepp Hochreiter和Juergen Schmidhuber提出了循环网络的一种变体，带有所谓长短期记忆单元，或称LSTM，可以解决梯度消失的问题。

LSTM可保留误差，用于沿时间和层进行反向传递。LSTM将误差保持在更为恒定的水平，让循环网络能够进行许多个时间步的学习（超过1000个时间步），从而打开了建立远距离因果联系的通道。

在思考有必要这么远吗，也许长文本需要。

LSTM将信息存放在循环网络正常信息流之外的门控单元中。这些单元可以存储、写入或读取信息，就像计算机内存中的数据一样。单元通过门的开关判定存储哪些信息，以及何时允许读取、写入或清除信息。但与计算机中的数字式存储器不同的是，这些门是模拟的，包含输出范围全部在0～１之间的sigmoid函数的逐元素相乘操作。相比数字式存储，模拟值的优点是可微分，因此适合反向传播。
这些门依据接收到的信号而开关，而且与神经网络的节点类似，它们会用自有的权重集对信息进行筛选，根据其强度和导入内容决定是否允许信息通过。这些权重就像调制输入和隐藏状态的权重一样，会通过循环网络的学习过程进行调整。也就是说，记忆单元会通过猜测、误差反向传播、用梯度下降调整权重的迭代过程学习何时允许数据进入、离开或被删除。

下图显示了数据在记忆单元中如何流动，以及单元中的门如何控制数据流动。

上图中的内容很多，如果读者刚开始学习LSTM，别急着向下阅读－请先花一些时间思考一下这张图。只要几分钟，你就会明白其中的秘密。

首先，最底部的三个箭头表示信息从多个点流入记忆单元。当前输入与过去的单元状态不只被送入记忆单元本身，同时也进入单元的三个门，而这些门将决定如何处理输入。

input-gate, forgot-gate, out-gate

图中的黑点即是门，分别决定何时允许新输入进入，何时清除当前的单元状态，以及/或何时让单元状态对当前时间步的网络输出产生影响。S_c 是记忆单元的当前状态，而 g_y_in 是当前的输入。记住，每个门都可开可关，而且门在每个时间步都会重新组合开关状态。记忆单元在每个时间步都可以决定是否遗忘其状态，是否允许写入，是否允许读取，相应的信息流如图所示。

图中较大的黑体字母即是每项操作的结果。

下面是另一张图，将简单循环网络（左）与LSTM单元（右）进行对比。蓝线可忽略；图例有助理解。

不同的权重集对输入信息进行筛选，决定是否输入、输出或遗忘。遗忘门的形式是一个线性恒等函数，因为如果门打开，则记忆单元的当前状态就只会与1相乘，正向传播一个时间步。
此外，讲到简单的窍门，将每个LSTM单元遗忘门的偏差设定为1，经证明可以提升网络表现。（但Sutskever建议将偏差设定5。）

你可能会问，如果LSTM的目的是将远距离事件与最终的输出联系起来，那为什么需要有遗忘门？因为有时候遗忘是件好事。以分析一个文本语料库为例，在到达文档的末尾时，你可能会认为下一个文档与这个文档肯定没有任何联系，所以记忆单元在开始吸收下一个文档的第一项元素前应当先归零。

在下图中可以看到门的运作方式，其中横线代表关闭的门，而空心小圆圈则代表打开的门。在隐藏层下方水平一行的横线和圆圈就是遗忘门。

训练的目标不仅是W，会训练各种门的开关情况，最终得到各种参数。RNN只是把当前W和状态h当做输入进下一层；这样容易梯度消失，对历史信息利用的不够，于是在不同的步骤（cell）的前、中、后设计了三个门（in-forgot-out gate）来更加细致的使用历史状态和当前输入信息；这种借助外部门的思想，对控梯度消失有帮助，至于为什么有帮助，相当于梯度的概念被分散到外部了，肯定不容易消失，外部信息可以进行另外的控制方法来解决。这是一个个人理解。
深刻理解上图，有助于解决很多序列化的应用案例，比如：根据有序的字母输入预测下一个字母。

应当注意的是，前馈网络只能将一个输入映射至一个输出，而循环网络则可以像上图那样将一个输入映射至多个输出（从一张图像到标题中的许多词），也可以进行多对多（翻译）或多对一（语音分类）的映射。

涵盖多种时间尺度和远距离依赖

你可能还会问，输入门阻止新数据进入记忆单元，输出门阻止记忆单元影响RNN特定输出，此时这两种门确切的值如何呢？可以认为LSTM相当于允许一个神经网络同时在不同时间尺度上运行。

以一个人的人生为例，想象一下我们如何以一个时间序列的形式接收有关的这一人生不同数据流。就地理位置而言，每个时间步的位置对下一个时间步都相当重要，所以地理位置的时间尺度就是始终对最新的信息保持开放。

假设这个人是位模范公民，每隔几年就会投票。就民主生活的时间尺度而言，我们希望特别注意这个人在选举前后所做的事，关注这个人在搁下重大议题、回归日常生活之前的所作所为。我们不希望我们的政治分析被持续更新的地理位置信息所干扰。

如果这人还是个模范女儿，那我们或许可以增加家庭生活的时间尺度，了解到她打电话的模式是每周日一次，而每年过节期间电话量会大幅增加。这与政治活动周期和地理位置无关。

其他数据也是如此。音乐有复合节拍。文本包含按不同间隔反复出现的主题。股票市场和经济体在长期波动之余还会经历短期震荡。这些事件同时在不同的时间尺度上进行，而LSTM可以涵盖所有这些时间尺度。

门控循环单元（GRU）

门控循环单元（GRU）本质上就是一个没有输出门的LSTM，因此它在每个时间步都会将记忆单元中的所有内容写入整体网络。

代码示例

点击此处查看一个使用Deeplearning4j的Graves LSTM示例（附说明）学习如何复制莎士比亚风格的戏剧。这个API在较难理解之处都附有说明。若有任何问题，请在Gitter上加入我们。

//Set up network configuration:MultiLayerConfiguration conf = new NeuralNetConfiguration.Builder()                      .optimizationAlgo(OptimizationAlgorithm.STOCHASTIC_GRADIENT_DESCENT).iterations(1).learningRate(0.1).rmsDecay(0.95).seed(12345).regularization(true).l2(0.001).weightInit(WeightInit.XAVIER).updater(Updater.RMSPROP).list().layer(0, new GravesLSTM.Builder().nIn(iter.inputColumns()).nOut(lstmLayerSize).activation("tanh").build()).layer(1, new GravesLSTM.Builder().nIn(lstmLayerSize).nOut(lstmLayerSize).activation("tanh").build()).layer(2, new RnnOutputLayer.Builder(LossFunction.MCXENT).activation("softmax")        //MCXENT + softmax for classification.nIn(lstmLayerSize).nOut(nOut).build())            .backpropType(BackpropType.TruncatedBPTT).tBPTTForwardLength(tbpttLength).tBPTTBackwardLength(tbpttLength).pretrain(false).backprop(true).build();

LSTM超参数调试

以下是手动优化RNN超参数时需要注意的一些事：

小心出现过拟合，这通常是因为神经网络在“死记”定型数据。过拟合意味着定型数据的表现会很好，但网络的模型对于样例以外的预测则完全无用。
正则化有好处：正则化的方法包括l1、l2和丢弃法等。
保留一个神经网络不作定型的单独测试集。
网络越大，功能越强，但也更容易过拟合。不要尝试用10,000个样例来学习一百万个参数参数 > 样例数 = 问题。
数据基本上总是越多越好，因为有助于防止过拟合。
定型应当包括多个epoch（使用整个数据集定型一次）。
每个epoch之后，评估测试集表现，判断何时停止（提前停止）。
学习速率是最为重要的超参数。可用deeplearning4j-ui调试；参见此图
总体而言，堆叠层是有好处的。
对于LSTM，可使用softsign（而非softmax）激活函数替代tanh（更快且更不容易出现饱和（约0梯度））。
更新器：RMSProp、AdaGrad或momentum（Nesterovs）通常都是较好的选择。AdaGrad还能衰减学习速率，有时会有帮助。
最后，记住数据标准化、MSE损失函数 + 恒等激活函数用于回归、Xavier权重初始化.

后记

这是最重要的一段。建议反复阅读甚至记忆。

虽然循环网络可能距离通用人工智能还很遥远，但我们相信，智能实际上比我们所想的要“笨”。也就是说，有了简单的反馈循环作为记忆，我们就有了意识的基本元素之一－一项必要但不充分条件。上文没有提到的其他条件可能包括表示网络及其状态的额外变量，以及基于数据解释的决策逻辑框架。理想状态下，后者会成为一个更大的问题解决循环的一部分，奖励成功，惩罚失败，与强化学习十分相似。话说，DeepMind已经造出了这样的框架……

所有参数经过优化的神经网络在某种意义上都具有记忆，因为这些参数是过往数据的痕迹。但在前馈网络中，这种记忆可能被冻结在了过去。也就是说，当网络定型后，它所学习的模型可能被应用于更多数据，而不再对自身进行调整。此外，这类网络也具有单体性，即将同样的记忆（或权重集）应用于所有输入数据。

循环网络有时也称为动态（意为：“不断变化的”）神经网络，它与前馈网络的最大区别不在于拥有记忆，而是它能够将特定权重赋予以序列方式发生的多个事件。虽然这些事件不一定需要紧密相连，但网络会假定它们都被同一根时间线联系起来，不论距离多远。前馈网络则不会进行这样的假设。它们将世界视为不具备时间次序的一堆对象。将这两种神经网络与两种人类知识做类比可能会有助于理解。
小时候，我们学习辨认颜色，然后我们这一辈子不论在何处都能认出各种颜色，在差别极大的各类情景中都是如此，也不受时间影响。颜色我们只需要学习一次。这种知识就像是前馈网络的记忆：它们依赖于一种没有范围、无限定的过往信息。它们不知道也不关心五分钟之前输入的是什么颜色。前馈网络有短期失忆症。

而另一方面，我们小时候还会学习如何解读名为语言的声音信号流，我们从这些声音中提取出的意义，比如“toe”、“roe”或“z”，始终高度依赖于在其前后出现的声音信号。序列的每一步都建立在前一步的基础上，而意义产生于它们的顺序。的确，句子中每个音节的意义是由许多个整句所共同传达的，而句子中的冗余信号则是抵抗环境噪声的保护。循环网络的记忆与此类似，它们依赖的是过往信息中的一个特定片段。两种网络以不同的方式让不同的过往信息发挥作用。

一个应用案例

电影推荐应用，介绍如何在优酷土豆电影推荐中使用RNN进行个性化推荐。
在电影推荐中，我们要解决的是根据用户历史观看的视频预测用户未来观看的电影，如下图所示：

序列问题的预测问题。
为了解决以上问题，那么我们现在可以拿到用户的数据有什么？显而易见，用户的观看历史我们是可以获得。因此，对于模型的训练数据可以结构化为his(u)={v1,v2,v3,..vn}.其中，v为用户观看的视频，v1,v2.为用户观看时间上的序列。当然，为了数据的准确性，进行了观看历史的清洗，如用户观看视频的播放完成率等。
具体训练流程如图，将视频预测问题转换为序列预测问题，如用户观看历史为v1,v2,v3, 当模型输入为v1,v2时，目标则是最大化视频v3的概率。

用了模型之后如何使用呢？其实在上面的模型的目标设定时就可以看出。作为一个序列的模型，在进行用户视频预测时，输入用户历史的观看序列，选出用户可能观看的视频（按照预测的概率进行排序）即可。如图所示：

问题：当训练样本特别大的时候，训练和更新则较为耗时。
效果较好。
更为详细的可以参考后面的链接。

参考

https://deeplearning4j.org/lstm
http://blog.csdn.net/liurong_cn/article/details/52372693