【深度学习】深度学习之LSTM

LSTM是深度学习领域一个非常受欢迎的模型，它被用以解决各种各样的问题。在交通领域，LSTM被广泛应用于道路、航空、铁路等各个方面的研究，例如基于LSTM建立车辆跟驰模型，利用LSTM进行短期交通流预测，公交车到站时间预测、共享单车需求预测、铁路客运量预测以及航空延误预测等等。本周，交通科研Lab将对LSTM的基础理论进行介绍，并以航空延误预测为例讲解如何建立LSTM模型。

今天先为大家介绍一下LSTM模型的相关理论。

注：以下内容是对书籍、博客以及论文中的相关介绍的整理。

LSTM网络的全称是“Long Short Term Memory networks”，中文名叫“长短期记忆网络”，是一种改进版的RNN。所以，在介绍LSTM之前，先来了解一下RNN。

RNN

在实际生活中，我们所面临的很多问题都是具有顺序性的。比如说，你在阅读文章的时候，都是通过联系上文来理解你当前看到的词的真正含义。但是传统的人工神经网络并不会根据先前信息来对之后的信息进行推断。RNN（Recurent Neural Networks,递归神经网络）弥补了这一缺陷，它将神经元的输出再接回神经元的输入，使其具有“记忆力”，从而可以解决具有顺序性的问题。如下图所示，右图是将左图按照时间点展开得到的结果，图中共有3个时间点，依次是“t-1”“t”“t+1”。

图注

X是神经网络的输入，是t时间点神经网络的输入；

O是神经网络的输出，是t时间点神经网络的输出；

（U,V,W）是神经网络的参数，在展开图中W是t-1时间点的输出，但是作为t时间点的输入。

S是隐藏状态，代表着神经网络的“记忆”。在展开图中是t时间点神经网络的隐藏状态，它是当前时间点的输入、前一个时间点的隐藏状态以及参数U和W共同评估的结果。

然而，世界上没有十全十美的事物……RNN也不例外，虽然它有“记忆力”，但是，他的“记忆力”有点差。如果相关信息和当前预测的位置间隔很小，RNN可以学会使用先前信息，如果位置间隔很大，RNN就记不住了……为此深度学习专家Schmidhuber提出了LSTM模型。

LSTM

emmmm接下来有请哪吒给大家介绍一下LSTM模型！

感谢小爷~小爷讲的正是我想说的~

以上就是本期LSTM相关理论讲解的全部内容，下期将为大家介绍如何建立LSTM模型来预测航空延误。

emmm你们还有什么要补充或者要纠正的吗？欢迎大家来后台留言~

注：以上所用图片均来源于网络。

编辑：庄桢

往期精彩回顾适合初学者入门人工智能的路线及资料下载(图文+视频)机器学习入门系列下载中国大学慕课《机器学习》（黄海广主讲）机器学习及深度学习笔记等资料打印《统计学习方法》的代码复现专辑
AI基础下载机器学习交流qq群955171419，加入微信群请扫码：

【深度学习】深度学习之LSTM相关推荐

深度学习时间序列预测：LSTM算法构建时间序列单变量模型预测大气压（ air pressure）+代码实战
深度学习时间序列预测:LSTM算法构建时间序列单变量模型预测大气压( air pressure)+代码实战长短期记忆(Long short-term memory, LSTM)是一种特殊的RNN,主 ...
深度学习时间序列预测：LSTM算法构建时间序列单变量模型预测空气质量（PM2.5）+代码实战
深度学习时间序列预测:LSTM算法构建时间序列单变量模型预测空气质量(PM2.5)+代码实战 # 导入需要的包和函数: from __future__ import print_function im ...
[深度学习] Pytorch中RNN/LSTM 模型小结
目录一 Liner 二 RNN 三 LSTM 四 LSTM 代码例子概念介绍可以参考:[深度学习]理解RNN, GRU, LSTM 网络 Pytorch中所有模型分为构造参数和输入和输出构造参数两 ...
浅谈深度学习：基于对LSTM项目`LSTM Neural Network for Time Series Prediction`的理解与回顾
浅谈深度学习:基于对LSTM项目LSTM Neural Network for Time Series Prediction的理解与回顾#### 总包含文章: 一个完整的机器学习模型的流程浅谈深度学 ...
深度学习免费课程_深入学习深度学习，提供15项免费在线课程
深度学习免费课程 by David Venturi 大卫·文图里(David Venturi) 深入学习深度学习,提供15项免费在线课程 (Dive into Deep Learning with ...
【原创】分享一些机器学习和深度学习的学习资料
如果你还在苦苦寻找机器学习和深度学习入门资料的话,或许可以看看本文我的一些推荐,这些材料我自己都学过一遍,分享一下点评,希望对你有帮助.注意,本文只是点评这些资源,不提供任何资源的盗版下载,所有资源我 ...
爱奇艺深度语义表示学习的探索与实践
导读:基于学术界和工业界经验,爱奇艺设计和探索出了一套适用于爱奇艺多种业务场景的深度语义表示学习框架.在推荐.搜索.直播等多个业务中的召回.排序.去重.多样性.语义匹配.聚类等场景上线,提高视频推荐的 ...
学习深度学习需要哪些知识_您想了解的有关深度学习的所有知识
学习深度学习需要哪些知识有关深层学习的FAU讲义 (FAU LECTURE NOTES ON DEEP LEARNING) Corona was a huge challenge for many ...
【译文】学习深度学习的四个步骤
原文地址首先,如果你需要了解一些关于深度学习的基本信息,或者需要了解为什么深度学习会对未来有如此巨大的影响的话,请先看一下Andrew Ng的讲解视频: Andrew Ng: Deep Learni ...
《神经网络与深度学习》—学习笔记
[nndl.github.io] [神经网络与深度学习] [nndl-book] 深度学习基础深度学习是机器学习的一个分支,是指一类问题以及解决这类问题的方法. 深度学习问题是一个机器学习问题,指从 ...

【深度学习】深度学习之LSTM

【深度学习】深度学习之LSTM相关推荐

最新文章

热门文章