Traffic Flow Prediction Using Graph Convolution Neural NetworksOC 翻译笔记

摘要

利用时空网络数据进行交通流预测仍然是智能交通系统中的重要问题之一。及时准确的交通预测是为不同的城市规划、交通控制和诱导任务提供有价值的信息所必需的。交通流具有高度的非线性和复杂的时空相关性，这一事实解释了问题的复杂性。数学模型的发展，特别是深度学习模型的发展，允许使用卷积神经网络来解决交通预测问题。本文分析了用于交通流预测的图形卷积网络的体系结构。所考虑的图形卷积网络考虑了交通流分布的每日和每周模式。在萨马拉市交通网络上进行了图形神经网络模型的实验研究。实验表明，该模型的性能优于其他基线预测算法。
关键词-交通预测、图形神经网络、卷积神经网络、智能交通系统
一、
智能交通系统(ITS)已经成为提高交通系统质量的有效途径1。目前，无论从研究还是从实践的角度来看，智能交通系统(ITS)及其组成部分的发展仍然是交通规划和管理中最热门的问题之一。智能交通系统既可用于交通管理(例如，通过调节红绿灯、公共交通时间表规划等)，也可用于交通管理(例如，调节红绿灯、公共交通计划等)。以及为道路使用者提供各种服务(包括公共交通到达时间预测、解决导航问题等)。准确、及时的交通流预测对于交通管理和城市规划的各种实际工作都是必不可少的。这一问题可以被认为是智能交通系统中最具挑战性的组成部分之一。
在3中，作者回顾了短期交通预测问题，总结了面临的主要挑战，并根据各种标准对现有的方法进行了分类，包括所使用的数据采集技术、交通流的预测特性、所使用的模型和算法等。在4中，作者综述了道路交通预测的最新进展和新的挑战，描述了最新的技术成果和有待解决的问题。
有不同的流量预测模型和算法分类3-[5]，但现有的模型大致可以分为两类：统计方法和机器学习方法。在经典的统计方法中，通常假设交通系统相当简单，或者使用相对较小的交通数据集来进行预测。统计方法包括时间序列ARIMA模型[6]、[7]、向量自回归模型[8]等。然而，统计模型处理高维时空数据的能力相当有限。
当前，包括具有图形处理单元的并行计算平台在内的高性能计算系统的快速发展，以及交通数据量的增加，导致了针对不同实际任务的机器学习方法的开发和广泛使用，包括交通预测问题。在许多研究中表明，由于机器学习方法能够建模复杂的非线性关系，因此其性能优于统计方法。在[9]，[10]中，支持向量回归（SVR）被用来解决短期交通流量预测问题。在[11]-[13]中研究了作为大数据处理系统的一部分而实现的k最近邻（kNN）方法。但是，随着数据集大小的增加，由于高计算成本，kNN的效率降低了。在[14]，[15]中，作者研究了完全连接的神经网络。
在过去的十年中，深度神经网络，包括具有长短期记忆（LSTM）的网络[16]，[17]，卷积神经网络[18]，[19]，已广泛且成功地应用于不同领域的各种任务科学领域。传统的卷积神经网络可以有效地检索局部模式，但是由于输入数据结构必须是标准的2D或3D规则网格[20]，因此存在局限性。
图上的卷积总结了传统的卷积，可用于处理图结构上的数据。图神经网络使用图邻接矩阵来描述图结构[21]。文献[22]提出了基于图拉普拉斯算子的广义图神经网络。但是，直接在Laplacian矩阵上进行特征值分解是昂贵的，因此，在[23]中大约采用Chebyshev多项式来解决该问题。对于分类问题，在[24]中使用了图网络。在[25]中，图神经网络用来预测交通流量，但未考虑数据中的时空相关性。在[26]中，提出了时空注意机制来捕获交通数据中的动态时空相关性。在[27]中，作者结合了具有长短期记忆层的图卷积神经网络。但是，值得注意的是，在考虑的工作中，来自少量检测器的数据被用作数据源。在本文中，我们考虑了俄罗斯萨马拉市的公路网；路段的平均行驶时间用作交通数据集。
在本文中，我们研究了使用图卷积网络进行短期交通流量预测的有效性。我们分析了在交通数据中使用时空相关性的神经网络架构。
本文的结构如下。在第二节中，给出了主要符号和问题说明。接下来，我们描述神经网络的体系结构。在第四节中，提供了实验结果。最后，我们总结了工作并提出了未来研究的可能方向。

二、问题描述

道路网络被认为是一个有向图G=(V,E,A)节点V，`NV= |V|表示道路连接，边E，NE= |E|表示道路交叉口，A ∈ RN×N，表示图G的邻接矩阵。
我们假设图G的每个节点由一个特征向量
描述，它表示在给定时刻(时间间隔)在顶点i n V的交通流。mathbbR中的xj，i t决定了时间t时顶点i i n V的特征向量的第j个元素的值。以下交通流参数可用作特征向量的元素:
平均速度、密度、流量
在这项工作中，作为预测交通流特性的实验研究，我们使用平均交通速度。将时间t时所有节点的特征向量集表示为

τ时间间隔内所有节点的所有特征向量的值表示为

设yi t∈ R为节点i ∈ V在未来时间戳t的特征向量的要求(预测)值，yi=？yi τ+1，yi τ+2，，yi τ+T？∈ RTbe节点I在T个时间间隔内所需的特征向量值，Y =？y1，y2，，yN？T∈ RN×Tbe在T个时间间隔上，图G的所有节点的特征向量的要求值。给定所引入的符号，短期交通流预测问题可以表述如下:
给定一个图表G(V，E，A)和观察到的历史交通流数据的序列χ，预测下一个T时间间隔内的交通流特征Y。
A.图形卷积神经网络
假设描述交通流量的值是用每天的频率q次得到的。将当前时间戳表示为t0。
为了考虑每个道路连接的交通流分布的当前、每日和每周模式，我们考虑三个时间序列。这种方法是在[26]: 1中提出的。
1.最近的时间序列。为了将最近的交通流量值考虑到交通流量预测中，我们考虑下面的时间序列，它结合了最近的Tctime间隔上的特征向量。：

2.日周期时间序列。交通流在交通数据中有一个每日时段的组成部分(例如，早高峰和晚高峰)。为了考虑每日模式，我们考虑以下形式的时间序列:

其中Td是要考虑的天数。
3.周周期时间序列。交通流量的分布通常因一周中的某一天而异(尤其是在工作日/周末)。为了考虑周模式，我们考虑以下形式的时间序列:

其中Tw是要考虑的周数。
B.数据归一化
为了提高训练速度，需要对输入特征向量和预测值进行归一化，以加快神经网络的训练速度，提高收敛速度，降低找到局部最优的概率。数据标准化如下:

其中x是输入数据，x尖是[0，1]范围内的标准化数据。
C.空间维度中的图形卷积
谱图论将卷积运算从基于网格的数据推广到图形数据。图形卷积旨在捕获图形结构数据的拓扑属性，以解决分类和回归任务。在所考虑的问题中，道路网络显然是图形结构的数据。
在谱图理论中，图由其拉普拉斯矩阵表示:

或者它的规范化形式:

其中A是图的邻接矩阵，I是单位矩阵，D是主对角线上有节点度值的矩阵:

拉普拉斯矩阵的特征值分解具有以下形式:

其中λ是对角矩阵，U是傅里叶基。
图形上的卷积运算被定义为将图形上mathbbRNon中的信号x乘以核gtheta的结果。
图形上的卷积运算定义为信号x ∈ RNon与核gθ[相乘的结果[28]:

作为输入信号x∈RN，可以使用在特定时刻t图的所有节点的特征向量XT的第I个值。
然而，拉普拉斯矩阵的特征值分解是一个计算困难的任务。为了近似解决这个问题，在[28]中提出使用切比雪夫多项式:

其中θ参数是多项式系数的向量，L = 2λMaxL 1，λMaxS是拉普拉斯矩阵的最大特征值。切比雪夫多项式递归定义如下:

作为图神经网络卷积层中的激活函数，使用了整流线性单元（ReLU）。
D.时间维度的卷积
在执行图卷积运算之后，嵌入标准卷积层以在时间维度上执行卷积运算。在神经网络的第r层上的计算可写为：

其中Φ是时间维度中卷积核的参数，χ是原始输入时间序列或在神经网络的上一层的计算结果。
E.神经网络架构
所使用的神经网络的架构如图1所示。该网络由三个具有相同结构的独立组件组成。每个组件分别考虑交通数据中具有不同模式的最近时间序列，每日时间序列和每周时间序列。

总之，神经网络由几个模块组成，这些模块对图形数据执行时空卷积，并考虑了交通数据中的时空相关性。依次执行几层，以提取更大范围的时空相关性。最后一个完全连接的层对于获得神经网络输出数据的所需维度是必需的。为了合并从三个组件（使用最近，每天和每周的时间序列）中的每个组件获得的预测结果，使用以下操作：

是哈达玛乘积，Wc，Wd，Wware学习参数。

三.实验分析

A、数据集
对俄罗斯萨马拉市的交通网络进行了模型实验研究。为了评估图形神经网络模型的准确性和计算时间，选择了包括1760个路段的城市区域。作为实验研究的交通数据，使用了平均交通速度(单位为km/h)。数据集包含60天的记录，从2019年11月1日开始。平均交通速度在10分钟的时间间隔里不断增加。使用线性插值来填充缺失的数据值(对于一些道路连接和一些时间间隔)。使用的数据集分为三个部分:训练集(样本的60 %)、控制集(样本的20 %)和验证集(样本的20 %)
B.模型参数
开发的模型是使用MXNet框架实现的。每个卷积层包含64个神经元。作为预测范围，我们选择T = 6个时间间隔，即我们预测下一个小时的交通流量。
使用训练集学习模型参数，根据验证集的最小误差选择最佳模型。在控制组上进行模型比较。控制组是测试集吗
C.基线方法Baseline Methods
图形卷积神经网络(GCNN)与以下基线方法进行比较:
线性回归；
具有两个隐藏层的全连接神经网络，每层24个神经元(MLP)；
具有长短期记忆结构的递归神经网络(LSTM)。
此外，我们用不同数量的切比雪夫多项式K∑{ 1，2，3}来检验GCNN。
为了评估模型的准确性，使用了三个标准:平均绝对误差(MAE)、均方根误差(RMSE)和平均绝对百分比误差(MAPE)。
D.结果
表1给出了一小时预测范围内所选模型的实验结果的比较。

实验分析表明，本文研究的图卷积神经网络比基线模型具有更好的预测效果。用三阶切比雪夫多项式(K = 3)建立的模型显示了根据集合准则的最佳结果。
在下一步，我们比较不同预测水平值的模型。平均绝对误差和平均绝对百分比误差的比较结果分别示于图2和图3。
分析所获得的结果，我们可以得出结论，所提出的模型对于整个预测范围显示出最好的结果，随着预测范围的增加，所有模型的精度都降低。

在最后一步，我们通过与基线模型的比较来评估图形神经网络的计算时间。我们估计了下一个小时所有道路网络连接的交通流量预测时间。计算使用GPU nVidia GeForce GTX2080 Ti执行。结果列于表二。

所有考虑的模型都具有非常低的计算时间，并且可以用于大规模交通网络中的短期交通流预测。

四.结论

在本文中，我们研究了图卷积神经网络来解决短期交通流预测问题。所考虑的模型考虑了交通数据中的时空相关性和道路网络的拓扑。
在俄罗斯萨马拉市平均交通速度的真实数据集上进行的实验研究表明表明所考虑的模型具有高预测精度(平均误差约为7 %)和非常低的计算时间(约16-20毫秒)，足以用于实时状态下的交通流预测。
未来的研究可能旨在开发更复杂的模型架构，并考虑影响交通分布的其他因素，例如天气条件或公共事件。