一种基于Transformer的自适应时空图神经网络交通流预测方法及系统

一种基于transformer的自适应时空图神经网络交通流预测方法及系统
技术领域
1.本发明属于智能交通领域，具体涉及一种基于transformer的自适应时空图 神经网络交通流预测方法及系统。


背景技术：

2.目前，有较多文献研究了交通流预测方法。文献t-gcn:a temporal graphconvolutional network for traffic prediction将图卷积应用在交通流预测中，利用 图卷积网络和门控递归单元(gru)分别捕获时间依赖和空间依赖。文献 attention based spatial-temporal graph convolutional networks for traffic flowforecasting将注意力机制引入到交通流预测模型中，利用时空注意机制捕捉交通 数据的动态时空关联，同时利用两个单独的组件来分别捕获时间相关性和空间 相关性。文献spatial-temporal synchronous graph convolutional networks:anewframework for spatial-temporal network data forecasting提出一种局部时空子 图，能够有效捕获复杂的局部时空相关性。文献spatial-temporal fusion graphneural networks for traffic flow forecasting提出一种由数据驱动的“时间图”生 成方法，可以捕获在空间图中没有反映的相关性。文献spatial-temporaltransformer networks for traffic flow forecasting将transformer引入到交通流预 测模型中，利用transformer捕获动态的空间相关性和时空相关性。到目前为止 少有文献能够同时捕获隐藏的空间关系和动态的时空相关性。
3.交通流数据具有复杂的时空相关性，数据的空间依赖的隐藏性、时间的相 关性、时间的多模特性，都是现有交通流预测面临的挑战。


技术实现要素：

4.为了有效地捕获交通数据中动态的和隐藏的空间相关性以及时空相关性， 本发明提供一种基于transformer的自适应时空图神经网络交通流预测方法及系 统，所述方法包括以下步骤：
5.获取历史数据，包括前一个小时交通流量、一天前交通流量和一周前交通 流量，将历史数据拼接后得到的交通流特征矩阵以及路网中节点的邻接矩阵作 为输入数据；
6.根据路网的连通性和交通流特征矩阵，提取节点自身的时间相关性、不同 节点间之间的时空相关性获得第一交通流特征矩阵，并根据路网结构中的隐藏 的空间相关性，获得第二交通流特征矩阵；
7.将第一交通流特征矩阵与第二交通流特征矩阵进行融合，得到最终的交通 流特征，将该特征输入预测模型进行预测得到预测结果。
8.进一步的，输入数据的获取包括：将当天交通流量、一天前交通流量和一 周前交通流量拼接在一起后使用卷积神经网络将拼接的数据投影到高位空间作 为输入数据，当天交通流量、一天前交通流量和一周前交通流量拼接在一起的 数据表示为：
9.x＝concat(xr,xd,xw)；
10.其中，x为当天交通流量、一天前交通流量和一周前交通流量拼接在一起 的数据，x∈rn×m表示n个节点m个时间片的特征；xr∈rn×m′
表示交通流量几 个小时前n个节点m
′
个时间片的数据；xd∈rn×m′
表示交通流量一天前n个节点 m
′
个时间片的的周期数据；xw∈rn×m′
表示交通流量一周前n个节点m
′
个时间 片的周期数据。
11.进一步的，第一交通流特征矩阵的获取包括：
12.考虑路网中节点之间的距离和连通性，将位置信息注入到输入数据的特征 中；
13.利用加入交通流时间位置编码和节点间的空间位置编码的transformer网络 获取交通流与节点间的长期依赖关系和动态的时空相关性的特征；
14.交通流与节点间的长期依赖关系和动态的时空相关性的特征进行并行化处 理后，并利用多头注意力机制从中获取交通流动态的时空相关性；
15.采用softmax函数用于对获取交通流动态的时空相关性的特征进行归一化， 将每个节点进行归一化后的特征按照空间轴拼接起来形成第一交通流特征矩 阵。
16.进一步的，将位置信息嵌入到输入数据的特征中包括：
[0017][0018]
g＝(v,e,a)；
[0019]
其中，表示空间信息的嵌入矩阵；a∈rn×n是根据传感器之间的欧 氏距离构建的路网结构图g的邻接矩阵，σ2为路网结构图g所有节点两点之间 的欧氏距离的标准差；v表示n个节点集合，节点为道路卡口部署的检测器；e 是节点之间边的集合，n为节点个数。
[0020]
进一步的，将嵌入位置信息的输入数据的特征输入到transformer网络中进 行卷积，获取交通流与节点间的长期依赖关系和动态的时空相关性的特征，表 示为：
[0021]
x
′
＝conv(concat(x,dm,ds))；
[0022]
其中，x
′
∈rc×n×m表示交通流与节点间的长期依赖关系和动态的时空相关性 的特征；conv()表示卷积操作；concat()表示拼接操作；x表示输入数据； dm∈rn×m×m表示嵌入时间信息的输入数据的特征；ds∈rm×n×n表示嵌入位置信息 的输入数据的特征；c是通道数，n是节点个数，m为输入的节点历史时间片 数。
[0023]
进一步的，利用多头注意力机制从中获取交通流动态的时空相关性的过程 包括：
[0024]
通过前馈神经网络将输入数据的特征投影到3个高维潜在子空间；
[0025]
投影的3个潜在子空间分别为query子空间key子空间和 value子空间v∈rm×c，通过三个子空间计算节点间的动态依赖关系，三个子空间 表示为：
[0026][0027][0028][0029]
其中，wv∈rc×c分别是q、k、v的权重矩阵，表示并行化处理后的交通流与节点间的长期依赖关系和动态的时空相关性的特 征；m为输入的节点历史时间片数，c是通道数，dk为矩阵k的维度。
[0030]
进一步的，采用softmax函数对获取交通流动态的时空相关性的特征进行归 一化包括：
[0031][0032]
其中，表示采用softmax函数用于对特征进行归一化后，再更新 value子空间v的值，得到的输出。
[0033]
进一步的，第二交通流特征矩阵由路网结构中所有时间片下节点的隐藏的 空间相关性构成，路网结构中单个时间片下节点的隐藏的空间相关性表示为：
[0034][0035]
其中，表示路网结构中的隐藏的空间相关性；a
adp
为自适应邻接矩 阵，a
adp
＝sigmoid(e1e2)，e1∈rn×b、e2∈rb×n为随机初始化的可学习参数；k是切 比雪夫多项式的阶数，k＝1,2,3,4...k；wk∈rc×c为模型公式第k阶的权重矩阵，θk为可学习参数；为关于拉普拉斯矩阵的切比雪夫多项式，n是节点个数，c 是通道数，b为远小于n的正整数；为时间并行化处理后的特征输入。
[0036]
进一步的，将第一交通流特征矩阵与第二交通流特征矩阵进行融合包括：
[0037]
将第一交通流特征矩阵和第二交通流特征矩阵拼接在一起采用权重矩阵进 行初步融合，表示为：
[0038]
yf＝y
gt
wf；
[0039]
将初步融合的结果，输入softmax激活函数得到门控，表示为：
[0040]
rt＝softmax(yf)；
[0041]
将初步融合结果yf与门控rt做点乘得到，输出最终融合的特征信息y，表 示为：
[0042]
y＝yf*rt；
[0043]
其中，y
gt
为由第一交通流特征矩阵和第二交通流特征矩阵拼接形成的矩 阵；y∈rn×m×c表示最终融合的特征信息，rt为门控，yf是初步融合结果，*表 示点乘，n是节点个数，m为输入的节点历史时间片数，c是通道数。
[0044]
本发明还提出一种基于transformer的自适应时空图神经网络交通流预测系 统，该系统包括特征表示模块、transformer模块、gcn模块、gate模块，其中：
[0045]
特征表示模块，用于根据历史数据得到表征路网空间特征的邻接矩阵和交 通流特征矩阵；
[0046]
transformer模块，用于根据交通流特征矩阵、邻接矩阵和one-hot编码矩阵 捕获动态空间相关性、时空相关性和时间相关性；
[0047]
gcn模块，用于根据交通流特征矩阵、邻接矩阵和自适应邻接矩阵捕获显 式和隐式的空间相关性；
[0048]
gate模块，用于融合transformer模块和gcn模块提取的交通流特征，后 续将融合的交通流特征输入卷积层得到预测结果。
[0049]
本发明有效捕获了交通数据中动态的和隐藏的空间相关性以及时空相关 性，解决了交通流数据具有复杂的时空相关性，数据的空间依赖的隐藏性、时 间的相关性、时间
的多模特性等交通流预测深入研究面临的挑战。该模型在复 杂交通的状况下对较长时交通流具有良好的预测效果。
附图说明
[0050]
图1为本发明一种基于transformer的自适应时空图神经网络交通流预测方 法整体流程图；
[0051]
图2为本发明真实值与预测值的性能比较图；
[0052]
图3为本发明mae性能比较图。
具体实施方式
[0053]
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清 楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是 全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造 性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
[0054]
本发明提出一种基于transformer的自适应时空图神经网络交通流预测方 法，包括以下步骤：
[0055]
获取历史数据，包括前一个小时交通流量、一天前交通流量和一周前交通 流量，将历史数据拼接后得到的交通流特征矩阵以及路网中节点的邻接矩阵作 为输入数据；若路网中两个节点为连通状态，则邻接矩阵的元素的值为路网中 两个节点之间的欧式距离，若两个节点未连通，则邻接矩阵的元素值为0。根据 路网的连通性和交通流特征矩阵，提取节点自身的时间相关性、不同节点间之 间的时空相关性获得第一交通流特征矩阵，并根据路网结构中的隐藏的空间相 关性，获得第二交通流特征矩阵；
[0056]
将第一交通流特征矩阵与第二交通流特征矩阵进行融合，得到最终的交通 流特征，将该特征输入预测模型进行预测得到预测结果。
[0057]
在本实施例中，一种基于transformer的自适应时空图神经网络交通流预测 方法，其特征在于，包括以下步骤：
[0058]
s1：特征表示。向量化表示路网结构和节点的迹历史流量数据，得到能够 表征路网空间特征的邻接矩阵和交通流特征矩阵；
[0059]
s2：特征提取。根据分析路网的连通性和节点特征矩阵，提取节点自身的 时间相关性、不同节点间之间的时空相关性；构建自适应gcn模块，提取路网 结构中的隐藏的空间相关性
[0060]
s3：特征融合。融合transformer层提取的交通流特征与自适应gcn模块 提取的交通流特征，提高预测精度。
[0061]
s4：性能与仿真结果分析。
[0062]
进一步，步骤s1特征表示可具体为：
[0063]
首先，拼接近期交通流量、一天前交通流量和一周前交通流量得 x＝concat(xr,xd,xw)，x∈rn×m表示n个节点m个时刻的特征，xr∈rn×m′
表示节 点的近期数据；xd∈rn×m′
、xw∈rn×m′
分别表示交通流量一天前和一周前的周期 数据。然后，经过卷积神经网络将其融合并投影到高位空间得到：
[0064]
x1＝conv(x)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(1)
[0065]
其中x1∈rc×n×m为模型层第一层的输入。
[0066]
模型层的定义为：
[0067]
yj＝f(xj)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(2)
[0068]
其中xj∈rc×n×m为模型层第j层的输入，m为输入的节点历史时间片数，n是 节点个数，c是通道数，yj∈rc×n×m为模型层第j层的输出，f为交通流预测模型， x
j 1
＝yj xj，x
j 1
为第j 1层的输入。模型层包含三部分：transformer模块， gcn模块和门控融合模块。
[0069]
进一步，步骤s2特征提取可具体为：
[0070]
节点未来的交通流量由节点的历史交通流量、其相邻节点的历史交通流量 以及历史观测的时间步长等因素决定。节点与节点之间有着复杂的依赖关系， 交通流预测的准确度取决于能否精准的捕捉这些依赖关系。从交通流数据的时 间变化规律和时空动态依赖关系两个方面出发，提出一种transformer-自适应 gcn动态时空捕获模型。首先，在交通流特征中融入时间和空间信息，使模型 可以动态捕获交通路网节点之间的复杂时空相关性；其次，提出一种自适应gcn 模型捕获路网隐藏的空间相关性，进而提高预测精度。
[0071]
s201：在模型中加入了时间信息和空间信息，使得输入特征包含了交通流 数据的时空信息，从而达到精准捕获交通流节点之间复杂的依赖关系的目的。
[0072]
其中transformer层：
[0073]yjtl
＝trans(xj,ds,dm)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(3)
[0074]
式中y
jtl
∈rc×n×m为第j层transformer层的输出，ds、dm为时间和空间信息 编码。
[0075]
分别为时间和空间信息的嵌入矩阵，m为输入的节 点历史时间片数，n是节点个数。初始化为时间步长的独热编码，将时间步 长注入到每个节点中，为路网结构图g高斯核初始化的邻接矩阵，考虑了节 点之间的距离和连通性，将位置信息注入到输入特征中，其中：
[0076][0077]
g＝(v,e,a)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(5)
[0078]
式(4)中a∈rn×n是根据传感器之间的欧氏距离构建的路网结构图g的邻 接矩阵，σ2为路网结构图g所有节点两点之间的欧氏距离的标准差。式(5)中 定义路网结构图g，其中v表示n个节点集合，在本文中节点表示道路卡口部署 的检测器，e是节点之间边的集合，代表节点之间的物理连通性。
[0079]
在交通流预测中，引入transformer网络，加入交通流时间位置编码和节点 间的空间位置编码，利用多头注意力机制捕获交通流与节点间的长期依赖关系 和动态的时空相关性。
[0080]
首先，将嵌入了交通流数据时空信息的特征输入到transformer网络中，定 义如下：
[0081]
x
′
＝conv(concat(x,dm,ds))
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(6)
[0082]
x
′
∈rc×n×m，这里的x为省略掉下标j之后的模型层输入，dm∈rn×m×m和 ds∈rm×n×n为时间嵌入矩阵和空间嵌入矩阵分别沿空间轴和时空轴的平 铺。对x
′
∈rc×n×m进行节点并行化处理后得到其中，c是通道数，n是 节点个数，m为输入的节点历史时间
片数。
[0083]
采用多头自注意机制使模型在不同的位置关注到不同表示子空间的信息， 从而捕获交通流动态的时空相关性。通过前馈神经网络可以学习到将输入特征 投影到3个高维潜在子空间的映射。投影的3个潜在子空间分别为query子空间 key子空间和value子空间v∈rm×c。其中：
[0084][0085][0086][0087]
式中wv∈rc×c分别是q、k、v的权重矩阵，矩阵为x
′
沿节点维度并行化处理后得到的，m为输入的节点历史时间片数，c是 通道数，dk为矩阵k的维度。
[0088]
通过q和k的点积获得节点间的动态依赖关系，同时减少储存和计算的成 本。系数可以保证反向传播时梯度的平稳。采用softmax函数用于对特征进行 归一化后，再更新value子空间v的值，得到transformer子模块的输出
[0089][0090]
其中，q、k、v分别对应query子空间、key子空间和value子空间，dk为 矩阵k的维度，m为输的节点历史时间片数，c是通道数。
[0091]ytl
∈rc×n×m为收集了n个节点的输出得到，先将transformer层的输入并行 化处理为n个输入将其输入到transformer子模块中，再将n个子模块输出 按空间轴拼接起来得到transformer层的输出y
tl
。
[0092]
s202：为了解决传统的图卷积神经网络模型是基于图谱理论，难以捕捉交 通路网中隐藏的空间关系的问题，提出了一种基于自适应邻接矩阵的图卷积神 经网络(自适应gcn)模型。该模型可以学习到路网中隐藏的空间相关性。
[0093]
其中gcn层：
[0094]yjgl
＝graph(xj,a,a
adp
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(11)
[0095]
式中y
jgl
∈rc×n×m为第j层gcn层的输出，a
adp
∈rn×n是构建的路网自适应邻 接矩阵，c是通道数，n是节点个数，m为输入的节点历史时间片数。
[0096]
建立的自适应邻接矩阵a
adp
如下所示：
[0097]aadp
＝sigmoid(e1e2)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(12)
[0098]
式中e1∈rn×b，e2∈rb×n为随机初始化的可学习参数，n是节点个数。一般 情况下，b远小于n。通过初始化两个节点嵌入字典相乘以得到自适应邻接矩阵， 可以减少模型的可学习参数。自适应邻接矩阵可以在没有任何先验知识指导的 情况下，从数据中自主发现不可见的图结构，精确地捕捉数据中隐藏的空间依 赖。
[0099]
自适应邻接矩阵捕获了路网隐藏的空间相关性。同时，还需要获取路网显 示的空间关系。基于切比雪夫多项式近似的传统图卷积神经网络，可以捕获局 部的显示的空间相关性，切比雪夫多项式递归定义为：
[0100][0101]
切比雪夫多项式是以递归方式定义的多项式序列，本文引用的是第一类切 比雪夫多项式，其中t0(x)、t1(x)是第0阶和第1阶，tk(x)是第k阶。综合自适应 邻接矩阵和切比雪夫多项式近似，构建了一种自适应gcn模型。该模型的输出 是单个时间片的特征输出
[0102][0103]
其中，k是切比雪夫多项式的阶数，a
adp
为自适应邻接矩阵， a
adp
＝sigmoid(e1e2)，e1∈rn×b，e2∈rb×n为随机初始化的可学习参数。一般情况 下，b远小于n。为时间并行化处理后的特征输入，wk∈rc×c为模型公 式第k阶的权重矩阵，θk为可学习参数，为关于拉普拉斯矩阵的切比雪夫 多项式，n是节点个数，c是通道数。为缩放后的拉普拉斯矩阵， 其中λ
max
是l的最大特征值，l为对称归一化拉普拉斯矩阵，in为n阶单位矩阵。 d为路网结构图g的度矩阵，其中a∈rn×n是根据传感器之间的欧氏距离构建的路网结构图g的邻接矩阵，n是节点个数。
[0104]ygl
∈rn×m×c为收集了m个时间片的输出得到，m为输入的节点历史时间片 数，n是节点个数，c是通道数，将gcn层的输入按时间轴并行化处理为m个 gcn子模块输入，再将每个子模块的输出按时间轴拼接起来得到gcn层的输 出y
gl
。
[0105]
进一步，步骤s3特征提取可具体为：
[0106]
为了提高模型预测精度，提出了一种门控融合机制gate来融合transformer 层的提取特征y
tl
和自适应gcn层提取特征y gl
。
[0107]
其中门控融合层：
[0108][0109]
式中，yj是第j层门控融合层的输出，y
jtl
∈rc×n×m为第j层transformer层 的输出，y
gl
是gcn模块的输出，m为输入的节点历史时间片数，n是节点个 数，c是通道数。
[0110]
该模块的输入y
gt
∈rn×m×
2c
由transformer动态时空捕获模型层和自适应 gcn模型层捕获的交通流特征信息拼接而成，y
gt
＝concat(y
gl
,y
tl
)。输入的y
gt
只 是由两个模型层的输出y
gl
和y
tl
做简单的拼接，并未实现真正的融合。
[0111]
首先，采用权重矩阵实现初步融合，输出yf∈rn×m×c：
[0112]
yf＝y
gt
wfꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(16)
[0113]
其中，wf∈rn×
2c
×c为权重矩阵，y
gl
是gcn模块的输出，m为输入的节点 历史时间片数，n是节点个数，c是通道数。
[0114]
然后，将初步融合的结果，输入softmax激活函数得到门控rt∈rn×m×c：
[0115]
rt＝softmax(yf)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(17)
[0116]
最后，将初步融合结果yf与门控rt做点乘得到，输出最终融合的特征信息 y：
[0117]
y＝yf*rt
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(18)
[0118]
其中，y∈rn×m×c，rt为门控，yf是初步融合结果，
‘
*’表示点乘，即对 应位置相乘，n是节点个数，m为输入的节点历史时间片数，c是通道数。
[0119]
所提出的交通流预测算法(tagcn)内容如下所示。
[0120][0121][0122]
进一步，对步骤s4实验分析可具体为：
[0123]
我们与近些年较先进的模型做了对比实验，实验结果如下：图2为真实值 与预测值的性能比较图，图2给出了提出的交通预测算法(tagcn)与stsgcn 算法与车流量真实值的对比结果。根据图2可知，提出的tagcn算法的预测结 果更接近车流量的真实值。图3为mae性能比较图，将本tagcn模型与最新 的stfgnn和stsgcn模型的mae性能情况进行比较，由图可知，本模型的 mae(平均绝对值误差)相对较小、较稳定。
[0124]
本发明针对图神经网络应用于交通流预测仍然存在如何有效捕获交通路网 节点空间依赖的动态性、隐藏性和交通数据复杂的时空相关性以及交通数据在 时间上的多模特性等问题，本文提出了一种基于transformer的自适应时空图神 经网络和多模时空融合方法。首先，考虑到交通流数据中隐藏的空间相关性， 改进了自适应邻接矩阵模型以捕获隐藏的空间依赖关系。然后，在引入 transformer模型捕捉时间依赖的同时加入空间信息，从而达到动态的捕获空间 相关性和时空相关性的目的。最后，本模型在4个真实数据集上进行了实验评 估，评估结果表明本模型框架模型能够在不同交通特征、道路数量等复杂交通 状况下都有很好的效果。
[0125]
尽管已经示出和描述了本发明的实施例，对于本领域的普通技术人员而言， 可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变 化、修改、替换和变型，本发明的范围由所附权利要求及其等同物限定。