一种基于知识驱动的高铁突发事件演化推理方法

本发明涉及深度学习、事件推理，具体涉及一种基于知识驱动的高铁突发事件演化推理方法。

背景技术：

1、对于高铁突发事件演化预测领域来说,其演化信息往往存在于海量文本中,且多数以短文本的形式描述,缺乏结构化信息表示。其次,突发事件演化具有连锁效应、演化方向不确定等特点,导致难以挖掘事件演化的内在逻辑关联关系。近年来，随着互联网的兴起，公共安全突发事件的检测和演化预测受到了学术界和工业界的广泛关注，相对于传统的突发事件演化预测技术,基于本体知识驱动的方法在公共安全突发事件的节点特征表示、因果关系提取和演化模式识别等具有突出优势。因此,如何基于本体表征技术,有效的预测公共安全突发事件的演化特征和方向,对制定有效的应急响应措施、减少人员和财产损失具有重要意义。

2、一般来说,事件演化过程与观测的时间序列数据具有相关性,传统基于序列建模的突发事件预测主要利用聚类分析、概率模型、人工神经网络等方法建模，但是传统方法无法表征演化事件隐藏特征，对事件演化过程缺乏实质性的建模和分析。此外,考虑到突发事件存在不确定性和突发性,为了减少对历史数据和经验依赖,基于“场景-响应”模式的突发事件预测方法受到关注,可以通过概率模型、人工神经网络、模糊理论等方法进行建模。然而，情景推演模型的准确性和有效性依赖于对事件发展过程的假设和参数设定,若假设不准确或参数设定不合理,模拟结果容易失真,并且对事件演化过程涉及的事件要素缺乏实质性的建模和分析。

3、近年来,在深度学习和知识图谱技术的推动下,基于知识驱动的突发事件预测的方法得到了快速发展,这类方法主要建模原理是利用本体知识、图谱知识、预训练知识等语义信息提升突发事件预测的场景表征能力,并在此基础上通过时序建模、注意力机制挖掘事件演化的关联关系，弥补了传统方法在语义捕获不足、缓解了“场景-响应”模式无法深度挖掘演化模式的潜在信息的缺陷。

4、对此在基于知识驱动的突发事件预测上，考虑到突发事件领域知识专业性强,且高铁领域的突发事件具有独特的演化模式,这类方法难以直接适用于高铁领域的突发事件预测任务。具体而言，现有方法缺乏针对高铁突发事件演化本体的结构化定义，缺少对高铁突发事件演化链中逻辑演化关系的有效建模，且未充分考虑高铁突发事件域信息对演化推理的约束作用，导致在高铁突发事件演化推理任务中预测精度不足。

技术实现思路

1、本发明的目的在于解决高铁突发事件演化信息缺乏结构化表示且演化方向不确定，导致现有方法难以挖掘事件演化的内在逻辑关联关系并直接适用于高铁领域突发事件演化推理的技术问题。。

2、为了实现上述目的本发明采用以下技术手段：

3、本发明提供了一种基于知识驱动的高铁突发事件演化推理方法，包括以下步骤：

4、步骤1：构建高铁突发事件演化本体和事件演化链，并根据所述事件演化链的长度定义演化推理模式；

5、步骤2：在给定的所述演化推理模式下，对高铁突发事件演化链信息进行词向量编码处理，并通过特征映射网络获得高铁突发事件演化链的历史信息嵌入表示；

6、步骤3：将所述历史信息嵌入表示输入深层特征提取编码器模块，通过所述深层特征提取编码器模块捕获所述历史信息嵌入表示中的深层语义特征；

7、步骤4：将所述深层语义特征输入域信息增强的注意力机制解码器模块，通过所述域信息增强的注意力机制解码器模块解码高铁突发事件演化链中待预测节点的特征向量表示；

8、步骤5：对所述特征向量表示进行线性变换，得到事件演化链的综合特征表示；构建二元交叉熵损失函数，计算综合特征表示与候选事件之间的信息分布差异，并利用sigmoid函数归一化概率得分，以获得最佳候选事件。

9、具体地，基于高铁突发事件演化信息多以非结构化短文本形式存在，且不同事件之间具有顺承、因果、并列等逻辑演化关系的考虑，为了解决现有事件表示方式难以统一刻画事件要素、属性知识及事件间逻辑演化关系，以及不同长度历史演化链缺乏针对性推理方式的问题，本发明对高铁突发事件演化信息进行结构化组织，并针对不同历史演化长度设置相应的演化推理模式。基于上述思路，所述步骤1具体包括：

10、步骤1.1：构建高铁突发事件演化本体和事件演化链，所述演化本体为三元组形式，表示为，其中为事件主体，为事件触发词，为事件客体；通过对所述演化本体加入事件属性知识构成所述事件演化链；

11、步骤1.2：根据高铁突发事件演化链的长度定义演化推理模式，所述演化推理模式表示为：给定前个历史演化链单元，预测第个演化链单元，即推理模式；共定义4种演化推理模式，具体为、、、。

12、上述方案中，所述步骤2包括：

13、步骤2.1：在给定的所述演化推理模式下，使用词向量编码器word2vec对高铁突发事件演化链信息进行向量化处理，得到的特征嵌入表示；其中表示事件演化链，表示节点，包含修饰宾语属性词、修饰主语属性词、组织实体、人物实体、时间、事件发生地点、逻辑演化关系属性描述；

14、步骤2.2：构建特征映射网络处理模块，所述特征映射网络处理模块包含线性层、向量堆叠和向量平均操作，通过所述特征映射网络处理模块获得高铁突发事件演化链的历史信息嵌入表示。

15、上述方案中，所述步骤2.1中特征嵌入表示通过以下公式获得：

16、

17、

18、其中，、、、、、、、、和为模型权重参数，和为偏置参数，为逻辑演化关系；

19、所述步骤2.2中历史信息嵌入表示通过以下公式获得：

20、

21、其中，为平均函数，为向量concat操作，为各事件节点的特征嵌入表示，为相邻节点之间的逻辑演化关系嵌入表示。

22、上述方案中，所述步骤3包括：

23、步骤3.1：对所述历史信息嵌入表示添加位置编码，获得位置表示，加入位置编码后输入特征变为：

24、

25、步骤3.2：采用多头注意力机制计算节点之间的相关性，获得注意力输出；

26、步骤3.3：通过add&norm层、feedforward层和残差结构获得所述深层特征提取编码器模块的输出：

27、

28、其中，为层归一化操作，为丢失处理，为feedforward层输出结果。

29、上述方案中，所述步骤3.2中多头注意力机制的计算过程为：

30、对于第个注意力头，其查询矩阵、键矩阵和值矩阵表示为：

31、

32、其中，、和为第个注意力头对应的模型权重参数。第个注意力头的输出为：

33、

34、其中，为的转置，为查询矩阵和键矩阵的特征维度，softmax为归一化处理。将各注意力头的输出进行拼接并进行线性映射，获得多头注意力输出：

35、

36、其中，表示向量拼接操作，为注意力头的数量，为多头注意力输出对应的模型权重参数。

37、此外，基于高铁突发事件领域知识专业性强、不同事件类别具有不同的演化规律，且事件演化链中不同历史事件对后续事件的影响程度存在差异的考虑，为了解决现有方法难以利用事件域信息约束演化方向，以及难以从历史演化链中识别对后续事件预测具有关键作用的演化知识的问题，本发明在事件演化推理过程中引入事件域信息和历史事件重要性信息，以增强模型对高铁领域演化特征及关键历史演化知识的表征能力。步骤4具体包括：

38、步骤4.1：对事件域类别信息通过词向量编码器word2vec编码后得到向量化表示，将嵌入所述深层特征提取编码器模块的输出中，获得域增强特征：

39、

40、其中，为激活函数，和为模型参数；

41、步骤4.2：采用特征选择性自注意力机制，解码特征矩阵中重要的特征矩阵：

42、

43、其中，、为模型参数，为偏置参数。

44、上述方案中，所述步骤5包括：

45、步骤5.1：对所述特征矩阵进行线性层linear处理，得到事件演化链的综合特征表示：

46、

47、步骤5.2：给定预测候选事件集合，通过词向量编码器word2vec获得向量表示集合，第个候选事件为，利用sigmoid函数计算相关性分数：

48、

49、其中，和为模型参数，为偏置参数；通过获得最佳候选事件。

50、上述方案中，所述事件演化链表示为：

51、

52、其中，表示本体实例化属性知识，表示第个实例单元和第个实例单元之间的逻辑演化关系，所述逻辑演化关系包含顺承关系、因果关系、并列关系。

53、上述方案中，所述步骤3.1中位置编码的计算公式为：

54、

55、其中，为节点位置，为位置向量维度，代表位置向量的第维，为位置编码的维度索引。

56、因为本发明采用上述技术手段，因此具备以下有益效果：

57、1.本发明基于高铁突发事件演化信息往往存在于海量文本中、多数以短文本形式描述、缺乏结构化信息表示，且突发事件演化具有连锁效应、演化方向不确定导致难以挖掘事件演化内在逻辑关联关系的考虑，为了解决高铁突发事件演化信息缺乏结构化表示且缺乏针对性推理模式定义的技术问题，本发明采用了步骤1中构建高铁突发事件演化本体和事件演化链、并根据演化链长度定义4种演化推理模式的技术手段。通过将高铁突发事件表示为三元组形式的演化本体，并对本体节点加入事件属性知识进行知识实例化形成包含顺承关系、因果关系、并列关系的演化链，使得原本以非结构化短文本形式存在的高铁突发事件演化信息获得了结构化的知识表示；同时，通过定义、、、四种演化推理模式，用于指导后续算法模型的推理学习，使模型能够针对不同长度的历史演化链进行下一演化链单元预测，解决了高铁突发事件演化过程缺乏结构化建模和推理模式定义的技术问题。

58、2.本发明基于突发事件领域知识专业性强、且高铁领域的突发事件具有独特的演化模式、现有基于知识驱动的方法难以直接适用于高铁领域突发事件预测任务的考虑，为了解决通用事件预测方法缺乏高铁领域知识约束的技术问题，本发明采用了步骤4中构建域信息增强的注意力机制解码器模块的技术手段。通过将事件域类别信息经词向量编码器word2vec编码后得到向量化表示，将嵌入步骤3中深层特征提取编码器模块的输出中，将事件域类标签信息作为特征驱动模型训练，以提高预测性能，使得解码器在解码高铁突发事件演化链中待预测节点的特征向量表示时受到高铁突发事件域信息的约束，解决了现有方法难以直接适用于高铁领域突发事件预测任务的技术问题。

59、3.本发明基于事件演化链中各历史事件节点对预测下一事件的贡献程度不同、需要识别对预测具有关键作用的历史演化知识的考虑，为了解决不同历史事件特征等权参与推理时难以突出关键演化知识，进而影响候选事件判别的技术问题，本发明采用了步骤4中设计特征选择性自注意力机制的技术手段。通过所述特征选择性自注意力机制自动为历史事件特征表示分配权重，解码特征矩阵中对预测候选事件具有重要作用的历史事件演化知识特征矩阵，使得模型能够从演化链中捕获对预测候选事件具有重要作用的历史演化知识特征，解决了事件演化链中不同历史事件节点对候选事件预测贡献程度难以区分的技术问题。

60、4.本发明通过将步骤1中构建的包含逻辑演化关系的事件演化链与步骤4中将事件域类标签信息作为特征驱动模型训练的技术手段、以及步骤4中特征选择性自注意力机制自动为不同历史事件特征表示分配权重的技术手段进行组合，在域信息增强的注意力机制解码器模块中，事件域类标签信息驱动模型训练的同时，特征选择性自注意力机制自动为重要的历史事件进行注意力权重分配，二者在同一个解码器模块中共同作用，解码出高铁突发事件演化链中待预测节点的特征向量表示，得到事件推理的预测结果，实现了高铁突发事件的精准预测和事件推理，解决了高铁突发事件演化推理中事件域类标签信息驱动模型训练与历史事件注意力权重分配需要同步实现的技术问题。