一种输电数据一致性检测方法及系统与流程

摘要: 本发明涉及电力系统大数据治理,尤其是一种输电数据一致性检测方法及系统。背景技术:1、随着输电系统分布式智能工具的广泛应用,产生的规模巨大、实时、动态的数据在多个...
一种输电数据一致性检测方法及系统与流程

本发明涉及电力系统大数据治理,尤其是一种输电数据一致性检测方法及系统。

背景技术:

1、随着输电系统分布式智能工具的广泛应用,产生的规模巨大、实时、动态的数据在多个安全区域之间频繁流转。这些数据在跨越不同安全区域和异构系统(如源端采集、中间件传输、数据库存储)的过程中,往往需要经过多次清洗、聚合与格式转换。然而,由于涉及系统众多且链路处于“黑盒”状态,数据在流转过程中极易出现同步不一致、逻辑丢失或精度偏差等情形,使得输电数据的一致性检测愈发重要。

2、目前,相关技术通常是基于固定阈值的单点检测方式来实现输电系统各节点的数据一致性检测。但由于输电系统跨安全区域存在数据孤岛情形,该种方式难以追踪输电数据在输电系统的数据血缘,且难以适应异构数据库精度差异,输电数据一致性检测的准确性不尽人意。

3、因此,相关技术存在的问题还亟需解决和优化。

技术实现思路

1、本发明的目的在于至少一定程度上解决相关技术中存在的技术问题之一。

2、为此,本发明实施例的一个目的在于提供一种输电数据一致性检测方法及系统,其中,该方法可以提高输电数据一致性检测的准确性。

3、为了达到上述技术目的,本技术实施例所采取的技术方案包括:

4、第一方面,本技术实施例提供了一种输电数据一致性检测方法,包括:

5、获取输电系统异构数据链路的输电数据流,以及与所述输电系统异构数据链路对应的全息拓扑图谱;所述输电数据流包括若干个数据块;

6、根据所述全息拓扑图谱,对所述输电数据流进行模糊指纹生成,得到第一指纹流和若干个第二指纹流;所述第一指纹流用于表征所述输电数据流在第一图谱节点的若干个模糊指纹的组合,所述第二指纹流用于表征所述输电数据流在第二图谱节点的若干个模糊指纹的组合;所述第一图谱节点为所述全息拓扑图谱所有图谱节点中的末端图谱节点;所述第二图谱节点为所述全息拓扑图谱所有图谱节点中除所述第一图谱节点之外的图谱节点;每个所述模糊指纹对应一个所述数据块;

7、根据所述第一指纹流,对所有所述第二指纹流进行末端一致性检测,得到所述输电数据流的一致性检测结果。

8、另外,根据本技术上述实施例的方法,还可以具有以下附加的技术特征:

9、进一步地,在本技术的一个实施例中,获取与所述输电系统异构数据链路对应的全息拓扑图谱,包括:

10、获取所述异构数据链路每个实体对象的实体数据;

11、对所有所述实体数据进行实体关系分析,得到关系分析信息;

12、根据所述关系分析信息,对所有所述实体对象进行图谱生成,得到所述全息拓扑图谱。

13、进一步地,在本技术的一个实施例中,所述方法还包括:

14、所述根据所述全息拓扑图谱,对所述输电数据流进行模糊指纹生成,得到第一指纹流和若干个第二指纹流,包括:

15、获取若干个节点块,所述节点块用于表征在第三图谱节点的所述输电数据流中的数据块;

16、根据所述输电数据流,对所有所述节点块进行指纹合成,得到每个所述节点块的模糊指纹;

17、根据所有所述节点块的模糊指纹,得到第三指纹流;

18、若所述第三图谱节点为所述第一图谱节点,则所述第三指纹流为所述第一指纹流;或者,若所述第三图谱节点为所述第二图谱节点,则所述第三指纹流为所述第二指纹流。

19、进一步地,在本技术的一个实施例中,所述根据所述输电数据流,对所有所述节点块进行指纹合成,得到每个所述节点块的模糊指纹,包括:

20、对所述节点块进行统计特征提取,得到块特征向量;

21、对所述块特征向量进行抗噪量化,得到块量化特征;

22、根据所述输电数据流的时间戳,对所述块量化特征进行块指纹生成,得到所述节点块的模糊指纹。

23、进一步地,在本技术的一个实施例中,所述根据所述第一指纹流,对所有所述第二指纹流进行末端一致性检测,得到所述输电数据流的一致性检测结果,包括:

24、获取容忍窗、第一数据指纹和若干个第二数据指纹;所述第一数据指纹为所述第一指纹流所有模糊指纹中的任意一个模糊指纹;所述第二数据指纹为所述第二指纹流所有模糊指纹中与所述第一数据指纹对应的模糊指纹;

25、对所有所述第二数据指纹进行指纹预测分析,得到第一预期指纹;

26、根据所述容忍窗和所述第一数据指纹,对所述第一预期指纹进行时空容忍及指纹差异检测,得到所述一致性检测结果。

27、进一步地,在本技术的一个实施例中,若所述一致性检测结果为一致性检测异常,所述方法还包括:

28、获取异常块,所述异常块为在所述第一图谱节点的输电数据流中异常的数据块;

29、根据所述异常块,对所述全息拓扑图谱进行上游关联路径提取,得到候选故障路径集;所述候选故障路径集包括若干个路径节点;

30、对所述候选故障路径集进行逐跳指纹梯度差分分析,得到每个所述路径节点的一致性梯度;

31、对所有所述一致性梯度进行故障定位,得到故障对象,所述故障对象用于表征所述全息拓扑图谱中的故障图谱节点和/或故障边。

32、进一步地,在本技术实施例中,所述方法还包括:

33、获取故障对象的环境上下文特征和若干个上游节点;

34、根据所有所述上游节点的模糊指纹,得到与所述故障对象对应的第二预期指纹;

35、根据所述故障对象的模糊指纹,对所述第二预期指纹进行指纹差异分析,得到指纹差异特征;

36、根据所述环境上下文特征和所述指纹差异特征,进行故障联合分析,得到所述故障对象的故障分析结果。

37、第二方面,本技术实施例提供一种输电数据一致性检测系统,包括:

38、第一处理单元,用于获取输电系统异构数据链路的输电数据流,以及与所述输电系统异构数据链路对应的全息拓扑图谱;所述输电数据流包括若干个数据块;

39、第二处理单元,用于根据所述全息拓扑图谱,对所述输电数据流进行模糊指纹生成,得到第一指纹流和若干个第二指纹流;所述第一指纹流用于表征所述输电数据流在第一图谱节点的若干个模糊指纹的组合,所述第二指纹流用于表征所述输电数据流在第二图谱节点的若干个模糊指纹的组合;所述第一图谱节点为所述全息拓扑图谱所有图谱节点中的末端图谱节点;所述第二图谱节点为所述全息拓扑图谱所有图谱节点中除所述第一图谱节点之外的图谱节点;每个所述模糊指纹对应一个所述数据块;

40、第三处理单元,用于根据所述第一指纹流,对所有所述第二指纹流进行末端一致性检测,得到所述输电数据流的一致性检测结果。

41、第三方面,本技术实施例还提供了一种电子设备,包括:

42、至少一个处理器;

43、至少一个存储器,用于存储至少一个程序;

44、当所述至少一个程序被所述至少一个处理器执行,使得所述至少一个处理器实现上述的方法。

45、第四方面,本技术实施例还提供了一种计算机可读存储介质,其中存储有处理器可执行的程序,所述处理器可执行的程序在由所述处理器执行时用于实现上述的方法。

46、第五方面,本技术实施例还提供了一种计算机程序产品,该计算机程序产品包括计算机程序,该计算机程序存储在计算机可读存介质中,电子设备的处理器从计算机可读存储介质读取该计算机程序,处理器执行该计算机程序,使得该电子设备执行实现前面所述的方法。

47、本技术的优点和有益效果将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本技术的实践了解到:

48、本技术实施例所公开的一种输电数据一致性检测方法及系统,其中,该方法获取输电系统异构数据链路的输电数据流,以及与所述输电系统异构数据链路对应的全息拓扑图谱;所述输电数据流包括若干个数据块;根据所述全息拓扑图谱,对所述输电数据流进行模糊指纹生成,得到第一指纹流和若干个第二指纹流;所述第一指纹流用于表征所述输电数据流在第一图谱节点的若干个模糊指纹的组合,所述第二指纹流用于表征所述输电数据流在第二图谱节点的若干个模糊指纹的组合;所述第一图谱节点为所述全息拓扑图谱所有图谱节点中的末端图谱节点;所述第二图谱节点为所述全息拓扑图谱所有图谱节点中除所述第一图谱节点之外的图谱节点;每个所述模糊指纹对应一个所述数据块;根据所述第一指纹流,对所有所述第二指纹流进行末端一致性检测,得到所述输电数据流的一致性检测结果。该方法通过获取输电系统异构数据链路的全息拓扑图谱,其可以实现链路透明化,以便于追踪输电数据在输电系统的数据血缘;还有,该方法通过对输电数据流进行模糊指纹生成,其可以在一定程度上消除输电系统异构数据的精度误差,有利于提高后续输电数据一致性检测的准确性。