数据诊断方法、装置、设备、存储介质及程序产品与流程

摘要: 本技术涉及数据处理,特别涉及一种数据诊断方法、装置、设备、存储介质及程序产品。背景技术:1、数据仓库作为企业数据分析的核心基础设施,数据表之间存在复杂的上下游依...
数据诊断方法、装置、设备、存储介质及程序产品与流程

本技术涉及数据处理,特别涉及一种数据诊断方法、装置、设备、存储介质及程序产品。

背景技术:

1、数据仓库作为企业数据分析的核心基础设施,数据表之间存在复杂的上下游依赖关系。数据表在产出过程中可能因数据源异常、计算逻辑变更、系统故障等原因出现行数骤变、空值率突增等质量问题,若未及时发现和诊断,将影响下游报表产出。

2、相关技术中,当发现某一数据表异常后通常由工程师手动排查诊断,即查看调度日志、表结构变更、计算脚本修改,并沿上游依赖链路逐层追溯,诊断异常原因,通常耗时数小时至数天,诊断效率太低。

技术实现思路

1、本技术实施例提供了一种数据诊断方法、装置、设备、存储介质及程序产品,能够解决数据表诊断效率低的问题。所述技术方案如下:

2、一方面,提供了一种数据诊断方法,所述方法包括:

3、获取目标数据表,并确定所述目标数据表的当前状态统计数据,响应于所述当前状态统计数据满足异常条件,基于所述目标数据表以及所述目标数据表的上游数据表,生成用于对目标数据表进行异常分析的溯源信息;

4、在案例数据库中,查找与所述溯源信息满足相似条件的目标溯源信息,并获取所述目标溯源信息对应的目标诊断结果以及目标调整方案;

5、将所述溯源信息、所述目标溯源信息、所述目标诊断结果以及所述目标调整方案,输入生成式语言模型,以对所述目标数据表的异常原因进行诊断,得到诊断结果以及调整方案。

6、在一种可能的实现方式中,所述基于所述目标数据表以及所述目标数据表的上游数据表,生成用于对目标数据表进行异常分析的溯源信息,包括:

7、获取所述目标数据表对应的数据溯源关系图;

8、基于所述数据溯源关系图,确定所述目标数据表的上游数据表;

9、基于所述目标数据表以及所述上游数据表,生成所述溯源信息。

10、在另一种可能的实现方式中,所述基于所述数据溯源关系图,确定所述目标数据表的上游数据表,包括:

11、由所述数据溯源关系图中所述目标数据表对应的节点开始,沿上游方向逐层遍历,将遍历到的各上游节点所对应的数据表确定为所述目标数据表的上游数据表。

12、在另一种可能的实现方式中,所述基于所述目标数据表以及所述上游数据表,生成所述溯源信息,包括:

13、基于所述目标数据表与所述上游数据表之间的数据处理依赖关系,执行上下游数据对账操作,得到数据对账结果;

14、基于所述数据对账结果生成所述溯源信息。

15、在另一种可能的实现方式中,所述基于所述目标数据表以及所述上游数据表,生成所述溯源信息,包括:

16、确定所述目标数据表的异常特征数据以及第一数据产出时间戳;

17、确定在所述第一数据产出时间戳之前所述上游数据表的数据产出状态,获取已完成数据产出的上游数据表的第二数据产出时间戳;

18、响应于所述第一数据产出时间戳与所述第二数据产出时间戳之间的时间差满足指定的级联时间窗口条件,确定所述上游数据表满足级联传播条件,基于所述目标数据表以及满足级联传播条件的上游数据表,生成级联传播信息;

19、基于所述目标数据表的异常特征数据、上游数据表的数据产出状态以及级联传播信息,生成所述溯源信息。

20、在另一种可能的实现方式中,所述基于所述目标数据表以及所述上游数据表,生成所述溯源信息,包括:

21、获取所述目标数据表以及所述上游数据表在指定时段内的表结构变更记录信息以及处理逻辑变更记录信息,所述指定时段为所述第一数据产出时间戳之前的指定时间窗口所对应的时段;

22、基于所述表结构变更记录信息以及所述处理逻辑变更记录信息,生成所述溯源信息。

23、在另一种可能的实现方式中,所述在案例数据库中,查找与所述溯源信息满足相似条件的目标溯源信息,并获取所述目标溯源信息对应的目标诊断结果以及目标调整方案,包括:

24、提取所述溯源信息的特征向量,在案例数据库中,基于所述特征向量查找与所述溯源信息满足指定向量相似度条件的目标溯源信息,并获取所述目标溯源信息对应的目标诊断结果以及目标调整方案。

25、在另一种可能的实现方式中,所述将所述溯源信息、所述目标溯源信息、所述目标诊断结果以及所述目标调整方案,输入生成式语言模型,以对所述目标数据表的异常原因进行诊断,得到诊断结果以及调整方案,包括:

26、将所述溯源信息、所述目标溯源信息、所述目标诊断结果以及所述目标调整方案插入提示词模板,得到模型提示词,所述模型提示词用于指示生成式语言模型基于所述溯源信息、所述目标溯源信息、所述目标诊断结果以及所述目标调整方案对所述目标数据表的异常原因进行诊断;

27、将所述模型提示词输入生成式语言模型,得到诊断结果以及调整方案。

28、另一方面,提供了一种数据诊断装置,所述装置包括:

29、获取模块,其被配置为获取目标数据表,并确定所述目标数据表的当前状态统计数据,响应于所述当前状态统计数据满足异常条件,基于所述目标数据表以及所述目标数据表的上游数据表,生成用于对目标数据表进行异常分析的溯源信息;

30、查找模块,其被配置为在案例数据库中,查找与所述溯源信息满足相似条件的目标溯源信息,并获取所述目标溯源信息对应的目标诊断结果以及目标调整方案;

31、生成模块,其被配置为将所述溯源信息、所述目标溯源信息、所述目标诊断结果以及所述目标调整方案,输入生成式语言模型,以对所述目标数据表的异常原因进行诊断,得到诊断结果以及调整方案。

32、在一种可能的实现方式中,所述获取模块,用于:

33、获取所述目标数据表对应的数据溯源关系图;

34、基于所述数据溯源关系图,确定所述目标数据表的上游数据表;

35、基于所述目标数据表以及所述上游数据表,生成所述溯源信息。

36、在另一种可能的实现方式中,所述获取模块,用于:

37、由所述数据溯源关系图中所述目标数据表对应的节点开始,沿上游方向逐层遍历,将遍历到的各上游节点所对应的数据表确定为所述目标数据表的上游数据表。

38、在另一种可能的实现方式中,所述获取模块,用于:

39、基于所述目标数据表与所述上游数据表之间的数据处理依赖关系,执行上下游数据对账操作,得到数据对账结果;

40、基于所述数据对账结果生成所述溯源信息。

41、在另一种可能的实现方式中,所述获取模块,用于:

42、确定所述目标数据表的异常特征数据以及第一数据产出时间戳;

43、确定在所述第一数据产出时间戳之前所述上游数据表的数据产出状态,获取已完成数据产出的上游数据表的第二数据产出时间戳;

44、响应于所述第一数据产出时间戳与所述第二数据产出时间戳之间的时间差满足指定的级联时间窗口条件,确定所述上游数据表满足级联传播条件,基于所述目标数据表以及满足级联传播条件的上游数据表,生成级联传播信息;

45、基于所述目标数据表的异常特征数据、上游数据表的数据产出状态以及级联传播信息,生成所述溯源信息。

46、在另一种可能的实现方式中,所述获取模块,用于:

47、获取所述目标数据表以及所述上游数据表在指定时段内的表结构变更记录信息以及处理逻辑变更记录信息,所述指定时段为所述第一数据产出时间戳之前的指定时间窗口所对应的时段;

48、基于所述表结构变更记录信息以及所述处理逻辑变更记录信息,生成所述溯源信息。

49、在另一种可能的实现方式中,所述查找模块,用于:

50、提取所述溯源信息的特征向量,在案例数据库中,基于所述特征向量查找与所述溯源信息满足指定向量相似度条件的目标溯源信息,并获取所述目标溯源信息对应的目标诊断结果以及目标调整方案。

51、在另一种可能的实现方式中,所述生成模块,用于:

52、将所述溯源信息、所述目标溯源信息、所述目标诊断结果以及所述目标调整方案插入提示词模板,得到模型提示词,所述模型提示词用于指示生成式语言模型基于所述溯源信息、所述目标溯源信息、所述目标诊断结果以及所述目标调整方案对所述目标数据表的异常原因进行诊断;

53、将所述模型提示词输入生成式语言模型,得到诊断结果以及调整方案。

54、另一方面,提供了一种电子设备,包括存储器、处理器及存储在存储器上并在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述任意一项所述的方法。

55、另一方面,提供了一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储计算机指令,所述计算机指令用于使计算机执行上述任一项所述的方法。

56、另一方面,提供了一种计算机程序产品,包括计算机程序指令,当所述计算机程序指令在计算机上运行时,使得所述计算机执行上述任一项所述的方法。

57、本技术提供的技术方案带来的有益效果是:通过生成包含目标表及上游依赖关系的溯源信息,大幅缩短异常定位时间,基于案例数据库进行匹配,使历史排查结论与修复方案得以复用,避免了同类异常的重复排查,有效沉淀领域知识。将溯源信息与历史案例共同输入生成式语言模型,融合结构化数据与自然语言推理能力,不仅输出精准的诊断结果,还能提供可执行的调整方案,显著提升数据质量保障效率与业务连续性。