一种基于云端协同的资产数据智能分析方法与流程

摘要: 本发明涉及地理数据智能分析领域,尤其涉及一种基于云端协同的资产数据智能分析方法。背景技术:1、随着企业信息化与数字化运营的推进,资产数据已广泛覆盖设备资产、业务...
一种基于云端协同的资产数据智能分析方法与流程

本发明涉及地理数据智能分析领域,尤其涉及一种基于云端协同的资产数据智能分析方法。

背景技术:

1、随着企业信息化与数字化运营的推进,资产数据已广泛覆盖设备资产、业务资产、数据资产及其关联的运维、交易、权限、风险等多源信息。现有资产数据管理平台通常通过关系型表结构或简单指标看板对资产进行统计分析,能够实现基础的查询、汇总与报表输出,但在资产实体跨系统重复、关联关系复杂、风险传播路径隐含等场景下。

2、在现有技术中,为应对资产数据的多源异构问题,常见做法是对字段进行标准化、去重与编码处理,并通过规则匹配或简单聚类对资产记录进行合并。该类方案在数据量较小或字段一致性较高时具有一定效果,但当资产标识存在多版本、缺失与异常值较多、字段命名与类型差异较大时,实体聚合准确率受限,进而影响后续关联分析的可靠性。

3、同时,现有资产智能分析方案中,针对风险评估与影响分析通常采用基于阈值的告警规则、线性评分或简单路径检索方式。此类方法难以在大规模关系网络中形成稳定的全局表征,无法在图结构上综合利用多跳邻域信息,导致风险评分与影响路径的输出缺乏一致的计算依据。尤其在需要从目标资产出发识别关键邻域、计算候选最短路径并筛选影响路径的场景中。

4、另一方面,随着资产关系图规模扩大,单机式图计算或串行化的图神经网络推理往往面临计算与存储瓶颈。现有云端方案多停留在“将数据上云”的层面,缺少面向图计算的协同机制,难以对资产关系图进行分片、并行消息传递与跨节点结果归并,导致计算效率与结果一致性难以兼顾。

5、因此,如何提供一种基于云端协同的资产数据智能分析方法是本领域技术人员亟需解决的问题。

技术实现思路

1、本发明的一个目的在于提出一种基于云端协同的资产数据智能分析方法,本发明充分利用了云端分布式协同计算、图神经网络表征学习与路径搜索算法,详细描述了资产关系图分片并行消息传递、风险评分推理以及基于yen算法的影响路径生成与topsis综合评价的实现过程,具备分析精度高、计算可扩展性强和结果可解释性好的优点。

2、根据本发明实施例的一种基于云端协同的资产数据智能分析方法,包括如下步骤:

3、s1、采集多源资产数据并进行预处理,生成标准资产数据集,同时在云端建立协同分析空间;

4、s2、基于标准资产数据集,采用dbscan聚类算法对资产记录进行实体聚合,形成节点集合,结合资产实体间的关联关系构建资产关系图;

5、s3、在协同分析空间内,采用基于metis的图划分算法对资产关系图进行分片,在多个云端节点上对各分片进行图神经网络的消息传递运算,并按节点索引对各分片运算结果进行整合,形成节点嵌入矩阵;

6、s4、基于节点嵌入矩阵,对资产节点向量进行多层感知机映射得到风险评分,并在资产关系图中以目标资产节点为起点进行k跳邻域遍历,得到邻域子图集合;

7、s5、基于邻域子图集合,采用yen算法计算目标资产节点到邻域子图中各邻域节点的候选最短路径,并依据路径长度与边权累积值对候选最短路径进行排序筛选,得到影响路径集合;

8、s6、以风险评分与影响路径集合的边权累积值作为评价指标,采用topsis算法计算各资产节点的相对贴近度,得到智能分析结果。

9、可选的,所述预处理具体包括对多源资产数据执行字段标准化与类型转换,对资产标识字段进行规范化以形成统一资产标识,对缺失与异常字段进行修补与修正,对重复资产记录进行去重合并,对时间字段进行时间粒度规整与对齐,对类别字段进行字典映射与编码处理,生成标准资产数据集。

10、可选的,所述协同分析空间为部署于云端的协同计算与数据管理空间,用于将资产数据智能分析过程配置为可执行的算子链并分配运行上下文标识,所述算子链由至少一个数据处理算子与至少一个图计算算子组成,且相邻算子之间通过数据依赖关系建立连接;

11、协同分析空间依据算子链的依赖关系生成待执行任务集合,并向多个云端节点分发任务描述,所述任务描述包括待处理数据的标识信息、任务输出的标识信息与任务执行参数,所述任务执行参数包括分片标识、分批规模参数与迭代轮次参数;

12、协同分析空间接收各云端节点回传的任务状态,并在任务状态为失败、超时或资源不足时触发重试、切换云端节点或更新任务执行参数。

13、可选的,所述s2具体包括:

14、s21、以标准资产数据集中的资产记录为对象,选取用于实体判别的组合字段构成记录特征表示,针对不同类型字段分别设定距离度量规则并组合形成记录间相似度度量;

15、s22、基于记录间相似度度量执行dbscan聚类,对邻域规模达到阈值的记录标记为核心记录,并以核心记录为起点进行密度可达扩展,将密度可达的资产记录归入同一聚类簇,将各聚类簇确定为资产实体并生成资产实体标识,形成节点集合;

16、s23、从标准资产数据集中提取描述资产之间业务关联的关系字段,将关系字段中指向资产记录的标识依据资产实体标识进行替换,得到以资产实体为对象的关系边;

17、s24、对具有相同起点资产实体标识与终点资产实体标识的关系边进行合并并计算边权,基于节点集合与合并后的关系边构建资产关系图,并将资产关系图纳入协同分析空间管理。

18、可选的,所述s3具体包括:

19、s31、对资产关系图设定分片数量与分片规模约束,采用基于metis的多级图划分算法进行粗化、初始划分与反粗化细化,并在反粗化细化阶段对边界节点进行分片归属调整,建立全局节点索引与分片内局部索引的映射;

20、s32、依据全局节点索引与分片内局部索引的映射关系,从资产关系图中抽取各分片的节点与分片内关系边生成分片子图,并从跨分片关系边提取边界节点索引集合,基于跨分片关系边构建跨分片交换表,同时将分片子图、边界节点索引集合与跨分片交换表分发至对应的云端节点;

21、s33、在各云端节点上加载对应分片子图并初始化边界节点缓存,基于分片子图对节点执行图神经网络消息传递运算,所述消息传递运算具体包括:

22、对目标节点收集其邻域节点的特征向量并按关系边权重进行聚合得到邻域聚合向量,将邻域聚合向量与目标节点特征向量拼接后输入线性变换得到节点嵌入向量;

23、在迭代轮次内循环更新节点嵌入向量,在每一轮迭代结束时,依据跨分片交换表从边界节点缓存提取边界节点嵌入向量,并发送至目的分片对应的云端节点,同时接收其他云端节点回传的边界节点嵌入向量,更新边界节点缓存并参与下一轮聚合;

24、s34、在协同分析空间内,以全局节点索引为归并键汇聚各云端节点回传的节点嵌入向量,采用ring-allreduce对同一索引的嵌入向量执行归约并得到归并嵌入向量,按全局节点索引写入并组装形成节点嵌入矩阵。

25、可选的,所述s31具体包括:

26、s311、依据资产关系图的节点集合规模确定分片数量,并基于分片数量设定分片规模约束为每一分片的节点数量上限与节点数量下限;

27、s312、依据资产关系图构建用于图划分的邻接表,并对节点标识分配全局节点索引,以邻接表与分片规模约束为输入,采用基于metis的多级图划分算法进行粗化处理,所述粗化处理包括对相邻节点执行匹配合并并生成粗化图;

28、s313、在粗化图上进行初始划分得到各节点的初始分片标识,并在反粗化细化阶段将初始分片标识逐级投影回资产关系图;

29、s314、在反粗化细化阶段对边界节点进行分片归属调整,所述边界节点为与跨分片关系边相连的节点,得到节点到分片的最终映射关系;

30、s315、依据节点到分片的最终映射关系为各分片构建分片内局部索引,并建立全局节点索引与分片内局部索引的映射关系。

31、可选的,所述s4具体包括:

32、s41、基于资产关系图的全局节点索引与节点嵌入矩阵的行索引建立索引对齐关系,所述索引对齐关系包括构建以全局节点索引为键、以行索引为值的节点索引哈希表,并依据节点索引哈希表将节点嵌入矩阵中的行向量重排,形成资产节点向量集合;

33、s42、在协同分析空间内对资产节点向量集合进行批量前向推理,基于多层感知机输出的风险对数值执行校准与概率化变换生成风险评分,并按全局节点索引形成风险评分集合,具体包括:

34、按预设批大小将资产节点向量集合划分为若干批次,并在每一批次内保持资产节点向量与全局节点索引的一一对应关系;

35、在多层感知机中对每一批次逐层进行线性映射与非线性激活运算,所述线性映射包括权重乘加与偏置叠加,所述非线性激活采用relu,得到对应的风险对数值;

36、对所述风险对数值按预设温度参数执行缩放校准,并对超出预设阈值范围的风险对数值进行截断处理,得到校准后的风险对数值;

37、对校准后的风险对数值执行sigmoid概率化变换得到风险评分,并按全局节点索引将风险评分构建风险评分集合,对同一全局节点索引按取最大值规则保留风险评分;

38、s43、在资产关系图中以目标资产节点为起点执行k跳邻域遍历,所述k跳邻域遍历在跳数不超过k的约束下对与目标资产节点存在路径连接的邻域节点进行候选扩展,基于传播得分确定扩展顺序并得到k跳邻域节点集合与触发扩展的关系边集合,所述传播得分由目标资产节点的风险评分、关系边权重与按跳数递减的衰减因子计算得到;

39、s44、基于k跳邻域节点集合与关系边集合构造邻域子图,将邻域子图中的节点索引集合、关系边索引集合以及对应的跳数标签进行绑定存储,针对不同目标资产节点重复执行所述k跳邻域遍历与邻域子图构造,得到邻域子图集合。

40、可选的,所述s5具体包括:

41、s51、在邻域子图集合中针对每一邻域子图确定目标资产节点为源节点,并将邻域子图中除目标资产节点外的邻域节点确定为目的节点集合,将邻域子图中的关系边权重映射为路径代价值,形成加权邻接结构;

42、s52、针对源节点到目的节点集合中的每一目的节点,采用yen算法生成候选最短路径集合,所述yen算法通过对已得到的最短路径选取偏离节点生成偏离路径,并维护按路径代价值排序的候选路径集合,迭代输出k条候选最短路径作为候选最短路径集合;

43、s53、逐一遍历所述k条候选最短路径对应的关系边序列,按边序列顺序读取各关系边的边权代价值并累加得到边权累积值,同时对所述关系边序列执行计数得到路径长度,基于边权累积值与路径长度对候选最短路径执行排序;

44、s54、依据排序结果对候选最短路径执行筛选,保留排序靠前的预设数量路径作为影响路径集合,并记录影响路径集合中每一路径的节点序列与关系边序列。

45、可选的,所述s52具体包括:

46、s521、针对源节点与目的节点集合中的每一目的节点,基于加权邻接结构计算源节点到该目的节点的基准最短路径,并将所述基准最短路径写入最短路径序列;

47、s522、在所述最短路径序列中选取当前最短路径,并沿当前最短路径的节点序列依次选取偏离节点,将源节点到偏离节点的前缀路径确定为根路径段;

48、s523、针对根路径段生成偏离候选条件,所述偏离候选条件包括将与根路径段具有相同前缀的已生成路径对应的下一跳关系边执行暂时禁用,并将根路径段中除偏离节点外的节点执行暂时屏蔽,在满足所述偏离候选条件下重新计算偏离节点到目的节点的最短路径段;

49、s524、将根路径段与所述最短路径段进行拼接得到一条候选路径,计算所述候选路径的路径代价值,并对候选路径集合按路径代价值维护优先队列顺序;

50、s525、从候选路径集合中取出路径代价值最小的候选路径作为下一条最短路径,恢复所述暂时禁用的关系边与暂时屏蔽的节点,重复执行所述偏离节点选取与候选路径生成直至输出k条候选最短路径或候选路径集合为空。

51、可选的,所述s6具体包括:

52、s61、以资产节点为评价对象构建评价向量,所述评价向量至少包括风险评分与影响路径边权累积值,所述风险评分为风险评分集合中与资产节点索引对应的评分,影响路径边权累积值由影响路径集合中与资产节点索引关联的路径边权累积值按预设聚合规则计算得到,所述预设聚合规则包括取最大值或取加权和;

53、s62、基于所有资产节点的评价向量确定正理想解与负理想解,所述正理想解的各指标分量取对应指标的极大值,所述负理想解的各指标分量取对应指标的极小值,并采用欧氏距离分别计算各资产节点的评价向量到正理想解的距离以及到负理想解的距离;

54、s63、依据各资产节点到正理想解的距离与到负理想解的距离计算相对贴近度,所述相对贴近度为到负理想解的距离与到正理想解的距离与到负理想解的距离之和的比值,并基于相对贴近度对资产节点进行排序输出智能分析结果。

55、本发明的有益效果是:

56、首先,本发明在云端建立协同分析空间,将多源资产数据经字段标准化、实体聚合与关系映射形成资产关系图,并通过分片约束与索引对齐机制组织为可并行执行的分布式图计算结构,在大规模资产关系数据下保持统一的数据口径与可执行的算子链流程。

57、其次,本发明在协同分析空间内对资产关系图执行分片并行的图神经网络消息传递运算,形成节点嵌入矩阵,并结合多层感知机得到风险评分,同时以风险评分与边权传播得分驱动k跳邻域扩展构造邻域子图集合,实现从全局表征到局部关键邻域的连贯分析路径。

58、最后,本发明基于邻域子图集合采用yen算法生成候选最短路径并按边权累积与路径长度进行排序筛选得到影响路径集合,再以风险评分与影响路径边权累积值构建评价向量并采用topsis计算相对贴近度输出智能分析结果。