多维度告警信息融合与根因定位方法及系统与流程

摘要: 本发明涉及it系统监控与智能运维领域,具体涉及到一种多维度告警信息根因定位方法及系统。背景技术:1、在医保系统这类关键信息基础设施中,it环境通常呈现多区域网络...
多维度告警信息融合与根因定位方法及系统与流程

本发明涉及it系统监控与智能运维领域,具体涉及到一种多维度告警信息根因定位方法及系统。

背景技术:

1、在医保系统这类关键信息基础设施中,it环境通常呈现多区域网络隔离、业务链路长、技术栈多样的特点。为确保系统稳定运行,运维人员往往需要同时部署多套监控工具,例如:采用zabbix监控服务器与网络设备,采用prometheus监控容器与微服务指标,采用skywalking进行分布式链路追踪,采用日志易等平台进行日志分析,以及采用北塔等系统进行专有设备监控。这些异构监控系统各自独立运行,产生海量的、相互割裂的告警数据、性能指标、日志及调用链数据。

2、现有技术中,为了应对告警分散的问题,常见的处理方案是搭建统一的告警聚合平台。该平台主要通过以下方式实现:为每一种监控系统开发特定的告警接收适配器,或利用各系统提供的webhook、消息队列等接口,将不同格式的告警数据集中采集并存储到统一的消息队列或数据库中,最终在统一界面上进行列表化展示和简单的告警降噪(如基于时间窗口的告警去重与压缩)。这种“告警汇聚”方案一定程度上解决了多系统需要分别登录查看的问题,实现了告警的“一张图”呈现。

3、在告警分析方面,部分现有技术方案引入了基于规则的关联引擎。其典型实现是:由运维专家根据经验预先定义静态关联规则,例如将某一时间段内来自同一主机的多个告警强制归类,或者依据手动维护的cmdb(配置管理数据库)拓扑关系,将数据库宕机告警标记为上层应用告警的根因。这类关联分析通常实时执行,仅对当前时间窗口中同时或先后到达的告警进行关联。

4、上述方案其存在以下由方案本身设计所导致的固有缺陷:

5、第一,告警融合层次浅,缺乏自适应的因果推理与异步根因更新能力。 现有方案虽然能将告警汇聚展示,但关联分析高度依赖人工预设的静态规则和先验的实时共现关系,无法自动发现跨越指标、日志、链路的复杂因果链。尤其是,在复杂故障场景中,一个接口超时的首发告警可能已先行发出,而真正的根因(如底层数据库慢查询或硬件劣化)的告警却会延迟产生。现有技术无法将这种延迟产生的、具有因果关系的后发告警,异步回溯并动态补充到已发出的早期告警信息中,导致运维人员只能看到孤立、过时的告警碎片,无法及时获得完整的根因故事,也未能真正解决告警风暴下因果链条被淹没的问题。

6、第二,异构数据接入缺乏通用性,集成成本高、周期长。 现有的“一系统一适配器”模式,对于每一种新增的监控系统,都需要进行重复的接口开发、数据字段映射和格式标准化工作。由于缺乏一套能够同时兼容主动拉取与被动接收、并能统一处理告警、指标、日志、链路四类数据的通用化算法逻辑,每对接一个系统就意味着一次独立的开发与维护投入,极大浪费了人力,也延缓了多维度数据的融合时效,阻碍了智能根因分析所需的全量数据基础。

技术实现思路

1、本发明的主要目的在于提供一种多维度告警信息根因定位方法,以解决相关技术中存在的不足。

2、为了实现上述目的,根据本发明的第一方面,提供了一种多维度告警信息根因定位方法,包括获取外部异构监控系统的原始监控数据,并执行预处理得到标准实体数据;基于所述标准实体数据构建依赖拓扑图,其中,所述拓扑图包含节点集合与有向边集合,节点集合中的节点对应被监控组件,有向边集合中的有向边表示上游节点对下游节点的依赖关系,故障沿依赖边的逆向自底向上传播;基于标准应实体数据中的告警数据,创建对应的告警事件对象并关联至拓扑图中对应的告警节点;以所述告警节点为起点沿有向边逆向搜索,以获取其全部下游依赖节点集合;在预设时间窗口内查询所述下游依赖节点集合中是否存在异常节点;若存在异常节点,则将依赖链最下游的异常节点判定为根因节点;生成从告警节点到根因节点的故障传播链路,将告警事件对象标记为已完成状态,并将下游异常节点对应的告警信息聚合收敛至该告警事件对象,其中,所述下游依赖节点集合包括告警节点的直接依赖节点与所有间接依赖节点,通过递归遍历拓扑图的有向边获取。

3、为了实现上述目的,根据本发明的第一方面,提供了一种多维度告警信息根因定位方法,包括获取外部异构监控系统的原始监控数据,并执行预处理得到标准实体数据;基于所述标准实体数据构建依赖拓扑图,其中,所述拓扑图包含节点集合与有向边集合,节点集合中的节点对应被监控组件,有向边集合中的有向边表示上游节点对下游节点的依赖关系,故障沿依赖边的逆向自底向上传播;基于标准应实体数据中的告警数据,创建对应的告警事件对象并关联至拓扑图中对应的告警节点;以所述告警节点为起点沿有向边逆向搜索,以获取其全部下游依赖节点集合;在预设时间窗口内查询所述下游依赖节点集合中是否存在异常节点;若存在异常节点,则将依赖链最下游的异常节点判定为根因节点;生成从告警节点到根因节点的故障传播链路,将告警事件对象标记为已完成状态,并将下游异常节点对应的告警信息聚合收敛至该告警事件对象,其中,所述下游依赖节点集合包括告警节点的直接依赖节点与所有间接依赖节点,通过递归遍历拓扑图的有向边获取。

4、可选地,方法还包括若所述下游依赖节点集合中未查询到异常节点,则将告警事件对象标记为待补充状态,并提取该告警事件的事件标识、告警节点及下游依赖节点集合信息写入异步关联匹配池,挂起等待后续新告警的匹配。

5、可选地,方法还包括每当有新的标准化告警数据接入时,遍历所述异步关联匹配池中的所有待补充状态的事件进行匹配;若新告警对应的节点属于某待补充事件的下游依赖节点集合,且新告警的发生时间晚于历史上待补充事件的告警发生时间,则判定匹配成功并触发异步根因补全。

6、可选地,在执行所述异步根因补全时,方法包括将新告警作为下游证据关联至该待补充事件,更新该待补充事件的根因链路并追加新告警节点为根因节点或故障传播节点;将该待补充事件的状态更新为已完成,同时将新告警收敛至该待补充事件,以抑制其产生独立顶级告警。

7、可选地,若匹配未命中任一待补充事件,则将当前告警事件转入实时根因判断流程。

8、可选地,获取外部异构监控系统的原始监控数据,并执行预处理得到标准实体数据包括:加载与外部异构监控系统一一对应的预定义连接器配置;依据连接器配置所定义的交互模式,以主动拉取或被动接收模式获取对应外部异构监控系统的原始监控数据;基于连接器配置中定义的字段映射规则集,将原始监控数据转换为符合统一数据对象模型的标准实体数据,其中,所述标准实体数据包括告警数据、性能指标数据、日志数据及分布式链路追踪数据。

9、可选地,从标准实体数据中解析提取依赖关系数据,结合配置管理数据库的部署关系数据及人工补充的业务依赖关系数据进行融合,以生成依赖拓扑图包括:将所有的依赖关系数据映射为语义一致的有向依赖边,其中,所述有向依赖边的方向统一为上游依赖组件指向下游被依赖组件,对应故障自下游被依赖组件向上游依赖组件逆向传播的逻辑;以全部被监控组件作为节点集合,以映射后的全部有向依赖边作为边集合,形成自硬件设施层至业务入口层的多层级有向依赖拓扑图。

10、可选地,基于连接器配置中定义的字段映射规则集,将原始监控数据转换为符合统一数据对象模型的标准实体数据包括:通过所述字段映射规则集包含与统一数据对象模型各目标字段一一对应的映射函数,将原始监控数据映射至目标字段值,得到标准实体数据,其中,通过映射函数将原始监控数据映射至目标字段值时,包括通过路径表达式从原始监控数据的结构化内容中直接提取目标字段值;通过预定义正则表达式从原始监控数据的非结构化内容中匹配提取目标字段值;或通过执行连接器配置中的脚本,完成目标字段值的转换计算,其中,脚本执行时自动注入所述转换函数库,通过调用对应函数完成字段转换逻辑。

11、可选地,所述连接器配置以可动态加载的配置文件形式存储,当新增异构监控系统接入时,新增对应连接器配置并定义对应的字段映射规则。

12、根据本发明第二方面,提供一种多维度告警信息融合与根因定位分析系统,包括连接单元,用于获取外部异构监控系统的原始监控数据,并执行预处理得到标准实体数据;处理单元,用于基于所述标准实体数据构建依赖拓扑图;基于标准实体数据中的告警数据,创建对应的告警事件对象并关联至拓扑图中的对应节点;节点定位单元,用于以所述节点为起点沿有向边逆向搜索,获取其全部下游依赖节点集合;在预设时间窗口内查询所述下游依赖节点集合中是否存在异常节点;若存在异常节点,则将依赖链最下游的异常节点判定为根因节点;节点生成从告警节点到根因节点的故障传播链路,并将告警事件对象标记为已完成状态,并将下游异常节点对应的告警聚合收敛至该告警事件对象,其中,所述下游依赖节点集合包括告警节点的直接依赖节点与所有间接依赖节点,通过递归遍历拓扑图的有向边获取;所述指标异常与日志异常通过预设的异常检测算法对对应类别的标准实体数据进行实时计算得到。

13、本实施例多维度告警信息融合与根因定位分析方法及系统,其中方法包括获取外部异构监控系统的原始监控数据,并执行预处理得到标准实体数据;基于所述标准实体数据构建依赖拓扑图,其中,所述拓扑图包含节点集合与有向边集合,节点集合中的节点对应被监控组件,有向边集合中的有向边表示上游节点对下游节点的依赖关系,故障沿依赖边的逆向自底向上传播;基于标准应实体数据中的告警数据,创建对应的告警事件对象并关联至拓扑图中对应的告警节点;以所述告警节点为起点沿有向边逆向搜索,以获取其全部下游依赖节点集合;在预设时间窗口内查询所述下游依赖节点集合中是否存在异常节点;若存在异常节点,则将依赖链最下游的异常节点判定为根因节点;生成从告警节点到根因节点的故障传播链路,将告警事件对象标记为已完成状态,并将下游异常节点对应的告警信息聚合收敛至该告警事件对象,其中,所述下游依赖节点集合包括告警节点的直接依赖节点与所有间接依赖节点,通过递归遍历拓扑图的有向边获取。通过可配置通用引擎接入多源异构监控数据,构建多层依赖拓扑,结合实时根因推理与异步回溯补全机制,实现故障根因精准定位与告警收敛,解决现有技术接入成本高、根因定位滞后的问题。