一种在线自适应模型更新方法、装置及存储介质

摘要: 本发明涉及计算机系统安全与日志异常检测,尤其涉及一种在线自适应模型更新方法、装置及存储介质。背景技术:1、分布式系统通常由多个服务、节点和组件协同运行,运行过程...
一种在线自适应模型更新方法、装置及存储介质

本发明涉及计算机系统安全与日志异常检测,尤其涉及一种在线自适应模型更新方法、装置及存储介质。

背景技术:

1、分布式系统通常由多个服务、节点和组件协同运行,运行过程中会持续产生系统日志。系统日志记录了系统状态、执行路径、异常事件和关键参数,是故障诊断、安全审计、性能监控和智能运维的重要数据来源。

2、现有日志异常检测技术通常先将非结构化日志解析为日志模板或日志键,再利用统计方法、规则方法或机器学习模型识别异常日志序列。近年来,长短时记忆神经网络、门控循环单元网络、transformer编码器等序列建模方法被用于学习正常日志事件之间的时序关系,从而检测执行路径异常;同时,也可以利用回归模型或概率模型检测日志参数异常。

3、然而,在实际长期运行环境中,软件版本升级、配置变更、业务流程调整和系统扩容会导致日志模板、日志事件频率以及执行路径发生变化。若异常检测模型长期保持静态,新的正常日志模式可能被误判为异常;若直接使用新数据对模型进行微调,又可能出现灾难性遗忘,使模型对历史正常模式的识别能力下降。定期全量重训练虽然能够缓解上述问题,但往往需要较高计算资源和较长更新时间,难以满足在线运维场景的实时性要求。

4、因此,亟需一种在线自适应模型更新方法、装置及存储介质以解决上述技术问题。

技术实现思路

1、本发明的目的在于克服现有技术中的不足,提供一种在线自适应模型更新方法、装置及存储介质,能够解决现有异常检测模型难以适应日志模式持续变化以及增量更新过程中容易遗忘历史正常模式的技术问题。

2、为达到上述目的,本发明是采用下述技术方案实现的:

3、第一方面,本发明提供了一种在线自适应模型更新方法,应用于分布式系统,包括:

4、采集分布式系统的实时日志;

5、采用流式日志解析算法对所述实时日志进行在线预处理,获取与所述实时日志对应的参数特征和为所述实时日志创建候选日志模板并分配对应实时日志键,基于所述实时日志键生成日志键序列,基于日志键序列和参数特征生成结构化日志数据;

6、比较预存储的历史日志键和所述实时日志键,获得分布偏移量,响应于所述分布偏移量满足预设的触发条件或在实时日志键中连续检测到满足预设频次条件的未记录日志键时,触发增量更新流程;

7、从分布式系统的历史样本存储单元中选取历史代表性样本,将所述历史代表性样本与所述结构化日志数据中满足预设可信条件的新样本合并,构造混合训练集;

8、基于所述混合训练集对预构建的当前在线异常检测模型进行带参数约束的增量训练,获得更新后的异常检测模型;

9、将所述历史代表性样本输入更新后的异常检测模型,获得更新后的异常检测模型的综合评价指标;

10、响应于综合评价指标满足预设的指标要求时,将更新后的异常检测模型替换当前在线异常检测模型,完成异常检测模型的更新。

11、进一步地,所述在线预处理包括:

12、采用流式日志解析算法对实时日志与预构建的日志模板集合中的已有日志模板进行相似度匹配;

13、响应于相似度满足模板匹配条件,将实时日志归入对应日志模板并提取参数特征;

14、响应于相似度不满足模板匹配条件,为所述实时日志创建候选日志模板并分配对应实时日志键;

15、响应于所述候选日志模板在预设时间窗口内出现频次达到预设频次阈值,将其纳入日志模板集合。

16、进一步地,所述分布偏移量根据kl散度、js散度、总体变差距离或卡方距离中的其中一种计算得到。

17、进一步地,从分布式系统的历史样本存储单元中选取历史代表性样本,包括:

18、根据模型预测不确定度、样本多样性、人工反馈或时间新近性计算样本的重要性分数,表达式为:

19、;

20、其中,表示样本的重要性分数,表示模型预测不确定度,表示样本多样性,表示人工反馈或时间新近性相关权重,、和均为预配置的权重系数;

21、将重要性分数大于预设定的分数阈值的样本选取为历史代表性样本。

22、进一步地,基于所述混合训练集对预构建的当前在线异常检测模型进行带参数约束的增量训练,表达式为:

23、;

24、其中,表示基于混合训练集进行受约束增量训练时的模型优化目标函数,表示异常检测模型在混合训练集上的训练损失,表示待更新模型参数,表示增量训练前的模型参数,表示参数偏移约束项,表示约束强度系数;

25、响应于所述模型优化目标函数收敛,获得更新后的异常检测模型;

26、将所述历史代表性样本输入更新后的异常检测模型,获得更新后的异常检测模型的综合评价指标,表达式为:

27、;

28、其中,表示异常检测模型的综合评价指标,表示异常检测模型的查准率,表示异常检测结果中的查全率;

29、响应于综合评价指标不满足预设的指标要求时,回滚至增量训练前的异常检测模型。

30、进一步地,所述满足预设可信条件的新样本包括:

31、经人工反馈确认为误报的样本、未被异常检测模型判定为异常的样本、在连续时间窗口内稳定出现且未触发异常告警的样本和满足预设置信度阈值的样本中的至少一种。

32、进一步地,还包括:

33、将所述日志键序列输入更新后异常检测模型中的序列异常检测模型,预测后续日志键的概率分布,响应于实际日志键不属于所述概率分布中满足预设概率阈值或位于概率排序前k位的日志键集合时,检测为发生执行路径异常;

34、将所述参数特征输入更新后异常检测模型中的参数异常检测模型,获得参数预测结果,计算所述参数预测结果和参数特征之间的参数偏差,响应于所述参数偏差超过预设的偏差阈值,检测为发生参数异常。

35、第二方面,本发明提供了一种在线自适应模型更新装置,包括:

36、采集模块,用于采集分布式系统的实时日志;

37、预处理模块,用于采用流式日志解析算法对所述实时日志进行在线预处理,获取与所述实时日志对应的参数特征和为所述实时日志创建候选日志模板并分配对应实时日志键,基于所述实时日志键生成日志键序列,基于日志键序列和参数特征生成结构化日志数据;

38、更新触发模块,用于比较预存储的历史日志键和所述实时日志键,获得分布偏移量,响应于所述分布偏移量满足预设的触发条件或在实时日志键中连续检测到满足预设频次条件的未记录日志键时,触发增量更新流程;

39、训练集构造模块,用于从分布式系统的历史样本存储单元中选取历史代表性样本,将所述历史代表性样本与所述结构化日志数据中满足预设可信条件的新样本合并,构造混合训练集;

40、模型更新模块,用于基于所述混合训练集对预构建的当前在线异常检测模型进行带参数约束的增量训练,获得更新后的异常检测模型;

41、指标计算模块,用于将所述历史代表性样本输入更新后的异常检测模型,获得更新后的异常检测模型的综合评价指标;

42、性能验证模块,用于响应于综合评价指标满足预设的指标要求时,将更新后的异常检测模型替换当前在线异常检测模型,完成异常检测模型的更新。

43、第三方面,本发明提供了一种电子终端,包括处理器和与所述处理器连接的存储器,在所述存储器内存储有计算机程序,当所述计算机程序被所述处理器执行时,执行如上述任一项所述方法的步骤。

44、第四方面,本发明提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述任一项所述方法的步骤。

45、与现有技术相比,本发明所达到的有益效果:

46、本发明提出了一种在线自适应模型更新方法,通过采用流式日志解析算法对获取的实时日志进行在线预处理,获取与实时日志对应的参数特征和为所述实时日志创建候选日志模版并分配对应的实时日志键,最后基于实时日志键和参数特征生成结构化日志数据,再比较预储存的历史日志键和实时日志键获取分布偏移量,响应于分布偏移量满足预设的触发条件或在实时日志键中连续检测到满足预设频次条件的未记录日志键时,触发增量更新流程,又从分布式系统中选取历史代表性样本,将历史代表性样本与结构化日志数据中满足预设可信条件的新样本合并,构造混合训练集以更新异常检测模型,响应于更新后的异常检测模型的检测性能满足预设的性能要求时,完成异常检测模型的更新,使得异常检测模型能够适应日志模型的持续变化,且不会忘记历史正常模式。

47、通过历史样本回放和参数约束降低灾难性遗忘风险,使模型在学习新日志模式的同时保留对历史正常模式的识别能力,历史样本指的是历史代表性样本,参数约束指的是异常检测模型中待更新的模型参数。

48、通过人工反馈样本回流,使被确认为误报的新正常模式能够进入后续训练过程,形成面向智能运维场景的持续优化闭环。

49、相对于周期性全量重训练,本发明仅在满足触发条件时使用混合训练集进行增量训练,有助于降低计算资源消耗和模型更新时间。