一种基于运维平台的环形缓冲区异常写入隔离方法与流程

摘要: 本技术涉及数据处理,尤其是涉及一种基于运维平台的环形缓冲区异常写入隔离方法。背景技术:1、计算节点通过采集卡、串口等外设接收数据,外设每送达一块数据即触发中断,...
一种基于运维平台的环形缓冲区异常写入隔离方法与流程

本技术涉及数据处理,尤其是涉及一种基于运维平台的环形缓冲区异常写入隔离方法。

背景技术:

1、计算节点通过采集卡、串口等外设接收数据,外设每送达一块数据即触发中断,驱动在中断处理中将数据块写入环形缓冲区,处理进程按自身节奏读出。写入侧与读取侧速率不一致,环形缓冲区用于吸收这种差异。接入设备故障、链路受扰或外部流量放大时,进入缓冲区的数据量会在短时间内远超配置的输入速率,即异常写入。

2、环形缓冲区容量有限,自异常写入开始到写满往往只有毫秒量级;写满后,后续数据或覆盖尚未读出的有效数据,或被整块丢弃,处理进程取到的数据出现空洞。判定与处置须赶在写满之前。现行做法大致有四条:占用率越过高水位即覆盖、丢弃或阻塞;写入速率或其变化率越过阈值即限速丢弃;溢出后清空缓冲区或重对齐读写指针;各节点自学基线后按偏离程度判定。

3、四条路径面对同一矛盾:判定要赶在写满之前,判据却随节点负载波动而失真,及时性与可信性难以兼得。写入量按数据块写入缓冲区的时刻统计,而数据块自到达至写入之间隔着中断处理的推迟执行时间,中断处理的下半部与普通任务一同参与调度,这段时间随负载升高而拉长、回落而缩短,同一统计周期对应的到达时段长短不同,写入量随之虚低虚高。为压住这类误判而放宽阈值或拉长判定周期数,异常写入便要多经过几个周期才被判出,此时缓冲区多已写满、未读数据已被覆盖;反之收紧阈值、缩短周期,正常业务又被频繁误判并限速或丢弃。

4、其余三条路径同样落在该矛盾两端:占用率高水位把写入侧与读取侧的累计量揉进同一个差值,读取进程暂时取得慢与外设持续灌入触发同一动作,异常前已缓存的有效数据随之受损;溢出后复位把判定推到写满之后,可读的有效数据连带作废;各节点自学基线则在学习期内无基线可用,缓慢抬升的异常写入又被逐步吸收进基线。

技术实现思路

1、为了在环形缓冲区被写满之前判出异常写入,并使判据不随计算节点负载波动而失真,本技术提供一种基于运维平台的环形缓冲区异常写入隔离方法。

2、本技术提供的一种基于运维平台的环形缓冲区异常写入隔离方法,采用如下的技术方案:

3、一种基于运维平台的环形缓冲区异常写入隔离方法,包括:

4、s1.将经中断接收的数据块写入环形缓冲区;

5、s2.每一采样周期末,以写指针累计写入偏移的周期增量作为写入量,以周期末时刻与尚未写入数据块的最早中断触发时间戳之差作为周期末中断延迟,无尚未写入数据块时取零;

6、s3.以当前与上一采样周期的周期末中断延迟之差作为周期末延迟差,对周期末延迟差绝对值不超过周期时长的预设延迟差比例且小于周期时长的采样周期,按周期时长与周期时长减去周期末延迟差之差的比值将所述写入量折算为校准后写入量并纳入有效周期;

7、s4.以相邻有效周期校准后写入量的增量作为写入量变化值;

8、s5.响应于校准后写入量超出初值由运维平台下发的本地基线中写入量容限的有效周期连续达到预设连续周期数,且连续超限的各有效周期与紧邻的前一有效周期构成的判定窗口内出现写入佐证,置位异常写入标志,其中,所述写入佐证包括写入量变化值超出所述本地基线中变化值容限的情形;

9、s6.响应于异常写入标志置位,将后续数据块的写入目标切换至读指针不读取的隔离区并在隔离区至少部分区域内循环覆盖写入,读指针读出环形缓冲区中未读出的数据块。

10、通过采用上述技术方案,写入量与周期末中断延迟取自同一采样周期,因而可用周期末延迟差,把按写入时刻统计的写入量折算为按到达时刻计的校准后写入量,在到达速率近似平稳时,使负载起落造成的推迟写入与积压补写不再表现为写入量的突降突增;在此基础上以连续超限与判定窗口内出现写入佐证的与门置位标志,使单周期抖动不足以触发处置;置位后仅改变后续数据块的写入目标,未读出的数据仍由读指针读出,隔离不牵连已缓存的有效数据。

11、可选的,所述s4中,还以有效周期内数据块长度分布相对所述本地基线中基线块长分布的各长度区间占比差绝对值之和的一半作为块长分布偏离度;

12、所述写入佐证还包括所述有效周期内数据块的个数不少于预设最少块数且所述块长分布偏离度超出预设偏离阈值的情形。

13、通过采用上述技术方案,以各长度区间占比差绝对值之和的一半度量块长分布对基线的偏离,并要求数据块个数达到预设最少块数才计佐证,使块长改变的冲击获得独立佐证,又避免小样本下偏离度跳动。

14、可选的,所述数据块的输入速率上限大于所述读指针的读出速率;

15、所述周期时长与所述预设连续周期数按以下方式确定:

16、以所述环形缓冲区的容量除以所述输入速率上限与所述读出速率之差,得到写满时间;

17、使所述周期时长与所述预设连续周期数之积不超过所述写满时间与预设写满占比之积。

18、通过采用上述技术方案,以剩余可写容量与净输入速率之比得到写满时间,并以其约束周期时长与预设连续周期数之积,使连续超限所需时间控制在写满时间的预设占比之内,为其后的抽检与切换留出余量。

19、可选的,所述s3包括子步骤s31至s32:

20、s31.对所述周期末延迟差的绝对值超过所述周期时长的所述预设延迟差比例的采样周期,将所述采样周期与后续相邻且所述周期末延迟差的绝对值同样超过所述周期时长的所述预设延迟差比例的采样周期逐个合并为合并窗口,以所述合并窗口首末的所述周期末中断延迟之差作为窗口延迟差,合并至所述窗口延迟差的绝对值不超过所述合并窗口的窗口时长的所述预设延迟差比例,或者所述窗口时长达到所述写满时间与所述预设写满占比之积为止;

21、s32.响应于所述窗口延迟差的绝对值不超过所述窗口时长的所述预设延迟差比例,按所述窗口时长与所述窗口时长减去所述窗口延迟差之差的比值折算所述合并窗口内各所述采样周期的所述写入量之和,再除以所述合并窗口包含的采样周期个数,作为所述合并窗口内各所述采样周期各自的所述校准后写入量,并将各所述采样周期纳入所述有效周期。

22、通过采用上述技术方案,把延迟差同样超限的相邻周期合并为窗口,按窗口首末延迟之差统一折算后均分回各采样周期,使无效周期连片时判定不出现空窗,合并所得校准量仍可逐周期比较与计数。

23、可选的,所述预设延迟差比例与所述周期时长还按以下校核操作调整:

24、每隔预设校核间隔将一个采样周期设为校核周期,记录所述校核周期内接收的各所述数据块的所述中断触发时间戳;

25、待所述校核周期内接收的所述数据块全部写入后,以按所述中断触发时间戳归属于所述校核周期的所述数据块的总字节数作为到达量,对为所述有效周期且所述到达量大于零的所述校核周期,以所述到达量与所述校核周期的所述校准后写入量之差相对所述到达量的比值作为相对残差;

26、响应于所述相对残差的个数达到预设统计个数,以最近预设统计个数个所述相对残差在预设分位水平上的分位值作为残差分位值,响应于所述残差分位值超出预设残差上限,按预设比例步长减小所述预设延迟差比例;

27、响应于所述预设延迟差比例已减小至预设比例下限且所述残差分位值仍超出所述预设残差上限,在所述周期时长与所述预设连续周期数之积不超过所述写满时间与所述预设写满占比之积的范围内增大所述周期时长。

28、通过采用上述技术方案,以按中断触发时间戳归属得到的到达量校核折算结果,用残差分位值收紧预设延迟差比例、必要时加长周期时长,使折算门限随实测偏差自行调整。

29、可选的,所述写入佐证还包括残差同向升高,所述s5包括子步骤s51至s53:

30、s51.将所述校准后写入量超出所述写入量容限的有效周期记为触发周期,将所述触发周期的下一个采样周期设为抽检周期,记录所述抽检周期内接收的各所述数据块的所述中断触发时间戳;

31、s52.待所述抽检周期内接收的所述数据块全部写入后,以按所述中断触发时间戳归属于所述抽检周期的所述数据块的总字节数作为到达量,响应于所述抽检周期为所述有效周期,以所述到达量减去所述抽检周期的所述校准后写入量得到校准残差;

32、s53.响应于所述校准残差大于预设残差下限且所述抽检周期的所述周期末延迟差大于零,将所述残差同向升高计为所述触发周期所处判定窗口内的写入佐证。

33、通过采用上述技术方案,在出现超限有效周期后立即把下一周期设为抽检周期,校准残差为正且周期末延迟差同向升高时计为佐证,使突增被分摊、块长未变的冲击同样取得佐证。

34、可选的,所述s6中,还记录所述写指针在所述环形缓冲区中的断点位置;

35、在所述s6之后,还执行以下恢复操作:

36、响应于连续预设复位周期数个所述有效周期内所述校准后写入量均未超出所述写入量容限且均未出现所述写入佐证,执行隔离恢复,所述隔离恢复包括复位所述异常写入标志、将所述写指针的所述写入目标切换回所述环形缓冲区并自所述断点位置继续写入和擦除所述隔离区。

37、通过采用上述技术方案,以连续预设复位周期数个有效周期既未超限又未出现佐证作为恢复条件,写指针回断点位置续写并擦除隔离区,使隔离在异常消失后自行解除,无须外部指令。

38、可选的,还包括:

39、响应于降速触发条件满足,将产生所述数据块的输入源由中断方式接收切换为按预设轮询间隔轮询接收,并将轮询接收的轮询数据块写入所述隔离区,所述轮询数据块不作为尚未写入的所述数据块,其中,所述降速触发条件包括所述异常写入标志置位的持续时长超过预设降速时长;

40、在所述输入源处于轮询接收期间,每隔预设探测间隔将所述输入源恢复为中断方式接收一个所述采样周期,响应于所述采样周期纳入所述有效周期,将所述采样周期作为探测周期;

41、响应于连续预设探测次数个所述探测周期的所述校准后写入量均超出所述写入量容限,将所述预设探测间隔增大一倍直至达到预设探测间隔上限;

42、在所述输入源处于轮询接收期间,所述隔离恢复的执行还须满足最近一个所述探测周期的所述校准后写入量未超出所述写入量容限。

43、通过采用上述技术方案,异常持续超时后把输入源改为按预设轮询间隔接收,并定期以探测周期试探恢复,连续探测仍超限则加倍探测间隔,使中断风暴期间的中断开销受控。

44、可选的,所述本地基线以所述运维平台下发的分组基线为初值,所述分组基线由所述运维平台按输入接口类型与配置输入速率档位对计算节点分组,并对同组各所述计算节点上传的本地基线逐项取中位数得到;

45、所述方法还包括:

46、仅以所述异常写入标志未置位且所述校准后写入量未超出所述写入量容限的所述有效周期更新所述本地基线;

47、向所述运维平台上传所述本地基线;

48、响应于接收到所述运维平台在所述本地基线与所述分组基线的偏差超出预设漂移阈值时下发的所述分组基线,以所述分组基线重置所述本地基线。

49、通过采用上述技术方案,本地基线以同组各节点上传基线的中位数为初值,仅由未置位未超限的有效周期更新,偏差超限时由平台下发重置,使新接入节点无自学期盲区,基线漂移超出阈值后即被重置。

50、可选的,所述隔离区包括头部保留段和尾部循环段,所述s6中,切换所述写入目标后最先接收的预设保留块数个所述数据块写入所述头部保留段且不被覆盖,此后接收的所述数据块在所述尾部循环段内循环覆盖写入;

51、所述方法还包括:

52、向所述运维平台上报所述头部保留段内数据块的长度分布作为保留段块长分布;

53、接收所述运维平台下发的异常指纹,所述异常指纹为所述运维平台在同组的所述计算节点于同一汇聚周期内上报的所述保留段块长分布相互之间的差异低于预设聚合阈值的所述计算节点的个数不少于预设节点数时,对所述保留段块长分布逐项取均值得到的长度分布;

54、所述预设连续周期数按以下方式确定:

55、响应于所述有效周期内数据块长度分布与所述异常指纹的差异低于预设匹配阈值,所述预设连续周期数为1,否则为预设常规周期数。

56、通过采用上述技术方案,以隔离区头部保留段的块长分布汇聚成异常指纹,节点在本周期分布与指纹相符时把预设连续周期数收为一个周期,使同组已出现过的冲击更快判出。

57、可选的,所述降速触发条件还包括合并超限,所述合并超限为:在所述异常写入标志置位期间,出现所述周期末延迟差的绝对值超过所述周期时长的所述预设延迟差比例的采样周期,且将所述采样周期与后续相邻的采样周期逐个合并至预设合并长度个采样周期时,合并所得时段首末的所述周期末中断延迟之差的绝对值仍超过所述合并所得时段的时长的所述预设延迟差比例。

58、通过采用上述技术方案,把无效周期合并至预设长度仍不达标作为降速触发条件,使判定长时间失效的节点提前转入轮询接收。

59、可选的,所述数据块携带源标识,按所述源标识分别统计各源在所述有效周期内的所述写入量与所述校准后写入量,各源共用同一折算比值;以各源的所述校准后写入量相对前一有效周期的增量作为源增量,以所述源增量占各源的所述源增量之和的份额超出预设份额阈值的源作为差模冲击源;响应于所述异常写入标志置位且存在所述差模冲击源,将所述差模冲击源的后续数据块的写入目标切换至所述隔离区,所述差模冲击源以外的源的数据块继续写入所述环形缓冲区;响应于所述异常写入标志置位且不存在所述差模冲击源,将各源的后续数据块的写入目标切换至所述隔离区。

60、通过采用上述技术方案,按源标识区分差模与共模冲击并只隔离份额超限的源,使共用同一缓冲区的其他输入源不受牵连。

61、可选的,以最近预设累计周期数个所述有效周期中最后一个所述有效周期与第一个所述有效周期的所述校准后写入量之差作为累计增量值,所述写入佐证还包括所述判定窗口内出现所述累计增量值超出预设累计容限的情形。

62、通过采用上述技术方案,以判定窗口内校准后写入量的累计增量补充佐证,使缓慢爬升的冲击不再绕过单周期变化值容限。

63、可选的,接收所述运维平台随计划变更下发的目标组分组基线与生效时刻,响应于到达所述生效时刻,以所述目标组分组基线重置所述本地基线;所述有效周期内数据块长度分布与所述异常指纹的差异低于预设匹配阈值的情形,还须满足所述有效周期不处于自所述生效时刻起的预设暂停时长内。

64、通过采用上述技术方案,计划变更生效后的预设暂停时长内不按异常指纹缩短判定,使配置调整引起的分布变化不被当作已知冲击。

65、可选的,所述隔离恢复中自所述断点位置继续写入时,首先写入隔离间隙标记块,所述隔离间隙标记块记载所述异常写入标志的置位时刻与复位时刻、所述隔离区内数据块的个数与总字节数。

66、通过采用上述技术方案,在断点位置写入记载隔离起止时刻与数量的隔离间隙标记块,使处理进程能分辨空洞由隔离造成还是其他原因。

67、综上所述,本技术包括以下至少一种有益技术效果:

68、1、以相邻周期的周期末中断延迟之差把写入量折算为按到达时刻计的量,再以连续超限与窗口内佐证置位,使负载起落引入的统计失真减小,在预算的速率上界内于缓冲区写满前判出。

69、2、置位后只把后续数据块改写入读指针不读取的隔离区并循环覆盖,缓冲区中未读数据照常读出,异常消失后回断点续写,隔离与恢复均不损失已经缓存的有效数据。

70、3、以写满时间约束采样周期、以合并窗口恢复被打断的判定、以抽检残差与块长偏离度补充佐证、以平台分组基线与异常指纹补足单节点自学基线的冷启动与慢漂移缺口。