一种基于实时负载预测的服务器弹性伸缩方法及系统与流程

摘要: 本发明涉及服务器资源调度,尤其涉及一种基于实时负载预测的服务器弹性伸缩方法及系统。背景技术:1、在云计算与服务器集群运行过程中,服务器的负载状态随业务请求量的变...
一种基于实时负载预测的服务器弹性伸缩方法及系统与流程

本发明涉及服务器资源调度,尤其涉及一种基于实时负载预测的服务器弹性伸缩方法及系统。

背景技术:

1、在云计算与服务器集群运行过程中,服务器的负载状态随业务请求量的变化而动态波动。当业务访问量增大时,服务器承载压力上升,若未能及时补充计算资源,将导致请求响应延迟增大、服务质量下降;当业务访问量减小时,若未能及时释放多余的计算资源,将造成资源闲置与成本浪费。因此,根据服务器实时负载状态自动调整服务器实例数量,是保障服务质量与资源利用效率的关键手段。

2、现有服务器弹性伸缩方法通常采用基于历史负载数据的预测方式,即采集服务器在过去一段时间内的负载时序数据,通过预测模型推算未来时刻的负载值,再根据预测值决定扩容或缩容的实例数量。这类方法存在以下问题:历史负载数据反映的是过去发生的负载变化规律,当业务流量出现突发性增长或剧烈波动时,历史规律与当前实际情况之间出现显著偏差,基于历史数据训练的预测模型在此类场景下难以准确反映未来负载的真实走向。此外,伸缩操作执行后,预测值所瞄准的目标负载已经因伸缩操作本身导致的负载重新分布而发生变化,伸缩决策与实际效果之间存在脱节,导致伸缩精度难以保证。因此如何实现服务器在高波动负载情况下的精准伸缩,成为了亟待解决的问题。

技术实现思路

1、本发明提供一种基于实时负载预测的服务器弹性伸缩方法及系统,以解决上述背景技术中提出的问题。

2、为实现上述目的,本发明提供的一种基于实时负载预测的服务器弹性伸缩方法,包括:

3、s01、对服务器进行单个服务器实例数量的试探性伸缩,得到所述服务器的试探后负载值,并将所述服务器的实际负载值与所述试探后负载值之间的差值作为所述服务器的初始敏感系数;

4、s02、将所述服务器的实际负载值与目标负载值之间的差记作所述服务器的负载偏差值,并除以所述初始敏感系数,得到所述服务器的剩余伸缩步数;

5、s03、根据所述初始敏感系数与所述负载偏差值,对所述服务器的单步伸缩量进行加权映射解算,得到所述服务器的伸缩步长,在每进行一步伸缩后重新计算所述服务器的敏感系数,并根据所述敏感系数重新计算所述剩余伸缩步数与所述伸缩步长;

6、s04、当伸缩完成后,输出所述服务器的实时负载状态作为伸缩结果。

7、在一个优选的实施方式中,所述对服务器进行单个服务器实例数量的试探性伸缩,得到所述服务器的试探后负载值,并将所述服务器的实际负载值与所述试探后负载值之间的差值作为所述服务器的初始敏感系数,包括:

8、将服务器在当前时刻的负载值记作所述服务器的实际负载值;

9、对所述服务器增加一个服务器实例作为试探性伸缩操作,将所述服务器在完成试探性伸缩后的负载值记作所述服务器的试探后负载值;

10、将所述实际负载值与所述试探后负载值之间的差值记作所述服务器的初始敏感系数。

11、在一个优选的实施方式中,所述对所述服务器增加一个服务器实例作为试探性伸缩操作,将所述服务器在完成试探性伸缩后的负载值记作所述服务器的试探后负载值,包括:

12、对所述服务器增加一个服务器实例,作为所述服务器的一次试探性伸缩;

13、按照预设的采样周期和预设的采样数量,采集所述服务器完成一次试探性伸缩后的负载值,得到所述服务器的时序负载值集合;

14、计算所述时序负载值集合的平均值,将所述平均值作为所述服务器的试探后负载值。

15、在一个优选的实施方式中,所述将所述服务器的实际负载值与目标负载值之间的差记作所述服务器的负载偏差值,并除以所述初始敏感系数,得到所述服务器的剩余伸缩步数,包括:

16、计算所述服务器的预设目标负载值与所述实际负载值之间的差值,得到所述服务器的负载偏差值;

17、将所述负载偏差值除以所述初始敏感系数,得到所述服务器需调整的实例总数;

18、将所述实例总数记为所述服务器的剩余伸缩步数。

19、在一个优选的实施方式中,所述根据所述初始敏感系数与所述负载偏差值,对所述服务器的单步伸缩量进行加权映射解算,得到所述服务器的伸缩步长,包括:

20、对所述负载偏差值与所述初始敏感系数进行偏差衰减加权映射,得到所述服务器的理论伸缩步长;

21、以预设的单步最大伸缩量为上限,以单位实例数量为下限,对进行所述理论伸缩步长进行约束,得到所述服务器的伸缩步长;

22、所述伸缩步长的计算公式为:

23、;

24、式中,为所述伸缩步长,为所述负载偏差值,为所述初始敏感系数,为所述预设的单步最大伸缩量。

25、在一个优选的实施方式中,所述在每进行一步伸缩后重新计算所述服务器的敏感系数,包括:

26、按照所述伸缩步长对所述服务器进行一步伸缩,将所述服务器伸缩后的负载值记作所述服务器的实测负载值;

27、将所述服务器伸缩前的负载值与所述实测负载值之间的差值记作所述服务器的实测负载变化量;

28、将所述实测负载变化量除以所述伸缩步长,得到所述服务器的敏感系数。

29、在一个优选的实施方式中,所述根据所述敏感系数重新计算所述剩余伸缩步数与所述伸缩步长,包括:

30、将所述预设目标负载值与所述实测负载值作差,得到所述服务器的实测负载偏差值;

31、将所述实测负载偏差值除以所述敏感系数,得到所述服务器的剩余伸缩步数;

32、根据所述敏感系数与所述实测负载偏差值重新进行偏差衰减加权映射,得到所述服务器的伸缩步长。

33、在一个优选的实施方式中,在所述根据所述敏感系数与所述实测负载偏差值重新进行偏差衰减加权映射,得到所述服务器的伸缩步长之后,还包括:

34、对所述剩余伸缩步数进行归零校验,得到所述服务器的归零校验结果;

35、当所述归零校验结果为未归零时,按照所述伸缩步长对所述服务器进行下一步伸缩;

36、当所述归零校验结果为归零时,输出所述服务器的伸缩完成指令。

37、在一个优选的实施方式中,所述当伸缩完成后,输出所述服务器的实时负载状态作为伸缩结果,包括:

38、当所述服务器接收到伸缩完成指令时,终止所述服务器的伸缩;

39、将所述服务器当前时刻的负载值记作所述服务器的最终负载值;

40、将所述最终负载值按照数据包格式进行封装,得到所述服务器的伸缩结果数据包。

41、为了解决上述问题,本发明还提供一种基于实时负载预测的服务器弹性伸缩系统,所述系统包括:

42、敏感系数初始化模块,用于对服务器进行单个服务器实例数量的试探性伸缩,得到所述服务器的试探后负载值,并将所述服务器的实际负载值与所述试探后负载值之间的差值作为所述服务器的初始敏感系数;

43、伸缩步数预计算模块,用于将所述服务器的实际负载值与目标负载值之间的差记作所述服务器的负载偏差值,并除以所述初始敏感系数,得到所述服务器的剩余伸缩步数;

44、动态步长解算与迭代模块,用于根据所述初始敏感系数与所述负载偏差值,对所述服务器的单步伸缩量进行加权映射解算,得到所述服务器的伸缩步长,在每进行一步伸缩后重新计算所述服务器的敏感系数,并根据所述敏感系数重新计算所述剩余伸缩步数与所述伸缩步长;

45、结果输出与状态同步模块,用于当伸缩完成后,输出所述服务器的实时负载状态作为伸缩结果。

46、与现有技术相比,本发明具有以下有益效果:

47、1.本发明通过单个服务器实例的试探性伸缩获取服务器在当前负载状态下的初始敏感系数,该敏感系数直接反映了当前时刻服务器负载对实例数量变化的响应特性。相较于基于历史数据预测负载的传统方法,试探性伸缩在当前时刻实时执行,所获取的负载响应数据反映的是服务器在当前业务流量和应用处理能力下的真实状态,不受历史数据时效性的制约,因此在负载动态变化的场景下具有更强的适应能力。

48、2.本发明在每进行一步伸缩后,均根据该步执行前后的实测负载变化量重新计算服务器的敏感系数,并以更新后的敏感系数重新计算剩余伸缩步数与下一步的伸缩步长。每步伸缩均基于当前最新的系统响应数据进行决策,使伸缩过程在逼近目标负载的过程中持续跟踪系统状态的变化,避免了固定步长或固定策略在系统状态发生变化后失效的问题,实现了伸缩步长随系统实时响应特性的动态调整。