一种基于多目标模拟退火算法的流量调度方法及系统与流程

摘要: 本发明属于内容分发网络,具体涉及一种基于多目标模拟退火算法的流量调度方法及系统。背景技术:1、在内容分发网络中,负载均衡是保障系统高性能与稳定运行的关键机制。然...
一种基于多目标模拟退火算法的流量调度方法及系统与流程

本发明属于内容分发网络,具体涉及一种基于多目标模拟退火算法的流量调度方法及系统。

背景技术:

1、在内容分发网络中,负载均衡是保障系统高性能与稳定运行的关键机制。然而,传统负载均衡策略(如轮询法、最少连接数算法等)在面对高并发请求场景时,由于依赖静态规则与局部决策机制,易陷入局部最优而丧失全局优化能力,从而诱发节点间负载不均。该问题可能进一步触发单一节点过载,并因系统耦合性导致多节点连锁过载,最终引致网络雪崩风险。另一方面,基于单域名的流量调度技术缺乏全局优化视角,难以实现对服务节点流量的精细化调控与实时整形,局部故障恢复能力有限;而以成本为导向的调度策略又往往忽视业务传输质量,致使高优先级业务的服务质量严重下滑。综上所述,现有流量调度技术中普遍存在多目标协同能力薄弱、动态适应性不足与全局优化理论支撑缺失三大核心瓶颈,难以应对动态多变的高负载网络环境。

技术实现思路

1、针对现有内容分发网络普遍存在全局负载感知能力欠缺、跨域名协同机制薄弱及在调度成本与服务质量品质之间难以实现有效权衡等不足,本发明提出了一种基于多目标模拟退火算法的流量调度方法及系统,深度融合各节点的实时负载状态、端到端传输时延及流量调度成本等多维指标,构建支持多域环境的多目标策略调度机制,从而在全局范围内显著优化内容分发网络节点网络负载分布,全面提升网络内全量域名的整体服务质量,并有效减少带宽资源的过度消耗,最终实现了内容分发效率与带宽经济性的协同优化,达成全局负载均衡与成本管控的双重目标。为解决以上技术问题,本发明所采用的技术方案如下:

2、一种基于多目标模拟退火算法的流量调度方法,包括如下步骤:

3、s1,构建内容分发网络中客户端与服务器之间的网络延迟地图矩阵;

4、s2,内容分发网络中的调度器接收到来自客户端的用户请求后,构建对应的待调度请求集合,并根据每个服务器的资源状态信息及预设资源阈值确认内容分发网络中的可用服务器集合;

5、s3,根据步骤s2所接收到的用户请求的业务类型和预设的资源信息占用表确认可用服务器集合中每个服务器执行待调度请求后的预估资源状态信息,利用预估资源状态信息、步骤s2得到资源状态信息和步骤s1得到的网络延迟地图矩阵构建用于执行步骤s2所有用户请求结果的性能评估函数;

6、s4,根据步骤s3得到的性能评估函数基于模拟退火算法设计能量函数,根据metropolis接受准则确认帕累托最优调度方案;

7、s5,根据步骤s4确定的帕累托最优调度方案对步骤s2中所有的用户请求进行302响应。

8、所述步骤s2包括如下步骤:

9、s2.1,调度器对每个服务器的资源状态信息进行确认,所述资源状态信息包括cpu利用率、内存利用率、网卡利用率和磁盘io利用率;

10、s2.2,调度器根据预设权重和步骤s2.1得到的资源状态信息计算每个服务器的资源饱和度向量,对应的计算公式为:

11、;

12、式中,表示第个服务器的资源饱和度向量,表示第个服务器的cpu利用率,表示第个服务器的内存利用率,表示第个服务器的网卡利用率,表示第个服务器的磁盘io利用率,、、和均为预设权重;

13、s2.3,根据调度器所接收到的来自客户端的用户请求,构建对应的待调度请求集合;

14、s2.4,根据预设资源阈值和步骤s2.2得到的资源饱和度向量确认内容分发网络中的可用服务器集合。

15、在确定待调度请求集合之前,还可以根据待调度请求的域名优先级和省份id对待调度请求集合中的待调度请求进行排序。

16、所述步骤s3包括如下步骤:

17、s3.1,根据步骤s2所接收到的用户请求的业务类型和预设的资源信息占用表确认可用服务器集合中每个服务器执行待调度请求后的预估资源状态信息;

18、s3.2,利用步骤s3.1得到的预估资源状态信息、步骤s2得到资源状态信息和步骤s1得到网络延迟地图矩阵评估构建用于评估执行步骤s2所有用户请求结果的性能评估函数;

19、所述性能评估函数包括平均网络耗时评估、平均饱和度方差评估和总带宽成本消耗评估。

20、所述平均饱和度方差评估对应的计算公式为:

21、;

22、式中,表示执行调度分配方案时所有待调度请求的平均饱和度方差,表示处理待调度请求的服务器在处理待调度请求之前的资源饱和度向量,表示处理待调度请求的服务器在处理待调度请求之后的资源饱和度向量。

23、所述总带宽成本消耗评估对应的计算公式为:

24、;

25、式中,表示执行调度分配方案时所有待调度请求产生的总带宽成本消耗,表示第个服务器处理第个待调度请求的带宽成本,表示第个待调度请求被分配到第个服务器后,待调度请求所占用的服务器的带宽预测上涨比例,表示第个服务器的单位带宽成本。

26、所述平均网络耗时评估对应的计算公式为:

27、;

28、式中,表示执行调度分配方案时所有待调度请求的平均网络耗时,表示第个待调度请求被分配到第个服务器后,待调度请求到服务器之间的网络延迟。

29、所述步骤s4包括如下步骤:

30、s4.1,随即生成初始解,初始化用于存储帕累托最优解的空的外部存档archive;

31、s4.2,根据预设权重和步骤s3得到的性能评估函数利用模拟退火算法设计能量函数;

32、s4.3,通过邻域变换生成新方案;

33、s4.4,根据metropolis接受准则、新方案的能量函数值和初始解的能量函数值判定是否更新;

34、s4.5,基于预设的温度衰减函数进行降温,判断是否满足迭代终止条件,若是,返回步骤s4.3,否则,执行步骤s4.6;

35、s4.6,计算内容分发网络中所有服务器待调度请求分配后的平均负载,根据预设阈值和平均负载从外部存档archive中选择帕累托最优调度方案。

36、一种基于多目标模拟退火算法的流量调度系统,包括用于对来自客户端的用户请求进行处理的边缘节点和用于对来自客户端的用户请求进行接收的调度器,所述调度器上还设有:

37、矩阵构建模块:用于构建内容分发网络中客户端与服务器之间的网络延迟地图矩阵;

38、信息收集模块:用于在内容分发网络中的调度器接收到来自客户端的用户请求后,构建对应的待调度请求集合,并根据每个服务器的资源状态信息及预设资源阈值确认内容分发网络中的可用服务器集合;

39、评估函数构建模块:用于根据信息收集模块所接收到的待调度请求的业务类型和预设的资源信息占用表确认信息收集模块可用服务器集合中每个服务器执行待调度请求后的预估资源状态信息,并利用预估资源状态信息、信息收集模块得到资源状态信息和矩阵构建模块得到的网络延迟地图矩阵构建用于执行信息收集模块所有用户请求结果的性能评估函数;

40、所述性能评估函数包括平均网络耗时评估、平均饱和度方差评估和总带宽成本消耗评估;

41、调度方案优化模块:用于根据评估函数构建模块的性能评估函数和模拟退火算法设计能量函数,根据metropolis接受准则确认帕累托最优调度方案;

42、请求调度模块:用于根据调度方案优化模块确定的帕累托最优调度方案对信息收集模块中所有的待调度请求进行302响应。

43、本发明的有益效果:

44、1.提出并实现了面向内容分发网络的全部域名统一调度机制,通过跨域名协同决策与智能资源编排,在确保用户体验质量(qoe)的前提下,均衡多服务节点的承载容量,最终达成了多域名并发调度的全局最优,实现了资源利用率最大化与带宽成本显著降低;

45、2.设计了基于多目标模拟退火算法的全局调度模型,突破了传统流量调度算法在单域名、单目标优化上的局限,该模型通过对用户体验质量、资源利用率及带宽成本进行多目标联合求解,实现了流量的宏观全局优化,在提升全网服务质量的同时,增强了服务节点资源的整体可用性与效率;

46、3.通过构建了网络延迟地图,能够精准感知客户端省份与服务端节点省份之间的真实网络传输质量,实现基于实际网络状况的智能选路,从设计架构上显著降低了真实客户端到服务端节点之间的访问延迟;

47、4.构建了多维度实时负载均衡模型,融合cpu、内存、网络i/o及磁盘i/o等关键指标,形成动态资源状态张量,实现对全网负载的秒级感知与评估,基于此进行流量预测与智能调度,动态调整请求分发策略,主动预防节点过载,实现了资源的全栈弹性伸缩与利用率持续自主优化,大幅增强了系统的鲁棒性与自适应能力。