一种负载均衡的服务调度方法、设备、介质及产品与流程

摘要: 本发明涉及机器学习,可用于金融科技领域,尤其涉及一种负载均衡的服务调度方法、设备、介质及产品。背景技术:1、当前支付清算、账务记账、证券交易等金融核心业务多采用...
一种负载均衡的服务调度方法、设备、介质及产品与流程

本发明涉及机器学习,可用于金融科技领域,尤其涉及一种负载均衡的服务调度方法、设备、介质及产品。

背景技术:

1、当前支付清算、账务记账、证券交易等金融核心业务多采用微服务集群部署模式,依靠服务实例调度及负载均衡分发交易请求,保障业务高并发、高可用与资金数据一致性。现有负载均衡普遍采用轮询、静态加权、最小连接数等调度策略,仅依托 cpu 或连接数判断负载。金融流量存在明显脉冲峰值,静态配置难以适配实时负载变化,容易出现实例负载分化、交易超时回滚问题;同时调度无法区分交易优先级,普通查询易挤占核心资金交易资源,存在账务差错隐患。加之跨机房负载采集存在时延,故障感知滞后,调度未与限流熔断、弹性扩缩容联动,易引发调度震荡,系统时延与稳定性难以满足金融业务严苛运行要求。

技术实现思路

1、本发明提供了一种负载均衡的服务调度方法、设备、介质及产品,以解决服务实例的负载均衡调度。

2、根据本发明的一方面,提供了一种负载均衡的服务调度方法,该方法包括:

3、分别确定目标服务集群中各服务实例的服务画像特征;其中,所述服务画像特征包括性能画像、资源画像、能力亲和画像和健康可信度画像中的至少一项;

4、获取服务实例的待调度请求,并提取所述待调度请求的请求特征;

5、根据所述服务画像特征和所述请求特征,确定交叉特征;

6、基于注意力机制动态确定所述服务实例的注意力权重和全局加权聚合特征;

7、根据所述服务画像特征确定所述服务实例的时间序列特征;

8、对各服务实例的所述服务画像特征、所述请求特征、所述交叉特征、所述注意力权重和所述全局加权聚合特征、以及所述时间序列特征进行融合,得到融合特征;

9、基于负载调度模型对所述融合特征进行服务调度预测,得到服务调度预测结果。

10、根据本发明的另一方面,提供了一种负载均衡的服务调度装置,该装置包括:

11、画像特征确定模块,用于分别确定目标服务集群中各服务实例的服务画像特征;其中,所述服务画像特征包括性能画像、资源画像、能力亲和画像和健康可信度画像中的至少一项;

12、请求特征确定模块,用于获取服务实例的待调度请求,并提取所述待调度请求的请求特征;

13、交叉特征确定模块,用于根据所述服务画像特征和所述请求特征,确定交叉特征;

14、全局聚合特征确定模块,用于基于注意力机制动态确定所述服务实例的注意力权重和全局加权聚合特征;

15、时序特征确定模块,用于根据所述服务画像特征确定所述服务实例的时间序列特征;

16、融合特征确定模块,用于对各服务实例的所述服务画像特征、所述请求特征、所述交叉特征、所述注意力权重和所述全局加权聚合特征、以及所述时间序列特征进行融合,得到融合特征;

17、服务调度预测模块,用于基于负载调度模型对所述融合特征进行服务调度预测,得到服务调度预测结果。

18、根据本发明的另一方面,提供了一种电子设备,所述电子设备包括:

19、至少一个处理器;以及

20、与所述至少一个处理器通信连接的存储器;其中,

21、所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例所述的负载均衡的服务调度方法。

22、根据本发明的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明任一实施例所述的负载均衡的服务调度方法。

23、根据本发明的另一方面,提供了一种计算机程序产品,所述计算机程序产品包括计算机程序,所述计算机程序在被处理器执行时实现根据本发明任一实施例所述的负载均衡的服务调度方法。

24、本发明实施例的技术方案,通过分别确定目标服务集群中各服务实例的服务画像特征;其中,服务画像特征包括性能画像、资源画像、能力亲和画像和健康可信度画像中的至少一项;获取服务实例的待调度请求,并提取待调度请求的请求特征;根据服务画像特征和请求特征,确定交叉特征;基于注意力机制动态确定服务实例的注意力权重和全局加权聚合特征;根据服务画像特征确定服务实例的时间序列特征;对各服务实例的服务画像特征、请求特征、交叉特征、注意力权重和全局加权聚合特征、以及时间序列特征进行融合,得到融合特征;基于负载调度模型对融合特征进行服务调度预测,得到服务调度预测结果。上述技术方案,通过对服务画像特征进行多维度特征提取,能够提高服务实例的调度精度,从而实现各服务实例的负载均衡调度。

25、应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。

1.一种负载均衡的服务调度方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,根据所述服务画像特征和所述请求特征,确定交叉特征,包括:

3.根据权利要求1所述的方法,其特征在于,基于注意力机制动态确定所述服务实例的注意力权重和全局加权聚合特征,包括:

4.根据权利要求3所述的方法,其特征在于,根据所述键向量、所述查询向量和键向量维度,确定注意力分数之后,还包括:

5.根据权利要求1所述的方法,其特征在于,根据所述服务画像特征确定所述服务实例的时间序列特征,包括:

6.根据权利要求1-5中任一项所述的方法,其特征在于,所述负载调度模型包括状态编码网络、策略网络和价值评估网络;其中,所述状态编码网络包括至少三层全连接层;所述策略网络包括至少两层全连接层和一层softmax输出层;所述价值评估网络与所述策略网络共享至少两层全连接层,用于输出当前状态下期望累积奖励的估计值。

7.根据权利要求1-5中任一项所述的方法,其特征在于,基于负载调度模型对所述融合特征进行服务调度预测,得到服务调度预测结果之后,还包括:

8.一种电子设备,其特征在于,所述电子设备包括:

9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的负载均衡的服务调度方法。

10.一种计算机程序产品,其特征在于,所述计算机程序产品包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-7中任一项所述的负载均衡的服务调度方法。