负载均衡方法、装置、电子设备、存储介质及计算机程序产品与流程

本申请涉及计算机，尤其涉及一种负载均衡方法、装置、电子设备、存储介质及计算机程序产品。

背景技术：

1、在云计算向分布式服务架构演进的过程中，微服务解耦机制通过将业务功能模块化为独立服务单元，实现了跨异构计算节点的弹性部署，又通过负载均衡技术解决计算节点资源错配的问题，但目前的微服务负载均衡调度算法较为固定，且考虑维度单一，负载均衡调度成功率和场景适配度均较低。

技术实现思路

1、为解决相关技术问题，本申请实施例提供一种负载均衡方法、装置、电子设备、存储介质及计算机程序产品。

2、本申请实施例的技术方案是这样实现的：

3、本申请实施例提供一种负载均衡方法，所述方法包括：

4、基于一个或多个第一节点中每个第一节点的负载信息、所述每个第一节点的第一信息和接收到的服务请求，构建所述每个第一节点的第一特征向量；所述第一信息表征对应第一节点处理历史服务请求的相关信息；所述服务请求用于请求提供用户服务；所述第一特征向量包括对应第一节点的中央处理单元（cpu，central processing unit）利用率、对应第一节点的内存利用率、对应第一节点的磁盘利用率、对应第一节点的历史服务请求的接收延迟、对应第一节点的历史服务请求的处理时长、所述用户服务的类型和所述用户服务的资源占用量；

5、将所述每个第一节点的第一特征向量输入负载均衡网络，得到所述每个第一节点的调度评分；

6、基于所述每个第一节点的调度评分，从所述一个或多个第一节点中选择出调度节点，并将所述接收到的服务请求调度到所述调度节点。

7、上述方案中，所述第一特征向量包括一段时间内每个时间点的第二特征向量；所述基于一个或多个第一节点中每个第一节点的负载信息、所述每个第一节点的第一信息和接收到的服务请求，构建所述每个第一节点的第一特征向量，包括：

8、针对所述每个时间点，基于对应第一节点在该时间点的负载信息、对应第一节点的第一信息和所述接收到的服务请求，构建对应第一节点在该时间点的第二特征向量；所述第二特征向量包括对应第一节点在该时间点的cpu利用率、对应第一节点在该时间点的内存利用率、对应第一节点在该时间点的磁盘利用率、对应第一节点的历史服务请求的接收延迟、对应第一节点的历史服务请求的处理时长、所述用户服务的类型和所述用户服务的资源占用量；

9、基于对应第一节点在所述每个时间点的第二特征向量，构建对应第一节点的第一特征向量。

10、上述方案中，所述对应第一节点的历史服务请求的接收延迟基于所述历史服务请求的调度时间与所述对应第一节点接收到所述历史服务请求的时间确定；所述对应第一节点的历史服务请求的处理时长基于所述对应第一节点接收到所述历史服务请求的时间与所述对应第一节点响应所述历史服务请求的时间确定。

11、上述方案中，所述负载均衡网络的训练方法包括：

12、针对训练样本集中的每个训练样本，将该训练样本中的第三特征向量输入至所述负载均衡网络，得到所述第三特征向量对应的调度评分；

13、基于该训练样本中的奖励、该训练样本中的下一状态特征向量和目标网络，计算目标评分；所述目标网络的网络结构与所述负载均衡网络的网络结构相同；所述目标网络的参数通过复制所述负载均衡网络中的参数得到；

14、基于所述第三特征向量对应的调度评分、所述目标评分和设定损失函数，更新所述负载均衡网络的参数，直到满足训练终止条件。

15、上述方案中，所述负载均衡网络为长短期记忆（lstm，long short term memory）网络。

16、上述方案中，所述奖励的取值为-1或1，所述奖励取值为-1表征所述训练样本对应的请求调度失败，所述奖励取值为1表征所述训练样本对应的请求调度成功。

17、上述方案中，所述基于所述每个第一节点的调度评分，从所述一个或多个第一节点中选择出调度节点，包括：

18、将所述一个或多个第一节点中调度评分最大的第一节点确定为所述调度节点。

19、本申请实施例还提供了一种负载均衡装置，包括：

20、构建单元，用于基于一个或多个第一节点中每个第一节点的负载信息、所述每个第一节点的第一信息和接收到的服务请求，构建所述每个第一节点的第一特征向量；所述第一信息表征对应第一节点处理历史服务请求的相关信息；所述服务请求用于请求提供用户服务；所述第一特征向量包括对应第一节点的cpu利用率、对应第一节点的内存利用率、对应第一节点的磁盘利用率、对应第一节点的历史服务请求的接收延迟、对应第一节点的历史服务请求的处理时长、所述用户服务的类型和所述用户服务的资源占用量；

21、评估单元，用于将所述每个第一节点的第一特征向量输入负载均衡网络，得到所述每个第一节点的调度评分；

22、调度单元，用于基于所述每个第一节点的调度评分，从所述一个或多个第一节点中选择出调度节点，并将所述接收到的服务请求调度到所述调度节点。

23、本申请实施例还提供了一种电子设备，包括处理器和用于存储能够在处理器上运行的计算机程序的存储器，其中，所述处理器用于运行所述计算机程序时，执行上述任一方法的步骤。

24、本申请实施例还提供了一种存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述任一方法的步骤。

25、本申请实施例还提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现上述任一方法的步骤。

26、本申请实施例提供的负载均衡方法、装置、电子设备、存储介质及计算机程序产品中，基于一个或多个第一节点中每个第一节点的负载信息、所述每个第一节点的第一信息和接收到的服务请求，构建所述每个第一节点的第一特征向量；所述第一信息表征对应第一节点处理历史服务请求的相关信息；所述服务请求用于请求提供用户服务；所述第一特征向量包括对应第一节点的cpu利用率、对应第一节点的内存利用率、对应第一节点的磁盘利用率、对应第一节点的历史服务请求的接收延迟、对应第一节点的历史服务请求的处理时长、所述用户服务的类型和所述用户服务的资源占用量；将所述每个第一节点的第一特征向量输入负载均衡网络，得到所述每个第一节点的调度评分；基于所述每个第一节点的调度评分，从所述一个或多个第一节点中选择出调度节点，并将所述接收到的服务请求调度到所述调度节点。上述方案，通过在服务请求的负载均衡调度时从节点负载情况、服务请求的类型、服务请求响应延迟、服务请求的资源占用量多个维度综合考虑，从而确定出服务请求的调度节点，能够提升负载均衡效果，提高用户服务请求的调度成功率和负载均衡方案的场景适配度。

1.一种负载均衡方法，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述第一特征向量包括一段时间内每个时间点的第二特征向量；所述基于一个或多个第一节点中每个第一节点的负载信息、所述每个第一节点的第一信息和接收到的服务请求，构建所述每个第一节点的第一特征向量，包括：

3.根据权利要求1或2所述的方法，其特征在于，所述对应第一节点的历史服务请求的接收延迟基于所述历史服务请求的调度时间与所述对应第一节点接收到所述历史服务请求的时间确定；所述对应第一节点的历史服务请求的处理时长基于所述对应第一节点接收到所述历史服务请求的时间与所述对应第一节点响应所述历史服务请求的时间确定。

4.根据权利要求1或2所述的方法，其特征在于，所述负载均衡网络的训练方法包括：

5.根据权利要求2所述的方法，其特征在于，所述负载均衡网络为长短期记忆lstm网络。

6.根据权利要求4所述的方法，其特征在于，所述奖励的取值为-1或1，所述奖励取值为-1表征所述训练样本对应的请求调度失败，所述奖励取值为1表征所述训练样本对应的请求调度成功。

7.根据权利要求1所述的方法，其特征在于，所述基于所述每个第一节点的调度评分，从所述一个或多个第一节点中选择出调度节点，包括：

8.一种负载均衡装置，其特征在于，包括：

9.一种电子设备，其特征在于，包括处理器和用于存储能够在处理器上运行的计算机程序的存储器，其中，所述处理器用于运行所述计算机程序时，执行权利要求1至7任一项所述的方法的步骤。

10.一种存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至7任一项所述的方法的步骤。

11.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序在被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。