服务网格调度方法、装置、设备及介质与流程
本发明涉及云计算,尤其涉及一种服务网格调度方法、装置、设备及介质。
背景技术:
1、随着云计算与边缘计算的深度融合,云边连续体(cloud-edge continuum, cec)已成为支撑低延迟、高并发业务应用的重要基础设施。在金融科技的实时交易风控、医疗健康的远程影像诊断等场景中,单次用户请求往往需要依次调用部署于不同地理区域的多个微服务形成服务链(service chain),并在边缘节点与云端数据中心之间协同处理,对端到端响应时延与服务可靠性具有严苛要求,使得服务链的高效调度成为保障业务体验的关键环节。
2、然而,现有的微服务链路调度主要依赖集中式控制器,需实时汇聚全局状态以进行整体路径优化。但在云边高动态环境下,由于服务实例状态变化频繁,集中式调度器所依赖的全局状态信息存在难以避免的同步延迟,导致调度决策基于过时信息,极易将请求错误地分发至负载过高或已失效的实例,引发决策失效。
技术实现思路
1、本发明提供一种人工智能的服务网格调度方法、装置、计算机设备及介质,以解决现有的集中式调度因状态同步延迟导致决策失效的技术问题。
2、第一方面,提供了一种服务网格调度方法,所述服务网格包括多个服务节点,每个所述服务节点包括多个服务实例,每个所述服务实例共置一个代理节点,所述方法应用于目标代理节点,所述目标代理节点与多个服务实例中的当前服务实例共置,包括:
3、获取待处理请求的服务链信息,所述服务链路信息指示所述待处理请求需要依次经过的m个服务节点,所述m个服务节点包括所述目标代理节点,所述待处理请求用于请求执行目标调度任务;
4、将所述服务链信息发送给所述当前服务实例;
5、在接收到所述当前服务实例指示执行完成的信息之后,确定所述服务链信息中所述目标代理节点的下一服务节点;
6、对所述下一服务节点的多个服务实例按照所述服务实例的运行状态进行筛选,得到目标服务实例,所述运行状态用于表征所述服务实例在处理所述待处理请求时的即时承接能力和处理效率;
7、将所述待处理请求发送给与所述目标服务实例共置的代理节点。
8、第二方面,提供了一种服务网格调度装置,所述服务网格包括多个服务节点,每个所述服务节点包括多个服务实例,每个所述服务实例共置一个代理节点,所述装置应用于目标代理节点,所述目标代理节点与多个服务实例中的当前服务实例共置,包括:
9、获取模块,用于获取待处理请求的服务链信息,所述服务链路信息指示所述待处理请求需要依次经过的m个服务节点,所述m个服务节点包括所述目标代理节点,所述待处理请求用于请求执行目标调度任务;
10、第一发送模块,用于将所述服务链信息发送给所述当前服务实例;
11、确定模块,用于在接收到所述当前服务实例指示执行完成的信息之后,确定所述服务链信息中所述目标代理节点的下一服务节点;
12、筛选模块,用于对所述下一服务节点的多个服务实例按照所述服务实例的运行状态进行筛选,得到目标服务实例,所述运行状态用于表征所述服务实例在处理所述待处理请求时的即时承接能力和处理效率;
13、第二发送模块,用于将所述待处理请求发送给与所述目标服务实例共置的代理节点。
14、第三方面,提供了一种计算机设备,包括存储器、处理器以及存储在存储器中并可在处理器上运行的计算机程序,处理器执行计算机程序时实现上述服务网格调度方法的步骤。
15、第四方面,提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,计算机程序被处理器执行时实现上述服务网格调度方法的步骤。
16、上述服务网格调度方法、装置、计算机设备及存储介质所实现的方案中,可以通过与当前服务实例共置的代理节点获取待处理请求的服务链信息,并在当前服务实例执行完成后,根据下一服务节点中各服务实例的即时承接能力与处理效率进行筛选,确定目标服务实例,进而将待处理请求转发至与目标服务实例共置的代理节点,使请求沿服务链逐跳执行。在本发明中,针对金融风控、医疗诊断等对端到端时延与系统可靠性要求严苛的业务场景,如金融实时交易风控或医疗远程影像诊断等,可利用去中心化逐跳调度方案,由部署于各服务实例旁的代理节点基于本地缓存的运行状态就地决策下一跳目标,直接依据各候选实例的即时承接能力(如剩余并发容量、队列积压程度)和处理效率(如网络传输耗时、服务执行耗时)进行筛选与转发,无需集中式控制器参与,从而有效避免全局状态同步滞后造成的调度决策失效,消除集中式瓶颈与单点故障风险,显著降低调度附加时延,防止高并发场景下的流量振荡与请求堆积,确保关键业务请求在跨域服务链路中的稳定流转,从而提升云边连续体下核心业务链路的响应速度与整体可用性。
1.一种服务网格调度方法,其特征在于,所述服务网格包括多个服务节点,每个所述服务节点包括多个服务实例,每个所述服务实例共置一个代理节点,所述方法应用于目标代理节点,所述目标代理节点与多个服务实例中的当前服务实例共置,包括:
2.如权利要求1所述的服务网格调度方法,其特征在于,所述对所述下一服务节点的多个服务实例按照所述服务实例的运行状态进行筛选,得到目标服务实例,包括:
3.如权利要求2所述的服务网格调度方法,其特征在于,所述运行状态包括所述服务实例的剩余并发容量、队列长度、网络传输耗时估计值、服务执行耗时估计值以及资源可用量;
4.如权利要求3所述的服务网格调度方法,其特征在于,所述对多个所述第二候选服务实例进行评分,包括:
5.如权利要求2所述的服务网格调度方法,其特征在于,所述根据每个所述第二候选服务实例的评分,对多个所述第二候选服务实例进行筛选,得到目标服务实例,包括:
6.如权利要求2所述的服务网格调度方法,其特征在于,所述根据每个所述第一候选服务实例的运行状态和所述服务链信息的剩余处理时长,从多个所述第一候选服务实例中筛选出多个第二候选服务实例,包括:
7.如权利要求6所述的服务网格调度方法,其特征在于,在所述将所述待处理请求发送给与所述目标服务实例共置的代理节点之前,所述方法还包括:
8.一种服务网格调度装置,所述服务网格包括多个服务节点,每个所述服务节点包括多个服务实例,每个所述服务实例共置一个代理节点,所述装置应用于目标代理节点,所述目标代理节点与多个服务实例中的当前服务实例共置,其特征在于,包括:
9.一种计算机设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述服务网格调度方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述服务网格调度方法的步骤。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com