一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

服务网格超时处理方法、装置、电子设备和存储介质与流程

2022-02-22 19:00:34 来源:中国专利 TAG:


1.本技术涉及微服务领域,具体而言,涉及一种服务网格超时处理方法、装置、电子设备和存储介质。


背景技术:

2.服务网格(service mesh)是用于处理服务节点之间通信的基础设施层。通常来说,云原生应用有着复杂的服务拓扑,服务网格可以保证请求在这些拓扑中可靠地穿梭。在实际应用当中,服务网格通常是由一系列轻量级的网络代理组成的,它们与应用程序部署在一起,但应用程序一般无需感知它们的存在。
3.服务网格通常包括多级服务节点,上级服务节点向下级服务节点发送请求,下级服务节点根据该请求向再下一级节点发送请求,并且每个服务节点都配置有超时时间,超时时间用于,若该服务节点向下级服务节点发送请求后,等待响应的时间超过该服务节点的超时时间,则该服务节点不再等待响应,而是断开后端连接资源或者释放前端请求存储资源。为了提高服务网格的性能,服务网格中的服务节点需要满足上级服务节点中的超时时间要大于下级节点中的超时时间,否则,下级服务节点针对上级服务节点的当前请求还没有响应,当前请求就被上级服务节点释放掉了。
4.但是,服务节点的超时时间通常需要工作人员手动进行配置,在服务网格较为复杂时,手动进行配置工作极易出错,且耗费时间。


技术实现要素:

5.本技术的目的包括,例如,提供了一种服务网格超时处理方法、装置、电子设备和存储介质,其能够自动配置服务网格中服务节点的超时时间,耗时较少且不易出错。
6.本技术的实施例可以这样实现:
7.第一方面,本技术提供一种服务网格超时处理方法,方法包括:
8.获取服务网格中的多个请求传递路径,每个请求传递路径中包括服务网格中的多个服务节点,多个请求传递路径组成路径树;
9.获取当前请求传递路径中各服务节点的平均响应时间,并根据各服务节点的平均响应时间确定各服务节点的初始超时时间;
10.基于当前请求传递路径中各服务节点的初始超时时间,获取第一预设时间段内当前请求传递路径中的各服务节点的实际超时比例;
11.将当前请求传递路径中实际超时比例大于预设超时比例阈值的服务节点作为第一待调整节点,对第一待调整节点以及第一待调整节点的上级节点的初始超时时间进行调整,并根据调整结果,得到各服务节点的目标超时时间。
12.在可选的实施方式中,对第一待调整节点以及第一待调整节点的上级节点的初始超时时间进行调整,包括:
13.对第一待调整节点以及第一待调整节点的上级节点的初始超时时间进行迭代调
整,直至当前请求传递路径中各服务节点的实际超时比例小于或等于预设超时比例阈值。
14.在可选的实施方式中,对第一待调整节点以及第一待调整节点的上级节点的初始超时时间进行迭代调整,包括:
15.将第一待调整节点以及第一待调整节点的上级节点的初始超时时间迭代增大第一预设步长。
16.在可选的实施方式中,根据调整结果,得到各服务节点的目标超时时间之后,方法还包括:
17.分别获取当前请求传递路径中各服务节点的第一平均响应时间和第二平均响应时间,第一平均响应时间为服务网格的负载值达到饱和时,当前请求传递路径中各服务节点的平均响应时间,第二平均响应时间为系统服务更新后,或者第二预设时间段后,服务网格的负载值再次达到饱和时,当前请求传递路径中各服务节点的平均响应时间,其中,服务网格的负载值达到饱和是指服务网格总体负载达到预设比例;
18.将当前请求传递路径中第二平均响应时间小于第一平均响应时间的服务节点作为第二待调整节点,对第二待调整节点以及第二待调整节点的上级节点的目标超时时间进行调整。
19.在可选的实施方式中,对第二待调整节点以及第二待调整节点的上级节点的目标超时时间进行调整,包括:
20.将第二待调整节点以及第二待调整节点的上级节点的目标超时时间减小第二预设步长。
21.在可选的实施方式中,基于当前请求传递路径中的各服务节点的初始超时时间,获取第一预设时间段内当前请求传递路径中各服务节点的实际超时比例之后,方法还包括:
22.将当前请求传递路径中各服务节点的实际超时比例添加至路径树的节点缓存中。
23.在可选的实施方式中,获取当前请求传递路径中各服务节点的平均响应时间,包括:
24.获取服务网格的日志信息;
25.根据服务网格的日志信息获取服务网格中各服务节点的平均响应时间。
26.第二方面,本技术提供一种服务网格超时处理装置,装置包括:
27.路径获取模块,用于获取服务网格中的多个请求传递路径,每个请求传递路径中包括服务网格中的多个服务节点,多个请求传递路径组成路径树;
28.时间确定模块,用于根据当前请求传递路径中各服务节点的平均响应时间确定各服务节点的初始超时时间;
29.结果获取模块,用于基于当前请求传递路径中各服务节点的初始超时时间,获取第一预设时间段内当前请求传递路径中的各服务节点的实际超时比例;
30.时间调整模块,用于将当前请求传递路径中实际超时比例大于预设超时比例阈值的服务节点作为第一待调整节点,对第一待调整节点以及第一待调整节点的上级节点的初始超时时间进行调整,并根据调整结果,得到各服务节点的目标超时时间。
31.第三方面,本技术提供一种电子设备,包括:处理器、存储器和总线,存储器存储有处理器可执行的机器可读指令,当电子设备运行时,处理器与存储器之间通过总线通信,机
器可读指令被处理器执行时执行如前述实施方式任一项的方法。
32.第四方面,本技术提供一种存储介质,存储介质上存储有计算机程序,计算机程序被处理器运行时执行如前述实施方式任一项的方法。
33.本技术实施例提供的服务网格超时处理方法,首先获取服务网格中的多个请求传递路径,每个请求传递路径中包括服务网格中的多个服务节点,多个请求传递路径组成路径树;其次根据当前请求传递路径中各服务节点的平均响应时间确定各服务节点的初始超时时间;然后基于当前请求传递路径中各服务节点的初始超时时间,获取第一预设时间段内当前请求传递路径中的各服务节点的实际超时比例;最后将当前请求传递路径中实际超时比例大于预设超时比例阈值的服务节点作为第一待调整节点,对第一待调整节点以及第一待调整节点的上级节点的初始超时时间进行调整,并根据调整结果,得到各服务节点的目标超时时间,从而实现自动配置服务网格中服务节点的超时时间,耗时较少且不易出错。
附图说明
34.为了更清楚地说明本技术实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本技术的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
35.图1为本技术实施例提供的一种服务网格中服务节点的示意图;
36.图2为本技术实施例提供的一种服务网格超时处理方法的流程图;
37.图3为本技术实施例提供的又一种服务网格中服务节点的示意图;
38.图4为本技术实施例提供的一种迭代调整方法的流程图;
39.图5为本技术实施例提供的又一种迭代调整方法的流程图;
40.图6为本技术实施例提供的一种服务网格超时处理装置的示意图;
41.图7为本技术实施例提供的一种电子设备的示意图。
具体实施方式
42.为使本技术实施例的目的、技术方案和优点更加清楚,下面将结合本技术实施例中的附图,对本技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本技术一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本技术实施例的组件可以以各种不同的配置来布置和设计。
43.因此,以下对在附图中提供的本技术的实施例的详细描述并非旨在限制要求保护的本技术的范围,而是仅仅表示本技术的选定实施例。基于本技术中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本技术保护的范围。
44.应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
45.此外,若出现术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
46.需要说明的是,在不冲突的情况下,本技术的实施例中的特征可以相互结合。
47.在对本技术进行详细地解释之前,先对本技术的应用场景予以介绍。
48.服务网格是用于处理服务节点之间通信的基础设施层。通常来说,云原生应用有着复杂的服务拓扑,服务网格可以保证请求在这些拓扑中可靠地穿梭。在实际应用当中,服务网格通常是由一系列轻量级的网络代理组成的,它们与应用程序部署在一起,但是,应用程序一般无需感知它们的存在。
49.请参阅图1,服务网格通常包括多级服务节点,以服务节点a、服务节点b以及服务节点c为例,上级服务节点a向下级服务节点b发送请求,下级服务节点b会根据该请求向再下一级节点c发送请求。
50.服务网格中每个服务节点都配置有超时时间,而一个完整的请求包括request(请求)和response(响应),超时时间用于,若该服务节点向下级服务节点发送请求后,等待响应的时间超过该服务节点的超时时间,则该服务节点不再等待下级服务节点返回的响应,而是断开后端连接资源或者释放当前请求占用的资源。以图1为例具体举例来说,服务节点a向服务节点b发送请求后,服务节点a等待服务节点b返回响应的时间超过服务节点a的超时时间,则服务节点a不再等待服务b返回响应,而是断开后端连接资源或者释放服务节点a所发送的请求占用的资源。
51.另外,同一服务节点可能包含于多条请求传递路径中。服务网格中的服务节点需要满足同一请求传递路径中上级服务节点中的超时时间要大于下级节点中的超时时间,例如在服务节点a至服务节点b至服务节点c这一请求传递路径中,服务节点a的超时时间要大于服务节点b的超时时间,服务节点b的超时时间要大于服务节点c的超时时间,如此以避免服务节点a向服务节点b发送请求,服务节点b基于该请求向服务节点c发送请求这一过程中,服务节点b向服务节点c发送的请求还未超时,服务节点a向服务节点b发送的请求就已经因超时被服务节点a释放的情况发生。
52.但是,服务节点的超时时间通常需要工作人员手动进行配置,在服务网格较为复杂时,以手动方式进行配置工作极易出现错误,且耗费时间。
53.为了解决这一问题,本技术提供了一种服务网格超时处理方法、装置、电子设备和存储介质,能够自动配置服务网格中服务节点的超时时间,耗时较少且不易出错。
54.请参考图2,本技术提供一种服务网格超时处理方法,方法包括:
55.s101:获取服务网格中的多个请求传递路径,每个请求传递路径中包括服务网格中的多个服务节点,多个请求传递路径组成路径树。其中,该路径树没有唯一的头节点。
56.可选地,请求传递路径为请求在各服务节点之间传递形成的路径,例如服务节点a向服务节点b发出请求,服务节点b根据该请求向服务节点c发出请求,则服务节点a至服务节点b至服务节点c形成一个请求传递路径。
57.请参阅图3,以图3为例,图3中的服务网格包括6个服务节点和3个请求传递路径,6个服务节点分别为服务节点a、服务节点b、服务节点c、服务节点d、服务节点e以及服务节点f,3个请求传递路径分别为服务节点a至服务节点b至服务节点c的路径、服务节点a至服务节点b至服务节点d的路径以及服务节点a至服务节点e至服务节点f的路径。
58.本技术实施例中,每个请求传递路径包括服务网格中的多个服务节点,不同的请求传递路径可能包含多个相同的服务节点,例如服务节点a至服务节点b至服务节点c的请求传递路径和服务节点a至服务节点b至服务节点d的请求传递路径均包含服务节点b。并
且,不同的请求传递路径中相同的服务节点的初始超时时间可以相同,也可以不同,例如服务节点a至服务节点b至服务节点c的请求传递路径中,服务节点a的初始超时时间为a1,服务节点a至服务节点b至服务节点d的请求传递路径中,服务节点a的初始超时时间为a2,a1和a2可以相等,也可以不相等。
59.s102:根据当前请求传递路径中各服务节点的平均响应时间确定各服务节点的初始超时时间。
60.服务节点的平均响应时间是指,当前请求传递路径中该服务节点发送的所有请求至接收到针对各请求的响应的平均时间,例如服务节点a至服务节点b至服务节点c的这一请求传递路径,服务节点b共发送了1000个请求,这1000个请求的耗时加起来等于50s,则该服务节点的平均响应时间为0.05s。
61.可选地,可以根据服务网格的日志信息获取服务网格中各服务节点的平均响应时间,并基于上级服务节点的超时时间大于下级服务节点的超时时间的原则,确定当前请求传递路径中各服务节点的初始超时时间。
62.以图3为例,图3包括3个请求传递路径,服务节点a至服务节点b至服务节点c的路径、服务节点a至服务节点b至服务节点d的路径以及服务节点a至服务节点e至服务节点f的路径。将服务节点a至服务节点b至服务节点c的路径作为当前请求传递路径,从当前请求传递路径中各服务节点的日志信息中获取各服务节点的平均响应时间,并根据各服务节点的平均响应时间确定服务节点a的初始超时时间a、服务节点b的初始超时时间b、服务节点c的初始超时时间c,通常来说,a、b、c满足:a》b》c,即上级服务节点的初始超时时间大于下级服务节点的初始超时时间。
63.s103:基于当前请求传递路径中各服务节点的初始超时时间,获取第一预设时间段内当前请求传递路径中的各服务节点的实际超时比例。
64.服务节点的超时是指,服务节点在实际运行时,发出的请求在超过初始超时时间后没有响应,则该服务节点发送的请求超时。
65.本技术实施例中,服务节点基于当前请求传递路径中的初始超时时间判定发出的请求是否超时,并将第一预设时间段内的超时比例作为该服务节点的实际超时比例。
66.以图3为例具体来说,将服务节点a至服务节点b至服务节点c的路径作为当前请求传递路径,第一预设时间段内服务节点b共发送了n条请求,其中m条请求超时,则实际超时比例即为m/n。
67.s104:将对当前请求传递路径中实际超时比例大于预设超时比例阈值的各服务节点作为第一待调整节点,对第一待调整节点以及第一待调整节点的上级节点的初始超时时间进行调整,并根据调整结果,得到各服务节点的目标超时时间。
68.在当前请求传递路径中,对某一个第一待调整节点的初始超时时间进行调整后,需要对该第一待调整节点的上级节点的初始超时时间都进行调整,其中,该第一待调整节点的上级节点是指该第一待调整节点的所有上级节点。以图3为例,如果当前请求传递路径为服务节点a至服务节点b至服务节点c,服务节点b在第一预设时间段内的实际超时比例大于预设超时比例阈值,则不仅需要对服务节点b的初始超时时间进行调整,还需要对服务节点b的上级服务节点,也即服务节点a的初始超时时间进行调整。
69.需要说明的是,本技术实施例所提供的服务网格超时处理方法可以应用于服务网
格中的任一条请求传递路径,上述实施方式仅以当前请求传递路径为例,并不代表本技术局限于此。
70.本技术提供的服务网格超时处理方法,能够按照服务网格中当前请求传递路径中的各服务节点的请求传递顺序自动确定并调整各服务节点的超时时间,耗时较少且不易出错。
71.在可选的实施方式中,对第一待调整节点以及第一待调整节点的上级节点的初始超时时间进行调整,包括:对第一待调整节点以及第一待调整节点的上级节点的初始超时时间进行迭代调整,直至当前请求传递路径中各服务节点的实际超时比例小于或等于预设超时比例阈值。
72.可选地,预设超时比例阈值可以是根据需要设定的值,本技术对此不做限定。
73.请参阅图4,本技术实施例中对第一待调整节点以及第一待调整节点的上级节点的初始超时时间进行迭代调整是指,对当前请求传递路径中第一待调整节点以及第一待调整节点的上级节点的初始超时时间进行一次调整得到新的初始超时时间之后,基于当前请求传递路径中第一待调整节点以及第一待调整节点的上级节点的新的初始超时时间,再次获取第一预设时段内当前请求传递路径中各服务节点新的实际超时比例,判断当前请求传递路径中是否存在新的实际超时比例大于预设超时比例阈值的服务节点,若存在,将当前请求传递路径中新的实际超时比例大于预设超时比例阈值的服务节点作为新的第一待调整节点,对新的第一待调整节点以及新的第一待调整节点的上级节点的初始超时时间进行调整,如此循环直至当前请求传递路径中各服务节点的实际超时比例均小于或等于预设超时比例阈值,将此时各服务节点的新的初始超时时间作为各服务节点的目标超时时间。
74.以图3为例,将服务节点a至服务节点e至服务节点f的请求传递路径作为当前请求传递路径,在当前请求传递路径中,若预设超时比例阈值为20%,第一预设时段内服务节点e的实际超时比例为25%,则将服务节点e作为第一待调整节点,对服务节点e以及服务节点a的初始超时时间进行调整,调整后,基于服务节点a及服务节点e的新的初始超时时间,再次获取第一预设时段内当前请求传递路径中各服务节点的新的实际超时比例,若服务节点e的新的超时比例为22%,仍然大于预设超时比例阈值,则将服务节点e作为新的第一待调整节点,再次对服务节点e以及服务节点a的新的初始超时时间进行调整,如此循环直至当前请求传递路径中各服务节点的实际超时比例均小于或等于预设超时比例阈值。
75.另外,在一种可选地实施方式中,可以预设设置一个最大超时时间,若当前请求传递路径中服务节点的初始超时时间或新的初始超时时间大于最大超时时间,则将该服务节点的目标超时时间设定为最大超时时间。如此,能够避免当前请求传递路径中的服务节点最终确定的超时时间过大,导致当前请求传递路径无法正常工作的问题。
76.本技术实施例通过对当前请求传递路径中各服务节点的初始超时时间进行迭代调整,使当前请求传递路径中发生超时的服务节点的比例均小于第一预设值,执行逻辑较为清晰,不易出错,且耗时较短。
77.在可选的实施方式中,对第一待调整节点以及第一待调整节点的上级节点的初始超时时间进行迭代调整,包括:将第一待调整节点以及第一待调整节点的上级节点的初始超时时间迭代增大第一预设步长。
78.可选地,设第一待调整节点以及第一待调整节点的上级节点的初始超时时间分别
为s1,s2,

,sn,第一预设步长为m,将第一待调整节点以及第一待调整节点的上级节点的初始超时时间增大第一预设步长,得到新的初始超时时间具体是指,将第一待调整节点以及第一待调整节点的上级节点的初始超时时间分别与第一预设步长相加,将结果作为新的初始超时时间,第一待调整节点以及第一待调整节点的上级节点的新的初始超时时间分别为s1 m,s2 m,

,sn m。
79.可选地,第一预设步长可以为根据实际需要设定的值,本技术对此不做限定。
80.本技术实施例中,通过将第一待调整节点以及第一待调整节点的上级节点的初始超时时间增大第一预设步长,得到新的初始超时时间,从而减小当前请求传递路径中服务节点的超时比例,调整逻辑较为清晰,不易出错。
81.在可选的实施方式中,根据调整结果,得到各服务节点的目标超时时间之后,上述方法还包括:
82.分别获取当前请求传递路径中各服务节点的第一平均响应时间和第二平均响应时间,第一平均响应时间为服务网格的负载值达到饱和时,当前请求传递路径中各服务节点的平均响应时间,第二平均响应时间为系统服务更新后,或者第二预设时间段后,服务网格的负载值再次达到饱和时,当前请求传递路径中各服务节点的平均响应时间,其中,服务网格的负载值达到饱和是指服务网格总体负载达到预设比例;将当前请求传递路径中第二平均响应时间小于第一平均响应时间的服务节点作为第二待调整节点,对第二待调整节点以及第二待调整节点的上级节点的目标超时时间进行调整。
83.服务网格的服务节点或运行服务节点的机器常常会被优化,优化后,服务网格的平均时延会变小,如果服务节点仍旧以优化之前的超时时间运行,则会浪费服务网格的性能。本技术实施例中,在服务网格的负载值达到饱和的前提下,通过比较更新系统服务前和更新系统服务后,或第二预设时间段前和第二预设时间段后当前请求传递路径中各服务节点的平均响应时间,将更新系统服务后第二平均响应时间小于更新系统服务前第一平均响应时间的服务节点作为第二待调整节点,或者将第二预设时间段后第二平均响应时间小于第二预设时间段前第一平均响应时间的服务节点作为第二待调整节点,及时对第二待调整节点的目标超时时间以及第二待调整节点的上级节点的目标超时时间进行调整,以节约服务网格的性能。
84.可选地,服务网格的负载值是指服务网格的资源平均占用率。例如,服务网格每分钟最多可以发送10000个请求,则服务网格中发送7000个请求时,服务网格的负载值为70%。
85.可选地,预设比例可以为70%,如此负载值大于或等于70%的服务网格即为服务网格的负载值达到饱和,服务网格的负载值达到饱和时获取的各服务节点的平均响应时间更加准确,根据服务网格的负载值达到饱和时各服务节点的平均响应时间对第二待调整节点的目标超时时间以及第二待调整节点的上级节点的目标超时时间进行调整,有利于调整效率。当然,预设比例也可以为其他值,本技术对此不做具体限定。
86.请参阅图5,可选地,对第二待调整节点的目标超时时间以及第二待调整节点的上级节点的目标超时时间进行调整后,基于当前请求传递路径中第二待调整节点以及第二待调整节点的上级节点调整后的目标超时时间,再次获取第一预设时间段内当前请求传递路径中的各服务节点的实际超时比例;检测当前请求传递路径中是否存在实际超时比例大于
预设超时比例阈值的服务节点,若不存在,继续对第二待调整节点以及第二待调整节点的上级节点调整后的目标超时时间进行调整,如此循环直至当前请求传递路径中出现实际超时比例大于预设超时比例阈值的服务节点,将第二待调整节点以及第二待调整节点的上级节点的目标超时时间调整为最后一次调整前的目标超时时间。
87.以图3为例对上述过程进行具体说明,将服务节点a至服务节点b至服务节点c这一请求传递路径作为当前请求传递路径,当前请求传递路径中服务节点c的第一平均响应时间为t1,第二平均响应时间为t2,服务节点a的目标超时时间为a1,服务节点b的目标超时时间为b1,服务节点c的目标超时时间为c1,若服务节点a的第二平均响应时间大于或等于第一平均响应时间,服务节点b的第二平均响应时间大于或等于第一平均响应时间,但t2《t1,则调整服务节点a的目标超时时间为a2、服务节点b的目标超时时间为b2以及服务节点c的目标超时时间为c2,然后再次获取第一预设时间段内当前请求传递路径中各服务节点的实际超时比例,检测当前请求传递路径中是否存在实际超时比例大于预设超时比例阈值的服务节点,若不存在,继续将服务节点a的目标超时时间调整为a3,将服务节点b的目标超时时间调整为a3,将服务节点c的目标超时时间调整为c3,再次检测当前请求传递路径中是否存在实际超时比例大于预设超时比例阈值的服务节点,若存在,则将最后一次调整前的服务节点a、服务节点b、服务节点c的目标超时时间作为最终的目标超时时间,也即,将a2作为服务节点a最终的目标超时时间,将b2作为服务节点b最终的目标超时时间,将c2作为服务节点c最终的目标超时时间。
88.在可选的实施方式中,对第二待调整节点以及第二待调整节点的上级节点的目标超时时间进行调整,包括:将第二待调整节点以及第二待调整节点的上级节点的目标超时时间减小第二预设步长。
89.可选地,设当前请求传递路径中各服务节点的目标超时时间分别为k1,k2,

,kn,第二预设步长为n,将第二待调整节点以及第二待调整节点的上级节点的目标超时时间减小第二预设步长具体是指,将第二待调整节点以及第二待调整节点的上级节点的目标超时时间与第二预设步长相减,调整后当前请求传递路径中第二待调整节点以及第二待调整节点的上级节点的目标超时时间分别为k
1-n,k
2-n,

,k
n-n。
90.可选地,第二预设步长可以为根据实际需要设定的值,本技术对此不做限定。
91.另外,在一种可选地实施方式中,可以预设设置一个最小超时时间,若当前请求传递路径中服务节点的初始超时时间或新的初始超时时间小于最小超时时间,则将该服务节点的目标超时时间设定为最小超时时间。如此,能够避免当前请求传递路径中的服务节点最终确定的超时时间过小,导致当前请求传递路径无法正常工作的问题。
92.在可选的实施方式中,基于当前请求传递路径中的各服务节点的初始超时时间,获取第一预设时间段内当前请求传递路径中各服务节点的实际超时比例之后,方法还包括:将当前请求传递路径中各服务节点的实际超时比例添加至路径树的节点缓存中。
93.本技术实施例中,将当前请求传递路径中各服务节点的实际超时比例添加至路径树的节点缓存中,以便需要的时候可以直接获取或调用。
94.在可选的实施方式中,获取当前请求传递路径中各服务节点的平均响应时间,包括:获取服务网格的日志信息;根据服务网格的日志信息获取服务网格中各服务节点的平均响应时间。
95.服务网格通常包含日志系统,通过服务网格的日志信息可以获取得到更加准确可靠的服务网格中各服务节点的平均响应时间,有利于提高处理效率。
96.请参阅图6,本技术提供了一种服务网格超时处理装置60,装置包括:
97.路径获取模块601,用于获取服务网格中的多个请求传递路径,每个请求传递路径中包括服务网格中的多个服务节点,多个请求传递路径组成路径树。
98.时间确定模块602,用于根据当前请求传递路径中各服务节点的平均响应时间确定各服务节点的初始超时时间。
99.结果获取模块603,用于基于当前请求传递路径中各服务节点的初始超时时间,获取第一预设时间段内当前请求传递路径中的各服务节点的实际超时比例。
100.时间调整模块604,用于将对当前请求传递路径中实际超时比例大于预设超时比例阈值的各服务节点作为第一待调整节点,对第一待调整节点以及第一待调整节点的上级节点的初始超时时间进行调整,并根据调整结果,得到各服务节点的目标超时时间。
101.在可选的实施方式中,时间调整模块604具体用于对第一待调整节点以及第一待调整节点的上级节点的初始超时时间进行迭代调整,直至当前请求传递路径中各服务节点的实际超时比例小于或等于预设超时比例阈值。
102.在可选的实施方式中,时间调整模块604具体用于将第一待调整节点以及第一待调整节点的上级节点的初始超时时间迭代增大第一预设步长。
103.在可选的实施方式中,装置还包括第二时间调整模块,用于分别获取当前请求传递路径中各服务节点的第一平均响应时间和第二平均响应时间,第一平均响应时间为服务网格的负载值达到饱和时,当前请求传递路径中各服务节点的平均响应时间,第二平均响应时间为系统服务更新后,或者第二预设时间段后,服务网格的负载值再次达到饱和时,当前请求传递路径中各服务节点的平均响应时间,其中,服务网格的负载值达到饱和是指服务网格总体负载达到预设比例;将当前请求传递路径中第二平均响应时间小于第一平均响应时间的服务节点作为第二待调整节点,对第二待调整节点以及第二待调整节点的上级节点的目标超时时间进行调整。
104.在可选的实施方式中,第二阈值调整模块具体用于将第二待调整节点以及第二待调整节点的上级节点的目标超时时间减小第二预设步长。
105.在可选的实施方式中,装置还包括:存储模块,用于将当前请求传递路径中各服务节点的实际超时比例添加至路径树的节点缓存中。
106.在可选的实施方式中,路径获取模块601具体用于:
107.获取服务网格的日志信息;根据服务网格的日志信息获取服务网格中各服务节点的平均响应时间。
108.请参阅图7,本技术提供了一种电子设备70,包括:处理器701、存储器702和总线703,存储器702存储有处理器可执行的机器可读指令,当电子设备70运行时,处理器701与存储器702之间通过总线703通信,机器可读指令被处理器执行时执行如前述实施例的方法。
109.本技术还提供了一种存储介质,例如计算机可读存储介质,存储介质上存储有计算机程序,计算机程序被处理器运行时执行上述方法实施例。
110.本技术实施例提供的服务网格超时处理方法,首先获取服务网格中的多个请求传
递路径,每个请求传递路径中包括服务网格中的多个服务节点,多个请求传递路径组成路径树;其次根据当前请求传递路径中各服务节点的平均响应时间确定各服务节点的初始超时时间;然后基于当前请求传递路径中各服务节点的初始超时时间,获取第一预设时间段内当前请求传递路径中的各服务节点的实际超时比例;最后将当前请求传递路径中实际超时比例大于预设超时比例阈值的服务节点作为第一待调整节点,对第一待调整节点以及第一待调整节点的上级节点的初始超时时间进行调整,并根据调整结果,得到各服务节点的目标超时时间,从而实现自动配置服务网格中服务节点的超时时间,耗时较少且不易出错。
111.在本技术所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
112.所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
113.另外,在本技术各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
114.上述以软件功能单元的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(英文:processor)执行本技术各个实施例所述方法的部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(英文:read-only memory,简称:rom)、随机存取存储器(英文:random access memory,简称:ram)、磁碟或者光盘等各种可以存储程序代码的介质。
115.以上所述,仅为本技术的具体实施方式,但本技术的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本技术揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本技术的保护范围之内。因此,本技术的保护范围应以所述权利要求的保护范围为准。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献