一种网关请求的处理方法和电子设备与流程

摘要: 本技术实施例涉及网关,具体涉及一种网关请求的处理方法和电子设备。背景技术:1、在分布式系统中,网关作为流量入口承担请求转发和流量管理的职责。若网关缺乏有效的熔断...
一种网关请求的处理方法和电子设备与流程

本技术实施例涉及网关,具体涉及一种网关请求的处理方法和电子设备。

背景技术:

1、在分布式系统中,网关作为流量入口承担请求转发和流量管理的职责。若网关缺乏有效的熔断机制,网关会在下游业务服务异常时,仍持续向异常节点转发请求,导致后端资源耗尽。因此,网关熔断是保障系统可用性的关键。

2、现有技术的网关熔断方案多采用基于固定阈值的响应方式。具体地,网关实时采集下游健康指标(如错误率、延迟、超时率),并与预设的静态阈值进行比较,当指标观测值超过静态阈值时,判定下游不可用并触发熔断,停止转发新请求。

3、然而,此种网关熔断方案仅在异常发生且指标突破阈值后才被触发。在下游服务开始失稳至指标突破阈值之间,存在一段灰色窗口期。在此期间,网关仍持续向其转发请求。此时,客户端已出现请求超时、卡顿或间歇性失败,但网关熔断尚未触发,系统无法提前止损,导致故障影响范围扩大。

4、因此,如何维持分布式系统的可用性成了一个亟待解决的技术问题。

技术实现思路

1、鉴于上述问题,本技术实施例提供了一种网关请求的处理方法和电子设备,用于解决现有技术中存在的分布式系统的可用性难以维持的问题。

2、根据本技术实施例的一个方面,提供了一种网关请求的处理方法,所述方法包括:响应于客户端设备发送的业务请求,对客户端设备进行安全条件校验;若客户端设备通过安全条件校验,则采集服务端设备的实时负载指标;基于实时负载指标进行预测,得到预测负载指标;若实时负载指标不满足第一负载条件,或预测负载指标不满足第二负载条件,则暂停向服务端设备转发业务请求,并根据预设处理方式对业务请求进行处理。

3、在一种可选的方式中,在若实时负载指标不满足第一负载条件,或预测负载指标不满足第二负载条件,则暂停向服务端设备转发业务请求,并根据预设处理方式对业务请求进行处理之前,该方法还包括:对业务请求进行优先级评估,得到业务请求的优先级标签,其中,优先级标签包括第一优先级、第二优先级和第三优先级,第一优先级高于第二优先级,第二优先级高于第三优先级;若实时负载指标不满足第一负载条件,或预测负载指标不满足第二负载条件,则暂停向服务端设备转发业务请求,并根据预设处理方式对业务请求进行处理,包括:若实时负载指标不满足第一负载条件,或预测负载指标不满足第二负载条件,则暂停向服务端设备转发业务请求,并根据业务请求的优先级标签所对应的预设处理方式对业务请求进行处理。

4、在一种可选的方式中,根据业务请求的优先级标签所对应的预设处理方式对业务请求进行处理,包括:若业务请求的优先级标签为第一优先级,则基于预构建的知识库对业务请求进行检索,基于检索结果对业务请求进行处理,或,更新服务端设备的实时负载指标和预测负载指标,直到实时负载指标满足第一负载条件且预测负载指标满足第二负载条件,将业务请求发送给服务端设备进行处理;若业务请求的优先级标签为第二优先级,则基于预配置的故障排查步骤或本地缓存的响应数据对业务请求进行处理;若业务请求的优先级标签为第三优先级,则更新服务端设备的实时负载指标和预测负载指标,直到实时负载指标满足第一负载条件且预测负载指标满足第二负载条件,将业务请求发送给服务端设备进行处理。

5、在一种可选的方式中,对业务请求进行优先级评估,得到业务请求的优先级标签,包括:若业务请求涉及预设紧急故障的故障码读取、预设高危系统的故障查询、预设部件的排查、预设类型的诊断请求和对车辆的电子控制单元的预设操作,则确定业务请求的优先级标签为第一优先级;若业务请求涉及预设的维修操作,则确定业务请求的优先级标签为第二优先级;若业务请求涉及预设的数据处理操作,则确定业务请求的优先级标签为第三优先级。

6、在一种可选的方式中,安全条件包括第一安全子条件,对客户端设备进行安全条件校验,包括:获取客户端设备的设备标识;基于设备标识对客户端设备进行第一安全子条件的校验;和/或,安全条件包括第二安全子条件,对客户端设备进行安全条件校验,包括:获取客户端设备发送的业务请求;根据业务请求确定与业务请求对应的行为特征;根据行为特征生成与业务请求对应的行为信任得分;基于行为信任得分对客户端设备进行第二安全子条件的校验。

7、在一种可选的方式中,该方法还包括:若设备标识未通过第一安全子条件的校验,和/或,行为信任得分未通过第二安全子条件的校验,则拒绝建立与客户端设备的通信连接,以及拒绝处理业务请求。

8、在一种可选的方式中,服务端设备的数量为多个,采集服务端设备的实时负载指标,包括:通过广播消息,获取多个服务端设备的实时负载指标;基于实时负载指标进行预测,得到预测负载指标,包括:基于每个服务端设备的实时负载指标进行预测,得到与每个服务端设备对应的预测负载指标;若实时负载指标不满足第一负载条件,或预测负载指标不满足第二负载条件,则暂停向服务端设备转发业务请求,并根据预设处理方式对业务请求进行处理,包括:若多个服务端设备中的至少一个服务端设备的实时负载指标不满足第一负载条件,或,多个服务端设备中的至少一个服务端设备的预测负载指标不满足第二负载条件,则暂停向多个服务端设备转发业务请求,并根据预设处理方式对业务请求进行处理。

9、在一种可选的方式中,在基于实时负载指标进行预测,得到预测负载指标之后,该方法还包括:若实时负载指标满足第一负载条件,且预测负载指标满足第二负载条件,则将业务请求发送给服务端设备进行处理。

10、在一种可选的方式中,实时负载指标包括服务端设备对业务请求的错误率、响应延迟和超时率;第一负载条件包括错误率小于预设第一错误阈值、响应延迟小于预设第一延迟阈值且超时率小于预设第一超时阈值;第二负载条件包括错误率小于预设第二错误阈值、响应延迟小于预设第二延迟阈值且超时率小于预设第二超时阈值。

11、根据本技术实施例的另一方面,提供了一种电子设备,包括存储器、处理器及存储在存储器上的计算机程序,处理器执行计算机程序以实现如上任一项所述的网关请求的处理方法。

12、本技术实施例通过在客户端设备通过安全条件校验时,采集服务端设备的实时负载指标,基于实时负载指标进行预测,得到预测负载指标,并在实时负载指标不满足第一负载条件,或预测负载指标不满足第二负载条件时,暂停向服务端设备转发业务请求,以基于实时负载指标识别下游服务的突发性故障(如瞬时宕机、错误率飙升)并进行熔断,基于预测负载指标捕捉负载的慢性爬升和阶段性退化趋势并进行熔断,从而在实时负载指标尚未突破当前安全阈值时提前触发熔断,消除下游服务从开始失稳至指标突破阈值之间存在的灰色窗口期;在触发熔断后,根据预设处理方式对业务请求进行处理,确保了在网关熔断时,能继续对业务请求进行处理,从而维持了客户端设备和服务端设备所构成的分布式系统的可用性。

13、上述说明仅是本技术实施例技术方案的概述,为了能够更清楚了解本技术实施例的技术手段,而可依照说明书的内容予以实施,并且为了让本技术实施例的上述和其它目的、特征和优点能够更明显易懂,以下特举本技术的具体实施方式。