任务的控制方法、装置、设备、介质及产品与流程

摘要: 本技术涉及金融科技领域,尤其涉及一种任务的控制方法、装置、设备、介质及产品。背景技术:1、光学字符识别(opticalcharacterrecognition,...
任务的控制方法、装置、设备、介质及产品与流程

本技术涉及金融科技领域,尤其涉及一种任务的控制方法、装置、设备、介质及产品。

背景技术:

1、光学字符识别(optical character recognition,ocr)技术已成为自动化处理海量纸质/图像文档(如票据、合同、表单或证件等)的核心引擎,广泛应用于银行、金融、保险、物流、政务等领域。随着业务规模激增和实时性要求提高(如银行实时开户、秒级报销审核、物流运单即时识别),ocr服务需要具备高吞吐量、低延迟、高稳定性的特性。在处理请求时,ocr引擎是计算和内存资源密集型组件。并发控制策略直接决定了系统在资源利用率、响应速度、稳定性及成本效益方面的表现。

2、相关技术中,ocr服务在实践中广泛采用的并发控制主流方案都是固定并发数控制,即系统或服务在启动或配置阶段设定一个硬性的最大并发处理上限(n,n为设定好的任意正整数),无论实际负载、资源状况或任务特性如何变化,系统最多只允许n个ocr识别任务同时执行。

3、然而,相关技术中的任务的控制方法,无法实现资源的有效利用,进而存在识别服务的稳定性差的问题。

技术实现思路

1、本技术提供一种任务的控制方法、装置、设备、介质及产品,用以解决相关技术中的任务的控制方法,无法实现资源的有效利用,进而存在识别服务的稳定性差的技术问题。

2、第一方面,本技术实施例提供一种任务的控制方法,包括:

3、获取任务队列信息、任务的服务接口状态信息以及任务的服务器资源状态信息;其中,任务队列信息中包括当前执行任务的数量和待执行任务的数量;

4、根据服务接口状态信息,确定心跳影响因子;

5、根据服务器资源状态信息,确定服务器影响因子;

6、根据任务队列信息、心跳影响因子和服务器影响因子,确定最大并发数阈值;

7、根据最大并发数阈值,控制待执行任务的分发。

8、本技术实施例提供了一种智能、动态的任务分发方法,针对识别任务,结合任务的服务接口状态以及服务器资源状态信息,实时感知识别服务负载情况,根据负载情况设置心跳影响因子以及服务器影响因子,进而能够根据心跳影响因子以及服务器影响因子实现最大并发数阈值的动态确定,结合最大并发数阈值,能够实现对于待执行任务的分发控制。相比于相关技术中固定的并发阈值,本技术实施例使系统能够根据当前负载和服务健康状况自适应调整并发能力,实现资源的高效利用,提高了识别服务的稳定性。

9、可选地,服务接口状态信息包括服务器接口响应于心跳探测请求返回的接口状态码和接口耗时;

10、根据服务接口状态信息,确定心跳影响因子,包括:

11、当接口状态码异常时,记录一次异常心跳;

12、根据接口状态码,确定异常心跳次数;

13、当异常心跳次数为0,且接口耗时不大于预设时间阈值,则将心跳影响因子确定为0;

14、当异常心跳次数大于零且小于预设次数阈值,和/或,当接口耗时超过预设时间阈值,则将心跳影响因子确定为心跳因子预设值;

15、当异常心跳次数不小于预设次数阈值,则将心跳影响因子确定为1。

16、通过上述三级阶梯式的心跳影响因子判定逻辑,本技术实施例实现了识别服务健康状态的精细化分级感知,能够区分完全健康、偶发性超时或零星错误以及持续性严重异常三种状态,为后续的渐进式降级提供了精细化的决策依据。同时支持渐进式降级与熔断,当检测到服务耗时超阈值或出现偶发性异常时设置较小的心跳因子预设值实现温和降级,当异常心跳次数累积达到阈值时设置为1实现彻底熔断,避免了因服务短暂抖动导致系统剧烈波动,提升了系统的鲁棒性。此外,同时考虑接口状态码、接口耗时以及异常心跳累积次数,比单一维度的健康检查更能真实全面地反映识别服务的实际运行状况,避免了误判或漏判。通过本技术实施例提供的心跳影响因子判定逻辑,能够识别服务健康状态的精准感知,进一步地提高了资源利用率以及识别服务的稳定性。

17、可选地,根据服务器资源状态信息,确定服务器影响因子,包括:

18、获取服务器影响因子对应的预设因子阈值;

19、若存在大于对应的预设因子阈值的服务器影响因子,则将服务器影响因子确定为服务器因子预设值;

20、若不存在大于对应的预设因子阈值的服务器影响因子,则将服务器影响因子确定为0。

21、其中,本技术实施例采用任一指标超阈值即触发的逻辑,确保任何单一资源出现瓶颈时都能被及时感知并反馈到并发控制中,防止服务器因局部资源耗尽而整体崩溃,保证了识别服务的稳定性。

22、可选地,服务器影响因子包括中央处理器使用率、内存使用率、图形处理器显存使用率和图形处理器显卡温度中至少一个。

23、本技术针对性地监控中央处理器使用率、内存使用率以及图形处理器显存使用率中的至少一个,能够精准反映识别服务的资源消耗特征,确保在关键资源出现瓶颈时及时触发并发控制;通过监控显卡温度,能够在温度过高时及时降低并发,避免因硬件过热导致服务器宕机或硬件损坏,有效延长设备使用寿命,降低硬件维护成本。

24、可选地,根据任务队列信息、心跳影响因子和服务器影响因子,确定最大并发数阈值,包括:

25、获取预设的理论最大并发数;

26、若待执行任务的数量不为0,则根据当前执行任务的数量,确定已被占用的并发资源数量;

27、根据心跳影响因子,确定第一动态扣减量;其中,第一动态扣减量与心跳影响因子正相关;

28、根据服务器影响因子,确定第二动态扣减量;其中,第二动态扣减量与服务器影响因子正相关;

29、根据预设的理论最大并发数、已被占用的并发资源数量、第一动态扣减量和第二动态扣减量,确定最大并发数阈值。

30、通过上述融合三维信息的动态决策逻辑,本技术实施例提供了最大并发数阈值的准确计算方式,通过与服务器接口状态相关联的心跳影响因子以及与服务器资源状态相关联的服务器影响因子,能够准确衡量多种因素对识别服务的影响,使得计算出的最大并发数阈值能够真实反映识别服务当前可承载的并发处理能力,实现了并发阈值与服务健康度、资源健康度的负相关联动,保证了并发任务的准确控制以及资源的有效调度,提高了资源利用率,进而提高了识别服务的稳定性。

31、可选地,根据最大并发数阈值,控制待执行任务的分发,包括:

32、若最大并发数阈值为0,则判定当前无可用并发资源,暂停分发待执行任务,直至最大并发数阈值大于0。

33、这里,本技术实施例通过阈值归零时的熔断处理机制,在最大并发数阈值计算为0时自动判定当前无可用并发资源并暂停分发所有新任务,有效防止因持续过载导致的服务雪崩效应,保障了系统的整体稳定性,并保证了业务数据的完整性和处理的连续性。

34、可选地,根据最大并发数阈值,控制待执行任务的分发,包括:

35、若最大并发数阈值不为0,则获取当前执行任务的数量;

36、若当前执行任务的数量小于最大并发数阈值,则根据最大并发数阈值,从待执行任务中取出任务进行分发;

37、若当前执行任务的数量不小于最大并发数阈值,则暂停分发新的待执行任务。

38、本技术实施例实现了精细化并发控制,通过比较当前执行任务数量与最大并发数阈值的大小关系,精确控制新任务的分发时机,确保实际执行的并发数不超过动态计算出的最大并发数阈值。当当前执行任务数量已达到或超过阈值时,系统暂停分发新任务,避免了因过度分发导致系统负载进一步恶化,为正在执行的任务预留了充足的处理资源,同时,当系统处于满载状态时,新任务会在待执行任务队列中等待,直到有并发资源被释放,实现了满载等待机制,保证了任务处理的有序性和公平性,避免了任务丢失,进一步地提高了识别服务的稳定性。

39、可选地,根据最大并发数阈值,从待执行任务中取出任务进行分发,包括:

40、获取待执行任务的优先级信息;

41、根据优先级信息,对待执行任务进行排序,以得到待执行任务的分发顺序;

42、根据分发顺序和最大并发数阈值,从待执行任务中取出任务进行分发。

43、通过基于优先级的分发方式,本技术实施例能够确保高优先级任务优先获得并发资源,保障关键业务的响应速度和服务质量。在系统资源紧张时,优先处理高优先级任务,避免了因大量低优先级批量任务阻塞核心实时业务的问题,显著提升了整体业务的服务质量和用户体验,同时,优先级信息可以是任务自身携带的业务标识,也可以根据业务类型、用户等级、任务预期耗时、任务来源渠道等因素动态生成,能够适配不同业务场景下的差异化需求,提高了用户体验。

44、第二方面,本技术实施例提供一种任务的控制装置,包括:

45、获取模块,用于获取任务队列信息、任务的服务接口状态信息以及任务的服务器资源状态信息;其中,任务队列信息中包括当前执行任务的数量和待执行任务的数量;

46、第一确定模块,用于根据服务接口状态信息,确定心跳影响因子;

47、第二确定模块,用于根据服务器资源状态信息,确定服务器影响因子;

48、第三确定模块,用于根据任务队列信息、心跳影响因子和服务器影响因子,确定最大并发数阈值;

49、控制模块,用于根据最大并发数阈值,控制待执行任务的分发。

50、可选地,所述服务接口状态信息包括服务器接口响应于心跳探测请求返回的接口状态码和接口耗时;

51、所述第一确定模块具体用于:

52、当所述接口状态码异常时,记录一次异常心跳;

53、根据所述接口状态码,确定异常心跳次数;

54、当所述异常心跳次数为0,且所述接口耗时不大于预设时间阈值,则将所述心跳影响因子确定为0;

55、当所述异常心跳次数大于零且小于预设次数阈值,和/或,当所述接口耗时超过预设时间阈值,则将所述心跳影响因子确定为心跳因子预设值;

56、当所述异常心跳次数不小于预设次数阈值,则将所述心跳影响因子确定为1。

57、可选地,所述第二确定模块具体用于:

58、获取所述服务器影响因子对应的预设因子阈值;

59、若存在大于对应的预设因子阈值的所述服务器影响因子,则将所述服务器影响因子确定为服务器因子预设值;

60、若不存在大于对应的预设因子阈值的所述服务器影响因子,则将所述服务器影响因子确定为0。

61、可选地,所述服务器影响因子包括中央处理器使用率、内存使用率、图形处理器显存使用率和图形处理器显卡温度中至少一个。

62、可选地,所述第三确定模块具体用于:

63、获取预设的理论最大并发数;

64、若所述待执行任务的数量不为0,则根据所述当前执行任务的数量,确定已被占用的并发资源数量;

65、根据所述心跳影响因子,确定第一动态扣减量;其中,所述第一动态扣减量与所述心跳影响因子正相关;

66、根据所述服务器影响因子,确定第二动态扣减量;其中,所述第二动态扣减量与所述服务器影响因子正相关;

67、根据所述预设的理论最大并发数、所述已被占用的并发资源数量、所述第一动态扣减量和所述第二动态扣减量,确定所述最大并发数阈值。

68、可选地,所述控制模块具体用于:

69、若所述最大并发数阈值为0,则判定当前无可用并发资源,暂停分发所述待执行任务,直至所述最大并发数阈值大于0。

70、可选地,所述控制模块还具体用于:

71、若所述最大并发数阈值不为0,则获取当前执行任务的数量;

72、若所述当前执行任务的数量小于所述最大并发数阈值,则根据所述最大并发数阈值,从所述待执行任务中取出任务进行分发;

73、若所述当前执行任务的数量不小于所述最大并发数阈值,则暂停分发新的待执行任务。

74、可选地,所述控制模块还具体用于:

75、获取所述待执行任务的优先级信息;

76、根据所述优先级信息,对所述待执行任务进行排序,以得到所述待执行任务的分发顺序;

77、根据所述分发顺序和所述最大并发数阈值,从所述待执行任务中取出任务进行分发。

78、第三方面,本技术实施例提供一种电子设备,包括:存储器,处理器;

79、存储器存储计算机执行指令;

80、处理器执行存储器存储的计算机执行指令,使得处理器执行如上第一方面的方法。

81、第四方面,本技术实施例提供一种计算机可读存储介质,计算机可读存储介质中存储有计算机执行指令,计算机执行指令被处理器执行时用于实现如上第一方面的方法。

82、第五方面,本技术实施例提供一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现如上第一方面的方法。

83、本技术提供的一种任务的控制方法、装置、设备、介质及产品,其中该方法针对识别任务,结合任务的服务接口状态以及服务器资源状态信息,实时感知识别服务负载情况,根据负载情况设置心跳影响因子以及服务器影响因子,进而能够根据心跳影响因子以及服务器影响因子实现最大并发数阈值的动态确定,结合最大并发数阈值,能够实现对于待执行任务的分发控制。相比于相关技术中固定的并发阈值,本技术实施例使系统能够根据当前负载和服务健康状况自适应调整并发能力,实现资源的高效利用,提高了识别服务的稳定性。