一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

数据处理方法、装置、存储介质及计算机设备与流程

2023-02-20 12:49:42 来源:中国专利 TAG:


1.本发明涉及信息技术领域,尤其是涉及一种数据处理方法、装置、存储介质及计算机设备。


背景技术:

2.消息队列是基础数据结构中先进先出的一种信息交换技术,可以用于实现系统解耦、提高系统的响应时间等作用,通过消息队列可以对数据进行有序处理。
3.目前,通常将数据盲目地发送至任意一个消息队列中进行处理。然而,不同消息队列中存储的历史数据量并不相同,若该任意一个消息队列中的历史数据量过大,则需要将历史数据全部处理完毕后,才能对该数据进行处理,导致该数据的处理效率较低。


技术实现要素:

4.本发明提供了一种数据处理方法、装置、存储介质及计算机设备,主要在于能够提高数据的处理效率。
5.根据本发明的第一个方面,提供一种数据处理方法,包括:
6.接收待处理数据对应的处理请求,其中,所述处理请求中携带所述待处理数据对应的标识信息;
7.基于所述标识信息,确定所述待处理数据所属的数据类型,并确定与所述数据类型相对应的目标消息队列;
8.判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值;
9.若所述消息长度大于或等于所述预设长度阈值,则确定与所述数据类型相对应的目标候选消息队列,并将所述待处理数据发送至所述目标候选消息队列;
10.基于所述目标候选消息队列对应的第一消费队列,对所述待处理数据进行处理。
11.根据本发明的第二个方面,提供一种数据处理装置,包括:
12.接收单元,用于接收待处理数据对应的处理请求,其中,所述处理请求中携带所述待处理数据对应的标识信息;
13.确定单元,用于基于所述标识信息,确定所述待处理数据所属的数据类型,并确定与所述数据类型相对应的目标消息队列;
14.判断单元,用于判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值;
15.发送单元,用于若所述消息长度大于或等于所述预设长度阈值,则确定与所述数据类型相对应的目标候选消息队列,并将所述待处理数据发送至所述目标候选消息队列;
16.处理单元,用于基于所述目标候选消息队列对应的第一消费队列,对所述待处理数据进行处理。
17.根据本发明的第三个方面,提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现以下步骤:
18.接收待处理数据对应的处理请求,其中,所述处理请求中携带所述待处理数据对应的标识信息;
19.基于所述标识信息,确定所述待处理数据所属的数据类型,并确定与所述数据类型相对应的目标消息队列;
20.判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值;
21.若所述消息长度大于或等于所述预设长度阈值,则确定与所述数据类型相对应的目标候选消息队列,并将所述待处理数据发送至所述目标候选消息队列;
22.基于所述目标候选消息队列对应的第一消费队列,对所述待处理数据进行处理。
23.根据本发明的第四个方面,提供一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现以下步骤:
24.接收待处理数据对应的处理请求,其中,所述处理请求中携带所述待处理数据对应的标识信息;
25.基于所述标识信息,确定所述待处理数据所属的数据类型,并确定与所述数据类型相对应的目标消息队列;
26.判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值;
27.若所述消息长度大于或等于所述预设长度阈值,则确定与所述数据类型相对应的目标候选消息队列,并将所述待处理数据发送至所述目标候选消息队列;
28.基于所述目标候选消息队列对应的第一消费队列,对所述待处理数据进行处理。
29.根据本发明提供的一种数据处理方法、装置、存储介质及计算机设备,与目前将数据盲目地发送至任意一个消息队列中进行处理的方式相比,本发明通过接收待处理数据对应的处理请求,其中,所述处理请求中携带所述待处理数据对应的标识信息;并基于所述标识信息,确定所述待处理数据所属的数据类型,并确定与所述数据类型相对应的目标消息队列;与此同时,判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值;若所述消息长度大于或等于所述预设长度阈值,则确定与所述数据类型相对应的目标候选消息队列,并将所述待处理数据发送至所述目标候选消息队列;最终基于所述目标候选消息队列对应的第一消费队列,对所述待处理数据进行处理,由此通过确定待处理数据所属的数据类型对应的目标消息队列,并判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值,若大于或等于所述预设长度阈值,则将所述待处理数据发送至目标候选消息队列中进行处理,能够避免当目标消息队列中的数据量过大时,需要排队等待处理的时间过长,从而提高了数据的处理效率。
附图说明
30.此处所说明的附图用来提供对本发明的进一步理解,构成本技术的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
31.图1示出了本发明实施例提供的一种数据处理方法流程图;
32.图2示出了本发明实施例提供的另一种数据处理方法流程图;
33.图3示出了本发明实施例提供的一种数据处理装置的结构示意图;
34.图4示出了本发明实施例提供的另一种数据处理装置的结构示意图;
35.图5示出了本发明实施例提供的一种计算机设备的实体结构示意图。
具体实施方式
36.下文中将参考附图并结合实施例来详细说明本发明。需要说明的是,在不冲突的情况下,本技术中的实施例及实施例中的特征可以相互组合。
37.目前,将数据盲目地发送至任意一个消息队列中进行处理的方式,若该任意一个消息队列中的数据量过大,需要等待较长的时间才能对该数据进行处理,从而导致数据处理的效率较低。
38.为了解决上述问题,本发明实施例提供了一种数据处理方法,如图1所示,所述方法包括:
39.101、接收待处理数据对应的处理请求,其中,所述处理请求中携带所述待处理数据对应的标识信息。
40.其中,所述待处理数据可以为医保信息数据,个人健康档案数据、体检报告数据等。所述标识信息可以是所述待处理数据对应的图标信息或字符信息,只要通过所述标识信息能唯一确定所述待处理数据,本发明实施例对所述标识信息的形式不做具体限定。
41.对于本发明实施例,为了克服现有技术中数据处理消息较低的问题,本发明实施例通过确定待处理数据所属的数据类型对应的目标消息队列,并判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值,若大于或等于所述预设长度阈值,则将所述待处理数据发送至目标候选消息队列中进行处理,能够避免当目标消息队列中的数据量过大时,需要排队等待处理的时间过长,从而提高了数据的处理效率。本发明实施例主要应用于对数据进行处理的场景,本发明实施例的执行主体为能够对数据进行处理的装置或者设备,具体可以设置在客户端或者服务器一侧。
42.具体地,首先获取所述待处理数据,若所述待处理数据为医保信息数据,则到医保信息数据库中登录用户id和密码即可获取到医保信息数据,其中,所述医保信息数据库中存储着大量医保信息数据,获取到所述医保信息数据后,将所述医保信息数据传输至数据处理系统,并点击所述数据处理系统中的数据处理按钮,即触发了医保信息数据对应的处理指令,此时,所述数据处理系统便接收到所述医保信息数据对应的处理请求,之后判断所述医保信息数据所属的数据类型,并确定与所述数据类型相对应的目标消息队列,之后判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值,若大于或等于所述预设长度阈值,则将所述待处理数据发送至于所述数据类型相对应的目标候选消息队列,最终基于所述目标候选消息队列对应的第一消费队列,对所述待处理数据进行处理,从而提高了数据的处理效率。
43.102、基于所述标识信息,确定所述待处理数据所属的数据类型,并确定与所述数据类型相对应的目标消息队列。
44.其中,所述数据类型包括医疗类型数据、保险类型数据、汽车领域类型数据等。不同数据类型对应不同消息队列,不同消息队列中存储着不同数据处理规则。
45.对于本发明实施例,在接收到所述待处理数据对应的处理请求后,基于所述处理请求中携带的所述待处理数据对应的标识信息,在预设数据类型表中确定所述待处理数据所属的数据类型,并基于不同数据类型与不同消息队列之间的映射关系,确定与所述数据类型相对应的目标消息队列,之后,为了避免所述目标消息队列中的等待处理的数据量过大,导致该待处理数据需要长时间排队等候处理,需要判断所述目标消息队列中的消息长
度是否大于或等于预设长度阈值,若大于或等于所述预设长度阈值,则将所述待处理数据传输至于所述数据类型相对应的目标候选消息队列中进行处理,从而提高了待处理数据的处理效率。
46.103、判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值。
47.其中,所述预设长度阈值是根据待处理数据能够等待的时间而设定的,本发明实施例对所述预设长度阈值的取值不做具体限定。
48.对于本发明实施例,为了提高待处理数据的处理消息,在确定所述待处理数据对应的目标消息队列后,需要确定所述目标消息队列中的消息长度,并判断所述消息长度是否大于或等于预设长度阈值,若大于或等于所述预设长度阈值,则确定若将所述待处理数据传输至该目标消息队列中,该待处理消息需要排队等候处理的时间过长,因此,需要确定所述待处理数据对应的目标候选消息队列,并将所述待处理数据发送至所述目标候选消息队列中进行数据处理。
49.104、若所述消息长度大于或等于所述预设长度阈值,则确定与所述数据类型相对应的目标候选消息队列,并将所述待处理数据发送至所述目标候选消息队列。
50.其中,所述目标候选消息队列存着与所述目标消息队列中相同的数据处理规则。所述目标候选消息队列中的消息长度小于所述目标消息队列中的消息长度。
51.对于本发明实施例,在判断所述目标消息队列中的消息长度是否大于或等于所述预设长度阈值后,若所述消息长度大于或等于所述预设长度阈值,则为了提高了所述待处理消息的处理消息,需要在与所述数据类型相对应的多个候选消息队列中确定所述待处理数据对应的目标候选消息队列,并将所述待处理数据发送至所述目标候选消息队列中,之后所述目标候选消息队列对应的第一消费队列到所述目标候选消息队列中读取所述待处理数据,并对其进行消费处理,或者,到达待处理数据对应的发送时间时,所述目标候选消息队列将所述待处理数据发送至与其对应的第一消费队列中进行处理,由此通过确定待处理数据所属的数据类型对应的目标消息队列,并判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值,若大于或等于所述预设长度阈值,则将所述待处理数据发送至目标候选消息队列中进行处理,能够避免当目标消息队列中的数据量过大时,需要排队等待处理的时间过长,从而提高了数据的处理效率。
52.105、基于所述目标候选消息队列对应的第一消费队列,对所述待处理数据进行处理。
53.其中,不同候选消息队列对应不同消费队列,所述消息队列对数据进行存储,所述消费队列对数据进行消费处理。
54.对于本发明实施例,在将所述待处理数据发送至所述目标候选消息队列后,为了对所述待处理数据进行处理,首先需要确定与所述目标候选消息队列相对应的第一消费队列,之后判断所述第一消费队列是否对待处理数据的上一个数据处理完毕,若所述第一消费队列对上一个数据处理完毕,则将所述目标候选消息队列中的所述待处理数据发送至所述第一消费队列中进行数据处理。由此通过确定待处理数据所属的数据类型对应的目标消息队列,并判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值,若大于或等于所述预设长度阈值,则将所述待处理数据发送至目标候选消息队列中进行处理,能够避免当目标消息队列中的数据量过大时,需要排队等待处理的时间过长,从而提高了数据
的处理效率。
55.根据本发明提供的一种数据处理方法,与目前将数据盲目地发送至任意一个消息队列中进行处理的方式相比,本发明通过接收待处理数据对应的处理请求,其中,所述处理请求中携带所述待处理数据对应的标识信息;并基于所述标识信息,确定所述待处理数据所属的数据类型,并确定与所述数据类型相对应的目标消息队列;与此同时,判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值;若所述消息长度大于或等于所述预设长度阈值,则确定与所述数据类型相对应的目标候选消息队列,并将所述待处理数据发送至所述目标候选消息队列;最终基于所述目标候选消息队列对应的第一消费队列,对所述待处理数据进行处理,由此通过确定待处理数据所属的数据类型对应的目标消息队列,并判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值,若大于或等于所述预设长度阈值,则将所述待处理数据发送至目标候选消息队列中进行处理,能够避免当目标消息队列中的数据量过大时,需要排队等待处理的时间过长,从而提高了数据的处理效率。
56.进一步的,为了更好的说明上述对数据进行处理过程,作为对上述实施例的细化和扩展,本发明实施例提供了另一种数据处理方法,如图2所示,所述方法包括:
57.201、接收待处理数据对应的处理请求,其中,所述处理请求中携带所述待处理数据对应的标识信息。
58.对于本发明实施例,获取待处理数据后,将所述待处理数据传输至数据处理系统,并点击所述数据处理系统的处理标识,即触发了数据处理请求,此时,数据处理系统便接收到所述待处理数据对应的处理请求,其中,所述处理请求中携带所述待处理数据对应的标识信息。
59.202、基于所述标识信息,确定所述待处理数据所属的数据类型,并确定与所述数据类型相对应的目标消息队列。
60.对于本发明实施例,为了确定所述待处理数据对应的目标消息队列,首先需要确定所述待处理数据所属的数据类型,基于此,步骤202具体包括:获取预设数据类型表,并在所述预设数据类型表中确定与所述标识信息相对应的目标数据类型;将所述目标数据类型确定为所述待处理数据所属的数据类型,其中,所述预设数据类型表中存储着各个标识信息及其对应的数据类型。
61.具体地,所述预设数据类型表中存储着各个标识信息及其对应的数据类型,将所述待处理数据对应的标识信息与预设数据类型表中的各个标识信息进行匹配,在所述预设数据类型表中确定与待处理数据对应的标识信息相同的目标标识信息,并确定所述目标标识信息对应的目标数据类型,并将所述目标数据类型确定为所述待处理数据对应的数据类型。例如,预设数据类型表中存储的各个标识信息及其对应的数据类型包括:标识信息为a,其对应的数据类型为:医疗类数据,标识信息为b,其对应的数据类型为:汽车类数据,标识信息为c,其对应的数据类型为:保险类数据,若所述待处理数据对应的标识信息为a,则确定其对应的数据类型为医疗类型数据。
62.进一步地,余弦构建不同数据类型分别对应的消息队列,并建立不同数据类型与不同消息队列之间的映射关系,在确定所述待处理数据所属的数据类型后,基于所述不同数据类型与不同消息队列之间的映射关系,在各个消息队列中确定与所述数据类型相对应
的目标消息队列。
63.203、判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值。
64.其中,所述消息长度可以为所述目标消息队列中排队等候处理的数据量。对于本发明实施例,在确定所述待处理数据对应的目标消息队列后,为了提高所述待处理数据的处理效率,还需要判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值,若所述消息长度小于所述预设长度阈值,则需要将所述待处理数据发送至所述目标消息队列中排队等候处理,基于此,所述方法包括:若所述目标消息队列中的消息长度小于所述预设长度阈值,则将所述待处理数据发送至所述目标消息队列;基于所述目标消息队列对应的第二消费队列,对所述待处理数据进行处理。
65.具体地,若所述目标消息队列中的消息长度小于所述预设长度阈值,则将所述待处理数据发送至所述目标消息队列中,之后确定所述目标消息队列对应的第二消费队列,并判断所述第二消费队列是否对该待处理数据的上一个数据处理完毕,若对该上一个数据处理完毕,则将所述待处理数据由所述目标消息队列发送至所述第二消费队列,其中,所述第二消费队列中存储着不同标识信息分别对应的处理脚本,所述处理脚本是预先编写,并经过测试后的脚本,基于所述待处理数据对应的标识信息,在不同处理脚本中,确定与所述标识信息相对应的目标处理脚本,并利用所述目标处理脚本对所述待处理数据进行相应处理。
66.204、若所述消息长度大于或等于所述预设长度阈值,则确定与所述数据类型相对应的目标候选消息队列,并将所述待处理数据发送至所述目标候选消息队列。
67.对于本发明实施例,在判断所述目标消息队列中的消息长度是否大于或等于所述预设长度阈值后,若所述消息长度大于或等于所述预设长度阈值,则确定若将所述待处理数据发送至所述目标消息队列中,则所述待处理数据在处理之前,需要排队等候较长时间,因此为了提高所述待处理数据的处理效率,需要确定所述待处理数据对应的目标候选消息队列,基于此,步骤204具体包括:确定与所述数据类型相对应的各个候选消息队列中的消息长度;在各个消息长度中确定最小消息长度,并将所述最小消息长度对应的候选消息队列确定为与所述数据类型相对应的目标候选消息队列。
68.具体地,待处理数据所属的数据类型对应着多个候选消息队列,其中,任意一个候选消息队列中的消息长度均小于所述目标消息队列中的消息长度,为了进一步提高所述待处理数据对应的处理消息,需要在待处理数据对应的各个候选消息队列中确定目标候选消息队列,基于此,所述方法为,确定所述各个候选消息队列中的消息长度,并在各个消息长度中确定最小消息长度,并将所述最小消息长度对应的候选消息队列确定为所述待处理数据对应的目标候选消息队列,之后将所述待处理数据发送至所述目标候选消息队列中等候处理。进一步地,为了提高对待处理数据的处理效率,需要对所述待处理数据中与数据处理结果无关的停用词去除,基于此,所述方法包括:对所述待处理数据进行分词处理,得到所述待处理数据对应的各个分词;判断所述各个分词中是否存在预设停用词库中的停用词;若存在所述停用词,则将所述待处理数据中的所述停用词去除,得到精简后的待处理数据;将所述精简后的待处理数据发送至所述目标候选消息队列。
69.具体地,对所述待处理数据进行分词处理,得到所述待处理数据对应的各个分词,之后利用预设停用词库检测所述各个分词中是否存在停用词库中的停用词,若所述各个分
词中存在所述预设停用词库中的停用词,则将所述各个分词中的所述停用词去除,得到所述待处理数据对应的精简后的待处理数据,最终将精简后的待处理数据传输至所述目标候选消息队列中。
70.205、基于所述待处理数据对应的标识信息,在所述目标候选消息队列对应的第一消费队列中确定与所述待处理数据相对应的处理脚本。
71.其中,所述第一消费队列中存储着各个处理脚本,各个处理脚本与数据标识信息对应存储。
72.对于本发明实施例,首先确定所述目标候选消息队列对应的第一消费队列,之后将所述目标候选消息队列中的所述待处理数据传输至所述第一消费队列中,具体将所述待处理数据传输至所述第一消费队列的方法为:确定所述目标候选消息队列对应的数据传输接口;基于所述数据传输接口,将所述目标候选消息队列中的所述待处理数据传输至所述第一消费队列。
73.对于本发明实施例,首先确定所述目标候选消息队列对应的数据传输接口,之后将所述目标候选消息队列中的所述待处理数据从所述数据传输接口传输至所述第一消费队列中,之后基于所述待处理数据对应的标识信息,在各个处理脚本中确定与所述待处理数据相对应的目标处理脚本,并将所述目标处理脚本确定为所述待处理数据对应的处理脚本,之后利用所述处理脚本对所述待处理数据进行处理。
74.206、基于所述处理脚本,对所述待处理数据进行处理。
75.对于本发明实施例,在确定与所述待处理数据相对应的处理脚本后,利用所述处理脚本对所述待处理数据进行处理。由此通过确定待处理数据所属的数据类型对应的目标消息队列,并判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值,若大于或等于所述预设长度阈值,则将所述待处理数据发送至目标候选消息队列中进行处理,能够避免当目标消息队列中的数据量过大时,需要排队等待处理的时间过长,从而提高了数据的处理效率。
76.进一步地,对所述待处理数据进行处理后,会存在处理不成功的情况,若对所述待处理数据处理不成功,则会将所述第一消费队列中的所述待处理数据标注为异常,同时为所述待处理数据确定其对应的重试次数,若对所述待处理数据处理成功,则将所述第一消费队列中的所述待处理数据对应的状态标注为已处理,若为对所述待处理数据进行处理,则在所述第一消费队列中将所述待处理数据对应的状态标注为未处理,遍历所述第一消费队列,若所述待处理数据对应的状态为未处理,则对所述待处理数据进行处理,处理成功后,将所述待处理数据状态更改为已处理,若遍历所述第一消费队列时,所述待处理数据对应的状态为异常,则基于所述重试次数,对所述待处理数据重新进行处理,当达到所述重试次数后,所述待处理数据对应的状态仍为异常,则需要将所述第一消费队列中的所述待处理数据删除,并重新获取所述待处理数据进行处理,知道所述第一消费队列中的所述待处理数据对应的状态为已处理为止。
77.根据本发明提供的另一种数据处理方法,与目前将数据盲目地发送至任意一个消息队列中进行处理的方式相比,本发明通过接收待处理数据对应的处理请求,其中,所述处理请求中携带所述待处理数据对应的标识信息;并基于所述标识信息,确定所述待处理数据所属的数据类型,并确定与所述数据类型相对应的目标消息队列;与此同时,判断所述目
标消息队列中的消息长度是否大于或等于预设长度阈值;若所述消息长度大于或等于所述预设长度阈值,则确定与所述数据类型相对应的目标候选消息队列,并将所述待处理数据发送至所述目标候选消息队列;最终基于所述目标候选消息队列对应的第一消费队列,对所述待处理数据进行处理,由此通过确定待处理数据所属的数据类型对应的目标消息队列,并判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值,若大于或等于所述预设长度阈值,则将所述待处理数据发送至目标候选消息队列中进行处理,能够避免当目标消息队列中的数据量过大时,需要排队等待处理的时间过长,从而提高了数据的处理效率。
78.进一步地,作为图1的具体实现,本发明实施例提供了一种数据处理装置,如图3所示,所述装置包括:接收单元31、确定单元32、判断单元33、发送单元34和处理单元35。
79.所述接收单元31,可以用于接收待处理数据对应的处理请求,其中,所述处理请求中携带所述待处理数据对应的标识信息。
80.所述确定单元32,可以用于基于所述标识信息,确定所述待处理数据所属的数据类型,并确定与所述数据类型相对应的目标消息队列。
81.所述判断单元33,可以用于判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值。
82.所述发送单元34,可以用于若所述消息长度大于或等于所述预设长度阈值,则确定与所述数据类型相对应的目标候选消息队列,并将所述待处理数据发送至所述目标候选消息队列。
83.所述处理单元35,可以用于基于所述目标候选消息队列对应的第一消费队列,对所述待处理数据进行处理。
84.在具体应用场景中,为了确定所述待处理数据所属的数据类型,如图4所示,所述确定单元32,包括获取模块321和第一确定模块322。
85.所述获取模块321,可以用于获取预设数据类型表,并在所述预设数据类型表中确定与所述标识信息相对应的目标数据类型。
86.所述第一确定模块322,可以用于将所述目标数据类型确定为所述待处理数据所属的数据类型,其中,所述预设数据类型表中存储着各个标识信息及其对应的数据类型。
87.在具体应用场景中,为了将所述待处理数据发送中目标消息队列中进行处理,所述发送单元34,还可以用于若所述目标消息队列中的消息长度小于所述预设长度阈值,则将所述待处理数据发送至所述目标消息队列。
88.所述处理单元35,还可以用于基于所述目标消息队列对应的第二消费队列,对所述待处理数据进行处理。
89.在具体应用场景中,为了确定与所述数据类型相对应的目标候选消息队列,所述发送单元34,具体可以用于确定与所述数据类型相对应的各个候选消息队列中的消息长度;在各个消息长度中确定最小消息长度,并将所述最小消息长度对应的候选消息队列确定为与所述数据类型相对应的目标候选消息队列。
90.在具体应用场景中,为了将所述待处理数据发送至所述目标候选消息队列,所述发送单元34,包括分词处理模块341、判断模块342、去除模块343和发送模块344。
91.所述分词处理模块341、可以用于对所述待处理数据进行分词处理,得到所述待处
理数据对应的各个分词。
92.所述判断模块342,可以用于判断所述各个分词中是否存在预设停用词库中的停用词。
93.所述去除模块343,可以用于若存在所述停用词,则将所述待处理数据中的所述停用词去除,得到精简后的待处理数据。
94.所述发送模块344,可以用于将所述精简后的待处理数据发送至所述目标候选消息队列。
95.在具体应用场景中,为了将所述待处理数据传输由所述目标候选消息队列传输至与其对应的第一消费队列,所述确定单元32,还可以用于确定所述目标候选消息队列对应的数据传输接口。
96.所述发送单元34,还可以用于基于所述数据传输接口,将所述目标候选消息队列中的所述待处理数据传输至所述第一消费队列。
97.在具体应用场景中,为了对所述待处理数据进行处理,所述处理单元35,包括第二确定模块351和数据处理模块352。
98.所述第二确定模块351,可以用于基于所述待处理数据对应的标识信息,在所述第一消费队列中确定与所述待处理数据相对应的处理脚本。
99.所述数据处理模块352,可以用于基于所述处理脚本,对所述待处理数据进行处理。
100.需要说明的是,本发明实施例提供的一种数据处理装置所涉及各功能模块的其他相应描述,可以参考图1所示方法的对应描述,在此不再赘述。
101.基于上述如图1所示方法,相应的,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现以下步骤:接收待处理数据对应的处理请求,其中,所述处理请求中携带所述待处理数据对应的标识信息;基于所述标识信息,确定所述待处理数据所属的数据类型,并确定与所述数据类型相对应的目标消息队列;判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值;若所述消息长度大于或等于所述预设长度阈值,则确定与所述数据类型相对应的目标候选消息队列,并将所述待处理数据发送至所述目标候选消息队列;基于所述目标候选消息队列对应的第一消费队列,对所述待处理数据进行处理。
102.基于上述如图1所示方法和如图3所示装置的实施例,本发明实施例还提供了一种计算机设备的实体结构图,如图5所示,该计算机设备包括:处理器41、存储器42、及存储在存储器42上并可在处理器上运行的计算机程序,其中存储器42和处理器41均设置在总线43上所述处理器41执行所述程序时实现以下步骤:接收待处理数据对应的处理请求,其中,所述处理请求中携带所述待处理数据对应的标识信息;基于所述标识信息,确定所述待处理数据所属的数据类型,并确定与所述数据类型相对应的目标消息队列;判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值;若所述消息长度大于或等于所述预设长度阈值,则确定与所述数据类型相对应的目标候选消息队列,并将所述待处理数据发送至所述目标候选消息队列;基于所述目标候选消息队列对应的第一消费队列,对所述待处理数据进行处理。
103.通过本发明的技术方案,本发明通过接收待处理数据对应的处理请求,其中,所述
处理请求中携带所述待处理数据对应的标识信息;并基于所述标识信息,确定所述待处理数据所属的数据类型,并确定与所述数据类型相对应的目标消息队列;与此同时,判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值;若所述消息长度大于或等于所述预设长度阈值,则确定与所述数据类型相对应的目标候选消息队列,并将所述待处理数据发送至所述目标候选消息队列;最终基于所述目标候选消息队列对应的第一消费队列,对所述待处理数据进行处理,由此通过确定待处理数据所属的数据类型对应的目标消息队列,并判断所述目标消息队列中的消息长度是否大于或等于预设长度阈值,若大于或等于所述预设长度阈值,则将所述待处理数据发送至目标候选消息队列中进行处理,能够避免当目标消息队列中的数据量过大时,需要排队等待处理的时间过长,从而提高了数据的处理效率。
104.显然,本领域的技术人员应该明白,上述的本发明的各模块或各步骤可以用通用的计算装置来实现,它们可以集中在单个的计算装置上,或者分布在多个计算装置所组成的网络上,可选地,它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,并且在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本发明不限制于任何特定的硬件和软件结合。
105.以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包括在本发明的保护范围之内。
再多了解一些

本文用于创业者技术爱好者查询,仅供学习研究,如用于商业用途,请联系技术所有人。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献