一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

数据处理方法、装置、电子设备及计算机可读存储介质与流程

2022-06-16 01:14:27 来源:中国专利 TAG:


1.本技术涉及计算机技术领域,具体而言,本发明涉及一种数据处理方法、装置、电子设备及计算机可读存储介质。


背景技术:

2.电信行业的存储设备中保存有大量的数据资源,针对数据存在数据集中化上发要求。该业务场景对分批上发数据的序号连续性、数据完整性以及不可重复性等具有严格的要求。因此,电信运营系统,一旦发生数据灾难,设备中止运行,将导致大面积的用户无法正常使用业务,对运营商来说,也会造成大量的经济损失。
3.为了减少由于发生数据灾难而导致生产系统不能正常提供服务的事件,一般在生产系统之外搭建容灾系统,这样在生产系统发生数据灾难的时候可以切换到容灾系统,从而能够保证业务的连续性、高可用性。但是,现有技术的生产系统和容灾系统的已处理数据清理不及时。容灾系统接管后,需由人工判断并清理容灾系统的已处理数据,可能导致任务丢失、任务重复等情况,并且处理效率低下。


技术实现要素:

4.针对上述问题与缺陷,为了解决现有技术中存在的问题中的至少一项,本技术提供了一种数据处理的方法、装置、电子设备及计算机可读存储介质。
5.第一方面,本技术实施例提供了一种数据处理方法,由第一服务器执行,第一服务器和第二服务器同步获取待处理任务,第二服务器是当前对待处理任务进行处理的服务器,其中,获取的待处理任务被存储在第一服务器的第一存储空间中,方法包括:
6.从第二服务器接收已处理任务的任务标识和指示信息,已处理任务是指已处理完成的待处理任务,指示信息表征了一个指定时间段,指示信息是在指定时间段内获取到的待处理任务被处理完成之后生成的;
7.将任务标识对应的待处理任务从第一存储空间转存至所述第一服务器的第二存储空间,并将任务标识对应的待处理任务从第一存储空间删除;
8.当接收到服务器切换指令时,根据最新接收到的指示信息和第二存储空间中存储的待处理任务的任务标识,确定需要处理的待处理任务,并对需要处理的待处理任务进行处理。
9.第二方面,本技术实施例提供了一种数据处理装置,该装置包含于第一服务器中,第一服务器和第二服务器同步获取待处理任务,第二服务器是当前对待处理任务进行处理的服务器,其中,获取的待处理任务被存储在第一服务器的第一存储空间中,该数据处理装置包括:
10.任务接收模块,用于从第二服务器接收已处理任务的任务标识和指示信息,已处理任务是指已处理完成的待处理任务,指示信息表征了一个指定时间段,指示信息是在指定时间段内获取到的待处理任务处理完成之后生成的;
11.转存储模块,用于将任务标识对应的待处理任务从第一存储空间转存至第一服务器的第二存储空间,并将任务标识对应的待处理任务从第一存储空间删除;
12.任务处理模块,用于当接收到服务器切换指令时,根据最新接收到的指示信息和第二存储空间中存储的待处理任务的任务标识,确定需要处理的待处理任务,并对需要处理的待处理任务进行处理。
13.第三方面,本技术实施例提供了一种电子设备,该电子设备包括存储器和处理器,
14.该存储器配置用于存储机器可读指令,该指令在由处理器执行时,使得处理器执行上述第一方面中的数据处理方法。
15.第四方面,本技术实施例提供了一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,该程序被处理器执行时实现上述第一方面中的数据处理方法。
16.本技术实施例提供的技术方案带来的有益效果是:
17.通过从第二服务器接收已处理任务的任务标识和指示信息,将任务标识对应的待处理任务从第一服务器的第一存储空间转存至第二存储空间,并将任务标识对应的待处理任务从第一存储空间删除;当接收到服务器切换指令时,根据最新接收到的指示信息和第二存储空间中存储的待处理任务的任务标识,确定需要处理的待处理任务,并对需要处理的待处理任务进行处理,即,通过在第二服务器和第一服务器之间传输已处理任务的任务标识,并将已处理任务从第二服务器的第一存储空间删除,可以及时地释放第一存储空间的资源,通过在第二服务器和第一服务器之间传输指示信息,在接收到服务器切换指令时,基于最新接收到的指示信息和第二存储空间中存储的待处理任务的任务标识进行后续处理,可以及时地在第二服务器和第一服务器之间实现准确同步以及及时切换,提高了任务处理效率。
附图说明
18.为了更清楚地说明本技术实施例中的技术方案,下面将对本技术实施例描述中所需要使用的附图作简单地介绍。
19.图1为本技术实施例提供的一种数据处理方法的流程示意图;
20.图2为本技术实施例提供的另一种数据处理方法的流程示意图;
21.图3为本技术实施例提供的又一种数据处理方法的流程示意图;
22.图4为本技术实施例提供的又一种数据处理方法的流程示意图;
23.图5为本技术实施例提供的一种数据处理系统的示意图;
24.图6为本技术实施例提供的另一种数据处理系统的示意图;
25.图7为本技术实施例提供的一种数据处理装置的结构示意图;
26.图8为本技术实施例提供的另一种数据处理装置的结构示意图
27.图9为本技术实施例提供的一种电子设备的结构示意图。
具体实施方式
28.下面详细描述本技术的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,仅用于解释本技术,而不能解释为对本发明的限制。
29.本技术领域技术人员可以理解,除非特意声明,这里使用的单数形式“一”、“一个”、“所述”和“该”也可包括复数形式。应该进一步理解的是,本技术的说明书中使用的措辞“包括”是指存在所述特征、整数、步骤、操作、元件和/或组件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、组件和/或它们的组。应该理解,当我们称元件被“连接”或“耦接”到另一元件时,它可以直接连接或耦接到其他元件,或者也可以存在中间元件。此外,这里使用的“连接”或“耦接”可以包括无线连接或无线耦接。这里使用的措辞“和/或”包括一个或更多个相关联的列出项的全部或任一单元和全部组合。
30.为使本技术的目的、技术方案和优点更加清楚,下面将结合附图对本技术实施方式作进一步地详细描述。
31.本技术实施例提供了一种数据处理方法,如图1所示,该方法可以包括步骤s101、s102和s103。该方法可以由任一电子设备执行。在本技术实施例中,该方法由服务器(为了便于描述,以下将称为第一服务器,在实际应用中,也可以称为容灾环境、容灾系统、备用服务器等)执行。
32.在本技术实施例中,第一服务器和第二服务器(在实际应用中,也可以称为生产环境、生产系统、主服务器等)同步获取待处理任务,以及待处理任务的获取时间。第二服务器是当前对待处理任务进行处理的服务器,其中,获取的待处理任务被存储在第一服务器的第一存储空间中。
33.步骤s101:从第二服务器接收已处理任务的任务标识和指示信息。已处理任务是指已处理完成的待处理任务,指示信息表征了一个指定时间段。指示信息是在指定时间段内获取到的待处理任务处理完成之后生成的。
34.本技术实施例不对待处理任务的任务类型作限定,对于不同的应用场景可以为不同的待处理任务。比如,在通信技术领域,待处理任务可以是通信过程中产生的待处理任务,例如待处理任务可以包括但不限于通信电话单、短信话单、流量话单等。
35.对于任一待处理任务,待处理任务的获取时间是指服务器获取到该任务的系统时间,也就服务器获取到(如接收到)任务的时间。
36.对于任一待处理任务,待处理任务可以具有唯一标识该待处理任务的任务标识。本技术实施例不对待处理任务的任务标识作限定,例如,可以为空文件名、索引、序号等。
37.可选地,对于任一待处理任务,该待处理任务的任务标识可以与任务的获取时间相关。
38.指示信息可以表征任务获取时间在一个指定时间段内的待处理任务被处理完且成功发送处理结果,并且当在该指定时间段内获取到的待处理任务都处理完后,第二服务器生成指示信息,并将该指示信息发送给第一服务器。指示信息可以表示为任何形式,例如序号、字母、ascii码等。
39.例如,在该第0小时至第1小时内获取的待处理任务都处理完后,生成指示信息a;在第1小时至第2小时内获取的待处理任务都处理完后,生成指示信息b。但是在第1小时至第2小时内获取的待处理任务没有全部处理完成时,第二服务器并未生成指示信息b,并且没有将指示信息b发送给第一服务器。
40.在本技术的实施例中,第一服务器可以与第二服务器可以同步获取待处理任务。可选地,可以同步从任务采集服务器获取待处理任务。第一服务器和第二服务器分别包括
至少一个存储空间,例如,第一存储空间和第二存储空间。当获取到待处理任务时,第一服务器和第二服务器首先将待处理任务存储在第一服务器和第二服务器的第一存储空间中。
41.其中,第二服务器将已处理任务的任务标识和指示信息发送给发送第一服务器的方式,即第一服务器和第二服务器的数据交互方式,本技术实施例不作限定。可选地,第二服务器可以以各种方式将已处理任务的任务标识和指示信息发送给第一服务器。可选地,第二服务器可以以文件传输协议(file transfer protocol,ftp)或底层数据同步的方式将已处理任务的任务标识和指示信息发送给第一服务器。可选地,第二服务器可以响应于第一服务器的请求,将已处理完任务的任务标识和指示信息发送给第一服务器。可选地,可以将指示信息记录在日志中,并且第二服务器可以将该日志发送给第一服务器。
42.可选地,对于任一待处理任务,第二服务器可以根据任务获取时间对该待处理任务进行处理。在完成对该待处理任务的处理后,可以将该待处理任务的任务标识发送给第一服务器。在完成对任务获取时间在一个指定时间段的所有待处理任务的处理时,第二服务器可以生成处理结果并将处理结果发送给客户端或任务结果接收服务器(以下可以简称为上发),同时生成指示处理结果被成功发出的指示信息,并将该指示信息发送给第一服务器。第一服务器接收到待处理任务的任务标识,可以确定该待处理任务已经处理完成。第一服务器接收到该指示信息,可以确定任务获取时间在该指示信息对应的时间段内的待处理任务已经处理完成,并且处理结果被成功发送。
43.由于第一服务器接收到的任务标识只表示一个待处理任务被处理完成,而接收到的指示信息表示任务获取时间在指定时间段的任务都被处理完成且处理结果成功上发。因此,在第一服务器中,所接收的任务标识指示的已完成任务与指示信息指示的成功上发的任务之间可能存在不一致,任务标识指示的已完成任务可能并没有在第二服务器中被成功上发,第一服务器仍然需要对部分任务标识指示的已完成任务进行处理并上发。
44.假设任务标识为1,2,3
……
10的10个待处理任务的任务获取时间在第0小时至第1小时内,任务标识为11,12,13
……
20的10个待处理任务的任务获取时间在第1小时至第2小时内。
45.例如,第一服务器接收到的任务标识为1,2,3
……
15,其指示任务标识为1,2,3
……
15的待处理任务已经处理完成。此时,第一服务器只接收到指示信息a,其指示任务标识为1,2,3
……
10的10个待处理任务已经处理完成并上发。因此,在第一服务器中,所接收的任务标识指示的已完成任务与指示信息指示的成功上发的任务之间可能存在不一致,第一服务器仍然需要对任务标识为11,12,13,14,15的已完成任务进行处理并上发。
46.因此,本技术采用任务标识和指示信息来确定待处理任务,可以在接管后成功实现处理结果的连续上发。
47.步骤s102:将任务标识对应的待处理任务从第一服务器的第一存储空间转存至第二存储空间,并将任务标识对应的待处理任务从第一存储空间删除。
48.可选的,第一服务器可以通过文件清理进程将接收到的任务标识对应的待处理任务从第一存储空间转存至第二存储空间并将任务标识对应的待处理任务从第一存储空间删除。第一服务器将任务标识对应的待处理任务从第一存储空间删除的频率可以与从第二服务器接收已处理的待处理任务的任务标识的频率相同。换句话说,第一服务器在从第二服务器接收到一个已处理的待处理任务的任务标识后,随即将任务标识对应的待处理任务
从第一存储空间删除。
49.可选地,第一服务器将接收到的任务标识对应的待处理任务从第一存储空间转存至第二存储空间可以包括,第一服务器按照任务获取时间的先后顺序将对应的待处理任务存储在第二存储空间。
50.例如,第一服务器接收到的任务标识为1,2,3
……
15,其指示任务标识为1,2,3
……
15的待处理任务已经处理完成。第一服务器将接收到的任务标识为1,2,3
……
15的对应的待处理任务从第一存储空间转存至第二存储空间并将任务标识为1,2,3
……
15的对应的待处理任务从第一存储空间删除。
51.步骤s103:当接收到服务器切换指令时,根据最新接收到的指示信息和第二存储空间中存储的待处理任务的任务获取时间,确定需要处理的待处理任务,并对需要处理的待处理任务进行处理。
52.可选地,在第二服务器运行过程中,有时可能出现无法正常提供服务的中断情况,并且无法在一定的时间内解决,这种情况称为数据灾难,典型的例子有火灾、爆炸事件、地震、水灾等自然原因,以及电源、机器故障、人为因素等非自然原因引起的灾难。此时,监控服务器监控到异常情况或工程师发现异常情况,监控服务器或工程师可以向第一服务器发送服务器切换指令,即指示切换为用于对待处理任务进行处理的服务器。第一服务器可以根据切换指令对待处理任务进行处理(下文中也可以称为接管)。
53.如上所述,由于在第一服务器中,所接收的任务标识指示的已完成任务与指示信息指示的成功上发的任务之间可能存在不一致。例如,第一服务器在接收到已处理任务的任务标识时,将与已处理任务的任务标识对应的待处理任务从第一存储空间删除,但是指示信息指示该信息并未成功上发。所以在第一服务器接收到服务器切换指令的时刻,第一服务器的第一存储空间中存储的待处理任务可能与根据所存储的最新接收到的指示信息指示的待处理任务不同。因此本技术实施例可以根据最新接收到的指示信息和第二存储空间中存储的待处理任务的任务获取时间,确定需要处理的待处理任务,并对需要处理的待处理任务进行处理,将在下面步骤s201-s203详细进行描述。
54.通过从第二服务器接收已处理任务的任务标识和指示信息,将任务标识对应的待处理任务从第一服务器的第一存储空间转存至第二存储空间,并将任务标识对应的待处理任务从第一存储空间删除;当接收到服务器切换指令时,根据最新接收到的指示信息和第二存储空间中存储的待处理任务的任务标识,确定需要处理的待处理任务,并对需要处理的待处理任务进行处理,即,通过在第二服务器和第一服务器之间传输已处理任务的任务标识,并将已处理任务从第二服务器的第一存储空间删除,可以及时地释放第一存储空间的资源,通过在第二服务器和第一服务器之间传输指示信息,在接收到服务器切换指令时,基于最新接收到的指示信息和第二存储空间中存储的待处理任务的任务标识进行后续处理,可以及时地在第二服务器和第一服务器之间实现准确同步以及及时切换,提高了任务处理效率。
55.本技术实施例的另一种可能的实现方式,如图2所示,上述步骤s103:当接收到服务器切换指令时,根据最新接收到的指示信息和第二存储空间中存储的待处理任务的任务获取时间,确定需要处理的待处理任务,并对需要处理的待处理任务进行处理,可以包括以下步骤s201-s203。
56.步骤s201:根据第二存储空间中存储的待处理任务的任务获取时间,确定第二存储空间中存储的待处理任务中,是否存在任务获取时间在最新接收到的指示信息对应的指定时间段之后的待处理任务。
57.步骤s202:若存在,则确定需要处理的待处理任务为第二存储空间中任务获取时间在最新接收到的指示信息对应的指定时间段之后的待处理任务以及第一存储空间中存储的待处理任务。
58.步骤s203:若不存在,则确定需要处理的待处理任务是第一存储空间中存储的待处理任务。
59.当接收到服务器切换指令时,第一服务器可以根据所存储的最新接收到的指示信息确定对应的指定时间段,该指示信息指示任务获取时间在该指定时间段的待处理任务已经成功处理并上发。此时,第一服务器需要对任务获取时间在指示信息所对应的指定时间段之后的待处理任务进行处理。为了确定待处理任务,第一服务器可以先确定第二存储空间中是否存在任务获取时间在最新接收到的指示信息对应的指定时间段之后的待处理任务。若存在,则确定需要处理的待处理任务为第二存储空间中任务获取时间在最新接收到的指示信息对应的指定时间段之后的待处理任务以及第一存储空间中存储的待处理任务。若不存在,则确定需要处理的待处理任务是第一存储空间中存储的待处理任务。
60.例如,当第二服务器在已经对任务标识为1,2,3
……
15的待处理任务进行处理完后,将任务标识1,2,3
……
15发送到第一服务器,则第一服务器将与接收到的任务标识为1,2,3
……
15对应的待处理任务从第一存储空间删除并转存至第二存储空间。此时,由于任务标识为1,2,3
……
10的10个待处理任务已经处理完成,即任务获取时间在第0小时至第1小时内的待处理任务已经处理完成并上发,所以第二服务器可以将指示信息a发送到第一服务器,第一服务器接收并存储指示信息a。
61.若当第二服务器在处理任务标识为16的待处理任务时,发生故障,则第二服务器未能将任务标识为11,12,13
……
20的10个待处理任务,即任务获取时间在第1小时至第2小时内的待处理任务处理完成,因此第二服务器不会向第一服务器发送指示信息b。
62.此时,第一服务器的第一存储空间存储了任务标识为16,17,18
……
的待处理任务和指示信息a。在根据切换指令执行处理时,第一服务器确定其存储有指示信息a,则可以确定任务标识为1,2,3
……
10的待处理任务已经处理完成,并且需要对任务获取时间在第1小时至第2小时内的待处理任务进行处理,即任务标识为11,12,13
……
20的待处理任务。
63.第一服务器可以先确定第二存储空间中是否存在任务获取时间在第1小时至第2小时内的待处理任务。对于本示例,第二存储空间存储有任务获取时间在第1小时至第2小时内的任务标识为11,12,13,14,15的待处理任务,则第一服务器可以确定待处理任务为任务标识为11,12,13,14,15的待处理任务,以及第一存储空间中的任务标识为16,17,18
……
的待处理任务。
64.若在执行任务标识11的待处理任务时发生了故障,则第一服务器的第一存储空间存储了任务标识为11,12,13
……
的待处理任务和指示信息a。第一服务器可以确定任务获取时间在第1小时至第2小时内的待处理任务,即任务标识为11,12,13
……
的待处理任务在第一存储空间中,即可以确定第二存储空间中不存在任务获取时间在第1小时至第2小时内的待处理任务,则确定需要处理的待处理任务是第一存储空间中存储的待处理任务。
65.在确定需要处理的待处理任务后,第一服务器可以对需要处理的待处理任务进行处理。以下参照图3和图4描述对需要处理的待处理任务进行处理。
66.第一服务器根据最新接收到的指示信息和第二存储空间中待处任务的任务获取时间,即可确定需要处理的待处理任务并进行处理,第一服务器可以实现服务器的自动切换,而无需人工参与。
67.本技术实施例的另一种可能的实现方式,第一服务器对需要处理的待处理任务进行处理,如图3所示,包括以下步骤s301、s302和s303:
68.步骤s301:根据需要处理的待处理任务的任务获取时间,对需要处理的待处理任务进行处理。
69.如上所述,服务器在获取待处理任务时还获得待处理任务的获取时间。第一服务器在获取待处理任务后,首先将待处理任务存储在第一服务器的第一存储空间中,例如,可以根据待处理任务的任务获取时间先后顺序将待处理任务存储在第一服务器的第一存储空间中。
70.第一服务器可以对任务获取时间在指定时间段内的待处理任务进行处理,生成对应于该指定时间段的处理结果,并将处理结果发送给客户端或任务结果接收服务器(表示完成对待处理任务的处理)。例如,第一服务器可以每一小时对任务获取时间在该小时内的待处理任务进行处理,并生成处理结果。可选地,第一服务器可以对待处理任务进行以下处理:过滤错误待处理任务、对待处理任务进行格式转换、提取待处理任务所包含的信息、对待处理任务进行校验分析等等。第一服务器在对任务获取时间在指定时间段内的待处理任务处理完后,可以生成对应于该指定时间段的处理结果,并将处理结果发送给任务结果接收服务器或客户端。任务结果接收服务器或任务接收客户端可以为对处理结果进行对应处理的各种服务器或客户端,在本技术实施例中不作限定。
71.步骤s302:对于需要处理的任一待处理任务,在完成对该待处理任务的处理时,将该待处理任务的任务标识发送给第二服务器。
72.对于需要处理的任一待处理任务,在根据任务获取时间完成对该待处理任务的处理时,获取该待处理任务的任务标识,并将该待处理任务的任务标识发送给第二服务器。
73.可选地,第一服务器可以检测第二服务器是否正常运行,若未正常运行,则等待第二服务器正常运行后将待处理任务的任务标识发送给第二服务器。
74.可选地,可以设置管理服务器。当第二服务器出现故障时,第一服务器可以将待处理任务的任务标识发送给管理服务器,等待第二服务器正常运行后,由管理服务器将待处理任务的任务标识发送给第二服务器。
75.步骤s303:在完成对任务获取时间在一个指定时间段的待处理任务的处理时,生成指定时间段对应的指示信息,将指示信息发送给第二服务器。
76.在完成对任务获取时间在一个指定时间段的待处理任务的处理时,第一服务器除了生成处理结果外,还可以同时生成对应于该指定时间段的指示信息。第一服务器将处理结果发送给客户端或任务结果接收服务器,并将对应于该指定时间段的指示信息发送给第二服务器。
77.可选地,第一服务器可以检测第二服务器是否正常运行,若未正常运行,则等待第二服务器正常运行后将指示信息发送给第二服务器。
78.可选地,可以设置管理服务器。当第二服务器出现故障时,第一服务器可以将指示信息发送给管理服务器,等待第二服务器正常运行后,由管理服务器将指示信息发送给第二服务器。
79.作为示例,对于待处理任务为通信话单的情况,第一服务器在获取该通信话单时还获得通信话单对应的获取时间。第一服务器在获取通信话单后,首先将该通信话单存储在第一服务器的第一存储空间中,例如,可以根据通信话单的任务获取时间先后顺序将通信话单存储在第一服务器的第一存储空间中。第一服务器可以对任务获取时间在第1小时至第2小时内的通信话单进行处理,并生成对应于获取时间在第1小时至第2小时内的通信话单的处理结果。例如,可以对获取时间在第1小时至第2小时内的通信话单进行错误话单过滤、话单格式转换、提取话单中的所需信息等处理。处理结果可以例如是获取时间在第1小时至第2小时内的多个用户的通话记录,例如,ascii码形式的通话记录。第一服务器可以将该通话记录发送给客户端或任务结果接收服务器。
80.在完成对某一通信话单的处理后,可以获取该通信话单的任务标识,例如,与该通信话单对应的空文件名,并将与该通信话单对应的空文件名发送给第二服务器。
81.在完成获取时间在该在第1小时至第2小时内的多个通信话单的处理后,第一服务器除了可以生成处理结果外,还可以生成对应于时间段第1小时至第2小时的指示信息,例如指示信息b,并且可以将该指示信息b发送给第二服务器。
82.可选地,第二服务器接收到通信话单的空文件名后,可以按照类似于步骤s102的方法进行处理。
83.可选地,第二服务器接收到指示信息b后,可以存储指示信息b,并且当接收到服务器切换指令时,可以按照类似于步骤s103的方法进行处理。
84.根据本技术实施例,可选地,第一服务器对需要处理的待处理任务进行处理,如图3所示,还可以包括步骤s304:对于需要处理的任一待处理任务,在完成对该待处理任务的处理时,将待处理任务存储到第二存储空间中,并从第一存储空间删除该待处理任务。
85.可选地,对于需要处理的任一待处理任务,在完成对该待处理任务的处理时,可以将该待处理任务存储到第一存储的第二存储空间中,并从第一存储空间中删除该待处理任务。
86.可选地,对于需要处理的任一待处理任务,可以按照待处理任务的获取时间先后顺序地将待处理任务的存储到第二存储空间中。
87.本技术实施例的另一种可能的实现方式,该数据处理方法还可以包括:当接收到任务重处理指令时,从第二存储空间中获取任务重处理指令对应的已处理任务,并对获取的已处理任务重新处理。
88.可选地,任务重处理指令可以包括标识信息,并该标识信息表示一个处理结果与对应的多个待处理任务之间的对应关系。
89.当任务结果接收服务器或客户端接收到处理结果后,确定任务处理结果可能存在错误时,可以向第一服务器发送任务重处理指令。
90.在第一服务器如果接收到任务重处理指令,则第一服务器可以确定该任务重处理指令中包括的标识信息并确定与标识信息对应的已处理任务,然后对所确定的已处理任务索引进行重处理。
91.例如,标识信息可以包括指示信息,则确定与标识信息对应的已处理任务并对所确定的已处理任务进行重处理,可以包括根据与指示信息对应的指定时间段,从第二存储空间中找到任务获取时间在该指定时间段内的已处理任务,然后对确定的已处理任务进行重处理。
92.可选地,在对确定的已处理任务重处理之后,可以将处理结果重新发送给任务结果接收服务器或客户端。
93.当接收到任务重处理指令时,通过根据标识信息对已处理任务进行重处理,可以获得重新处理后的正确结果,为处理过程中出现错误的情况建立了纠正机制,保证了最终处理结果的正确率。
94.本技术另一种可能的实现方式,如图4所示,该数据处理方法还可以包括:步骤s401:对于每个待处理任务,可以对该待处理任务建立索引。
95.在对待处理任务建立索引后,第一服务器对需要处理的待处理任务进行处理可以包括以下步骤:
96.步骤s402:对需要处理的每个待处理任务,在对该待处理任务进行处理之前,若该待处理任务的索引与第二存储空间中的各个待处理任务的索引不同,则对该待处理任务进行处理。
97.步骤s403:若该待处理任务的索引与第二存储空间中的任一待处理任务的索引相同,则将该待处理任务转存至第二存储空间中,并将该待处理任务从第一存储空间中删除。
98.可选地,对于每个待处理任务,对该待处理任务建立索引包括,根据待处理任务包括的数据内容建立索引。例如,对于待处理任务为通信话单的情况,可以根据通信话单中包括的电话号码、通话时间、话单序列号等中的一项或多项建立索引。
99.可选地,索引可以是任何能够唯一标识待处理任务的标识,本技术实施例不对索引的形式作限定。
100.其中,第二空间存储已经处理完的待处理任务。如果有待处理任务的索引与第二存储空间中的已处理完的索引相同,则表示该任务之前被处理过了,无需对该待处理任务进行处理,以防止任务的重复处理。
101.作为示例,对于待处理任务为通信话单的情况,在获取到该通信话单时,可以对任一通信话单建立索引,例如,电话号码 时间。在建立索引后,第一服务器对需要处理的通信话单进行处理之前,首先判断该通信话单的索引与第二存储空间中的通信话单的索引是否相同,即判断需要处理的通信话单的电话号码 时间与第二存储空间中的通信话单的电话号码 时间是否相同。可选地,若该需要处理的通信话单的索引与第二存储空间中的通信话单的索引不同,则对该需要处理的通信话单进行处理。
102.可选地,若该需要处理的通信话单的索引与第二存储空间中的任一通信话单的索引相同,即判断通信话单与第二存储空间中的该任一通信话单重复,则直接将该需要处理的通信话单转存至第二存储空间中,并将需要处理的通信话单从第一存储空间中删除。
103.可选地,在根据待处理任务的索引确定需要对待处理任务进行处理(步骤s401)之后,该数据处理方法可以根据上述步骤s301、s302、s303和s304对待处理任务进行处理,在此不再赘述。
104.可选地,可以通过建立索引数据库来执行上述步骤s401-s403。该索引数据库可以
同时连接第一服务器和第二服务器。索引数据库可以为待处理任务建立索引,并以实时主备模式对第一服务器和第二服务器中的待处理任务处理进行查重。实时主备模式是指实时监测主服务器(可以为第一服务器或第二服务器),并对主处理服务器的待处理任务的处理进行查重。通过索引数据库来进行查重处理,可以保证数据安全,并有效减少冗余任务的处理。
105.可选地,可以通过该索引数据库在第一服务器与第二服务器之间传输上述待处理任务的任务标识或指示信息。
106.通过对待处理任务的索引与已处理任务的索引进行对比,只对非重复的待处理任务进行处理,而不对重复数据进行处理,减少了待处理任务的冗余,提高了任务处理结果的准确性。
107.基于与本技术提供的数据处理方法相同的原理,本技术实施例还提供了一种数据处理系统。图5为本技术实施例提供的一种数据处理系统的示意图。如图5所示,数据处理系统可以包括第一服务器、第二服务器、采集服务器(也可以称为任务采集服务器)和监控服务器(也可以称为任务监控服务器)。第一服务器、第二服务器、采集服务器和监控服务器之间可以通过云服务器通信。
108.如上所述,第一服务器和第二服务器可以通过云服务器同步从采集服务器获取待处理任务,以及待处理任务的获取时间。在获取到待处理任务后,可以按照上述任务处理方法执行处理。
109.监控服务器可以监控第一服务器和第二服务器中作为主服务器的状态。在监测到主服务器的状态异常或发生故障时,在第一服务器和第二服务器之间切换主服务器。
110.基于与本技术提供的数据处理方法相同的原理,本技术实施例还提供了另一种数据处理系统。图6为本技术实施例提供的另一种数据处理系统的示意图。
111.如图6所示,对于本技术实施例,该数据处理系统包括主生产环境(对应于第二服务器)和容灾环境(对应于第一服务器)。
112.容灾环境和生产环境分别包括用于对待处理任务进行处理的业务进程a和业务进程b、用于存储待处理任务的文件目录、用于对已处理任务进行清理的文件清理常驻进程。其中,文件目录可以包括多个存储空间,例如,第一存储空间和第二存储空间。
113.容灾环境和生产环境可以同步从任务采集服务器获取待处理任务,例如通过文件传输过程从系统输入文件获取待处理任务。容灾环境和生产环境将获取的待处理任务存储在各自的文件目录中。
114.对于任一待处理任务,主生产环境在处理完该待处理任务后,可以将标识该任务的已处理文件列表发送给容灾环境。容灾环境从生产环境接收已处理文件列表。容灾环境在接收到已处理文件列表后,可以确定该待处理任务已经处理完成,并利用文件清理常驻进程清理该待处理任务。
115.在完成对任务获取时间在一个指定时间段的所有待处理任务的处理时,主生产环境可以生成处理结果并将处理结果发送给客户端或任务结果接收服务器(以下可以简称为上发),同时生成进度日志文件,并将进度日志文件发送给容灾环境,其中进度日志文件包括指示信息,指示信息可以表征任务获取时间在一个指定时间段内的待处理任务被处理完成且成功发送处理结果。容灾环境在接收到进度日志文件后,可以存储接收到的进度日志
文件,以用于在主生产环境发生故障后接管主生产环境。
116.可选地,在成功上发一个处理结果后,主生产环境可以生成表示该处理结果与对应的多个待处理任务之间的对应关系的输入输出映射关系文件,并将可以将输入输出映射关系文件发送给容灾环境。容灾环境在接收到输入输出映射关系文件后,可以存储接收到的输入输出映射关系文件,以用于接收到重处理指令时进行重处理。
117.可选地,主生产环境可以以文件传输协议(file transfer protocol,ftp)或底层数据同步的方式将已处理文件列表、进度日志文件和输入输出映射关系文件发送给容灾环境。
118.当容灾环境接收到服务器切换指令时,容灾环境根据最新接收到的进度日志文件和文件目录中的第二存储空间存储的待处理任务的任务获取时间,确定第二存储空间中存储的待处理任务中,是否存在任务获取时间在最新接收到的指示信息对应的指定时间段之后的待处理任务。
119.当第二存储空间中存在任务获取时间在最新接收到的指示信息对应的指定时间段之后的待处理任务时,容灾环境确定需要处理的待处理任务为第二存储空间中任务获取时间在最新接收到的指示信息对应的指定时间段之后的待处理任务以及第一存储空间中存储的待处理任务。
120.当第二存储空间中不存在任务获取时间在最新接收到的指示信息对应的指定时间段之后的待处理任务时,容灾环境可以确定需要处理的待处理任务为第一存储空间中存储的待处理任务。
121.容灾环境可以根据上述步骤s201-s203对确定的需要处理的待处理任务进行处理,并将处理结果发送给客户端或任务结果接收服务器。
122.可选地,在容灾环境对待处理任务进行处理的过程中,如果接收到任务重处理指令,则容灾环境可以确定该任务重处理指令中包括的标识信息并确定与标识信息对应的已处理任务,然后对所确定的已处理任务进行重处理。
123.可选地,对于每个待处理任务,可以对该待处理任务建立索引。可以利用查重内存数据库来为生产环境和容灾环境中的待处理任务建立索引,并利用索引去重,以确保待处理任务的单一性,具体操作可以参照上述步骤s401-s403。
124.可选地,生产环境和容灾环境互为主备服务器,在发生数据灾难后,生产环境和容灾环境中的一者可以接管另一者的进程,以确保任务的正常处理。
125.基于与本技术提供的数据处理方法相同的原理,本技术实施例还提供了一种数据处理装置。图7为本技术实施例提供的一种数据处理装置的结构示意图,如图7所示,本实施例的数据处理装置700可以包括任务接收模块701、转存储模块702和任务处理模块703。该数据处理装置可以包含于第一服务器,第一服务器和第二服务器同步获取待处理任务,其中第二服务器是当前对待处理任务进行处理的服务器,其中,获取的待处理任务被存储在第一服务器的第一存储空间中。
126.任务接收模块,用于从第二服务器接收已处理任务的任务标识和指示信息,已处理任务是指已处理完成的待处理任务,指示信息表征了一个指定时间段,指示信息是在指定时间段内获取到的待处理任务处理完成之后生成的。
127.转存储模块,用于将任务标识对应的待处理任务的第一存储空间转存至从第一服
务器第二存储空间,并将任务标识对应的待处理任务从第一存储空间删除。
128.任务处理模块,用于当接收到服务器切换指令时,根据最新接收到的指示信息和第二存储空间中存储的待处理任务的任务标识,确定需要处理的待处理任务,并对需要处理的待处理任务进行处理。
129.通过从第二服务器接收已处理任务的任务标识和指示信息,将任务标识对应的待处理任务从第一服务器的第一存储空间转存至第二存储空间,并将任务标识对应的待处理任务从第一存储空间删除;当接收到服务器切换指令时,根据最新接收到的指示信息和第二存储空间中存储的待处理任务的任务标识,确定需要处理的待处理任务,并对需要处理的待处理任务进行处理,即,通过在第二服务器和第一服务器之间传输已处理任务的任务标识,并将已处理任务从第二服务器的第一存储空间删除,可以及时地释放第一存储空间的资源,通过在第二服务器和第一服务器之间传输指示信息,在接收到服务器切换指令时,基于最新接收到的指示信息和第二存储空间中存储的待处理任务的任务标识进行后续处理,可以及时地在第二服务器和第一服务器之间实现准确同步以及及时切换,提高了任务处理效率。
130.本实施例的数据处理装置可执行本技术实施例提供的一种数据处理方法,其实现原理相类似,此处不再赘述。
131.图8为本技术实施例提供的另一种数据处理装置的结构示意图。如图8所示,本实施例的数据处理装置800可以包括:任务接收模块801、转存储模块802、任务处理模块803,其中任务处理模块803可以包括重处理单元8031和查重单元8032。其中,任务接收模块801、转存储模块802、任务处理模块803可以与图7所示的任任务接收模块701、转存储模块702、任务处理模块703相同。
132.该数据处理装置可以为第一服务器,第一服务器和第二服务器同步获取待处理任务,其中第二服务器是当前对待处理任务进行处理的服务器,其中,获取的待处理任务被存储在第一服务器的第一存储空间中。
133.在一个实施例中,任务接收模块用于从第二服务器接收已处理任务的任务标识和指示信息,已处理任务是指已处理完成的待处理任务,指示信息表征了一个指定时间段,指示信息是在指定时间段内获取到的待处理任务处理完成之后生成的。
134.转存储模块用于将任务标识对应的待处理任务第一存储空间转存至从第一服务器的第二存储空间,并将任务标识对应的待处理任务从第一存储空间删除。
135.任务处理模块用于当接收到服务器切换指令时,根据最新接收到的指示信息和第二存储空间中存储的待处理任务的任务标识,确定需要处理的待处理任务,并对需要处理的待处理任务进行处理。
136.在一个实施例中,任务处理模块用于,根据第二存储空间中存储的待处理任务的任务获取时间,确定第二存储空间中存储的待处理任务中,是否存在任务获取时间在最新接收到的指示信息对应的指定时间段之后的待处理任务;
137.若存在,则需要处理的待处理任务为第二存储空间中任务获取时间在最新接收到的指示信息对应的指定时间段之后的待处理任务以及第一存储空间中存储的待处理任务;
138.若不存在,则需要处理的待处理任务是第一存储空间中存储的待处理任务。
139.在一个实施例中,任务处理模块还用于,根据需要处理的待处理任务的任务获取
时间,对需要处理的待处理任务进行处理;
140.对于需要处理的任一待处理任务,在完成对该待处理任务的处理时,将该待处理任务的任务标识发送给第二服务器;
141.在完成对任务获取时间在一个指定时间段的待处理任务的处理时,生成指定时间段对应的指示信息,将指示信息发送给第二服务器。
142.在一个实施例中,任务处理模块还用于,对于需要处理的任一待处理任务,在完成对该待处理任务的处理后,将待处理任务存储到第二存储空间中,并从第一存储空间删除该待处理任务。
143.在一个实施例中,重处理单元用于当接收到任务重处理指令时,从第二存储空间中获得任务重处理指令对应的已处理任务,并对获取的已处理任务重新处理。
144.在一个实施例中,查重单元用于,对于每个待处理任务,对该待处理任务建立索引。
145.在一个实施例中,查重单元还用于,对需要处理的每个待处理任务,在对待处理任务进行处理之前,若该待处理任务的索引与第二存储空间中的各待处理任务的索引不同,则由处理模块对该待处理任务进行处理;
146.若该待处理任务的索引与第二存储空间中的任一待处理任务的索引相同,则由转存储模块将该待处理任务转存至第二存储空间中,并将该待处理任务从第一存储空间中删除。
147.在一个实施例中,对于每个待处理任务,待处理任务的任务标识与待处理任务的获取时间有关。
148.本实施例的数据处理装置可执行本技术实施例提供的一种数据处理方法,其实现原理相类似,此处不再赘述。
149.本技术实施例提供了一种电子设备,如图9所示,图9所示的电子设备9000包括:处理器9001和存储器9003。其中,处理器9001和存储器9003相连,如通过总线9002相连。可选地,电子设备9000还可以包括收发器9004。需要说明的是,实际应用中收发器9004不限于一个,该电子设备9000的结构并不构成对本技术实施例的限定。
150.其中,处理器9001应用于本技术实施例中,用于实现图7所示的转存储模块和任务处理模块的功能。收发器9004包括接收机和发射机,收发器9004应用于本技术实施例中,用于实现图7所示的任务接收模块的功能。
151.处理器9001可以是cpu,通用处理器,dsp,asic,fpga或者其他可编程逻辑器件、晶体管逻辑器件、硬件部件或者其任意组合。其可以实现或执行结合本技术公开内容所描述的各种示例性的逻辑方框,模块和电路。处理器9001也可以是实现计算功能的组合,例如包含一个或多个微处理器组合,dsp和微处理器的组合等。
152.总线9002可包括一通路,在上述组件之间传送信息。总线9002可以是pci总线或eisa总线等。总线9002可以分为地址总线、数据总线、控制总线等。为便于表示,图9中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
153.存储器9003可以是rom或可存储静态信息和指令的其他类型的静态存储设备,ram或者可存储信息和指令的其他类型的动态存储设备,也可以是eeprom、cd-rom或其他光盘存储、光碟存储(包括压缩光碟、激光碟、光碟、数字通用光碟、蓝光光碟等)、磁盘存储介质
或者其他磁存储设备、或者能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质,但不限于此。
154.存储器9003用于存储执行本技术方案的应用程序代码,并由处理器9001来控制执行。处理器9001用于执行存储器9003中存储的应用程序代码,以实现图7和图8所示实施例提供的数据处理装置的动作。
155.本技术实施例提供了一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该程序被处理器执行时实现上述数据处理方法。与现有技术相比,通过从第二服务器接收已处理任务的任务标识和指示信息,将任务标识对应的待处理任务从第一服务器的第一存储空间转存至第二存储空间,并将任务标识对应的待处理任务从第一存储空间删除;当接收到服务器切换指令时,根据最新接收到的指示信息和第二存储空间中存储的待处理任务的任务标识,确定需要处理的待处理任务,并对需要处理的待处理任务进行处理,即,通过在第二服务器和第一服务器之间传输已处理任务的任务标识,并将已处理任务从第二服务器的第一存储空间删除,可以及时地释放第一存储空间的资源,通过在第二服务器和第一服务器之间传输指示信息,在接收到服务器切换指令时,基于最新接收到的指示信息和第二存储空间中存储的待处理任务的任务标识进行后续处理,可以及时地在第二服务器和第一服务器之间实现准确同步以及及时切换,提高了任务处理效率。
156.本技术实施例提供了一种计算机可读存储介质适用于上述方法任一实施例。在此不再赘述。
157.应该理解的是,虽然附图的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,其可以以其他的顺序执行。而且,附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,其执行顺序也不必然是依次进行,而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
158.以上所述仅是本发明的部分实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献