一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

一种跨系统数据同步方法和装置与流程

2021-12-07 21:51:00 来源:中国专利 TAG:


1.本发明涉及计算机技术领域,尤其涉及一种跨系统数据同步方法和装置。


背景技术:

2.在技术发展的过程中,新系统刚研发后的一段时间内常常出现新、老系统并存的情形,此时老系统和新系统会公用一部分的数据,新系统需要同步老系统内的相应数据,现有技术中通常采用共享数据库或者直接通过数据库变更日志实现数据同步。
3.在实现本发明过程中,发明人发现现有技术中至少存在如下问题:
4.现有的跨系统数据同步方法中存在的数据同步难度系数高、无法针对业务需求对数据同步进行灵活性设置,以及数据同步效率低的问题。


技术实现要素:

5.有鉴于此,本发明实施例提供一种跨系统数据同步方法和装置,能够显著降低数据同步难度系数,实现跨系统数据同步的灵活性设置,同时还能有效提高数据同步效率。
6.为实现上述目的,根据本发明实施例的第一方面,提供了一种跨系统数据同步方法,包括:
7.接收第一系统发送的待同步数据,根据待同步数据的数据编号调用第一系统的数据查询接口,核查待同步数据的时间戳,以确定数据编号对应的待同步数据为最近更新数据;
8.根据第二系统对应的数据表结构类型和业务需求对待同步数据进行转换处理;
9.判断待同步数据是否转换成功,若是,则确定跨系统数据同步完成;若否,则将转换失败的待同步数据发送至重试队列,对重试队列中的待同步数据再次进行转换处理,以实现跨系统数据同步。
10.进一步地,在根据第二系统对应的数据表结构类型和业务需求对待同步数据进行转换处理的步骤之前,还包括:
11.确定待同步数据的业务类型,根据待同步数据的业务类型和过滤条件对待同步数据进行过滤处理,其中,过滤条件与业务需求相关联。
12.进一步地,在根据第二系统对应的数据表结构类型和业务需求对待同步数据进行转换处理的步骤之前,还包括:
13.确定待同步数据的业务类型,根据待同步数据的业务类型,确定不同业务类型的待同步数据对应的转换处理顺序和转换处理周期。
14.进一步地,根据第二系统对应的数据表结构类型和业务需求对待同步数据进行数据转换处理的步骤包括:
15.根据业务需求确定待同步数据对应的转换类型,根据转换类型和第二系统对应的数据表结构类型对待同步数据进行转换处理,其中,转换处理包括新增处理和/或修改处理。
16.进一步地,在根据业务需求确定待同步数据对应的转换类型的步骤之后,还包括:根据待同步数据对应的转换类型对待同步数据执行锁操作。
17.进一步地,根据转换类型分别构建重试队列,将转换失败的待同步数据发送至重试队列的步骤包括:
18.确定转换失败的待同步数据对应的转换类型,并将转换失败的待同步数据发送至相应转换类型的重试队列。
19.进一步地,若待同步数据转换成功,将转换成功的待同步数据的状态更新为已同步;所述方法还包括:
20.设置校对周期和/或校对参数,根据校对周期和/或校对参数调用数据查询接口,以确定特定时期内第一系统中待同步数据的数量,校对第一系统中待同步数据的数量与第二系统中已同步数据的数量是否一致;若不一致,将不一致的待同步数据进行转换处理。
21.根据本发明实施例的第二方面,提供了一种跨系统数据同步装置,包括:
22.数据接收模块,用于接收第一系统发送的待同步数据,根据待同步数据的数据编号调用第一系统的数据查询接口,核查待同步数据的时间戳,以确定数据编号对应的待同步数据为最近更新数据;
23.数据转换模块,用于根据第二系统对应的数据表结构类型和业务需求对待同步数据进行转换处理;
24.重试模块,用于判断待同步数据是否转换成功,若是,则确定跨系统数据同步完成;若否,则将转换失败的待同步数据发送至重试队列,对重试队列中的待同步数据再次进行转换处理,以实现跨系统数据同步。
25.根据本发明实施例的第三方面,提供了一种电子设备,包括:
26.一个或多个处理器;
27.存储装置,用于存储一个或多个程序,
28.当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如上述任一种跨系统数据同步方法。
29.根据本发明实施例的第四方面,提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如上述任一种跨系统数据同步方法。
30.上述发明中的一个实施例具有如下优点或有益效果:因为采用接收第一系统发送的待同步数据,根据待同步数据的数据编号调用第一系统的数据查询接口,核查待同步数据的时间戳,以确定数据编号对应的待同步数据为最近更新数据;根据第二系统对应的数据表结构类型和业务需求对待同步数据进行转换处理;判断待同步数据是否转换成功,若是,则确定跨系统数据同步完成;若否,则将转换失败的待同步数据发送至重试队列,对重试队列中的待同步数据再次进行转换处理,以实现跨系统数据同步的技术手段,所以克服了现有的跨系统数据同步方法中存在的难度系数高、无法针对业务需求对数据同步进行灵活性设置,以及数据同步效率低的技术问题,进而达到降低数据同步难度系数,实现跨系统数据同步的灵活性设置,同时还能有效提高数据同步效率的技术效果。
31.上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
32.附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
33.图1是根据本发明第一实施例提供的跨系统数据同步方法的主要流程的示意图;
34.图2是根据本发明第二实施例提供的跨系统数据同步方法的主要流程的示意图;
35.图3是根据本发明实施例提供的跨系统数据同步装置的主要模块的示意图;
36.图4是本发明实施例可以应用于其中的示例性系统架构图;
37.图5是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。
具体实施方式
38.以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
39.图1是根据本发明第一实施例提供的跨系统数据同步方法的主要流程的示意图;如图1所示,本发明实施例提供的跨系统数据同步方法主要包括:
40.步骤s101,接收第一系统发送的待同步数据,根据待同步数据的数据编号调用第一系统的数据查询接口,核查待同步数据的时间戳,以确定数据编号对应的待同步数据为最近更新数据。
41.具体地,根据本发明实施例,第一系统将待同步的数据发送至第二系统。根据本发明实施例的一具体实施方式,第一系统为老系统,第二系统为新系统(或者,第一系统为新系统,第二系统为老系统),需要说明的是,上述示例并不作为对本发明实施例的限定,本发明中的第一系统、第二系统可以指任意需要执行数据同步操作的系统,第二系统对应的系统数量大于或等于一个。
42.现有的跨系统同步方法中,新系统常常采取了新的设计,导致新、老系统之间的数据库表结构存在差异,采用共享数据库需要做表结构上的兼容,数据同步难度高;而数据库变更日志对数据的时间顺序性有严格的要求,无法根据新系统的业务需求进行灵活性设置。
43.在实际执行转换处理的过程中,由于处理效率的问题,某待同步数据发送至第二系统,在等待执行转换处理的过程中,第一系统内部对该待同步数据可能执行了更新,进而导致第二系统内等待处理的待同步数据不是最近更新的数据,通过上述设置,在执行转换处理的步骤之前,核查待同步数据的时间戳,保证该待处理数据为最近更新的数据(若时间戳显示该数据编号的待同步数据不是最近更新数据,则需要调用数据获取接口获取该数据编号对应的最近更新数据),能够避免不必要的同步操作,显著提升数据同步效率。
44.步骤s102,根据第二系统对应的数据表结构类型和业务需求对待同步数据进行转换处理。
45.不同系统之间实现数据同步的一个难点是,不同系统对应的数据表接口类型不同,通过上述设置,根据第二系统的数据表结构类型和业务需求,既能快速实现数据同步,还能根据业务需求灵活性设置进行数据同步。
46.示例性地,根据本发明实施例,在根据第二系统对应的数据表结构类型和业务需求对待同步数据进行转换处理的步骤之前,还包括:
47.确定待同步数据的业务类型,根据待同步数据的业务类型和过滤条件对待同步数据进行过滤处理,其中,过滤条件与业务需求相关联。
48.在实际处理过程中,第二系统并不需要将第一系统发送的数据进行全部同步处理,而是可以根据第二系统自身的业务需求灵活选择指定业务类型的数据进行处理。通过上述设置,根据业务需求制定过滤条件,根据过滤条件和待同步数据的业务类型对待同步数据进行过滤处理,既能提高数据同步效率,又能实现数据同步的灵活性设置。
49.进一步地,根据本发明实施例,在根据第二系统对应的数据表结构类型和业务需求对待同步数据进行转换处理的步骤之前,还包括:
50.确定待同步数据的业务类型,根据待同步数据的业务类型,确定不同业务类型的待同步数据对应的转换处理顺序和转换处理周期。
51.通过上述设置,根据业务类型确定待同步数据对应的转换处理顺序和转换处理周期,有利于将相同业务类型的待同步数据执行批量同步处理,进一步提高数据同步效率。
52.根据本发明实施例的一具体实施方式,针对第二系统的业务需求,还可针对待同步数据的业务类型设置同步优先级,实现指定业务类型的待同步数据进行优先同步转换。
53.优选地,根据本发明实施例,上述根据第二系统对应的数据表结构类型和业务需求对待同步数据进行数据转换处理的步骤包括:
54.根据业务需求确定待同步数据对应的转换类型,根据转换类型和第二系统对应的数据表结构类型对待同步数据进行转换处理,其中,转换处理包括新增处理和/或修改删除处理。
55.第二系统的业务需求一方面可以指定第二系统需要进行转换处理的待同步数据的业务类型,以实现对待同步数据进行过滤,实现灵活设置同步的业务类型;另一方面,还可针对各业务需求确定待同步数据的转换类型,具体地,业务需求中可以指定某一业务类型数据中某些字段是需要进行转换同步的,某些字段是不需要转换同步的,进而可以确定待同步数据的转换类型是新增,还是修改(修改中包括了删除)。
56.根据本发明实施例,针对不同转换类型的待同步数据可以划分为两个转换处理队列,新增处理队列和修改处理队列(包括删除,此部分也可以将修改与删除分割开进行转换处理),然后同一处理队列的待同步数据可以执行相同的处理操作,进而实现批量同步处理,提升数据同步效率。
57.新增修改,是指在当前系统的数据表中增加新的数据;修改处理,是指将第一系统中更新的数据(发生了变化的数据)更新到当前系统的数据表中。
58.进一步地,根据本发明实施例,在根据业务需求确定待同步数据对应的转换类型的步骤之后,还包括:根据待同步数据对应的转换类型对待同步数据执行锁操作。
59.由于上述表述中提及构建不同的消息处理队列,通过上述加锁操作,可以避免由于多个转换处理方对同一待同步数据执行转换处理,进而导致处理异常的情形。
60.步骤s103,判断待同步数据是否转换成功,若是,则确定跨系统数据同步完成;若否,则将转换失败的待同步数据发送至重试队列,对重试队列中的待同步数据再次进行转换处理,以实现跨系统数据同步。
61.现有方法中对于同步失败的数据进行重试常常导致待同步数据挤压,数据同步效率低。即现有方法中常要求从外部(第一系统)中重新获取数据在执行同步,常导致消息积压、无限重试、影响同步效率等问题。本发明实施例通过上述设置,对于转换失败的数据,将其发送至重试队列,实现了从内部(第二系统)进行重新同步处理,外部不会感知到内部的重试操作,内部还可以通过人工介入来处理各种异常数据(同步失败的数据),如,对于重试次数达到某一阈值时,就可以人工介入,避免无限重试影响同步效率。
62.可以理解的,在重试队列再次进行转换处理之前,还包括:根据待同步数据的数据编号调用第一系统的数据查询接口核查待同步数据的时间戳,以确定数据编号对应的待同步数据为最近更新数据。
63.进一步地,根据本发明实施例,上述根据转换类型分别构建重试队列,将转换失败的待同步数据发送至重试队列的步骤包括:
64.确定转换失败的待同步数据对应的转换类型,并将转换失败的待同步数据发送至相应转换类型的重试队列。
65.通过上述设置,对于转换失败的数据,可根据其对应的转换类型设置多个重试队列,以提升数据同步效率。
66.优选地,根据本发明实施例,若待同步数据转换成功,将转换成功的待同步数据的状态更新为已同步;上述跨系统数据同步方法还包括:
67.设置校对周期和/或校对参数,根据校对周期和/或校对参数调用数据查询接口,以确定特定时期内第一系统中待转换数据的数量,校对第一系统中待同步数据的数量与第二系统中已转换数据的数量是否一致;若不一致,将不一致的待同步数据进行转换处理。
68.上述设置可以作为本发明实施例提供的跨系统数据同步方法的一个兜底策略。通过设置校对周期和/或校对参数,能够定时的对同步数据进行校对,校对参数可以为关键字段等形式,用于检测关键字段对应的数据全部进行了同步操作,进而提升了跨系统数据同步的准确率。
69.根据本发明实施例的技术方案,因为采用接收第一系统发送的待同步数据,根据待同步数据的数据编号调用第一系统的数据查询接口,核查待同步数据的时间戳,以确定数据编号对应的待同步数据为最近更新数据;根据第二系统对应的数据表结构类型和业务需求对待同步数据进行转换处理;判断待同步数据是否转换成功,若是,则确定跨系统数据同步完成;若否,则将转换失败的待同步数据发送至重试队列,对重试队列中的待同步数据再次进行转换处理,以实现跨系统数据同步的技术手段,所以克服了现有的跨系统数据同步方法中存在的难度系数高、无法针对业务需求对数据同步进行灵活性设置,以及数据同步效率低的技术问题,进而达到降低数据同步难度系数,实现跨系统数据同步的灵活性设置,同时还能有效提高数据同步效率的技术效果。
70.图2是根据本发明第二实施例提供的跨系统数据同步方法的主要流程的示意图;本发明实施例的一应用场景是,新系统同步老系统内的数据,如图2所示,本发明实施例提供的跨系统数据同步方法主要包括:
71.步骤s201,接收第一系统发送的待同步数据,确定待同步数据的业务类型,根据待同步数据的业务类型和过滤条件对待同步数据进行过滤处理。
72.具体地,过滤条件与业务需求相关联。在实际处理过程中,第二系统并不需要将第
一系统发送的数据进行全部同步处理,而是可以根据第二系统自身的业务需求灵活选择指定业务类型的数据进行处理。通过上述设置,根据业务需求制定过滤条件,根据过滤条件和待同步数据的业务类型对待同步数据进行过滤处理,既能提高数据同步效率,又能实现数据同步的灵活性设置。
73.步骤s202,根据待同步数据的业务类型确定不同业务类型的待同步数据对应的转换处理顺序和转换处理周期。
74.通过上述设置,根据业务类型确定待同步数据对应的转换处理顺序和转换处理周期有利于将相同业务类型的待同步数据执行批量同步处理,进一步提高数据同步效率。例如,老系统中a部门的业务类型是订单,b部门对应的业务类型是客服日志,新系统的业务需求中只要求同步a部门对应业务类型的数据,不需要同步b部门业务类型的数据,就可以通过设置过滤条件来实现。
75.进一步地,根据本发明实施例,还包括:针对第二系统的业务需求,还可针对待同步数据的业务类型设置同步优先级,实现指定业务类型的待同步数据进行优先同步转换。
76.步骤s203,根据转换处理顺序和转换处理周期确定目标同步数据,根据目标同步数据的数据编号调用第一系统的数据查询接口,核查目标同步数据的时间戳,以确定数据编号对应的目标同步数据为最近更新数据。
77.通过上述设置,针对新系统的业务需求,根据转换处理顺序从待同步数据中获取目标同步数据,作为当前要进行转换处理的数据。
78.步骤s204,根据业务需求确定目标同步数据对应的转换类型,根据目标同步数据对应的转换类型对目标同步数据执行锁操作。
79.通过上述设置,对进行转换处理的数据执行锁操作,可以避免由于多个转换处理方对同一待同步数据执行转换处理,进而导致处理异常的情形。
80.步骤s205,根据转换类型和第二系统对应的数据表结构类型对目标同步数据进行转换处理。
81.具体地,转换处理包括新增处理和/或修改删除处理。新增修改,是指在当前系统的数据表中增加新的数据;修改处理,是指将第一系统中更新的数据(发生了变化的数据)更新到当前系统的数据表中。
82.新系统的业务需求一方面可以指定第二系统需要进行转换处理的待同步数据的业务类型,以实现对待同步数据进行过滤,实现灵活设置同步的业务类型;另一方面,还可针对各业务需求确定待同步数据的转换类型,具体地,业务需求中可以指定某一业务类型数据中某些字段是需要进行转换同步的,某些字段是不需要转换同步的,进而可以确定待同步数据的转换类型是是新增,还是修改(修改中包括了删除)。根据本发明实施例,针对不同转换类型的待同步数据可以划分为两个转换处理队列,新增处理队列和修改处理队列(包括删除,此部分也可以将修改与删除分割开进行转换处理),然后同一处理队列的待同步数据可以执行相同的处理操作,进而实现批量同步处理,提升数据同步效率。
83.步骤s206,判断目标同步数据是否转换成功。若是,即目标同步数据转换成功,则执行步骤s208;若否,即目标同步数据转换失败,则转到步骤s207。
84.步骤s207,根据转换类型分别构建重试队列,确定转换失败的目标同步数据对应的转换类型,并将目标同步数据发送至相应转换类型的重试队列。然后转到步骤s203。
85.现有方法中对于同步失败的数据,常要求从外部(老系统)中重新获取数据在执行同步,常导致消息积压、无限重试、影响同步效率等问题。本发明实施例通过上述设置,对于转换失败的数据,可根据其对应的转换类型设置多个重试队列,以提升数据同步效率。
86.本发明实施例实现了从内部(新系统)进行重新同步处理,外部不会感知到内部的重试操作,内部还可以通过人工介入来处理各种异常数据(同步失败的数据),如,对于重试次数达到某一阈值时,就可以人工介入,避免无限重试影响同步效率。
87.可以理解的,在重试队列再次进行转换处理之前,还包括:根据待同步数据的数据编号调用第一系统的数据查询接口核查待同步数据的时间戳,以确定数据编号对应的待同步数据为最近更新数据。
88.步骤s208,确定跨系统数据同步完成,将转换成功的目标同步数据的状态更新为已同步。
89.步骤s209,设置校对周期和/或校对参数,根据校对周期和/或校对参数调用数据查询接口,以确定特定时期内第一系统中待同步数据的数量,校对第一系统中待同步数据的数量与第二系统中已同步数据的数量是否一致;若不一致,将不一致的待同步数据进行转换处理。
90.上述设置可以作为本发明实施例提供的跨系统数据同步方法的一个兜底策略。通过设置校对周期和/或校对参数,能够定时的对同步数据进行校对,校对参数可以为关键字段等形式,用于检测关键字段对应的数据全部进行了同步操作,进而提升了跨系统数据同步的准确率。
91.根据本发明实施例,可设置校对参数“关键词:门店”,特定时期为“过去一周”,通过查询老系统在过去一周“关键词为门店”的待同步数据的数量,然后跟过去一周新系统内已同步数据的数量进行比对,可以有效避免由于前述环节中操纵异常导致的数据同步不完整的情形。
92.根据本发明实施例的技术方案,因为采用接收第一系统发送的待同步数据,根据待同步数据的数据编号调用第一系统的数据查询接口,核查待同步数据的时间戳,以确定数据编号对应的待同步数据为最近更新数据;根据第二系统对应的数据表结构类型和业务需求对待同步数据进行转换处理;判断待同步数据是否转换成功,若是,则确定跨系统数据同步完成;若否,则将转换失败的待同步数据发送至重试队列,对重试队列中的待同步数据再次进行转换处理,以实现跨系统数据同步的技术手段,所以克服了现有的跨系统数据同步方法中存在的难度系数高、无法针对业务需求对数据同步进行灵活性设置,以及数据同步效率低的技术问题,进而达到降低数据同步难度系数,实现跨系统数据同步的灵活性设置,同时还能有效提高数据同步效率的技术效果。
93.图3是根据本发明实施例提供的跨系统数据同步装置的主要模块的示意图;如图3所示,本发明实施例提供的跨系统数据同步装置300主要包括:
94.数据接收模块301,用于接收第一系统发送的待同步数据,根据待同步数据的数据编号调用第一系统的数据查询接口,核查待同步数据的时间戳,以确定数据编号对应的待同步数据为最近更新数据。
95.在实际执行转换处理的过程中,由于处理效率的问题,某待同步数据发送至第二系统,在等待执行转换处理的过程中,第一系统内部对该待同步数据可能执行了更新,进而
导致第二系统内等待处理的待同步数据不是最近更新的数据,通过上述设置,在执行转换处理的步骤之前,核查待同步数据的时间戳,保证该待处理数据为最近更新的数据(若时间戳显示该数据编号的待同步数据不是最近更新数据,则需要调用数据获取接口获取该数据编号对应的最近更新数据),能够避免不必要的同步操作,显著提升数据同步效率。
96.数据转换模块302,用于根据第二系统对应的数据表结构类型和业务需求对待同步数据进行转换处理。
97.示例性地,根据本发明实施例,上述跨系统数据同步装置300还包括过滤模块,在根据第二系统对应的数据表结构类型和业务需求对待同步数据进行转换处理的步骤之前,过滤模块用于:
98.确定待同步数据的业务类型,根据待同步数据的业务类型和过滤条件对待同步数据进行过滤处理,其中,过滤条件与业务需求相关联。
99.在实际处理过程中,第二系统并不需要将第一系统发送的数据进行全部同步处理,而是可以根据第二系统自身的业务需求灵活选择指定业务类型的数据进行处理。通过上述设置,根据业务需求制定过滤条件,根据过滤条件和待同步数据的业务类型对待同步数据进行过滤处理,既能提高数据同步效率,又能实现数据同步的灵活性设置。
100.进一步地,根据本发明实施例,上述跨系统数据同步装置300还包括业务类型确定模块,在根据第二系统对应的数据表结构类型和业务需求对待同步数据进行转换处理的步骤之前,业务类型确定模块用于:
101.确定待同步数据的业务类型,根据待同步数据的业务类型确定不同业务类型的待同步数据对应的转换处理顺序和转换处理周期。
102.通过上述设置,根据业务类型确定待同步数据对应的转换处理顺序和转换处理周期有利于将相同业务类型的待同步数据执行批量同步处理,进一步提高数据同步效率。
103.根据本发明实施例的一具体实施方式,针对第二系统的业务需求,还可针对待同步数据的业务类型设置同步优先级,实现指定业务类型的待同步数据进行优先同步转换。
104.优选地,根据本发明实施例,上述转换模块还用于:根据业务需求确定待同步数据对应的转换类型,根据转换类型和第二系统对应的数据表结构类型对待同步数据进行转换处理,其中,转换处理包括新增处理和/或修改删除处理。
105.第二系统的业务需求一方面可以指定第二系统需要进行转换处理的待同步数据的业务类型,以实现对待同步数据进行过滤,实现灵活设置同步的业务类型;另一方面,还可针对各业务需求确定待同步数据的转换类型,具体地,业务需求中可以指定某一业务类型数据中某些字段是需要进行转换同步的,某些字段是不需要转换同步的,进而可以确定待同步数据的转换类型是新增,还是修改(修改中包括了删除)。
106.根据本发明实施例,针对不同转换类型的待同步数据可以划分为两个转换处理队列,新增处理队列和修改处理队列(包括删除,此部分也可以将修改与删除分割开进行转换处理),然后同一处理队列的待同步数据可以执行相同的处理操作,进而实现批量同步处理,提升数据同步效率。
107.新增修改,是指在当前系统的数据表中增加新的数据;修改处理,是指将第一系统中更新的数据(发生了变化的数据)更新到当前系统的数据表中。
108.进一步地,根据本发明实施例,上述跨系统数据同步装置300还包括锁操作模块,
在根据业务需求确定待同步数据对应的转换类型的步骤之后,锁操作模块用于:根据待同步数据对应的转换类型对待同步数据执行锁操作。
109.由于上述表述中提及构建不同的消息处理队列,通过上述加锁操作,可以避免由于多个转换处理方对同一待同步数据执行转换处理,进而导致处理异常的情形。
110.重试模块303,用于判断待同步数据是否转换成功,若是,则确定跨系统数据同步完成;若否,则将转换失败的待同步数据发送至重试队列,对重试队列中的待同步数据再次进行转换处理,以实现跨系统数据同步。
111.本发明实施例通过上述设置,对于转换失败的数据,将其发送至重试队列,实现了从内部(第二系统)进行重新同步处理,外部不会感知到内部的重试操作,内部还可以通过人工介入来处理各种异常数据(同步失败的数据),如,对于重试次数达到某一阈值时,就可以人工介入,避免无限重试影响同步效率。
112.可以理解的,在重试队列再次进行转换处理之前,重试模块303用于:根据待同步数据的数据编号调用第一系统的数据查询接口,以便核查待同步数据的时间戳,以确定数据编号对应的待同步数据为最近更新数据。
113.进一步地,根据本发明实施例,上述重试模块303还用于:
114.确定转换失败的待同步数据对应的转换类型,并将转换失败的待同步数据发送至相应转换类型的重试队列。
115.通过上述设置,对于转换失败的数据,可根据其对应的转换类型设置多个重试队列,以提升数据同步效率。
116.优选地,根据本发明实施例,若待同步数据转换成功,将转换成功的待同步数据的状态更新为已同步,上述跨系统数据同步装置300还包括校对模块,用于:
117.设置校对周期和/或校对参数,根据校对周期和/或校对参数调用数据查询接口,以确定特定时期内第一系统中待转换数据的数量,校对第一系统中待同步数据的数量与第二系统中已转换数据的数量是否一致;若不一致,将不一致的待同步数据进行转换处理。
118.通过设置校对周期和/或校对参数,能够定时的对同步数据进行校对,校对参数可以为关键字段等形式,用于检测关键字段对应的数据全部进行了同步操作,进而提升了跨系统数据同步的准确率。
119.根据本发明实施例的技术方案,因为采用接收第一系统发送的待同步数据,根据待同步数据的数据编号调用第一系统的数据查询接口,核查待同步数据的时间戳,以确定数据编号对应的待同步数据为最近更新数据;根据第二系统对应的数据表结构类型和业务需求对待同步数据进行转换处理;判断待同步数据是否转换成功,若是,则确定跨系统数据同步完成;若否,则将转换失败的待同步数据发送至重试队列,对重试队列中的待同步数据再次进行转换处理,以实现跨系统数据同步的技术手段,所以克服了现有的跨系统数据同步方法中存在的难度系数高、无法针对业务需求对数据同步进行灵活性设置,以及数据同步效率低的技术问题,进而达到降低数据同步难度系数,实现跨系统数据同步的灵活性设置,同时还能有效提高数据同步效率的技术效果。
120.图4示出了可以应用本发明实施例的跨系统数据同步方法或跨系统数据同步装置的示例性系统架构400。
121.如图4所示,系统架构400可以包括终端设备401、402、403,网络404和服务器405
(此架构仅仅是示例,具体架构中包含的组件可以根据申请具体情况调整)。网络404用以在终端设备401、402、403和服务器405之间提供通信链路的介质。网络404可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
122.用户可以使用终端设备401、402、403通过网络404与服务器405交互,以接收或发送消息等。终端设备401、402、403上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
123.终端设备401、402、403可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
124.服务器405可以是提供各种服务的服务器,例如对用户利用终端设备401、402、403所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的待同步数据等数据进行分析等处理,并将处理结果(例如转换处理后的数据
--
仅为示例)反馈给终端设备。
125.需要说明的是,本发明实施例所提供的跨系统数据同步方法一般由服务器405执行,相应地,跨系统数据同步装置一般设置于服务器405中。
126.应该理解,图4中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
127.下面参考图5,其示出了适于用来实现本发明实施例的终端设备或服务器的计算机系统500的结构示意图。图5示出的终端设备或服务器仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
128.如图5所示,计算机系统500包括中央处理单元(cpu)501,其可以根据存储在只读存储器(rom)502中的程序或者从存储部分508加载到随机访问存储器(ram)503中的程序而执行各种适当的动作和处理。在ram 503中,还存储有系统500操作所需的各种程序和数据。cpu 501、rom 502以及ram 503通过总线504彼此相连。输入/输出(i/o)接口505也连接至总线504。
129.以下部件连接至i/o接口505:包括键盘、鼠标等的输入部分506;包括诸如阴极射线管(crt)、液晶显示器(lcd)等以及扬声器等的输出部分507;包括硬盘等的存储部分508;以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至i/o接口505。可拆卸介质511,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器510上,以便于从其上读出的计算机程序根据需要被安装入存储部分508。
130.特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分509从网络上被下载和安装,和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(cpu)501执行时,执行本发明的系统中限定的上述功能。
131.需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计
算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、rf等等,或者上述的任意合适的组合。
132.附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
133.描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括数据接收模块、数据转换模块和重试模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,数据接收模块还可以被描述为“用于接收第一系统发送的待同步数据,根据待同步数据的数据编号调用第一系统的数据查询接口核查待同步数据的时间戳,以确定数据编号对应的待同步数据为最近更新数据的模块”。
134.作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:接收第一系统发送的待同步数据,根据待同步数据的数据编号调用第一系统的数据查询接口核查待同步数据的时间戳,以确定数据编号对应的待同步数据为最近更新数据;根据第二系统对应的数据表结构类型和业务需求对待同步数据进行转换处理;判断待同步数据是否转换成功,若是,则确定跨系统数据同步完成;若否,则将转换失败的待同步数据发送至重试队列,对重试队列中的待同步数据再次进行转换处理,以实现跨系统数据同步。
135.根据本发明实施例的技术方案,因为采用接收第一系统发送的待同步数据,根据待同步数据的数据编号调用第一系统的数据查询接口,核查待同步数据的时间戳,以确定数据编号对应的待同步数据为最近更新数据;根据第二系统对应的数据表结构类型和业务
需求对待同步数据进行转换处理;判断待同步数据是否转换成功,若是,则确定跨系统数据同步完成;若否,则将转换失败的待同步数据发送至重试队列,对重试队列中的待同步数据再次进行转换处理,以实现跨系统数据同步的技术手段,所以克服了现有的跨系统数据同步方法中存在的难度系数高、无法针对业务需求对数据同步进行灵活性设置,以及数据同步效率低的技术问题,进而达到降低数据同步难度系数,提升跨系统数据同步设置的灵活性,同时还能有效提高数据同步效率的技术效果。
136.上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献