一种接入数据的方法及装置与流程

1.本发明涉及数据处理技术领域，具体而言，涉及一种接入数据的方法及装置。


背景技术：

2.企业在生产经营活动中，会产生大量的数据，例如，企业微信的会话、邮件沟通、机器运行数据等。在大数据时代下，通过设置企业数据中台，利用接口对企业生产经营活动中产生的数据进行收集，对实现企业的数字化管理和决策有着重要的影响。目前，在数据接入数据中台时，一般是通过遍历接口，接入接口对应的增量数据或全量数据，但该方法，对于实时性要求较高的业务场景的接口对应的热点数据，通过遍历接口的方法，会使得热点数据接入所需的时间较长，无法满足该业务场景对热点数据时效性的接入需求。


技术实现要素：

3.有鉴于此，本发明的目的在于提供接入数据的方法及装置，以提高热点数据接入的时效性。
4.第一方面，本发明实施例提供了接入数据的方法，包括：
5.解析获取的数据接入请求，得到请求数据接入的数据目标接口；
6.基于存储的数据接口优先级序列，确定所述数据目标接口对应的优先级；
7.按照获取的优先级从高至低的顺序，接入对应的数据目标接口的数据；
8.依据接入的各数据目标接口对应的增量数据以及未请求数据接入的数据接口更新策略，更新所述数据接口优先级序列中的数据接口的优先级。
9.结合第一方面，本发明实施例提供了第一方面的第一种可能的实施方式，其中，所述基于存储的数据接口优先级序列，确定所述数据目标接口对应的优先级，包括：
10.对于每一数据目标接口，若存储的数据接口优先级序列中包括该数据目标接口，从所述数据接口优先级序列中获取该数据目标接口的优先级，若存储的数据接口优先级序列中未包括该数据目标接口，设置该数据目标接口的优先级为预设的初始优先级。
11.结合第一方面，本发明实施例提供了第一方面的第二种可能的实施方式，其中，所述按照获取的优先级从高至低的顺序，接入对应的数据目标接口的数据，包括：
12.将并发线程集中的每一线程配置给数据目标接口，优先级高的数据目标接口，对应配置的线程的运算资源多。
13.结合第一方面、第一方面的第一种可能的实施方式或第二种可能的实施方式，本发明实施例提供了第一方面的第三种可能的实施方式，其中，所述依据接入的各数据目标接口对应的增量数据以及未请求数据接入的数据接口更新策略，更新所述数据接口优先级序列中的数据接口的优先级，包括：
14.判断接入的各数据目标接口是否接入有增量数据，若有，在所述数据接口优先级序列中，调升接入有增量数据的第一数据接口的优先级，若没有，按照第一阈值调降没有增量数据接入的第二数据接口的优先级；
15.从所述数据接口优先级序列中，按照第二阈值调降除第一数据接口和第二数据接口之外的数据接口的优先级，其中，第一阈值小于第二阈值。
16.结合第一方面的第三种可能的实施方式，本发明实施例提供了第一方面的第四种可能的实施方式，其中，所述判断接入的各数据目标接口是否接入有增量数据，包括：
17.获取数据目标接口的增量数据标识，若增量数据标识为支持增量数据拉取的标识，若接收到该数据目标接口的数据，确定该数据目标接口接入有增量数据；
18.若增量数据标识为不支持增量数据拉取的标识，接收该数据目标接口的数据，对接收的数据进行哈希运算，得到当前哈希值，查询存储的该数据目标接口的历史哈希值，若当前哈希值与历史哈希值不一致，确定该数据目标接口接入有增量数据，并利用当前哈希值更新存储的历史哈希值。
19.结合第一方面、第一方面的第一种可能的实施方式或第二种可能的实施方式，本发明实施例提供了第一方面的第五种可能的实施方式，其中，在所述更新所述数据接口优先级序列中的数据接口的优先级之后，所述方法还包括：
20.获取所述数据接口优先级序列中优先级不为最低优先级的数据接口，若该数据接口设置有时间戳标记，删除该数据接口的时间戳标记；
21.获取所述数据接口优先级序列中优先级为最低优先级的数据接口，若该数据接口未设置有时间戳标记，对该数据接口进行时间戳标记；若该数据接口设置有时间戳标记，计算标记的时间戳与当前时间戳的时差，若时差大于预设时差阈值，从所述数据接口优先级序列中，删除该数据接口。
22.结合第一方面、第一方面的第一种可能的实施方式或第二种可能的实施方式，本发明实施例提供了第一方面的第六种可能的实施方式，其中，所述方法还包括：
23.针对所述数据接口优先级序列中优先级高于优选优先级的数据接口，设置对应的的主动拉取频率。
24.第二方面，本发明实施例还提供了一种接入数据的装置，包括：
25.解析模块，用于解析获取的数据接入请求，得到请求数据接入的数据目标接口；
26.查询模块，用于基于存储的数据接口优先级序列，确定所述数据目标接口对应的优先级；
27.数据接入模块，用于按照获取的优先级从高至低的顺序，接入对应的数据目标接口的数据；
28.更新模块，用于依据接入的各数据目标接口对应的增量数据以及未请求数据接入的数据接口更新策略，更新所述数据接口优先级序列中的数据接口的优先级。
29.第三方面，本技术实施例提供了一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述方法的步骤。
30.第四方面，本技术实施例提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器运行时执行上述的方法的步骤。
31.本发明实施例提供的接入数据的方法及装置，通过解析获取的数据接入请求，得到请求数据接入的数据目标接口；基于存储的数据接口优先级序列，确定所述数据目标接口对应的优先级；按照获取的优先级从高至低的顺序，接入对应的数据目标接口的数据；依
据接入的各数据目标接口对应的增量数据以及未请求数据接入的数据接口更新策略，更新所述数据接口优先级序列中的数据接口的优先级。这样，根据数据目标接口返回的增量数据的有无，对该数据目标接口的优先级进行更新，能够实现热点数据的数据接口被优先处理，从而使得获取的热点数据的时效性强。
32.为使本发明的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。
附图说明
33.为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
34.图1示出了本发明实施例所提供的接入数据的方法流程示意图；
35.图2示出了本发明实施例所提供的级联接口优先级队列更新示意图；
36.图3示出了本发明实施例所提供的接入数据的装置结构示意图；
37.图4为本技术实施例提供的一种计算机设备400的结构示意图。
具体实施方式
38.为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。
39.本发明实施例提供了一种接入数据的方法及装置，下面通过实施例进行描述。
40.图1示出了本发明实施例所提供的接入数据的方法流程示意图。如图1所示，该方法包括：
41.步骤101，解析获取的数据接入请求，得到请求数据接入的数据目标接口；
42.本发明实施例中，作为一可选实施例，接口调用方，数据中台按照设定的数据接入周期，从需要进行数据接入的数据总接口拉取数据接入请求，对拉取的数据接入请求进行解析，得到需要进行数据接入的数据目标接口。作为另一可选实施例，也可以是需要进行数据接入的数据总接口在有数据接入需求时，向接口调用方发送数据接入请求，接口调用方解析数据接入请求，得到需要进行数据接入的数据目标接口。
43.本发明实施例中，有数据接入需求的数据接口，是指该数据接口需要将接收的数据转移至服务器进行数据存储、分析和处理，其中，服务器可以是上述的接口调用方，例如，具有远程字典服务器(redis，remote dictionary server)的数据中台等。
44.本发明实施例中，以需要进行数据接入的数据总接口为邮件接口为例，该数据总接口或邮件接口可以称之为一级接口，数据目标接口(用户邮件接口)称之为级联接口，一
级接口包括多个级联接口。其中，邮件接口可以是microsoft graph接口，通过该microsoft graph接口，可获取outlook中的各用户邮件接口，即users接口，以拉取对应用户的邮件、日程、联系人等信息。本发明实施例中，通过users接口，可获取用户id，之后，根据users/{用户id}/message接口获取该用户的邮件。
45.步骤102，基于存储的数据接口优先级序列，确定所述数据目标接口对应的优先级；
46.本发明实施例中，作为一可选实施例，数据接口优先级序列存储在数据中台的redis中，包括多个数据接口以及每一数据接口对应的优先级。所应说明的是，还可以使用其它存储结构储存数据接口优先级序列，本发明实施例对此不做限定。
47.本发明实施例中，作为一可选实施例，基于存储的数据接口优先级序列，确定所述数据目标接口对应的优先级，包括：
48.对于每一数据目标接口，若存储的数据接口优先级序列中包括该数据目标接口，从所述数据接口优先级序列中获取该数据目标接口的优先级，若存储的数据接口优先级序列中未包括该数据目标接口，设置该数据目标接口的优先级为预设的初始优先级。
49.步骤103，按照获取的优先级从高至低的顺序，接入对应的数据目标接口的数据；
50.本发明实施例中，对于优先级相同的情形，作为一可选实施例，按照随机顺序，接入优先级相同的数据接口的数据。
51.本发明实施例中，接口调用方从一级接口拉取数据，解析得到最新的级联接口，储存到redis中。在获取了排序后的级联接口后，使用分布式多节点或者多线程并发的方式，请求各级联接口的增量数据。例如，对于数据中台中可以通过并发线程执行数据接入的情形，作为一可选实施例，按照获取的优先级从高至低的顺序，接入对应的数据目标接口的数据，包括：
52.将并发线程集中的每一线程配置给数据目标接口，优先级高的数据目标接口，对应配置的线程的运算资源多。
53.本发明实施例中，作为一可选实施例，若并发线程集中的线程数小于数据目标接口数，按照数据目标接口的优先级顺序配置线程、且优先级越高的数据目标接口，配置的线程的运算资源越多，若并发线程集中的线程数大于或等于数据目标接口数，为每一数据目标接口配置一线程，优先级越高的数据目标接口，配置的线程的运算资源越多。
54.步骤104，依据接入的各数据目标接口对应的增量数据以及未请求数据接入的数据接口更新策略，更新所述数据接口优先级序列中的数据接口的优先级。
55.本发明实施例中，作为一可选实施例，依据接入的各数据目标接口对应的增量数据以及未请求数据接入的数据接口更新策略，更新所述数据接口优先级序列中的数据接口的优先级，包括：
56.判断接入的各数据目标接口是否接入有增量数据，若有，在所述数据接口优先级序列中，调升接入有增量数据的第一数据接口的优先级，若没有，按照第一阈值调降没有增量数据接入的第二数据接口的优先级；
57.从所述数据接口优先级序列中，按照第二阈值调降除第一数据接口和第二数据接口之外的数据接口的优先级，其中，第一阈值小于第二阈值。
58.本发明实施例中，若数据接口优先级序列中没有存储第一数据接口，则将第一数
据接口以及对应的优先级写入到数据接口优先级序列中。
59.本发明实施例中，作为一可选实施例，数据接口的最低优先级为初始优先级，例如，零，当一数据接口的优先级调低至零时，该数据接口的优先级不再调低。作为另一可选实施例，也可以是对于没有增量数据接入的数据目标接口，不调降其优先级。
60.本发明实施例中，作为一可选实施例，判断接入的各数据目标接口是否接入有增量数据，包括：
61.获取数据目标接口的增量数据标识，若增量数据标识为支持增量数据拉取的标识，若接收到该数据目标接口的数据，确定该数据目标接口接入有增量数据；
62.若增量数据标识为不支持增量数据拉取的标识，接收该数据目标接口的数据，对接收的数据进行哈希运算，得到当前哈希值，查询存储的该数据目标接口的历史哈希值，若当前哈希值与历史哈希值不一致，确定该数据目标接口接入有增量数据，并利用当前哈希值更新存储的历史哈希值。
63.本发明实施例中，对于级联接口只支持全量数据拉取的情形，获取级联接口的数据，对获取的数据进行哈希运算(当前哈希值)，与该级联接口前一次获取的数据的哈希值(历史哈希值)进行比较，如果前后的hash值相同，确定该级联接口无热点数据，未接入有增量数据，进行处罚，如果前后的hash值不相同，进行奖励，从而更新级联接口优先级。
64.本发明实施例中，通过区分数据目标接口(级联接口)是否支持增量数据拉取，如果支持增量数据拉取，则确定接入的增量数据为热点数据，根据增量数据的大小更新该级联接口的拉取优先级；如果不支持增量数据拉取，对接入级联接口的前后数据进行哈希(hash)运算，以确定当前接入的数据是否为热点数据，依据hash值不一致的次数更新级联接口的拉取优先级。
65.本发明实施例中，根据级联接口返回的增量数据的量或者有无增量数据设置该级联接口的优先级，存在增量数据时，则对该级联接口进行奖励，级联接口优先级升高，不存在增量数据时，处罚该级联接口，级联接口优先级降低，直到减为0。这样，通过多次的数据接入(冷启动)，动态更新拉取优先级的方式，能够实现热点的级联接口被优先处理，从而使得获取的热点数据的时效性强。
66.本发明实施例中，作为另一可选实施例，依据接入的各数据目标接口对应的增量数据以及未请求数据接入的数据接口更新策略，更新所述数据接口优先级序列中的数据接口的优先级，包括：
67.针对每一数据目标接口，获取该数据目标接口接入的增量数据量，查询增量数据量与优先级调升级数的映射关系，按照查询得到的优先级调升级数调升该数据目标接口的优先级；
68.从所述数据接口优先级序列中，调降除数据目标接口之外的数据接口的优先级。
69.本发明实施例中，数据接口的最低优先级为零，当一数据接口的优先级调低至零时，该数据接口的优先级不再调低。
70.本发明实施例中，为了避免数据接口优先级序列中存储的数据接口的量越来越多，使得进行查询所需的时间延长，作为一可选实施例，在更新所述数据接口优先级序列中的数据接口的优先级之后，该方法还包括：
71.获取所述数据接口优先级序列中优先级不为最低优先级的数据接口，若该数据接
口设置有时间戳标记，删除该数据接口的时间戳标记；
72.获取所述数据接口优先级序列中优先级为最低优先级的数据接口，若该数据接口未设置有时间戳标记，对该数据接口进行时间戳标记；若该数据接口设置有时间戳标记，计算标记的时间戳与当前时间戳的时差，若时差大于预设时差阈值，从所述数据接口优先级序列中，删除该数据接口。
73.本发明实施例中，通过计算级联接口在预设的生存时间阈值(时差阈值)内出现的次数，从而计算级联接口优先级，这样，可以避免热点的级联接口冷却了依然排在前面。
74.本发明实施例中，在数据接入时，通过探查产生热点数据的热点接口，针对热点接口设置请求优先级或提高请求频率，将产生热点数据的级联接口的优先级排在队列的最前面，从而被优先请求，从而提高热点数据接入的时效性。
75.图2示出了本发明实施例所提供的级联接口优先级队列更新示意图。如图2所示，假设初始的级联接口优先级队列中，包含级联接口a、b、c、d、e五个，假定每一轮次都要遍历所有的级联接口，且每一轮次所需总时间相同。以接入级联接口c的数据为例，在第一轮次接入数据时，第一次拉取级联接口的数据时，最先接入级联接口a的数据，倒数第三位接入级联接口c的数据；假设经过两轮次后，级联接口优先级队列中，级联接口d的级联接口优先级更新为10，级联接口c的级联接口优先级更新为8，级联接口a的级联接口优先级更新为5，级联接口e的级联接口优先级更新为2，级联接口b的级联接口优先级更新为0，这样，在下一轮次的数据接入时，首先接入级联接口d的数据，再接入级联接口c的数据，这样，级联接口c成为靠前的热点级联接口，在级联接口优先级队列中的优先级提升，在该轮次，相对第一轮次，接入数据的时间间隔缩短；假设再经过几轮次后，级联接口优先级队列中，级联接口c的级联接口优先级更新为25，级联接口e的级联接口优先级更新为18，级联接口d的级联接口优先级更新为15，级联接口b的级联接口优先级更新为6，级联接口a的级联接口优先级更新为1，这样，在下一轮次的数据接入时，首先接入级联接口c的数据。
76.本发明实施例中，作为一可选实施例，该方法还可以包括：
77.针对所述数据接口优先级序列中优先级高于优选优先级的数据接口，设置对应的的主动拉取频率。
78.本发明实施例中，通过对高于优选优先级的数据接口设置较高的主动拉取频率，这样，对于频繁产生热点数据的级联接口，能有效提升热点数据的时效性。
79.本发明实施例中，数据中台在获取到接入的数据，需要进行存储，作为一可选实施例，该方法还包括：
80.将从优先级高于优选优先级的数据接口拉取的数据存储在第一存储区，将从优先级不高于优选优先级的数据接口拉取的数据存储在第二存储区，设置所述第一存储区的数据读写速度大于所述第二存储区的数据读写速度；
81.依据更新的数据接口的优先级，更新存储在所述第一存储区以及第二存储区的数据。
82.图3示出了本发明实施例所提供的接入数据的装置结构示意图。如图3所示，该装置包括：
83.解析模块301，用于解析获取的数据接入请求，得到请求数据接入的数据目标接口；
84.查询模块302，用于基于存储的数据接口优先级序列，确定所述数据目标接口对应的优先级；
85.本发明实施例中，作为一可选实施例，查询模块302，具体用于：
86.对于每一数据目标接口，若存储的数据接口优先级序列中包括该数据目标接口，从所述数据接口优先级序列中获取该数据目标接口的优先级，若存储的数据接口优先级序列中未包括该数据目标接口，设置该数据目标接口的优先级为预设的初始优先级。
87.数据接入模块303，用于按照获取的优先级从高至低的顺序，接入对应的数据目标接口的数据；
88.本发明实施例中，作为一可选实施例，数据接入模块303，具体用于：
89.将并发线程集中的每一线程配置给数据目标接口，优先级高的数据目标接口，对应配置的线程的运算资源多。
90.更新模块304，用于依据接入的各数据目标接口对应的增量数据以及未请求数据接入的数据接口更新策略，更新所述数据接口优先级序列中的数据接口的优先级。
91.本发明实施例中，作为一可选实施例，更新模块304，具体用于：
92.判断接入的各数据目标接口是否接入有增量数据，若有，在所述数据接口优先级序列中，调升接入有增量数据的第一数据接口的优先级，若没有，按照第一阈值调降没有增量数据接入的第二数据接口的优先级；
93.从所述数据接口优先级序列中，按照第二阈值调降除第一数据接口和第二数据接口之外的数据接口的优先级，其中，第一阈值小于第二阈值。
94.本发明实施例中，作为一可选实施例，判断接入的各数据目标接口是否接入有增量数据，包括：
95.获取数据目标接口的增量数据标识，若增量数据标识为支持增量数据拉取的标识，若接收到该数据目标接口的数据，确定该数据目标接口接入有增量数据；
96.若增量数据标识为不支持增量数据拉取的标识，接收该数据目标接口的数据，对接收的数据进行哈希运算，得到当前哈希值，查询存储的该数据目标接口的历史哈希值，若当前哈希值与历史哈希值不一致，确定该数据目标接口接入有增量数据，并利用当前哈希值更新存储的历史哈希值。
97.本发明实施例中，作为另一可选实施例，更新模块304，具体用于：
98.针对每一数据目标接口，获取该数据目标接口接入的增量数据量，查询增量数据量与优先级调升级数的映射关系，按照查询得到的优先级调升级数调升该数据目标接口的优先级；
99.从所述数据接口优先级序列中，调降除数据目标接口之外的数据接口的优先级。
100.本发明实施例中，作为一可选实施例，该装置还包括：
101.标记模块(图中未示出)，用于获取所述数据接口优先级序列中优先级不为最低优先级的数据接口，若该数据接口设置有时间戳标记，删除该数据接口的时间戳标记；
102.获取所述数据接口优先级序列中优先级为最低优先级的数据接口，若该数据接口未设置有时间戳标记，对该数据接口进行时间戳标记；若该数据接口设置有时间戳标记，计算标记的时间戳与当前时间戳的时差，若时差大于预设时差阈值，从所述数据接口优先级序列中，删除该数据接口。
103.本发明实施例中，作为另一可选实施例，该装置还包括：
104.拉取频次更新模块，用于针对所述数据接口优先级序列中优先级高于优选优先级的数据接口，设置对应的的主动拉取频率。
105.如图4所示，本技术一实施例提供了一种计算机设备400，用于执行图1中的接入数据的方法，该设备包括存储器401、与存储器401通过总线相连的处理器402及存储在该存储器401上并可在该处理器402上运行的计算机程序，其中，上述处理器402执行上述计算机程序时实现上述接入数据的方法的步骤。
106.具体地，上述存储器401和处理器402能够为通用的存储器和处理器，这里不做具体限定，当处理器402运行存储器401存储的计算机程序时，能够执行上述接入数据的方法。
107.对应于图1中的接入数据的方法，本技术实施例还提供了一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，该计算机程序被处理器运行时执行上述接入数据的方法的步骤。
108.具体地，该存储介质能够为通用的存储介质，如移动磁盘、硬盘等，该存储介质上的计算机程序被运行时，能够执行上述接入数据的方法。
109.在本技术所提供的实施例中，应该理解到，所揭露系统和方法，可以通过其它的方式实现。以上所描述的系统实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，又例如，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口，系统或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
110.所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
111.另外，在本技术提供的实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。
112.所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本技术的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本技术各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：u盘、移动硬盘、只读存储器(read-only memory，rom)、随机存取存储器(random access memory，ram)、磁碟或者光盘等各种可以存储程序代码的介质。
113.应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释，此外，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
114.最后应说明的是：以上所述实施例，仅为本技术的具体实施方式，用以说明本技术的技术方案，而非对其限制，本技术的保护范围并不局限于此，尽管参照前述实施例对本技术进行了详细的说明，本领域的普通技术人员应当理解：任何熟悉本技术领域的技术人员
在本技术揭露的技术范围内，其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化，或者对其中部分技术特征进行等同替换；而这些修改、变化或者替换，并不使相应技术方案的本质脱离本技术实施例技术方案的精神和范围。都应涵盖在本技术的保护范围之内。因此，本技术的保护范围应所述以权利要求的保护范围为准。