一种基于入参解耦的数据查询方法、装置和电子设备与流程

1.本技术涉及计算机领域，尤其涉及一种基于入参解耦的数据查询方法、装置和电子设备。


背景技术：

2.目前，市场上各种业务模式在提供服务的同时，会根据用户的具体属性来进行条件的判断和业务策略的选择。这时，就需要对用户进行相应属性的评分，然而，用于评分的技术数据多是业务系统实时产生的海量数据，这些数据较繁杂且数据量极大，因而在调用评分模型进行评分前，会对其进行加工，得到评分模型输入层所需要的参数，可以称作输入项参数。因此，开发人员在组建业务系统时会根据输入项参数的加工逻辑在业务系统中开发出加工代码，这样，业务系统便可以对海量数据进行处理并对处理生成的数据进行查询。
3.然而这种查询方式会对业务系统的运行产生较大的干扰，由于业务系统很难适应大批量海量数据的处理，造成业务系统运行效率和可靠性较差，因而数据查询效率、可靠性也较低。
4.因此，有必要提供一种新的数据查询方法，以提高利用业务系统进行数据查询时的效率和可靠性。


技术实现要素：

5.本说明书实施例提供一种基于入参解耦的数据查询方法、装置和电子设备，用以提高利用业务系统进行数据查询时的效率和可靠性。
6.本说明书实施例提供一种基于入参解耦的数据查询方法，包括：
7.提供与业务系统解耦的入参配置器，通过所述入参配置器确定输入项参数标识及第一数据库中的源参数标识，并配置合成组件；
8.调用所述合成组件获得源参数标识，根据所述源参数标识获取源参数，并至少根据所述源参数合成输入项参数；
9.根据入参接口匹配输入项参数标识，将所述输入项参数标识对应的输入项参数输入到预训练好的评分模型中，输出并存储评分数据。
10.可选地，还包括：
11.在使用所述业务系统执行目标业务时，业务组件调用所述评分数据调用接口，获取所述评分数据，并根据所述评分数据进行业务策略的推荐。
12.可选地，还包括：
13.调用所述合成组件获取样本源参数，至少根据所述样本源参数合成输入项参数。
14.可选地，所述方法还包括：
15.接收评分请求及所述请求中携带的批量用户的输入项参数，调用预训练好的评分模型创建并发执行的多个评分任务，为各用户进行评分。
16.可选地，所述第一数据库为离线数据库集群；
17.所述调用所述合成组件获得源参数标识，根据所述源参数标识获取源参数，并至少根据所述源参数合成输入项参数，包括：
18.调用所述合成组件，确定所述合成组件中的源参数标识，根据所述源参数标识从所述离线数据库集群中获取对应的源参数，并至少根据所述源参数合成输入项参数。
19.本说明书实施例还提供一种基于入参解耦的数据查询装置，其特征在于，包括：
20.配置模块，提供与业务系统解耦的入参配置器，通过所述入参配置器确定输入项参数标识及第一数据库中的源参数标识，并配置合成组件；
21.入参合成模块，调用所述合成组件获得源参数标识，根据所述源参数标识获取源参数，并至少根据所述源参数合成输入项参数；
22.评分模块，根据入参接口匹配输入项参数标识，将所述输入项参数标识对应的输入项参数输入到预训练好的评分模型中，输出并存储评分数据；
23.查询模块，根据所述评分数据组建评分数据调用接口供业务系统查询。
24.可选地，还具有：
25.推荐模块，用于在使用所述业务系统执行目标业务时，业务组件调用所述评分数据调用接口，获取所述评分数据，并根据所述评分数据进行业务策略的推荐。
26.本说明书实施例还提供一种电子设备，其中，该电子设备包括：
27.处理器；以及，
28.存储计算机可执行程序的存储器，所述可执行程序在被执行时使所述处理器执行上述任一项方法。
29.本说明书实施例还提供一种计算机可读存储介质，其中，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被处理器执行时，实现上述任一项方法。
30.本说明书实施例提供的各种技术方案通过提供与业务系统解耦的入参配置器，通过所述入参配置器确定输入项参数标识及第一数据库中的源参数标识，并配置合成组件，调用所述合成组件获得源参数标识，根据所述源参数标识获取源参数，并至少根据所述源参数合成输入项参数，根据入参接口匹配输入项参数标识，将所述输入项参数标识对应的输入项参数输入到预训练好的评分模型中，输出并存储评分数据，根据评分数据组建评分数据调用接口供业务系统查询，只需要在业务系统外进行组件配置便可以完成合成逻辑的开发，实现了与业务系统的解耦，降低了对业务系统的干扰，提高了利用业务系统进行数据查询时的效率和可靠性。
附图说明
31.此处所说明的附图用来提供对本技术的进一步理解，构成本技术的一部分，本技术的示意性实施例及其说明用于解释本技术，并不构成对本技术的不当限定。在附图中：
32.图1为本说明书实施例提供的一种基于入参解耦的数据查询方法的原理示意图；
33.图2为本说明书实施例提供的一种基于入参解耦的数据查询装置的结构示意图；
34.图3为本说明书实施例提供的一种电子设备的结构示意图；
35.图4为本说明书实施例提供的一种计算机可读介质的原理示意图。
具体实施方式
36.现在将参考附图更全面地描述本发明的示例性实施例。然而，示例性实施例能够以多种形式实施，且不应被理解为本发明仅限于在此阐述的实施例。相反，提供这些示例性实施例能够使得本发明更加全面和完整，更加便于将发明构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的元件、组件或部分，因而将省略对它们的重复描述。
37.在符合本发明的技术构思的前提下，在某个特定的实施例中描述的特征、结构、特性或其他细节不排除可以以合适的方式结合在一个或更多其他的实施例中。
38.在对于具体实施例的描述中，本发明描述的特征、结构、特性或其他细节是为了使本领域的技术人员对实施例进行充分理解。但是，并不排除本领域技术人员可以实践本发明的技术方案而没有特定特征、结构、特性或其他细节的一个或更多。
39.附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。
40.附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
41.术语“和/或”或者“及/或”包括相关联的列出项目中的任一个或多者的所有组合。
42.图1为本说明书实施例提供的一种基于入参解耦的数据查询方法的原理示意图，该方法可以包括：
43.s101：提供与业务系统解耦的入参配置器，通过所述入参配置器确定输入项参数标识及第一数据库中的源参数标识，并配置合成组件。
44.源参数标识可以是源参数的地址，也可以是变量名称，比如，如果源参数是以键值对形式存储，那么源参数标识可以是键名，根据键名，可以获取到对应的源参数值；如果源参数是以数据表的形式存储，那么，源参数标识可以是主键名，根据主键名，也能够查询到对应的源参数值。
45.在本说明书实施例中，入参配置器可以是单独的业务系统(比如中间业务平台系统)，也可以是微服务，从而实现与业务系统的解耦。
46.其中，入参配置器可以具有配置页面，用来配置输入项参数及其合成组件。
47.源参数是指用于合成输入项参数的自变量，输入项参数则作为源参数的函数值，合成组件可以看作函数表达式。
48.为了实现让多个业务系统共用入参配置器，可以在入参配置器中配置多个业务系统的输入项参数的合成组件。
49.当然，如果一个业务系统具有多个评分模型，每个都具有其专属的输入项参数集合，那么，可以根据各评分模型专属的输入项参数集合配置各输入项参数的合成组件。
50.其中，入参配置器的配置页面中可以具有输入项参数定义组件，合成组件，源参数组件，用户通过输入项参数定义组件进行编辑，并对合成组件及源参数组件进行组合，实现规则的配置，无需开发代码，便可以完成加工规则的构建，提高了处理效率。
51.通过配置输入项参数标识，使得与业务系统解耦的入参配置器可以实现与业务系
统之间的数据传输。
52.在本说明书实施例中，第一数据库可以是离线数据库。
53.这样，加工合成输入项参数可以独立于业务系统的数据库而进行，从而降低对业务系统的依赖，减少对业务系统的干扰和负载，提高查询效率、稳定性和可靠性。
54.当然，在本说明书实施例中，考虑到源参数往往是通过业务系统实时上报产生的，而业务系统上报的数据中，往往有一些不规则的参数，或者对用户评分没有意义的参数，因此，我们可以对第一数据库进行数据预处理，比如，数据清洗等。
55.在本说明书实施例中，可以在数据仓库集群中配置搭载有spark-sql语法环境的入参配置器。
56.这样，通过编辑spark-sql语法进行合成组件的配置，需要开发代码便可实现合成输入项参数。由于是在数据仓库集群上开发合成组件，和业务系统是解耦的，因而加工数据不会对业务系统正常业务产生影响，使得业务系统能够分配更多资源(比如时间片、运行内存、存储空间等)专门进行数据查询，而不需要分配大量资源进行数据加工。
57.s102：调用所述合成组件获得源参数标识，根据所述源参数标识获取源参数，并至少根据所述源参数合成输入项参数。
58.在本说明书实施例中，所述第一数据库为离线数据库集群；
59.所述调用所述合成组件获得源参数标识，根据所述源参数标识获取源参数，并至少根据所述源参数合成输入项参数，可以包括：
60.调用所述合成组件，确定所述合成组件中的源参数标识，根据所述源参数标识从所述离线数据库集群中获取对应的源参数，并至少根据所述源参数合成输入项参数。
61.在本说明书实施例中，可以搭建与业务系统解耦的参数合成器，利用所述参数合成器执行业务系统入参接口对应的合成组件，调用源参数合成输入项参数。
62.这样，加工合成输入项参数的过程，可以独立于业务系统而进行。
63.这样，可以在业务系统调用评分模型的输入项参数之前，预先加工合成输入项参数，从而提高用户评分的整体效率。
64.在本说明书实施例中，可以设置定时任务，定时触发执行合成组件，完成对源参数的处理和输入项参数的合成。
65.s103：根据入参接口匹配输入项参数标识，将所述输入项参数标识对应的输入项参数输入到预训练好的评分模型中，输出并存储评分数据。
66.在本说明书实施例中，该方法还可以包括：
67.调用所述合成组件获取样本源参数，至少根据所述样本源参数合成输入项参数；
68.业务系统根据入参接口匹配输入项参数标识，利用对应的输入项参数训练评分模型。
69.在本说明书实施例中，该方法还可以包括：
70.接收评分请求及所述请求中携带的批量用户的输入项参数，调用预训练好的评分模型创建并发执行的多个评分任务，为各用户进行评分。
71.通过创建并发的多个评分任务，缩短了处理耗时，提高了评分效率。
72.s104：根据所述评分数据组建评分数据调用接口供业务系统查询。
73.该实施例通过提供与业务系统解耦的入参配置器，通过所述入参配置器确定输入
项参数标识及第一数据库中的源参数标识，并配置合成组件，调用所述合成组件获得源参数标识，根据所述源参数标识获取源参数，并至少根据所述源参数合成输入项参数，根据入参接口匹配输入项参数标识，将所述输入项参数标识对应的输入项参数输入到预训练好的评分模型中，输出并存储评分数据，根据评分数据组建评分数据调用接口供业务系统查询，只需要在业务系统外进行组件配置便可以完成合成逻辑的开发，实现了与业务系统的解耦，降低了对业务系统的干扰，提高了利用业务系统进行数据查询时的效率和可靠性。
74.在本说明书实施例中，该方法还可以包括：
75.在使用所述业务系统执行目标业务时，业务组件调用所述评分数据调用接口，获取所述评分数据，并根据所述评分数据进行业务策略的推荐。
76.实际应用时，可以使用大数据pyspark来跑评分模型，实现每次向评分模型传入1000-10000(作为示意)个用户的输入项入参数(1000-10000个修饰的是用户，而不是输入项入参数)，调用一次评分模型输出1000-10000个评分。
77.考虑到实际情况中，进行评分往往还需要进行网络通信，这就涉及到网络开销，模型内部处理1条数据和处理1000条数据的耗时是差不多的，而一次网络开销和1000次网络开销的耗时却差异很大。相比于每次传1条数据，调1000次模型包来说，一次传1000条只调一次模型包可以极大的减少网络耗时和cpu内存使用率，因此，为了将网络开销平摊到每个用户上，可以进行批量评分。
78.对于每批处理多少用户，可以随机设置，也可以按照一定的规则进行计算。
79.在本说明书实施例中，为了提高整体评分耗时的可控性，在用户总数确定的情况下，只需要反推出每批处理的用户数，便可以反推出网络开销的次数，也就是调用评分模型的次数，从而控制耗时。
80.因此，在本说明书实施例中，该方法还可以包括：
81.提供网络开销管理器，通过所述网络开销管理器设置评分模型的调用次数阈值；
82.结合待评分的用户数和所述调用次数阈值计算每次调用评分模型所处理的用户数量，记作单批用户数；
83.所述获取多个用户的输入项参数，包括：
84.按照所述单批用户数确定对应数量的用户，并获取其输入项参数。
85.这样，既可以实现批量处理提高效率，又可以实现评分环节的进度整体可控，从而控制耗时。
86.其中，网络开销管理器可以是一些指令性组件，也可以是一些程序脚本。
87.当然，还可以提供专门的交互接口，比如配置页面，方便用户管理评分模型的调用次数。
88.partitions是一种分区算子，具体实施时，可以使用mappartitions算子，精确控制调用模型包的次数，可以灵活控制打分耗时。
89.因此，在本说明书实施例中，所述通过所述网络开销管理器设置评分模型的调用次数阈值，可以包括：
90.通过所述网络开销管理器创建配置页面，接收用户在所述配置页面通过配置操作产生的调用次数阈值信息。
91.在本说明书实施例中，该方法还可以包括：
92.提供分区管理器，基于用户在所述分区管理器中产生的配置操作进行分区，使并发执行的各评分任务分别单独对应至少一个分区。
93.在本说明书实施例中，评分模型具体可以是风险等级评估模型，输出风险等级，也可以是用户画像模型，通过对用户的各类行为数据精准画像，提升业务系统的风控能力。
94.在实际实施上述方案时，可以先用easyscheduler平台实现整个输入项参数加工过程的页面配置，降低开发成本和开发时间，定时调度合成组件产出输入项参数，配置easyscheduler调度定时任务，用spark-sql客户端定时执行评分模型输入项入参的合成组件，产出输入项参数存储到对应的数据表(hive宽表)；
95.然后用pyspark和mappartitions算子开发python脚本，查询hive宽表，按批次切分调用partitions数量和每批次数量，组装python入参dataframe集合用于调用人工智能评分模型；
96.随后，pyspark调用模型管理平台下载评分模型包，将模型包组装成python组件，添加到集群python环境；
97.接着，将入参dataframe传入该模型进行评分，输出dataframe评分数据；
98.解析评分数据，将解析出的评分数据写入到hdfs对应文件路径，修复hdfs文件路径对应的hive表分区。
99.最后，可利用kafka推送评分结果hive表给数据应用系统，数据应用系统使用该数据，并保存到数据库中。
100.在本说明书实施例中，可以通过数据应用系统管理数据接口，将推送评分数据到业务系统在线使用。
101.建立并改善了离线批量化人工智能评分模型评分能力,可以实现千万级用户量在小时内产出评分，大大提升了数据清洗效率和打分时效，可自助化完成模型训练、发布、测试、上线和定时评分及生产应用的业务闭环。针对于一些大数据量批量化的业务场景，例如用户标签、用户行为分析，可以实现去代码化离线人工智能评分模型打分。同时也可以迁移一些业务系统的定时跑批任务，减轻在线系统压力，提升业务稳定度。
102.图2为本说明书实施例提供的一种基于入参解耦的数据查询装置的结构示意图，该装置可以包括：
103.配置模块201，提供与业务系统解耦的入参配置器，通过所述入参配置器确定输入项参数标识及第一数据库中的源参数标识，并配置合成组件；
104.入参合成模块202，调用所述合成组件获得源参数标识，根据所述源参数标识获取源参数，并至少根据所述源参数合成输入项参数；
105.评分模块203，根据入参接口匹配输入项参数标识，将所述输入项参数标识对应的输入项参数输入到预训练好的评分模型中，输出并存储评分数据；
106.查询模块204，根据所述评分数据组建评分数据调用接口供业务系统查询。
107.该装置通过提供与业务系统解耦的入参配置器，通过所述入参配置器确定输入项参数标识及第一数据库中的源参数标识，并配置合成组件，调用所述合成组件获得源参数标识，根据所述源参数标识获取源参数，并至少根据所述源参数合成输入项参数，根据入参接口匹配输入项参数标识，将所述输入项参数标识对应的输入项参数输入到预训练好的评分模型中，输出并存储评分数据，根据评分数据组建评分数据调用接口供业务系统查询，只
需要在业务系统外进行组件配置便可以完成合成逻辑的开发，实现了与业务系统的解耦，降低了对业务系统的干扰，提高了利用业务系统进行数据查询时的效率和可靠性。
108.基于同一发明构思，本说明书实施例还提供一种电子设备。
109.下面描述本发明的电子设备实施例，该电子设备可以视为对于上述本发明的方法和装置实施例的具体实体实施方式。对于本发明电子设备实施例中描述的细节，应视为对于上述方法或装置实施例的补充；对于在本发明电子设备实施例中未披露的细节，可以参照上述方法或装置实施例来实现。
110.图3为本说明书实施例提供的一种电子设备的结构示意图。下面参照图3来描述根据本发明该实施例的电子设备300。图3显示的电子设备300仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
111.如图3所示，电子设备300以通用计算设备的形式表现。电子设备300的组件可以包括但不限于：至少一个处理单元310、至少一个存储单元320、连接不同系统组件(包括存储单元320和处理单元310)的总线330、显示单元340等。
112.其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元310执行，使得所述处理单元310执行本说明书上述处理方法部分中描述的根据本发明各种示例性实施方式的步骤。例如，所述处理单元310可以执行如图1所示的步骤。
113.所述存储单元320可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(ram)3201和/或高速缓存存储单元3202，还可以进一步包括只读存储单元(rom)3203。
114.所述存储单元320还可以包括具有一组(至少一个)程序模块3205的程序/实用工具3204，这样的程序模块3205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
115.总线330可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
116.电子设备300也可以与一个或多个外部设备400(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备300交互的设备通信，和/或与使得该电子设备300能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口350进行。并且，电子设备300还可以通过网络适配器360与一个或者多个网络(例如局域网(lan)，广域网(wan)和/或公共网络，例如因特网)通信。网络适配器360可以通过总线330与电子设备300的其它模块通信。应当明白，尽管图3中未示出，可以结合电子设备300使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。
117.通过以上的实施方式的描述，本领域的技术人员易于理解，本发明描述的示例性实施例可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个计算机可读的存储介质(可以是cd-rom，u盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本发明的上述方法。当所述计算机程序被一个数据处理设备执行时，使得该计算机可读介质能够实现本发明的上
述方法，即：如图1所示的方法。
118.图4为本说明书实施例提供的一种计算机可读介质的原理示意图。
119.实现图1所示方法的计算机程序可以存储于一个或多个计算机可读介质上。计算机可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。
120.所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、rf等等，或者上述的任意合适的组合。
121.可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如java、c 等，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(lan)或广域网(wan)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
122.综上所述，本发明可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(dsp)等通用数据处理设备来实现根据本发明实施例中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。
123.以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步详细说明，应理解的是，本发明不与任何特定计算机、虚拟装置或者电子设备固有相关，各种通用装置也可以实现本发明。以上所述仅为本发明的具体实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
124.本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。
125.以上所述仅为本技术的实施例而已，并不用于限制本技术。对于本领域技术人员来说，本技术可以有各种更改和变化。凡在本技术的精神和原理之内所作的任何修改、等同
替换、改进等，均应包含在本技术的权利要求范围之内。