数据变量管理方法、装置、计算机可读存储介质及处理器与流程

1.本发明涉及数据处理领域，具体而言，涉及一种数据变量管理方法、装置、计算机可读存储介质及处理器。


背景技术：

2.对于业务涉及面较大，业务系统更新迭代快，业务开发小组多的开发团队，以往通常使用邮件和git发布需求，再由专业的数仓团队开发上线。
3.但是，这种上线模式存在耗时长，延时大，回退操作麻烦，风险难以管控等诸多问题。
4.针对上述现有开发需求的变量管理方式效率低的问题，目前尚未提出有效的解决方案。


技术实现要素：

5.本发明实施例提供了一种数据变量管理方法、装置、计算机可读存储介质及处理器，以至少解决现有开发需求的变量管理方式效率低的技术问题。
6.根据本发明实施例的一个方面，提供了一种数据变量管理方法，包括：通过操作页面获取用户的变更申请信息，其中，所述变更申请信息至少包括：变量位置信息和变更类型；从数据库中提取所述变量位置信息对应的数据作为待变更变量数据；基于所述变更类型对所述待变更变量数据进行变更后，得到已变更数据；将所述已变更数据传输至数仓平台进行存储。
7.可选地，所述变更申请信息还包括：用户信息；从数据库中提取所述变量位置信息对应的数据作为待变更变量数据包括：基于所述用户信息对所述变更申请信息的用户进行权限校验；在所述用户的权限校验通过后，基于所述变量位置信息从所述数据库中提取所述待变更变量数据。
8.可选地，所述变更申请信息还包括：变更原因；从数据库中提取所述变量位置信息对应的数据作为待变更变量数据包括：基于所述变更原因对所述变更申请信息进行审批；在审批通过后，基于所述变量位置信息从所述数据库中提取所述待变更变量数据。
9.可选地，在将所述已变更数据传输至数仓平台进行存储之后，所述方法还包括：基于查询语句在所述数仓平台中查询所述已变更数据。
10.可选地，所述操作页面至少包括：申请页面，用于通过可视化插件生成所述变更申请信息；审批页面，用于对所述变更申请信息进行审批；查询页面，用于查询用户历史生成的变更申请信息；以及查询所述数仓平台中存储的所述已变更数据。
11.根据本发明实施例的另一方面，还提供了一种数据变量管理装置，包括：获取单元，用于通过操作页面获取用户的变更申请信息，其中，所述变更申请信息至少包括：变量位置信息和变更类型；提取单元，用于从数据库中提取所述变量位置信息对应的数据作为待变更变量数据；变更单元，用于基于所述变更类型对所述待变更变量数据进行变更后，得
到已变更数据；传输单元，用于将所述已变更数据传输至数仓平台进行存储。
12.可选地，所述变更申请信息还包括：用户信息；所述提取单元包括：校验模块，用于基于所述用户信息对所述变更申请信息的用户进行权限校验；第一提取模块，用于在所述用户的权限校验通过后，基于所述变量位置信息从所述数据库中提取所述待变更变量数据。
13.可选地，所述变更申请信息还包括：变更原因；所述提取单元包括：审批模块，用于基于所述变更原因对所述变更申请信息进行审批；第二提取模块，用于在审批通过后，基于所述变量位置信息从所述数据库中提取所述待变更变量数据。
14.根据本发明实施例的另一方面，还提供了一种计算机可读存储介质，所述计算机可读存储介质包括存储的程序，其中，在所述程序运行时控制所述计算机可读存储介质所在设备执行上述所述数据变量管理方法。
15.根据本发明实施例的另一方面，还提供了一种处理器，所述处理器用于运行程序，其中，所述程序运行时执行所述所述数据变量管理方法。
16.在本发明实施例中，通过操作页面获取用户的变更申请信息，其中，变更申请信息至少包括：变量位置信息和变更类型；从数据库中提取变量位置信息对应的数据作为待变更变量数据；基于变更类型对待变更变量数据进行变更后，得到已变更数据；将已变更数据传输至数仓平台进行存储；从而通过操作页面对待变更变量数据进行变更申请，并将变更后的已变更数据存储至数仓平台，使开发人员不再使用邮件申请审批，达到了提高了开发效率的目的，实现了提高针对开发需求的变量管理效率的技术效果，进而解决了现有开发需求的变量管理方式效率低技术问题。
附图说明
17.此处所说明的附图用来提供对本发明的进一步理解，构成本技术的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：
18.图1是根据本发明实施例的一种数据变量管理方法的流程图；
19.图2是根据本发明实施例的一种基于大数据平台的元数据变量系统的示意图一；
20.图3是根据本发明实施例的一种基于大数据平台的元数据变量系统的示意图二；
21.图4是根据本发明实施例的一种申请页面的示意图；
22.图5是根据本发明实施例的一种审批页面的示意图；
23.图6是根据本发明实施例的一种申请查询页面的示意图一；
24.图7是根据本发明实施例的一种申请查询页面的示意图二；
25.图8是根据本发明实施例的一种数据变量管理装置的示意图。
具体实施方式
26.为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。
27.需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
28.根据本发明实施例，提供了一种数据变量管理方法实施例，需要说明的是，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。
29.图1是根据本发明实施例的一种数据变量管理方法的流程图，如图1所示，该方法包括如下步骤：
30.步骤s102，通过操作页面获取用户的变更申请信息，其中，变更申请信息至少包括：变量位置信息和变更类型；
31.步骤s104，从数据库中提取变量位置信息对应的数据作为待变更变量数据；
32.步骤s106，基于变更类型对待变更变量数据进行变更后，得到已变更数据；
33.步骤s108，将已变更数据传输至数仓平台进行存储。
34.在本发明实施例中，通过操作页面获取用户的变更申请信息，其中，变更申请信息至少包括：变量位置信息和变更类型；从数据库中提取变量位置信息对应的数据作为待变更变量数据；基于变更类型对待变更变量数据进行变更后，得到已变更数据；将已变更数据传输至数仓平台进行存储；从而通过操作页面对待变更变量数据进行变更申请，并将变更后的已变更数据存储至数仓平台，使开发人员不再使用邮件申请审批，达到了提高了开发效率的目的，实现了提高针对开发需求的变量管理效率的技术效果，进而解决了现有开发需求的变量管理方式效率低技术问题。
35.在上述步骤s102中，变更类型用于指示对待变更变量数据进行新增、更新、和删除。
36.在上述步骤s104中，数据库可以是业务系统的关系型书库，如mysql、oracle、sqlsever等。
37.在上述步骤s108中，数仓平台可以是hadoop分布式数据库。
38.作为一种可选的实施例，变更申请信息还包括：用户信息；从数据库中提取变量位置信息对应的数据作为待变更变量数据包括：基于用户信息对变更申请信息的用户进行权限校验；在用户的权限校验通过后，基于变量位置信息从数据库中提取待变更变量数据。
39.本发明上述实施例，变更申请信息还包括：用户信息，基于该用户信息可以确定用户对数据库的访问权限，使用户可以对针对权限范围内的数据提出变更申请，发出变更申请信息，还可以基于用户的权限对其他用户的变更申请信息进行审批。
40.作为一种可选的实施例，变更申请信息还包括：变更原因；从数据库中提取变量位置信息对应的数据作为待变更变量数据包括：基于变更原因对变更申请信息进行审批；在审批通过后，基于变量位置信息从数据库中提取待变更变量数据。
41.本发明上述实施例，用户可以在变更申请信息中提出变更原因，便于审批人员依据变更原因对该用户发出的变更申请信息进行审批。
42.作为一种可选的实施例，在将已变更数据传输至数仓平台进行存储之后，方法还包括：基于查询语句在数仓平台中查询已变更数据。
43.本发明上述实施例，通过查询语句可以在数仓平台中快速查询已变更数据。
44.可选地，在基于变更类型对待变更变量数据进行变更后，可以将已变更数据，以及已变更数据的变更日志存储在本地，在对已变更数据进行查询时，可以基于本地查询，也可以基于数仓平台查询已上传的已变更数据。
45.作为一种可选的实施例，操作页面至少包括：申请页面，用于通过可视化插件生成变更申请信息；审批页面，用于对变更申请信息进行审批；查询页面，用于查询用户历史生成的变更申请信息；以及查询数仓平台中存储的已变更数据。
46.本发明上述实施例，可视化插件至少包括：选择插件，用于选择变更类型，以及选择变量位置信息，用户可以基于可视化插件生成变更申请信息，从而无需用户通过编写代码的方式进行变更申请信息的编辑，提高变更申请信息的编写效率。
47.可选地，可视化插件包括：变更类型的选择插件，其中，变更类型包括新增，更新，分别用来新增变量和更新变量。
48.可选地，可视化插件包括：变量所在库的选择插件：使用户选择变量所在业务数据库名称；
49.可选地，可视化插件包括：变量所在表的选择插件，使用户选择变量所在业务数据库中的所在表；
50.可选地，可视化插件包括：变量名称的选择插件，使用户勾选要新增或者更新的变量名称；
51.可选地，可视化插件包括：接入的hadoop账号的选择插件，根据系统用户的用户id，自动识别该用户id所有权限的账户，由用户选择所需要选择的用户id；
52.可选地，可视化插件包括：申请原因的编写插件，让用户填写申请该操作的原因和理由，供领导审批；
53.可选地，可视化插件包括：申请人信息的生成插件，将申请人的业务部门，申请人姓名和申请日期，拼接起来并放到该处，用户不得修改；
54.可选地，可视化插件包括：提交按键：用户提交申请按钮；
55.可选地，可视化插件包括：取消按键：用户取消该次申请。
56.本发明还提供了一种优选实施例，该优选实施例提供了一种基于大数据平台的元数据变量系统。
57.本发明提供了一种开发人员线上对生产系统数据库变量到数仓平台的元数据变量管理系统，以可视化的页面在线上进行申请，审批变量导入申请，也提高线上变量查询平台的系统。
58.本发明的目的在于：通过构建一套可视化的系统，由产品等非技术人员可以在系统上通过简单的填写必填项实现变更数仓内的变量数据。
59.本发明提供一套审批系统，使只有通过相关管理人员审批的上线变更需求才会被执行。
60.本发明提供一套基于大数据平台的元数据变量系统，用来连接业务数据库和数仓平台；用来实现生产流程的申请，修改，废弃，驳回，通过等操作；以及用来记录所有用户的操作。
61.图2是根据本发明实施例的一种基于大数据平台的元数据变量系统的示意图一，如图2所示，包括：系统平台202，业务系统204和数仓平台206。
62.可选地，系统平台202提供一个操作页面和系统数据库，系统平台用来完成用户的申请添加表，添加字段，查询变量，审批等操作，并将生成的日志，保存到系统数据库中。
63.可选地，系统平台提供一个关系型数据库的接口，用来连接业务系统204如mysql、oracle、sqlsever等关系型数据库，对登陆的用户身份和权限进行校验，然后加载相应的业务库的url，读取相应数据库的元数据。
64.可选地，系统平台提供一个数仓平台的接口，用来连接数仓平台的元数据库206。
65.图3是根据本发明实施例的一种基于大数据平台的元数据变量系统的示意图二，如图3所示，包括：关系数据库301、数据采集模块302，系统平台202，数据推送模块304，数仓平台206。
66.可选地，数据采集模块，用于读取关系型数据库的元数据，获取关系数据库的表和字段，并将数据发送给系统平台；
67.可选地，数据推送模块，用于获取系统平台的数据，并推送到数仓平台。
68.可选地，数仓平台可以是hadoop。
69.可选地，系统平台用于连接数据采集模块和数据推送模块，作为两者的数据传输通道，并对数据流进行控制。
70.本系统提供的基于大数据平台的元数据变量系统，用于执行增加，修改，查询变量。
71.图4是根据本发明实施例的一种申请页面的示意图，如图4所示，包括：变更类型，其中，变更类型包括新增，更新，分别用来新增变量和更新变量；变量所在库，用于使用户选择变量所在业务数据库名称；变量所在表，用于使用户选择变量所在业务数据库中的所在表；变量名称，用于使用户勾选要新增或者更新的变量名称；接入的hadoop账号，用于根据系统用户的用户id，自动识别该用户id所有权限的账户，由用户选择所需要选择的用户id；申请原因，用于让用户填写申请该操作的原因和理由，供领导审批；申请人信息，用于将申请人的业务部门，申请人姓名和申请日期，拼接起来并放到该处，用户不得修改；提交，用于用户提交申请按钮；取消，用于用户取消该次申请。
72.图5是根据本发明实施例的一种审批页面的示意图，如图5所示，第一条数据表示由张三发出的数据变量变更的申请(即发出变更申请信息)，待赵sir进行审批；第二条数据表示由李四发出的数据变量变更申请(即发出变更申请信息)，已由赵sir审批通过；第三条数据表示由王五发出的数据变量变更申请(即发出变更申请信息)，已由赵sir审批驳回。
73.图6是根据本发明实施例的一种申请查询页面的示意图一，如图6所示，张三历史的申请页面，用于展示张三历史申请单的审批结果；其中，第一条数据表示由张三发出的数据变量变更申请(即发出变更申请信息)，目前待赵sir进行审批；第二条数据表示由张三发出的数据变量变更申请(即发出变更申请信息)，已由赵sir审批通过；第三条数据表示由张三发出的数据变量变更申请(即发出变更申请信息)，已由赵sir审批驳回，需要张三重新申
请。
74.图7是根据本发明实施例的一种申请查询页面的示意图二，如图7所示，用户提供查询已经接入到数仓的变量的数据；其中，查询窗口提供三个标签：表名，字段名，表注释，用来满足用户的三种查询方式，分别模糊匹配出表名和字段名所在的库，表和字段，表注释。
75.可选地，如图7所示的条形框，让用户填写输入查询的信息。
76.可选地，如图7所示的搜索按钮，用户点击“搜索”，页面范围查询结果。
77.可选地，如图7所示的搜索结果，向用户展示查询到的数据变量的结果。
78.本发明提供的基于大数据平台的元数据变量系统，，使开发人员不再使用邮件申请审批，提高了开发效率。
79.本发明提供的基于大数据平台的元数据变量系统，给用户提供线上的变量查询服务，使用户可以在系统上查询大数据平台的变量信息，可以不再去大数据平台元数据库查询相关的表和字段数据，方便了系统数据的权限管控，增强了公司数据资产的安全性。
80.根据本发明的又一个实施例，还提供了一种存储介质，所述存储介质包括存储的程序，其中，所述程序运行时执行上述任一项所述的数据变量管理方法。
81.根据本发明的又一个实施例，还提供了一种处理器，所述处理器用于运行程序，其中，所述程序运行时执行上述任一项所述的数据变量管理方法。
82.根据本发明实施例，还提供了一种数据变量管理装置实施例，需要说明的是，该数据变量管理装置可以用于执行本发明实施例中的数据变量管理方法，本发明实施例中的数据变量管理方法可以在该数据变量管理装置中执行。
83.图8是根据本发明实施例的一种数据变量管理装置的示意图，如图8所示，该装置可以包括：获取单元80，用于通过操作页面获取用户的变更申请信息，其中，变更申请信息至少包括：变量位置信息和变更类型；提取单元82，用于从数据库中提取变量位置信息对应的数据作为待变更变量数据；变更单元84，用于基于变更类型对待变更变量数据进行变更后，得到已变更数据；传输单元86，用于将已变更数据传输至数仓平台进行存储。
84.需要说明的是，该实施例中的获取单元80可以用于执行本技术实施例中的步骤s102，该实施例中的提取单元82可以用于执行本技术实施例中的步骤s104，该实施例中的变更单元84可以用于执行本技术实施例中的步骤s106，该实施例中的传输单元86可以用于执行本技术实施例中的步骤s108。上述模块与对应的步骤所实现的示例和应用场景相同，但不限于上述实施例所公开的内容。
85.在本发明实施例中，通过操作页面获取用户的变更申请信息，其中，变更申请信息至少包括：变量位置信息和变更类型；从数据库中提取变量位置信息对应的数据作为待变更变量数据；基于变更类型对待变更变量数据进行变更后，得到已变更数据；将已变更数据传输至数仓平台进行存储；从而通过操作页面对待变更变量数据进行变更申请，并将变更后的已变更数据存储至数仓平台，使开发人员不再使用邮件申请审批，达到了提高了开发效率的目的，实现了提高针对开发需求的变量管理效率的技术效果，进而解决了现有开发需求的变量管理方式效率低技术问题。
86.作为一种可选的实施例，变更申请信息还包括：变更原因；提取单元包括：审批模块，用于基于变更原因对变更申请信息进行审批；第二提取模块，用于在审批通过后，基于
变量位置信息从数据库中提取待变更变量数据。
87.作为一种可选的实施例，装置还包括：查询单元，用于在将已变更数据传输至数仓平台进行存储之后，基于查询语句在数仓平台中查询已变更数据。
88.作为一种可选的实施例，操作页面至少包括：申请页面，用于通过可视化插件生成变更申请信息；审批页面，用于对变更申请信息进行审批；查询页面，用于查询用户历史生成的变更申请信息；以及查询数仓平台中存储的已变更数据。
89.上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
90.在本发明的上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。
91.在本技术所提供的几个实施例中，应该理解到，所揭露的技术内容，可通过其它的方式实现。其中，以上所描述的装置实施例仅仅是示意性的，例如所述单元的划分，可以为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，单元或模块的间接耦合或通信连接，可以是电性或其它的形式。
92.所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
93.另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
94.所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：u盘、只读存储器(rom，read
‑
only memory)、随机存取存储器(ram，random access memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
95.以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。