一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

一种基于ARM内核的数据异构迁移可视化分析方法与流程

2022-02-24 16:41:22 来源:中国专利 TAG:
一种基于arm内核的数据异构迁移可视化分析方法
技术领域
:1.本发明属于计算机
技术领域
:,涉及一种数据迁移系统,特别是一种基于arm内核的数据异构迁移可视化分析方法。
背景技术
::2.在现有技术中,数据异构迁移设计工作人员在开展数据异构方案设计工作时,对于源数据库情况,没有很全面的数据库分析工具,只能凭借数据迁移经验和对数据库的熟悉情况,设计异构数据迁移方案,方案准确度存在偏差;数据异构迁移实施工作人员在完成数据异构迁移工作时,对于迁移后源数据库数据和目标数据库数据是否存在差异,没有全面的分析与展现工具,很难确定异构数据迁移是否完整。3.目前业内数据库厂商,针对自己的数据库产品,有些厂商有对应的数据库分析和对比工具,不过是基于x86内核的,没有基于鲲鹏arm内核实现的,而且支持的数据库种类和版本都比较单一,不能全面支撑异构数据迁移的需要。技术实现要素:4.本发明的目的是针对现有的技术存在上述问题,提出了在数据异构迁移之前,分析源数据库数据结构以及数据量,作为评估数据异构迁移工作的依据;数据异构迁移之后,分析目标数据库数据结构以及数据量,通过与源数据结构与数据量的对比分析,评估异构数据迁移质量的基于arm内核的数据异构迁移可视化分析方法。5.本发明的目的可通过下列技术方案来实现:一种基于arm内核的数据异构迁移可视化分析方法,其特征在于,包括以下内容:6.a、异构数据迁移设计:7.s1、源数据库字段分析;8.通过读取数据表字段信息,获取数据类型、数据长度、存储长度、数字精度、字段类型、默认值信息,重点分析异构数据库兼容容易存在问题的数据类型、数据长度、字段类型、默认值属性;9.s2、源数据库数据量统计;10.通过读取数据表,针对每个数据表获取数据记录数,并计算数据占用空间大小,而后统计总体的记录数以及数据占用空间大小;11.s3、目标数据库兼容分析;12.选择目标数据库及其版本,结合目标数据库语法要求,分析目标数据库对源数据库的兼容程度;13.s4、生成迁移工作方案;14.根据源数据库分析和目标数据库兼容分析,生成迁移工作方案,包括数据字段类型和长度的兼容性、迁移工作量;15.s5、迁移方案可行性分析;16.各迁移方案至少从技术、工作量方面进行对比分析,选择最合适的迁移方案;17.b、异构数据迁移实施:18.s1、迁移前后数据结构对比分析;19.通过读取源数据库和目标数据库数据表字段,对比迁移前后的数据表字段差异,分析迁移后的字段类型是否存在异常;20.s2、迁移前后数据量对比分析;21.通过读取源数据库和目标数据库数据表,统计每个数据表的数据记录数以及数据占用空间大小,每个数据表迁移前后进行对比,分析迁移后的数据是否完整;22.s3、迁移问题定位分析;23.结合s1和s2的分析结果,确定是语法兼容问题,还是数据不完整问题,并能准确定位到存在问题的数据表;24.s4、生成异构数据迁移报告;25.异构数据迁移完成后,生成异构数据迁移报告,至少包括迁移的数据表、记录数、异常情况信息。26.在上述的基于arm内核的数据异构迁移可视化分析方法中,根据分析结果绘制针对系统的系统配置图,针对信号或数据处理的信号或数据流处理过程图,针对处理器和/或软件的程序流程图和针对机械产品的透视图、三视图或剖视图。27.在上述的基于arm内核的数据异构迁移可视化分析方法中,步骤a的s1中,源数据库字段具体分析内容如下:28.(1)数据类型,分析是否存在int类型,int类型是否有精度;29.(2)数据长度,分析varchar类型数据最大长度;30.(3)字段类型,分析是否存在blob、clob、text字段类型;31.(4)默认值,分析是否存在时间类型timestamp默认设置为“0000-00-0000:00:00”。32.在上述的基于arm内核的数据异构迁移可视化分析方法中,步骤a的s2中,通过data_length和index_length计算数据占用空间大小。33.在上述的基于arm内核的数据异构迁移可视化分析方法中,步骤a的s3中,重点分析异构数据库兼容容易存在问题的数据类型、数据长度、字段类型、默认值属性,具体分析内容如下:34.(1)数据类型,int类型兼容分析,部分数据库的int类型,不需要也不能设置精度;35.(2)数据长度,varchar类型长度兼容分析,是否超过目标数据库最大长度,不同数据库varchar类型长度是不同的;36.(3)字段类型,blob、clob、text字段类型兼容分析,部分数据库中这些字段类型不能使用distinct、orderby、groupby关键字;37.(4)默认值,时间类型timestamp默认值兼容分析,部分数据库中timestamp类型数据不能为“0000-00-0000:00:00”。38.在上述的基于arm内核的数据异构迁移可视化分析方法中,步骤a的s4中,针对不同目标数据库生成不同的迁移方案,方案内容涉及table、view、procedure、trigger、function、sequence,具体实现内容如下:39.(1)table,字段类型区分语法是否兼容,对比显示源数据库和目标数据库字段类型、长度,重点突出显示不兼容的字段;汇总展示数据记录数以及数据占用空间大小,并显示评估迁移难度以及迁移时间;40.(2)view,展示view数量以及迁移难度;41.(3)procedure,显示procedure数量、代码量、迁移难度以及迁移时间;42.(4)trigger,显示trigger数量、代码量、迁移难度以及迁移时间;43.(5)function,显示function数量、代码量、迁移难度以及迁移时间;44.(6)sequence,显示sequence数量以及迁移难度;45.在上述的基于arm内核的数据异构迁移可视化分析方法中,步骤a的s5中,各迁移工作方案从兼容情况、迁移难度、迁移时间方面进行对比分析,以可视化图表的方式进行展示,具体实现内容如下:46.(1)兼容情况,对比并展示不同方案数据对象的兼容情况,包括table、view、procedure、trigger、function、sequence数据库对象;47.(2)迁移难度,以难度系数的方式进行对比显示,难度系数从0到10,迁移难度越来越高;48.(3)迁移时间,汇总各迁移方案需要的迁移时间,并以图表的方式对比分析。49.在上述的基于arm内核的数据异构迁移可视化分析方法中,步骤b的s1中,从table、view、procedure、trigger、function、sequence方面对比迁移前后的区别,并以图表的方式分析展示,具体实现内容如下:50.(1)table,首先对比显示迁移前后的table数量,验证table数量是否一致;其次对比显示迁移前后每个table的字段数量,验证每个table字段数量是否一致;最后对比显示每个字段类型,只显示迁移前后存在区别的字段,以验证迁移前后是否存在问题;51.(2)view,首先对比显示迁移前后的view数量,验证view数量是否一致;针对每个view,对比分析view定义语句,显示迁移前后存在区别的view定义语句,以验证迁移前后是否存在问题;52.(3)procedure,首先对比显示迁移前后的procedure数量,验证procedure数量是否一致;针对每个procedure,对比分析procedure定义语句,显示迁移前后存在区别的procedure定义语句,突出显示存在区别的位置;53.(4)trigger,首先对比显示迁移前后的trigger数量,验证trigger数量是否一致;针对每个trigger,对比分析trigger定义语句,显示迁移前后存在区别的trigger定义语句,突出显示存在区别的位置;54.(5)function,首先对比显示迁移前后的function数量,验证function数量是否一致;针对每个function,对比分析function定义语句,显示迁移前后存在区别的function定义语句,突出显示存在区别的位置;55.(6)sequence,首先对比显示迁移前后的sequence数量,验证sequence数量是否一致;针对每个sequence,对比分析递增数、最小值、最大值、当前值是否一致,显示迁移前后不一致的sequence及其对应值。56.在上述的基于arm内核的数据异构迁移可视化分析方法中,步骤b的s2中,从数据记录数、数据占用空间大小、最新10条数据三个方面对比迁移前后的区别,并以图表的方式分析展示,具体实现内容如下:57.(1)数据记录数,读取迁移前后每个table的数据记录数,验证数据记录数是否一致,突出显示不一致的table;58.(2)数据占用空间大小,读取迁移前后每个table的数据占用空间大小,验证数据占用空间大小差异,对于数据占用空间差异明显的重点显示;59.(3)最新10条数据,显示迁移前后每个table的最新10条数据,对比最新10条数据是否存在区别,对于存在区别的数据突出显示。60.与现有技术相比,本基于arm内核的数据异构迁移可视化分析方法具有以下有益效果:61.本发明基于arm内核,对应用系统在数据异构迁移过程中,异构数据迁移设计和异构数据迁移分析问题提供了一种方法,为异构数据迁移设计提供依据,为异构数据迁移实施提供数据完整性验证,减轻了异构数据迁移设计的难度,保障了异构数据迁移结果的准确,节省异构数据迁移结果验证的时间,提高了数据迁移效率。附图说明62.图1是本发明中异构数据迁移设计的流程图。63.图2是本发明中异构数据迁移实施的流程图。具体实施方式64.下面结合附图和具体实施例对本发明的具体实施方式做进一步说明:65.本发明提供一套基于arm内核的数据异构迁移可视化分析工具,使数据异构迁移设计工作人员进行数据异构迁移方案设计时,通过本工具详细分析源数据库数据结构、数据量等详细信息,并通过选择目标数据库,分析数据结构等语法差异,对比不同数据库产品,设计不同异构数据迁移方案,通过对比分析不同迁移方案,选择合适的迁移方案开始异构数据迁移工作,降低了方案设计人员的工作量,提高方案设计准确度,方便后期更好的开展数据迁移工作;数据异构迁移实施工作人员,依据数据异构迁移方案开展异构数据迁移工作,数据迁移完成后通过本工具分析对比迁移前后的数据情况,判断数据迁移是否完整,最后生成异构数据迁移情况报告,详细记录数据迁移情况,直观展示数据迁移情况,对于迁移不完整的部分可以精确定位,更好的服务了异构数据迁移工作。[0066][0067][0068]表1数据表字段属性表[0069]字段字段说明备注table_id数据表编号主键table_name数据表名称num_rows记录数avg_row_len平均行长度单位:字节data_length数据长度单位:字节max_data_length最大数据长度单位:字节index_length索引长度单位:字节table_comment注释[0070]表2数据表属性表[0071]如图1所示的异构数据迁移设计工作中的应用流程图,包括以下步骤:[0072]步骤一,源数据库字段分析,基于数据库产品语法要求,针对不同数据库产品,获取数据表字段信息。通过dba_tab_columns读取数据表字段信息,详细信息如表1所示。根据数据表字段信息,重点分析异构数据库兼容容易存在问题的数据类型、数据长度、字段类型、默认值等属性,重点分析步骤如下:[0073](1)数据类型,分析是否存在int类型,int类型是否有精度。[0074](2)数据长度,分析varchar类型数据最大长度。[0075](3)字段类型,分析是否存在blob、clob、text等字段类型。[0076](4)默认值,分析是否存在时间类型timestamp默认设置为“0000-00-0000:00:00”。[0077]步骤二,源数据库数据量统计,首先通过dba_tables读取所有数据表信息,详细信息如表2所示。针对每个数据表获取数据记录数,并通过data_length和index_length计算数据占用空间大小,最后统计总体的记录数以及数据占用空间大小。[0078]步骤三:目标数据库兼容分析,选择目标数据库及其版本,结合目标数据库语法要求,分析目标数据库对源数据库的兼容程度。重点分析异构数据库兼容容易存在问题的数据类型、数据长度、字段类型、默认值等属性,重点分析步骤如下:[0079](1)数据类型,int类型兼容分析,部分数据库的int类型,不需要也不能设置精度。[0080](2)数据长度,varchar类型长度兼容分析,是否超过目标数据库最大长度,不同数据库varchar类型长度是不同的。[0081](3)字段类型,blob、clob、text等字段类型兼容分析,部分数据库中这些字段类型是不能使用distinct、orderby、groupby等关键字的。[0082](4)默认值,时间类型timestamp默认值兼容分析,部分数据库中timestamp类型数据不能为“0000-00-0000:00:00”,是不符合语法的。[0083]步骤四:生成迁移工作方案,针对不同目标数据库生成不同的迁移方案,方案内容涉及table、view、procedure、trigger、function、sequence,具体实现内容如下:[0084](1)table,字段类型区分语法是否兼容,对比显示源数据库和目标数据库字段类型、长度,重点突出显示不兼容的字段;汇总展示数据记录数以及数据占用空间大小,并显示评估迁移难度以及迁移时间。[0085](2)view,展示view数量以及迁移难度。[0086](3)procedure,显示procedure数量、代码量、迁移难度以及迁移时间。[0087](4)trigger,显示trigger数量、代码量、迁移难度以及迁移时间。[0088](5)function,显示function数量、代码量、迁移难度以及迁移时间。[0089](6)sequence,显示sequence数量以及迁移难度。[0090]步骤五:迁移方案可行性分析,各迁移工作方案从兼容情况、迁移难度、迁移时间等方面进行对比分析,以可视化图表的方式进行展示,选择最合适的迁移方案。[0091](1)兼容情况,对比并展示不同方案数据对象的兼容情况,包括table、view、procedure、trigger、function、sequence等数据库对象。[0092](2)迁移难度,以难度系数的方式进行对比显示,难度系数从0到10,迁移难度越来越高。[0093](3)迁移时间,汇总各迁移方案需要的迁移时间,并以图表的方式对比分析。[0094]如图2所示的异构数据迁移实施工作中的应用流程图,包括以下步骤:[0095]步骤一:迁移前后数据结构对比分析,获取源数据库和目标数据库的数据对象,从table、view、procedure、trigger、function、sequence方面对比迁移前后的区别,并以图表的方式分析展示,具体实现内容如下:[0096](1)table,首先对比显示迁移前后的table数量,验证table数量是否一致;其次对比显示迁移前后每个table的字段数量,验证每个table字段数量是否一致;最后对比显示每个字段类型,只显示迁移前后存在区别的字段,以验证迁移前后是否存在问题。[0097](2)view,首先对比显示迁移前后的view数量,验证view数量是否一致;针对每个view,对比分析view定义语句,显示迁移前后存在区别的view定义语句,以验证迁移前后是否存在问题。[0098](3)procedure,首先对比显示迁移前后的procedure数量,验证procedure数量是否一致;针对每个procedure,对比分析procedure定义语句,显示迁移前后存在区别的procedure定义语句,突出显示存在区别的位置。[0099](4)trigger,首先对比显示迁移前后的trigger数量,验证trigger数量是否一致;针对每个trigger,对比分析trigger定义语句,显示迁移前后存在区别的trigger定义语句,突出显示存在区别的位置。[0100](5)function,首先对比显示迁移前后的function数量,验证function数量是否一致;针对每个function,对比分析function定义语句,显示迁移前后存在区别的function定义语句,突出显示存在区别的位置。[0101](6)sequence,首先对比显示迁移前后的sequence数量,验证sequence数量是否一致;针对每个sequence,对比分析递增数、最小值、最大值、当前值是否一致,显示迁移前后不一致的sequence及其对应值。[0102]步骤二:迁移前后数据量对比分析,获取源数据库和目标数据库的数据表,从数据记录数、数据占用空间大小、最新10条数据三个方面对比迁移前后的区别,并以图表的方式分析展示,具体实现内容如下:[0103](1)数据记录数,读取迁移前后每个table的数据记录数,验证数据记录数是否一致,突出显示不一致的table。[0104](2)数据占用空间大小,读取迁移前后每个table的数据占用空间大小,验证数据占用空间大小差异,对于数据占用空间差异明显的重点显示。[0105](3)最新10条数据,显示迁移前后每个table的最新10条数据,对比最新10条数据是否存在区别,对于存在区别的数据突出显示。[0106]步骤三:迁移问题定位分析,结合步骤一和步骤二的分析结果,针对迁移前后存在差异的问题,定位到具体的数据库对象,分析存在差异的原因。[0107]步骤四:生成异构数据迁移报告,异构数据迁移完成后,生成异构数据迁移报告,报告内容既有迁移对象数量、异常数量、迁移时间等汇总数据,也包括每个迁移对象情况具体情况,详细展示迁移的具体情况。[0108]当然,上述说明并非是对本发明的限制,本发明也并不仅限于上述举例,本
技术领域
:的技术人员在本发明的实质范围内所做出的变化、改型、添加或替换,也应属于本发明的保护范围。当前第1页12当前第1页12
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献