一种基于缓存的对象存储海量数据备份方法及系统与流程

1.本发明涉及数据备份技术领域，具体而言，涉及一种基于缓存的对象存储海量数据备份方法及系统。


背景技术：

2.对象存储是用来描述解决和处理离散单元的方法。目前随着基于对象存储的海量数据在实际使用中越来越多，数据备份的需求也不断增长。但是对象存储普遍没有提供如何获取增量数据信息的快捷方式，只能遍历数据比较所有数据元数据信息，获取到具体的增删改数据，这样会在增量发起时浪费大量时间在增量信息的获取，降低了备份效率。


技术实现要素：

3.为了克服上述问题或者至少部分地解决上述问题，本发明实施例提供一种基于缓存的对象存储海量数据备份方法及系统，在对于对象存储的海量数据备份时，可以快速获取增量备份数据信息，从而在备份过程中节省备份时间，提高备份效率。
4.本发明的实施例是这样实现的：第一方面，本发明实施例提供一种基于缓存的对象存储海量数据备份方法，包括以下步骤：进行全量数据备份，遍历扫描所有数据文件信息，并将备份数据记录到数据库中；设置增量扫描定时器，定时发起增量扫描，缓存记录变化数据信息，增量扫描完成后，生成增量数据快照；进行增量数据备份，读取最近一份增量数据的缓存变化数据快照，备份该快照内记录的数据，并将备份成功的数据记录到数据库中。
5.为了解决现有技术中对象存储的海量数据备份效率低下的技术问题，本发明针对对象存储的海量数据备份，实现快速检索增量数据，使数据备份时快速获取增量文件信息，从而在备份过程中节省备份时间，提高备份效率。首先进行全量数据备份，将备份数据记录到数据库中；然后，设定增量扫描定时器，定时发起增量扫描，获取增量变化数据并缓存至数据库中，每一次扫描完成后生成一次增量数据快照，并将上次的数据快照进行替换删除；当定时扫描结束后，进行增量数据备份，读取最近一份增量数据缓存快照，备份快照内记录的数据，并将备份成功的数据记录到数据库中。基于上述方法可快速获取增量备份数据信息，提高备份效率。
6.基于第一方面，在本发明的一些实施例中，上述定时发起增量扫描，缓存记录变化数据信息，增量扫描完成后，生成增量数据快照的方法包括以下步骤：第一次增量扫描时，将上次备份的全量数据记录信息与当前对象存储海量数据进行比对，以获取得到增量变化数据信息，并将增量变化数据信息和新扫描到的全量数据信息缓存至数据库；扫描完成后，生成一次增量数据快照。
7.基于第一方面，在本发明的一些实施例中，该基于缓存的对象存储海量数据备份方法还包括以下步骤：第二次增量扫描时，将上次扫描的全量数据信息与当前实际数据进行比对，以获取得到增量变化数据信息，并将增量变化数据信息和全量数据信息缓存至数据库；扫描完成后，生成一次增量数据快照，并清理上次的增量数据快照。
8.基于第一方面，在本发明的一些实施例中，该基于缓存的对象存储海量数据备份方法还包括以下步骤：接收并根据增量备份请求停止增量扫描。
9.基于第一方面，在本发明的一些实施例中，该基于缓存的对象存储海量数据备份方法还包括以下步骤：再次设定增量扫描定时器，重新定时发起增量扫描，进行循环增量扫描及增量备份。
10.基于第一方面，在本发明的一些实施例中，该基于缓存的对象存储海量数据备份方法还包括以下步骤：当增量扫描完成后，生成最新缓存变化数据快照，并清理删除无效缓存快照信息。
11.基于第一方面，在本发明的一些实施例中，该基于缓存的对象存储海量数据备份方法还包括以下步骤：当完成增量备份后，删除缓存中对应的增量数据快照。
12.第二方面，本发明实施例提供一种基于缓存的对象存储海量数据备份系统，包括：全量数据备份模块、增量扫描模块以及增量数据备份模块，其中：全量数据备份模块，用于进行全量数据备份，遍历扫描所有数据文件信息，并将备份数据记录到数据库中；增量扫描模块，用于设置增量扫描定时器，定时发起增量扫描，缓存记录变化数据信息，增量扫描完成后，生成增量数据快照；增量数据备份模块，用于进行增量数据备份，读取最近一份增量数据的缓存变化数据快照，备份该快照内记录的数据，并将备份成功的数据记录到数据库中。
13.为了解决现有技术中对象存储的海量数据备份效率低下的技术问题，本系统通过全量数据备份模块、增量扫描模块以及增量数据备份模块等多个模块的配合，针对对象存储的海量数据备份，实现快速检索增量数据，使数据备份时快速获取增量文件信息，从而在备份过程中节省备份时间，提高备份效率。首先通过全量数据备份模块进行全量数据备份，将备份数据记录到数据库中；然后，通过增量扫描模块设定增量扫描定时器，定时发起增量扫描，获取增量变化数据并缓存至数据库中，每一次扫描完成后生成一次增量数据快照，并将上次的数据快照进行替换删除；当定时扫描结束后，通过增量数据备份模块进行增量数据备份，读取最近一份增量数据缓存快照，备份快照内记录的数据，并将备份成功的数据记录到数据库中。
14.第三方面，本技术实施例提供一种电子设备，其包括存储器，用于存储一个或多个程序；处理器。当一个或多个程序被处理器执行时，实现如上述第一方面中任一项的方法。
15.第四方面，本技术实施例提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如上述第一方面中任一项的方法。
16.本发明实施例至少具有如下优点或有益效果：本发明实施例提供一种基于缓存的对象存储海量数据备份方法及系统，针对对象存储的海量数据备份，实现快速检索增量数据，使数据备份时快速获取增量文件信息，从而在备份过程中节省备份时间，提高备份效率。
附图说明
17.为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
18.图1为本发明实施例一种基于缓存的对象存储海量数据备份方法的流程图；图2为本发明实施例一种基于缓存的对象存储海量数据备份方法中第一次增量扫描的流程图；图3为本发明实施例一种基于缓存的对象存储海量数据备份方法中第二次增量扫描的流程图；图4为本发明实施例一种基于缓存的对象存储海量数据备份系统的原理框图；图5为本发明实施例提供的一种电子设备的结构框图。
19.附图标记说明：100、全量数据备份模块；200、增量扫描模块；300、增量数据备份模块；101、存储器；102、处理器；103、通信接口。
具体实施方式
20.为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。
21.因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
22.应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。
23.需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个
……”
限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
24.实施例：
如图1-图3所示，第一方面，本发明实施例提供一种基于缓存的对象存储海量数据备份方法，包括以下步骤：s1、进行全量数据备份，遍历扫描所有数据文件信息，并将备份数据记录到数据库中；s2、设置增量扫描定时器，定时发起增量扫描，缓存记录变化数据信息，增量扫描完成后，生成增量数据快照；进一步地，如图2所示，包括：s21、第一次增量扫描时，将上次备份的全量数据记录信息与当前对象存储海量数据进行比对，以获取得到增量变化数据信息，并将增量变化数据信息和新扫描到的全量数据信息缓存至数据库；s22、扫描完成后，生成一次增量数据快照。
25.进一步地，如图3所示，包括：s23、第二次增量扫描时，将上次扫描的全量数据信息与当前对象存储海量数据进行比对，以获取得到增量变化数据信息，并将增量变化数据信息和新扫描到的全量数据信息缓存至数据库；s24、扫描完成后，生成一次增量数据快照，并清理上次的增量数据快照。
26.在本发明的一些实施例中，设置增量扫描定时器，定时发起增量扫描。第一次增量扫描时依赖上次备份的全量数据记录信息，同当前对象存储海量数据比对获取增量变化数据的具体信息，并将增量变化数据信息以及新扫描到的全量数据信息缓存至数据库，扫描完成生成一次增量数据快照；第二次增量扫描时依赖上次扫描的全量数据信息，同当前对象存储海量数据比对获取增量变化数据的具体信息，并将增量变化数据信息以及新扫描到的全量数据信息缓存至数据库，扫描完成生成一次增量数据快照，清理上次快照数据。每次扫描完成后都生成新的增量数据快照并替换上一次的快照数据，为后续提供最新最精准的参照数据。
27.s3、进行增量数据备份，读取最近一份增量数据的缓存变化数据快照，备份该快照内记录的数据，并将备份成功的数据记录到数据库中。
28.在本发明的一些实施例中，增量备份时，直接读取缓存中最近一次的增量变化数据快照信息，并按照该信息直接备份变化的海量数据，并将备份数据记录到数据库中，并删除缓存中对应的增量数据库快照。
29.为了解决现有技术中对象存储的海量数据备份效率低下的技术问题，本发明针对对象存储的海量数据备份，实现快速检索增量数据，使数据备份时快速获取增量文件信息，从而在备份过程中节省备份时间，提高备份效率。首先进行全量数据备份，将备份数据记录到数据库中；然后，设定增量扫描定时器，定时发起增量扫描，获取增量变化数据并缓存至数据库中，每一次扫描完成后生成一次增量数据快照，并将上次的数据快照进行替换删除；当定时扫描结束后，进行增量数据备份，读取最近一份增量数据缓存快照，备份快照内记录的数据，并将备份成功的数据记录到数据库中。基于上述方法可快速获取增量备份数据信息，提高备份效率。
30.基于第一方面，在本发明的一些实施例中，该基于缓存的对象存储海量数据备份方法还包括以下步骤：
接收并根据增量备份请求停止增量扫描。
31.如果收到增量备份请求，则停止增量扫描，进行增量数据备份；否则一直定时增量扫描，进而保证备份时的数据是实时的最新的数据。
32.基于第一方面，在本发明的一些实施例中，该基于缓存的对象存储海量数据备份方法还包括以下步骤：再次设定增量扫描定时器，重新定时发起增量扫描，进行循环增量扫描及增量备份。
33.当上一次备份完成后，还可以根据需求再次设定增量扫描定时器，然后进行新一轮的增量扫描，进行循环增量扫描以及增量备份，大大提高备份效率。
34.基于第一方面，在本发明的一些实施例中，该基于缓存的对象存储海量数据备份方法还包括以下步骤：当增量扫描完成后，生成最新缓存变化数据快照，并清理删除无效缓存快照信息。
35.基于第一方面，在本发明的一些实施例中，该基于缓存的对象存储海量数据备份方法还包括以下步骤：当完成增量备份后，删除缓存中对应的增量数据快照。释放缓存空间，为下一次缓存做好准备，有效节约了缓存资源。
36.如图4所示，第二方面，本发明实施例提供一种基于缓存的对象存储海量数据备份系统，包括：全量数据备份模块100、增量扫描模块200以及增量数据备份模块300，其中：全量数据备份模块100，用于进行全量数据备份，遍历扫描所有数据文件信息，并将备份数据记录到数据库中；增量扫描模块200，用于设置增量扫描定时器，定时发起增量扫描，缓存记录变化数据信息，增量扫描完成后，生成增量数据快照；增量数据备份模块300，用于进行增量数据备份，读取最近一份增量数据的缓存变化数据快照，备份该快照内记录的数据，并将备份成功的数据记录到数据库中。
37.为了解决现有技术中对象存储的海量数据备份效率低下的技术问题，本系统通过全量数据备份模块100、增量扫描模块200以及增量数据备份模块300等多个模块的配合，针对对象存储的海量数据备份，实现快速检索增量数据，使数据备份时快速获取增量文件信息，从而在备份过程中节省备份时间，提高备份效率。首先通过全量数据备份模块100进行全量数据备份，将备份数据记录到数据库中；然后，通过增量扫描模块200设定增量扫描定时器，定时发起增量扫描，获取增量变化数据并缓存至数据库中，每一次扫描完成后生成一次增量数据快照，并将上次的数据快照进行替换删除；当定时扫描结束后，通过增量数据备份模块300进行增量数据备份，读取最近一份增量数据缓存快照，备份快照内记录的数据，并将备份成功的数据记录到数据库中。
38.如图5所示，第三方面，本技术实施例提供一种电子设备，其包括存储器101，用于存储一个或多个程序；处理器102。当一个或多个程序被处理器102执行时，实现如上述第一方面中任一项的方法。
39.还包括通信接口103，该存储器101、处理器102和通信接口103相互之间直接或间接地电性连接，以实现数据的传输或交互。例如，这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。存储器101可用于存储软件程序及模块，处理器102通过执行
存储在存储器101内的软件程序及模块，从而执行各种功能应用以及数据处理。该通信接口103可用于与其他节点设备进行信令或数据的通信。
40.其中，存储器101可以是但不限于，随机存取存储器（random access memory，ram），只读存储器（read only memory，rom），可编程只读存储器（programmable read-only memory，prom），可擦除只读存储器（erasable programmable read-only memory，eprom），电可擦除只读存储器（electric erasable programmable read-only memory，eeprom）等。
41.处理器102可以是一种集成电路芯片，具有信号处理能力。该处理器102可以是通用处理器，包括中央处理器（central processing unit，cpu）、网络处理器（network processor，np）等；还可以是数字信号处理器（digital signal processing，dsp）、专用集成电路（application specific integrated circuit，asic）、现场可编程门阵列（field－programmable gate array，fpga）或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
42.在本技术所提供的实施例中，应该理解到，所揭露的方法及系统和方法，也可以通过其它的方式实现。以上所描述的方法及系统实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本技术的多个实施例的方法及系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
43.另外，在本技术各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。
44.第四方面，本技术实施例提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器102执行时实现如上述第一方面中任一项的方法。所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本技术的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备（可以是个人计算机，服务器，或者网络设备等）执行本技术各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：u盘、移动硬盘、只读存储器（rom，read-only memory）、随机存取存储器（ram，random access memory）、磁碟或者光盘等各种可以存储程序代码的介质。
45.以上仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
46.对于本领域技术人员而言，显然本技术不限于上述示范性实施例的细节，而且在不背离本技术的精神或基本特征的情况下，能够以其它的具体形式实现本技术。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本技术的范围由所附权
利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本技术内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。