一种归置组成员选择方法、系统、存储介质及设备与流程

1.本发明涉及存储技术领域，尤其涉及一种归置组成员选择方法、系统、存储介质及设备。


背景技术：

2.分布式存储系统通过pg(placement group，归置组，用于放置对象的一个载体)接收数据的读写业务。pg的成员列表由不同故障域的osd(object-based storage device，对象存储技术设备)组成。当存储业务到达分布式存储时，通过存储业务中数据对象的对象名映射到pg，再通过pg的成员列表映射到osd，从而决定由哪些磁盘完成数据读写。
3.pg有两个成员列表，分别是up set(通过哈希算法计算出来的pg成员列表)和acting set(实际接收并执行读写业务的pg成员列表)。正常情况下，acting set会和up set保持一致。当分布式存储集群出现故障时，如磁盘故障、节点上下电，或者进行扩容、缩容等操作时，可能会出现up成员无法提供读写服务的情况，这时可以选取其他osd代替。
4.现有的选取acting set成员的方案，可能导致选出来的acting set成员之间存在故障域冲突，即成员列表的不同位置选取的osd成员在同一故障域内。这样会导致该故障域出现故障时，该pg有超过一个成员出现故障，从而出现数据丢失的风险。


技术实现要素：

5.有鉴于此，本发明的目的在于提出一种归置组成员选择方法、系统、存储介质及设备，用以解决现有技术中在选择归置组成员可能发生故障域冲突的问题。
6.基于上述目的，本发明提供了一种归置组成员选择方法，包括以下步骤：
7.为归置组的执行成员列表选择多个执行成员，且多个执行成员分别存放于执行成员列表中的多个位置，并在选择过程中记录每个位置的可选执行成员以及对应的故障域；
8.响应于选择完成，基于多个故障域判断为多个位置选择的执行成员之间是否存在故障域冲突；
9.响应于存在故障域冲突，遍历每个位置的可选执行成员，并记录不存在故障域冲突的若干可选执行成员组合；
10.按照预设规则从若干可选执行成员组合中选择最佳组合，并将最佳组合中的多个可选执行成员作为选定的多个执行成员。
11.在一些实施例中，为归置组的执行成员列表选择多个执行成员包括：
12.遍历执行成员列表中的每个位置，并针对每个位置判断是否存在归置组的可执行读写业务的预分配成员；
13.响应于存在预分配成员，选择预分配成员作为执行成员。
14.在一些实施例中，为归置组的执行成员列表选择多个执行成员还包括：
15.响应于不存在预分配成员，判断是否存在可执行读写业务的执行成员；
16.响应于存在可执行读写业务的执行成员，使其继续作为执行成员。
17.在一些实施例中，为归置组的执行成员列表选择多个执行成员还包括：
18.响应于不存在可执行读写业务的执行成员，判断是否存在可执行读写业务的历史执行成员；
19.响应于存在历史执行成员，选择历史执行成员作为执行成员。
20.在一些实施例中，每个位置的可选执行成员的类型包括预分配成员、可执行读写业务的执行成员和历史执行成员中的至少一种。
21.在一些实施例中，按照预设规则从若干可选执行成员组合中选择最佳组合包括：
22.基于每个可选执行成员组合中可选执行成员的类型对每个可选执行成员组合进行打分，并基于打分结果从若干可选执行成员组合中选择最佳组合。
23.在一些实施例中，方法还包括：
24.响应于不存在故障域冲突，将选择的执行成员作为执行成员列表的选定的执行成员。
25.本发明的另一方面，还提供了一种归置组成员选择系统，包括：
26.记录模块，配置用于为归置组的执行成员列表选择多个执行成员，且多个执行成员分别存放于执行成员列表中的多个位置，并在选择过程中记录每个位置的可选执行成员以及对应的故障域；
27.判断模块，配置用于响应于选择完成，基于多个故障域判断为多个位置选择的执行成员之间是否存在故障域冲突；
28.遍历模块，配置用于响应于存在故障域冲突，遍历每个位置的可选执行成员，并记录不存在故障域冲突的若干可选执行成员组合；以及
29.成员选定模块，配置用于按照预设规则从若干可选执行成员组合中选择最佳组合，并将最佳组合中的多个可选执行成员作为选定的多个执行成员。
30.本发明的又一方面，还提供了一种计算机可读存储介质，存储有计算机程序指令，该计算机程序指令被处理器执行时实现上述方法。
31.本发明的再一方面，还提供了一种计算机设备，包括存储器和处理器，存储器中存储有计算机程序，该计算机程序被处理器执行时执行上述方法。
32.本发明至少具有以下有益技术效果：
33.本发明通过为归置组的执行成员列表选择多个执行成员，并在选择过程中记录每个位置的可选执行成员以及对应的故障域，并基于多个故障域判断为多个位置选择的执行成员之间是否存在故障域冲突，如果存在故障域冲突，遍历每个位置的可选执行成员，并记录不存在故障域冲突的若干可选执行成员组合，然后按照预设规则从若干可选执行成员组合中选择最佳组合，并将最佳组合中的多个可选执行成员作为选定的多个执行成员，从而可以避免分布式存储系统的归置组在选取执行成员时发生故障域冲突的情况，更加合理地形成执行成员列表，进一步保障了分布式存储系统的可靠性。
附图说明
34.为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以
根据这些附图获得其他的实施例。
35.图1为根据本发明实施例提供的归置组成员选择方法的示意图；
36.图2为根据本发明实施例提供的归置组成员选择系统的示意图；
37.图3为根据本发明实施例提供的实现归置组成员选择方法的计算机可读存储介质的示意图；
38.图4为根据本发明实施例提供的执行归置组成员选择方法的计算机设备的硬件结构示意图。
具体实施方式
39.为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本发明实施例进一步详细说明。
40.需要说明的是，本发明实施例中所有使用“第一”和“第二”的表述均是为了区分两个相同名称的非相同的实体或者非相同的参量，可见“第一”“第二”仅为了表述的方便，不应理解为对本发明实施例的限定。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备固有的其他步骤或单元。
41.基于上述目的，本发明实施例的第一个方面，提出了一种归置组成员选择方法的实施例。图1示出的是本发明提供的归置组成员选择方法的实施例的示意图。如图1所示，本发明实施例包括如下步骤：
42.步骤s10、为归置组的执行成员列表选择多个执行成员，且多个执行成员分别存放于执行成员列表中的多个位置，并在选择过程中记录每个位置的可选执行成员以及对应的故障域；
43.步骤s20、响应于选择完成，基于多个故障域判断为多个位置选择的执行成员之间是否存在故障域冲突；
44.步骤s30、响应于存在故障域冲突，遍历每个位置的可选执行成员，并记录不存在故障域冲突的若干可选执行成员组合；
45.步骤s40、按照预设规则从若干可选执行成员组合中选择最佳组合，并将最佳组合中的多个可选执行成员作为选定的多个执行成员。
46.本实施例中，故障域分多种级别，可以是节点级别，也可以是磁盘级别等。假设故障域是节点级别，且假设有两个执行成员发生故障域冲突，那么就是指这两个执行成员对应的磁盘属于同一节点，则一个执行成员有了故障域，另一个成员有可能属于相同的故障域。假设故障域是磁盘级别，且仍然假设有两个执行成员发生故障域冲突，那么此时故障域冲突就是指这两个成员对应于同一个磁盘。所以执行列表中的多个执行成员要对应不同的故障域。
47.本发明实施例主要应用于对象存储方式中。归置组的成员列表会映射到osd，一个osd又对应一个磁盘。obeject-based storage(对象存储)是一种新的储架构，对象存储有别于block(块)与file(文件)级别的存储，它以一个弹性的可自定义的数据对象为基本的存储单元，基于数据对象的唯一id索引，并形成虚拟文件组织结构。结合群集技术将一群服务器的存储设备汇集成存储池，通过软件数据可自动在群集中自分布，存储容量可达到tb
甚至eb以上的规模，对象存储同时具备高i/o(数据输入/输出)、共享便利、高扩展性、高可靠性、高性能等特征。osd是object-based storage device的简称，即面向对象存储技术设备的简称，指运行对象存储技术群集中的基本逻辑单元(通俗指运行对象存储群集技术软件的服务器)。
48.本发明实施例通过为归置组的执行成员列表选择多个执行成员，并在选择过程中记录每个位置的可选执行成员以及对应的故障域，并基于多个故障域判断为多个位置选择的执行成员之间是否存在故障域冲突，如果存在故障域冲突，遍历每个位置的可选执行成员，并记录不存在故障域冲突的若干可选执行成员组合，然后按照预设规则从若干可选执行成员组合中选择最佳组合，并将最佳组合中的多个可选执行成员作为选定的多个执行成员，从而可以避免分布式存储系统的归置组在选取执行成员时发生故障域冲突的情况，更加合理地形成执行成员列表，进一步保障了分布式存储系统的可靠性。
49.在一些实施例中，为归置组的执行成员列表选择多个执行成员包括：遍历执行成员列表中的每个位置，并针对每个位置判断是否存在归置组的可执行读写业务的预分配成员；响应于存在预分配成员，选择预分配成员作为执行成员。
50.在一些实施例中，为归置组的执行成员列表选择多个执行成员还包括：响应于不存在预分配成员，判断是否存在可执行读写业务的执行成员；响应于存在可执行读写业务的执行成员，使其继续作为执行成员。
51.在一些实施例中，为归置组的执行成员列表选择多个执行成员还包括：响应于不存在可执行读写业务的执行成员，判断是否存在可执行读写业务的历史执行成员；响应于存在历史执行成员，选择历史执行成员作为执行成员。
52.上述实施例中，具体地，初步选取acting set(实际接收并执行读写业务的pg成员列表)成员(即执行成员)的方法为：遍历成员列表的每一个位置，判断1)如果该位置有up set(通过哈希算法计算出来的pg成员列表)成员(即预分配成员)，且up set成员能接收业务读写，选取up set成员作为该位置的acting set成员；2)如果该位置有acting set成员，且acting set成员能接收业务读写，选取acting set成员继续担任该位置的acting set成员；3)如果步骤1)和步骤2)没有选出来，则查看该位置未被删除的所有历史acting set成员，如果能接收业务，则选取该成员为acting set成员。
53.up set成员主要是通过crush算法(controlled,scalable,decentralized placement of replicated data，可控的、可扩展的、分布式的副本数据放置算法)计算得到的。
54.在一些实施例中，每个位置的可选执行成员的类型包括预分配成员、可执行读写业务的执行成员和历史执行成员中的至少一种。
55.在一些实施例中，按照预设规则从若干可选执行成员组合中选择最佳组合包括：基于每个可选执行成员组合中可选执行成员的类型对每个可选执行成员组合进行打分，并基于打分结果从若干可选执行成员组合中选择最佳组合。
56.上述实施例中，设定规则为每组可选执行成员组合打分，具体分值可根据实际情况配置。例如，当某个位置上的成员和预分配成员相同时，给该组合加3分，当某个位置上的成员和执行成员相同时，给该组合加2分，当某个位置上的成员和历史执行成员相同时，给该组合加1分。理想的情况是执行成员为预分配成员。为各个组合计算分值，得分最高的即
为最佳组合。
57.在一些实施例中，方法还包括：响应于不存在故障域冲突，将选择的执行成员作为执行成员列表的选定的执行成员。
58.本实施例中，按照初步选取执行成员的方法，可能会发生故障域冲突，而按照设置组合和选取最佳组合的方法，则很好地避免了故障域冲突的情况。
59.本发明实施例的第二个方面，还提供了一种归置组成员选择系统。图2示出的是本发明提供的归置组成员选择系统的实施例的示意图。如图2所示，一种归置组成员选择系统包括：记录模块10，配置用于为归置组的执行成员列表选择多个执行成员，且多个执行成员分别存放于执行成员列表中的多个位置，并在选择过程中记录每个位置的可选执行成员以及对应的故障域；判断模块20，配置用于响应于选择完成，基于多个故障域判断为多个位置选择的执行成员之间是否存在故障域冲突；遍历模块30，配置用于响应于存在故障域冲突，遍历每个位置的可选执行成员，并记录不存在故障域冲突的若干可选执行成员组合；以及成员选定模块40，配置用于按照预设规则从若干可选执行成员组合中选择最佳组合，并将最佳组合中的多个可选执行成员作为选定的多个执行成员。
60.在一些实施例中，记录模块10包括执行成员初步选择模块，配置用于遍历执行成员列表中的每个位置，并针对每个位置判断是否存在归置组的可执行读写业务的预分配成员；响应于存在预分配成员，选择预分配成员作为执行成员。
61.在一些实施例中，执行成员初步选择模块还配置用于响应于不存在预分配成员，判断是否存在可执行读写业务的执行成员；响应于存在可执行读写业务的执行成员，使其继续作为执行成员。
62.在一些实施例中，执行成员初步选择模块还配置用于响应于不存在可执行读写业务的执行成员，判断是否存在可执行读写业务的历史执行成员；响应于存在历史执行成员，选择历史执行成员作为执行成员。
63.在一些实施例中，每个位置的可选执行成员的类型包括预分配成员、可执行读写业务的执行成员和历史执行成员中的至少一种。
64.在一些实施例中，成员选定模块40包括最佳组合选择模块，配置用于基于每个可选执行成员组合中可选执行成员的类型对每个可选执行成员组合进行打分，并基于打分结果从若干可选执行成员组合中选择最佳组合。
65.在一些实施例中，系统还包括故障域未冲突模块，配置用于响应于不存在故障域冲突，将选择的执行成员作为执行成员列表的选定的执行成员。
66.本发明实施例的归置组成员选择系统，通过为归置组的执行成员列表选择多个执行成员，并在选择过程中记录每个位置的可选执行成员以及对应的故障域，并基于多个故障域判断为多个位置选择的执行成员之间是否存在故障域冲突，如果存在故障域冲突，遍历每个位置的可选执行成员，并记录不存在故障域冲突的若干可选执行成员组合，然后按照预设规则从若干可选执行成员组合中选择最佳组合，并将最佳组合中的多个可选执行成员作为选定的多个执行成员，从而可以避免分布式存储系统的归置组在选取执行成员时发生故障域冲突的情况，更加合理地形成执行成员列表，进一步保障了分布式存储系统的可靠性。
67.本发明实施例的第三个方面，还提供了一种计算机可读存储介质，图3示出了根据
本发明实施例提供的实现归置组成员选择方法的计算机可读存储介质的示意图。如图3所示，计算机可读存储介质3存储有计算机程序指令31。该计算机程序指令31被处理器执行时实现如下步骤：
68.为归置组的执行成员列表选择多个执行成员，且多个执行成员分别存放于执行成员列表中的多个位置，并在选择过程中记录每个位置的可选执行成员以及对应的故障域；
69.响应于选择完成，基于多个故障域判断为多个位置选择的执行成员之间是否存在故障域冲突；
70.响应于存在故障域冲突，遍历每个位置的可选执行成员，并记录不存在故障域冲突的若干可选执行成员组合；
71.按照预设规则从若干可选执行成员组合中选择最佳组合，并将最佳组合中的多个可选执行成员作为选定的多个执行成员。
72.在一些实施例中，为归置组的执行成员列表选择多个执行成员包括：遍历执行成员列表中的每个位置，并针对每个位置判断是否存在归置组的可执行读写业务的预分配成员；响应于存在预分配成员，选择预分配成员作为执行成员。
73.在一些实施例中，为归置组的执行成员列表选择多个执行成员还包括：响应于不存在预分配成员，判断是否存在可执行读写业务的执行成员；响应于存在可执行读写业务的执行成员，使其继续作为执行成员。
74.在一些实施例中，为归置组的执行成员列表选择多个执行成员还包括：响应于不存在可执行读写业务的执行成员，判断是否存在可执行读写业务的历史执行成员；响应于存在历史执行成员，选择历史执行成员作为执行成员。
75.在一些实施例中，每个位置的可选执行成员的类型包括预分配成员、可执行读写业务的执行成员和历史执行成员中的至少一种。
76.在一些实施例中，按照预设规则从若干可选执行成员组合中选择最佳组合包括：基于每个可选执行成员组合中可选执行成员的类型对每个可选执行成员组合进行打分，并基于打分结果从若干可选执行成员组合中选择最佳组合。
77.在一些实施例中，步骤还包括：响应于不存在故障域冲突，将选择的执行成员作为执行成员列表的选定的执行成员。
78.应当理解，在相互不冲突的情况下，以上针对根据本发明的归置组成员选择方法阐述的所有实施方式、特征和优势同样地适用于根据本发明的归置组成员选择系统和存储介质。
79.本发明实施例的第四个方面，还提供了一种计算机设备，包括如图4所示的存储器402和处理器401，该存储器402中存储有计算机程序，该计算机程序被该处理器401执行时实现上述任意一项实施例的方法。
80.如图4所示，为本发明提供的执行归置组成员选择方法的计算机设备的一个实施例的硬件结构示意图。以如图4所示的计算机设备为例，在该计算机设备中包括一个处理器401以及一个存储器402，并还可以包括：输入装置403和输出装置404。处理器401、存储器402、输入装置403和输出装置404可以通过总线或者其他方式连接，图4中以通过总线连接为例。输入装置403可接收输入的数字或字符信息，以及产生与归置组成员选择系统的用户设置以及功能控制有关的键信号输入。输出装置404可包括显示屏等显示设备。
81.存储器402作为一种非易失性计算机可读存储介质，可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块，如本技术实施例中的归置组成员选择方法对应的程序指令/模块。存储器402可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储归置组成员选择方法的使用所创建的数据等。此外，存储器402可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中，存储器402可选包括相对于处理器401远程设置的存储器，这些远程存储器可以通过网络连接至本地模块。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
82.处理器401通过运行存储在存储器402中的非易失性软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例的归置组成员选择方法。
83.最后需要说明的是，本文的计算机可读存储介质(例如，存储器)可以是易失性存储器或非易失性存储器，或者可以包括易失性存储器和非易失性存储器两者。作为例子而非限制性的，非易失性存储器可以包括只读存储器(rom)、可编程rom(prom)、电可编程rom(eprom)、电可擦写可编程rom(eeprom)或快闪存储器。易失性存储器可以包括随机存取存储器(ram)，该ram可以充当外部高速缓存存储器。作为例子而非限制性的，ram可以以多种形式获得，比如同步ram(dram)、动态ram(dram)、同步dram(sdram)、双数据速率sdram(ddr sdram)、增强sdram(esdram)、同步链路dram(sldram)、以及直接rambus ram(drram)。所公开的方面的存储设备意在包括但不限于这些和其它合适类型的存储器。
84.本领域技术人员还将明白的是，结合这里的公开所描述的各种示例性逻辑块、模块、电路和算法步骤可以被实现为电子硬件、计算机软件或两者的组合。为了清楚地说明硬件和软件的这种可互换性，已经就各种示意性组件、方块、模块、电路和步骤的功能对其进行了一般性的描述。这种功能是被实现为软件还是被实现为硬件取决于具体应用以及施加给整个系统的设计约束。本领域技术人员可以针对每种具体应用以各种方式来实现的功能，但是这种实现决定不应被解释为导致脱离本发明实施例公开的范围。
85.结合这里的公开所描述的各种示例性逻辑块、模块和电路可以利用被设计成用于执行这里功能的下列部件来实现或执行：通用处理器、数字信号处理器(dsp)、专用集成电路(asic)、现场可编程门阵列(fpga)或其它可编程逻辑器件、分立门或晶体管逻辑、分立的硬件组件或者这些部件的任何组合。通用处理器可以是微处理器，但是可替换地，处理器可以是任何传统处理器、控制器、微控制器或状态机。处理器也可以被实现为计算设备的组合，例如，dsp和微处理器的组合、多个微处理器、一个或多个微处理器结合dsp和/或任何其它这种配置。
86.以上是本发明公开的示例性实施例，但是应当注意，在不背离权利要求限定的本发明实施例公开的范围的前提下，可以进行多种改变和修改。根据这里描述的公开实施例的方法权利要求的功能、步骤和/或动作不需以任何特定顺序执行。此外，尽管本发明实施例公开的元素可以以个体形式描述或要求，但除非明确限制为单数，也可以理解为多个。
87.应当理解的是，在本文中使用的，除非上下文清楚地支持例外情况，单数形式“一个”旨在也包括复数形式。还应当理解的是，在本文中使用的“和/或”是指包括一个或者一
个以上相关联地列出的项目的任意和所有可能组合。上述本发明实施例公开实施例序号仅仅为了描述，不代表实施例的优劣。
88.所属领域的普通技术人员应当理解：以上任何实施例的讨论仅为示例性的，并非旨在暗示本发明实施例公开的范围(包括权利要求)被限于这些例子；在本发明实施例的思路下，以上实施例或者不同实施例中的技术特征之间也可以进行组合，并存在如上的本发明实施例的不同方面的许多其它变化，为了简明它们没有在细节中提供。因此，凡在本发明实施例的精神和原则之内，所做的任何省略、修改、等同替换、改进等，均应包含在本发明实施例的保护范围之内。