一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

一种分布式存储系统中卷删除优化方法、装置及存储介质与流程

2022-03-09 02:00:00 来源:中国专利 TAG:


1.本发明涉及卷删除领域,尤其涉及一种分布式存储系统中卷删除优化方法、装置及存储介质。


背景技术:

2.卷删除功能是块存储的基本功能,在传统分布式块存储系统中,卷删除操作包括了卷的元数据删除与数据对象删除操作,卷删除需要等待两部分数据全部删除完成后才算完成。
3.在卷的数据对象被删除的过程中,数据对象的数据量庞大,数据对象的删除操作会严重影响系统的io,对集群执行整成业务影响较大,可能会影响用户业务,并且删除卷数据对象的速度越快,删除卷数据对象所占用的io资源越多,对集群执行正常业务的影响越明显。但如果通过减慢删除数据对象速度以控制对集群业务的影响,则会增加卷删除的时间,不仅用户感受上删除卷的时间过长,也可能导致用户操作超时卡住或者进入其他异常场景。


技术实现要素:

4.为了解决上述技术问题或者至少部分地解决上述技术问题,本发明提供一种分布式存储系统中卷删除优化方法、装置及存储介质。
5.第一方面,本发明提供一种分布式存储系统中卷删除优化方法,包括:
6.集群主节点响应目标卷的删除请求,删除目标卷的元数据和目标卷在存储池中的卷记录,记录目标卷的卷信息,并反馈目标卷删除成功;其中,卷信息包括卷名、卷id、删除时刻、优先权和数据对象信息;
7.利用卷信息构建删除任务,并将删除任务放入卷删除待处理队列中并按预设的排序规则排序;
8.在集群业务压力低于设定压力阈值时,根据集群各个节点删除任务负载情况,获取执行任务的目标节点;
9.按顺序从卷删除待处理队列中选取删除任务,并分配给目标节点执行以删除目标卷的数据对象。
10.更进一步地,集群主节点响应目标卷的删除请求,首先判断目标卷是否为克隆卷,是则先断开目标卷与目标卷的父快照之间的关联,再删除目标卷的元数据和目标卷在存储池中的卷记录,否则直接删除卷的元数据和目标卷在存储池中的卷记录。
11.更进一步地,卷信息中的优先权为布尔型和数值型中的任意一种;
12.其中:对于布尔型优先权,布尔型的真表示启用优先权,布尔型的假表示不启用优先权,默认设置为假,用户可主动将目标卷的布尔型优先权配置为真;
13.对于数值型的优先权,优先权的高低决定于数值大小,默认为设定数值,用户可主动为目标卷的数值型优先权配置指定数值,指定数值在预设的数值型优先权的取值范围
内。
14.更进一步地,将删除任务放入卷删除待处理队列中并按预设的排序规则排序,其中,预设的排序规则包括:
15.根据卷信息优先权对由卷信息所创建删除任务在卷删除待处理队列中位置进行排序;
16.优先权一致的,则按照卷信息的删除时刻早晚对由卷信息所创建删除任务在卷删除待处理队列中的位置进行排序,删除时刻越早,则位置排序越靠前;
17.删除时刻一致的,则按照卷信息的卷名的字母排序对由卷信息所创建删除任务在卷删除待处理队列中的位置进行排序,卷名字母排序越靠前,则位置排序越靠前。
18.更进一步地,所述在集群业务压力低于设定压力阈值时,根据集群各个节点删除任务负载情况,获取执行任务的目标节点包括:
19.集群主节点通过后台监控采集集群业务压力的情况;
20.比较集群业务压力是否小于设定压力阈值,否则,不进行新的删除任务的分配,是则,采集集群每个节点当前删除任务的负载;
21.将节点按删除任务负载由低到高排序,删除任务负载相同的,则按节点序号的大小排序;
22.选择排序最前的节点作为目标节点。
23.更进一步地,集群主节点监测集群中执行删除任务的节点是否发生故障,执行删除任务的节点发生故障时,集群主节点重新获取目标节点并将故障节点所执行的删除任务分配给重新获取的目标节点。
24.更进一步地,集群中节点周期性且非同步地发送申请成为主节点申请;若主节点正常,则针对任意节点的成为主节点申请均反馈拒绝;若主节点故障,则针对主节点故障后第一个成为主节点申请反馈同意,相应的节点成为主节点,针对剩余的成为主节点申请反馈拒绝。
25.更进一步地,监控目标卷的删除任务的执行过程,根据目标卷的删除任务执行过程为目标卷配置对应的卷状态,向用户提供卷状态查询接口,其中,所述卷状态包括待处理、已分配、删除中和已完成。
26.第二方面,本发明提供一种分布式存储系统中卷删除优化装置,包括:
27.第一删除模块,所述第一删除模块响应目标卷的删除请求删除目标卷的元数据和在存储池中的卷记录;
28.卷信息记录模块,所述卷信息记录模块记录目标卷的卷信息;
29.反馈模块,所述反馈模块在删除目标卷元数据及在存储池中的卷记录后向用户反馈目标卷删除成功;
30.任务构建模块,所述任务构建模块根据卷信息创建相应的删除任务;
31.队列模块,所述队列模块存放删除任务,并按预设的排序规则排序删除任务;
32.任务分配模块,所述任务分配模块在集群业务压力低于压力阈值时,选取执行删除任务的目标节点,从队列模块按顺序选择删除任务分配给目标节点并记录;
33.第二删除模块,所述目标节点通过第二删除模块执行删除任务。
34.第三方面,本发明提供一种实现分布式存储系统中卷删除优化方法的存储介质。
所述实现分布式存储系统中卷删除优化方法的存储介质存储至少一条指令,读取并执行所述指令实现所述的分布式存储系统中卷删除优化方法。
35.本发明实施例提供的上述技术方案与现有技术相比具有如下优点:
36.本技术将待删除目标卷的元数据删除和数据对象删除的过程分开,在删除目标卷的元数据和在存储池中的卷记录后向用户反馈删除成功,感官上加快删除速度。
37.本技术记录卷信息,并利用卷信息构建卷数据对象的删除任务,通过卷删除待处理队列对删除任务按预设的排序规则排序,排序规则兼顾删除任务的优先权,删除任务所对应目标卷的元数据和在存储池中的卷记录的删除时刻。使得删除任务的分配兼具灵活性和时序性。
38.本技术在集群业务压力低于设定压力阈值时,选删除任务负载小的节点作为执行任务的目标节点,既减小了删除任务对集群业务执行的影响,又实现了集群各个节点执行删除任务的均衡。
39.本技术在集群中执行删除任务的节点发生故障时,能够重新获取目标节点并将故障节点所执行的删除任务分配给重新获取的目标节点,保证删除任务的顺利执行。本技术在集群主节点故障时,选取第一个申请成为主节点的节点作为主节点,保证集群的正常运行。对进行删除任务的节点及主节点的故障情况形成一套完善的卷删除故障保护机制,保证卷删除的稳定,提高系统的可靠性。
附图说明
40.此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。
41.为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
42.图1为本发明实施例提供的分布式存储系统中卷删除优化方法的示意图;
43.图2为本发明实施例提供的在集群业务压力低于设定压力阈值时,根据集群各个节点删除任务负载情况,获取执行任务的目标节点的流程图;
44.图3为本发明实施例提供的监视并记录在测试服务器终端外执行的测试行为的流程图。
具体实施方式
45.为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明的一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
46.需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个
……”
限定的要素,并不排除在包括所
述要素的过程、方法、物品或者设备中还存在另外的相同要素。
47.实施例1
48.参阅图1所示,本发明实施例提供一种分布式存储系统中卷删除优化方法,包括:
49.s100,集群主节点接收并解析用户所发的目标卷的删除请求。
50.s200,集群主节点响应目标卷的删除请求,首先判断目标卷是否为克隆卷,是则断开目标卷与目标卷的父快照之间的关联,进而执行s300,否则直接执行s300。
51.s300,集群主节点响应目标卷的删除请求,删除目标卷的元数据和目标卷在存储池中的卷记录,记录目标卷的卷信息,并反馈目标卷删除成功;其中,卷信息包括卷名、卷id、删除时刻、优先权和数据对象信息。
52.具体的,卷信息中的优先权由用户配置,通过删除请求传递。具体实施过程中,为用户提供优先权配置接口,用户在执行删除卷操作时,向用户提供优先权配置接口,用户对目标卷的优先权进行配置,并通过配置于删除请求中发送给集群主节点。
53.优先权为布尔型和数值型中的任意一种;
54.其中:对于布尔型优先权,布尔型的真表示启用优先权,布尔型的假表示不启用优先权,默认设置为假,用户可主动将目标卷的布尔型优先权配置为真;
55.对于数值型的优先权,优先权的高低决定于数值大小,默认为设定数值,用户可主动为目标卷的数值型优先权配置指定数值,指定数值在预设的数值型优先权的取值范围内。
56.具体的,删除时刻为目标卷元数据和在存储池中的卷记录的删除时刻,反应了用户删除目标卷的时序。
57.s400,利用卷信息构建删除任务,并将删除任务放入卷删除待处理队列中并按预设的排序规则排序;具体的,预设的排序规则包括:
58.根据卷信息优先权对由卷信息所创建删除任务在卷删除待处理队列中位置进行排序。卷信息中优先权为布尔型时,删除任务按照其所对应的卷信息优先权的真假进行排序,即将卷信息所有优先权为真的删除任务排列在优先权为假的删除任务前。卷信息中优先权为数值是,删除任务按照优先权数值的大小进行排序,即将卷信息中优先权数值大的删除任务排列在数值小的删除任务前。
59.根据卷信息优先权对由卷信息所创建删除任务在卷删除待处理队列中位置进行排序后,对于优先权一致的,则按照卷信息的删除时刻早晚对由卷信息所创建删除任务在卷删除待处理队列中的位置排序,删除时刻越早,则位置排序越靠前。
60.按照卷信息的删除时刻早晚对由卷信息所创建删除任务在卷删除待处理队列中的位置排序后,对于删除时刻一致的,则按照卷信息的卷名的字母排序对由卷信息所创建删除任务在卷删除待处理队列中的位置排序,卷名字母排序越靠前,则位置排序越靠前。
61.s500,在集群业务压力低于设定压力阈值时,根据集群各个节点删除任务负载情况,获取执行任务的目标节点;
62.具体实施过程中,参阅图2所示,所述在集群业务压力低于设定压力阈值时,根据集群各个节点删除任务负载情况,获取执行任务的目标节点包括:
63.s501,集群主节点通过后台监控采集集群业务压力的情况;
64.s502,比较集群业务压力是否小于设定压力阈值,否则,不进行新的删除任务分
配,是则,执行s503。
65.s503,采集集群每个节点当前删除任务的负载;
66.s504,将节点按删除任务负载由低到高排序,对于删除任务负载相同的节点,则按节点序号的大小排序;具体实施过程中节点序号小的节点排在前面。
67.s505,选择排序最前的节点作为目标节点。
68.s600,按顺序从卷删除待处理队列中选取删除任务,并分配给目标节点执行。具体实施过程中,将所分配的删除任务和执删除任务的目标节点记录。在实行完删除任务后,将对应的删除任务记录清除。
69.监控目标卷的删除任务的执行过程,根据目标卷的删除任务执行过程为目标卷配置对应的卷状态,向用户提供卷状态查询接口,其中,所述卷状态包括待处理、已分配、删除中和已完成。具体的,自删除目标卷的元数据及在存储池中的卷记录后,至目标卷所对应的删除任务在卷删除待处理队列等待任务分配的过程对应的卷状态为待处理。将删除任务分配给目标节点,至目标节点执行删除任务前的过程对应的卷状态为已分配。目标节点开始执行删除任务,至删除任务执行完成前的过程对应的卷状态为删除中。目标节点完成删除任务对应的卷状态为已完成。卷状态为已完成时,将卷删除待处理队列中已完成的删除任务移除,并清理相关任务信息。
70.具体实施过程中,集群主节点监测集群中执行删除任务的节点是否发生故障,执行删除任务的节点发生故障时,集群主节点重新获取目标节点并将故障节点所执行的删除任务分配给重新获取的目标节点。具体的,一种可行的方式是:执行删除任务的节点发生故障时,将卷状态设置有待处理,将删除任务重新放入卷删除待处理队列进行排序,集群主节点根据目标节点的选取策略选出新的目标节点处理卷删除待处理队列中的删除任务。
71.具体实施过程中,集群中节点周期性且非同步地发送申请成为主节点申请;若主节点正常,则针对任意节点的成为主节点申请均反馈拒绝;若主节点故障,则针对主节点故障后第一个成为主节点申请反馈同意,相应的节点成为主节点,针对剩余的成为主节点申请反馈拒绝。在主节点恢复后,检测集群中是否已存在主节点,是则,主动释放自己作为主节点的权力成为集群节点。
72.实施例2
73.参阅图3所示,本发明实施例提供一种分布式存储系统中卷删除优化装置,包括:
74.解析模块,所述解析模块解析目标卷的删除请求,从删除请求中获取目标卷。
75.目标卷预处理模块,所述目标卷预处理模块判断目标卷是否为克隆卷,是则将目标卷与目标卷的父快照之间的关联断开。
76.第一删除模块,所述第一删除模块响应目标卷的删除请求删除目标卷的元数据和目标卷在存储池中的卷记录。
77.卷信息记录模块,所述卷信息记录模块记录目标卷的卷信息;所述卷信息包括卷名、卷id、删除时刻、优先权和数据对象信息。
78.反馈模块,所述反馈模块在删除目标卷的元数据及在存储池中的卷记录后向用户反馈目标卷删除成功。
79.任务构建模块,所述任务构建模块根据卷信息创建相应的删除任务。
80.队列模块,所述队列模块存放删除任务,并按预设的排序规则排序删除任务。
81.任务分配模块,所述任务分配模块在集群业务压力低于压力阈值时,选取执行删除任务的目标节点,从队列模块按顺序选择删除任务分配给目标节点并记录;具体的,任务分配模块包括集群业务压力监测单元、节点删除任务监测单元和目标节点选取单元,其中,集群业务压力监测单元通过后台监控采集集群业务压力的情况,节点删除任务监测单元监测集群各个节点当前删除任务的负载,目标节点选取单元将节点按删除任务负载由低到高排序,对于删除任务负载相同的节点,则按节点序号由小及大排序,选取排在前面的节点为目标节点。
82.第二删除模块,所述目标节点通过第二删除模块执行删除任务,删除目标卷的数据对象。
83.实施例3
84.本发明实施例提供一种实现分布式存储系统中卷删除优化方法的存储介质。所述实现分布式存储系统中卷删除优化方法的存储介质存储至少一条指令,读取并执行所述指令实现所述的分布式存储系统中卷删除优化方法。
85.本技术将待删除目标卷的元数据删除和数据对象删除的过程分开,在删除目标卷的元数据后向用户反馈删除成功,感官上加快删除速度。
86.本技术记录卷信息,并利用卷信息构建卷数据对象的删除任务,通过卷删除待处理队列对删除任务按预设的排序规则排序,排序规则兼顾删除任务的优先权,删除任务所对应目标卷的元数据的删除时刻。使得删除任务的分配兼具灵活性和时序性。
87.本技术在集群业务压力低于设定压力阈值时,选删除任务负载小的节点作为执行任务的目标节点,既减小了删除任务对集群业务执行的影响,又实现了集群各个节点执行删除任务的均衡。
88.本技术在集群中执行删除任务的节点发生故障时,能够重新获取目标节点并将故障节点所执行的删除任务分配给重新获取的目标节点,保证删除任务的顺利执行。
89.本技术在集群主节点故障时,选取第一个申请成为主节点的节点作为主节点,保证集群的正常运行。
90.在本发明所提供的实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
91.所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
92.另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
93.以上所述仅是本发明的具体实施方式,使本领域技术人员能够理解或实现本发
明。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所申请的原理和新颖特点相一致的最宽的范围。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献