一种分布式存储与数据容灾管理系统的制作方法
本发明涉及分布式存储,具体为一种分布式存储与数据容灾管理系统。
背景技术:
1、在分布式存储系统中,需要将写入的数据块拆分为数据分片,并在不同存储节点上保存多个副本,以便在节点故障时提供数据冗余和可用性保障。现有技术通常预先设定存储域并采用固定的数据分片大小完成数据放置。在存储集群运行过程中,各节点的写入负载和剩余存储容量持续波动,固定划分的存储域难以匹配实际资源余量的变化,容易造成部分节点严重过载而其余节点资源闲置,限制数据写入吞吐量并浪费存储能力。副本同步由主存储节点向备存储节点传递,同步过程受网络条件和节点处理能力差异影响,各节点之间的同步时延存在明显差异和不稳定性。当网络抖动或者局部拥塞导致某些节点对的同步时延长期偏大时,继续保持原有的主备节点关系和固定拆分方式,将使得这类节点对上的副本同步成为延迟尾端,拖慢整体写入响应,严重时产生写操作超时和阻塞。现有技术在应对负载和时延变化时,往往只单一调整分片大小或迁移单个节点数据,未将节点写入负载、存储容量差异与实时副本同步时延纳入统一决策闭环。负载变化引发的同步时延波动无法反馈至数据拆分策略和容灾节点集合的重组过程,系统难以在负载波动和网络恶化时自主调整数据写入的切分方式和副本放置拓扑,无法维持稳定的写入性能和同步效率。
技术实现思路
1、本发明提供一种分布式存储与数据容灾管理系统,用以解决静态存储域划分下负载均衡不足以及无法依据实时副本同步时延协同调整数据拆分粒度与容灾节点集合的问题。
2、为了实现上述目的,本发明提供如下技术方案:本发明提供一种分布式存储与数据容灾管理系统,包括配置管理模块、负载监控模块、副本写入模块、时延分析模块和动态调整模块。所述配置管理模块响应于用户配置指令,从分布式存储集群中划分出动态容灾域,并获取所述动态容灾域内各存储节点的初始节点权重。优选的,所述从分布式存储集群中划分出动态容灾域并获取初始节点权重包括:获取所述分布式存储集群中各存储节点的总存储容量和已用存储容量,根据所述总存储容量和所述已用存储容量计算各存储节点的剩余存储容量;将各存储节点的所述剩余存储容量与预设容量阈值进行比较,将所述剩余存储容量大于所述预设容量阈值的存储节点标记为可用节点;从所有所述可用节点中选取任意数量的存储节点组成所述动态容灾域,并将所述动态容灾域内每个存储节点的所述剩余存储容量与所述动态容灾域内所有存储节点的剩余存储容量总和的比值,作为对应存储节点的所述初始节点权重。由此,初始权重直接反映节点存储裕度,为后续负载分配奠定基础。
3、所述负载监控模块实时监测所述动态容灾域内各存储节点的写入负载和剩余存储容量,根据所述写入负载和所述剩余存储容量更新各存储节点的所述初始节点权重,得到当前节点权重。作为本发明的一个技术方案,所述更新过程具体包括:以固定时间间隔采集各存储节点的每秒读写操作次数和每秒数据传输量,将所述每秒读写操作次数和所述每秒数据传输量的乘积作为各存储节点的瞬时写入压力值p_inst;获取各存储节点在上一时间间隔内的历史写入压力值p_hist,将所述瞬时写入压力值与所述历史写入压力值的差值除以所述历史写入压力值,得到各存储节点的写入压力变化率δp=(p_inst-p_hist)/p_hist;将各存储节点的所述剩余存储容量与所述动态容灾域内所有存储节点的剩余存储容量平均值的比值作为容量系数c_cap,将所述写入压力变化率的绝对值与常数参数ε的和值作为压力系数c_press=|δp|+ε;将所述初始节点权重w_init乘以所述容量系数后再除以所述压力系数,得到所述当前节点权重w_cur=w_init×c_cap/c_press。通过融合容量裕度和写入压力变化趋势,使得写入压力快速攀升的节点权重被抑制,容量充裕且压力平缓的节点权重得到提升,实现自适应的负载均衡。
4、所述负载监控模块还根据各存储节点的所述当前节点权重,将待存储的数据块拆分为若干数据分片,并确定每个所述数据分片在所述动态容灾域内的主存储节点和备存储节点。具体的,获取所述待存储的数据块的数据总大小s_total,根据各存储节点的所述当前节点权重与所有存储节点的当前节点权重总和σw_cur的比值,计算每个存储节点的分片容量配额q_i=(w_cur,i/σw_cur)×s_total;按照各存储节点的所述分片容量配额,将所述待存储的数据块依次拆分为多个数据分片,每个所述数据分片的大小不超过对应存储节点的所述分片容量配额;对每个所述数据分片执行选址操作,选取所述动态容灾域中所述当前节点权重最大的存储节点作为所述数据分片的所述主存储节点,并在剩余存储节点中选取所述当前节点权重次大的存储节点作为所述数据分片的所述备存储节点。优选的,在拆分过程中,根据各存储节点的所述分片容量配额,从所述待存储的数据块的起始地址开始按顺序划分出每个存储节点对应的数据区间;对每个所述数据区间进行边界对齐检查,当所述数据区间的结束地址落在所述待存储的数据块的块内中间位置时,将所述结束地址向前调整至最近的预设对齐边界,并将调整后产生的剩余数据区间合并至下一个存储节点对应的数据区间中;将每个经过所述边界对齐检查后的所述数据区间中的数据作为对应的所述数据分片。这保证了数据分片在存储介质上的对齐,提升读写效率。在选址时,将所述动态容灾域中的所有存储节点按照所述当前节点权重从大到小进行排序,得到存储节点序列;从所述存储节点序列中取出排序第一的存储节点作为所述主存储节点,并从所述存储节点序列中取出排序第二的存储节点作为所述备存储节点;在完成一个所述数据分片的所述主存储节点和所述备存储节点的选取后,将所述主存储节点和所述备存储节点的所述当前节点权重均减去预设消耗值,并重新对所述存储节点序列进行排序。通过权重衰减机制,避免后续数据分片在同一轮分配中过分集中于个别高权重节点,提升分布均匀性。
5、所述副本写入模块将每个所述数据分片分别写入对应的所述主存储节点,并在接收到所述主存储节点返回的第一写入确认响应后,将写入状态标记为主写入成功;在所述主写入成功之后,向所述备存储节点发送携带所述数据分片的副本的第二写入请求,并在接收到所述备存储节点返回的第二写入确认响应后,将写入状态标记为备写入成功;当所述主写入成功和所述备写入成功均完成时,将所述数据分片的写入状态标记为已完成,并将所述已完成的状态反馈至所述系统的上层应用接口。该串行副本写入策略在保证数据一致性的同时最小化并发冲突。
6、所述时延分析模块记录每个所述数据分片在所述主存储节点上的第一写入时间戳,以及在所述备存储节点上的第二写入时间戳。在所述主存储节点完成所述数据分片的写入时,从所述主存储节点的系统时钟中读取所述第一写入时间戳,并在所述备存储节点完成所述数据分片的副本的写入时,从所述备存储节点的系统时钟中读取所述第二写入时间戳;将所述第二写入时间戳减去所述第一写入时间戳,得到时间戳差值;当所述时间戳差值为正值时,将所述时间戳差值作为同步时延差,当所述时间戳差值为负值或零值时,将所述主存储节点与所述备存储节点之间的网络往返时延作为所述同步时延差。该处理方式有效规避了节点时钟不同步导致的时延估计失真,准确捕获主备同步的实际延迟。
7、所述动态调整模块根据各存储节点的所述当前节点权重和所述同步时延差,动态调整下一个数据块的拆分粒度,并重新划分所述动态容灾域。作为本发明的一种优选技术方案,将各存储节点的所述当前节点权重的方差作为权重离散度,并将各存储节点的所述同步时延差的平均值作为平均同步时延;将所述权重离散度与预设离散度阈值进行比较,当所述权重离散度大于所述预设离散度阈值时,减小所述下一个数据块的拆分粒度,使所述下一个数据块拆分出的数据分片数量增加,从而将负载更精细地分担到不同节点,缓解权重离散;将所述平均同步时延与预设时延阈值进行比较,当所述平均同步时延大于所述预设时延阈值时,增大所述下一个数据块的拆分粒度,使所述下一个数据块拆分出的数据分片数量减少,降低因频繁小分片同步带来的网络开销和时延累积。在重新划分所述动态容灾域方面,获取各所述同步时延差大于预设时延差阈值的存储节点记为待移除节点,并将所述待移除节点从所述动态容灾域中移除;在所述分布式存储集群中除所述动态容灾域之外的存储节点中,选取剩余存储容量最大的若干存储节点作为待加入节点;将所述待加入节点加入所述动态容灾域中,并在加入后重新计算所述动态容灾域内各存储节点的所述初始节点权重。通过这种基于实时性能数据的容灾域动态重构,系统能够及时隔离时延异常的节点,吸纳高容量节点,使动态容灾域始终保持高性能和高可用状态,从而在兼顾存储负载均衡的同时,有效保证数据容灾的时效性与可靠性。
8、在上述技术方案中,本发明提供的技术效果和优点:
9、通过负载监控模块根据写入负载和剩余存储容量将初始节点权重更新为当前节点权重,再结合时延分析模块生成的主备节点间同步时延差,由动态调整模块联合驱动下一个数据块的拆分粒度调整与动态容灾域的重划分。在权重更新过程中,利用每秒读写操作次数和每秒数据传输量的乘积反映瞬时写入压力,并引入写入压力变化率和容量系数修正权重,使得权重不仅表达节点当前的存储剩余能力,也同步体现其处理写入请求的动态压力水平。基于该类权重划分数据分片和选择主备节点时,能够将数据写入压力主动向负载较轻且写入压力变化平缓的节点引导,避免过度写入正在承受高压或压力快速攀升的节点,从而平衡整个容灾域内的写入负载并充分利用各节点的剩余存储空间。当部分节点间同步时延差持续增大时,动态调整模块通过增大拆分粒度减少数据分片数量,降低副本同步操作对拥塞链路的依赖频次,防止同步时延累积导致写操作停滞;同时将同步时延差超出阈值的节点从动态容灾域中移除,并选取剩余存储容量充裕的节点加入容灾域,重新计算权重后恢复副本放置。利用同步时延差反馈调节拆分粒度和重组容灾节点集合,使得数据块的切分密度和副本分布拓扑能够主动适应网络链路质量的实时变化,避免在时延持续偏大的节点上反复执行大量同步操作,从而在负载波动和网络恶化同步发生的条件下,维持数据写入吞吐量和副本同步时效。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com