一种分布式存储在线扩缩容的数据均衡方法及系统与流程

本发明涉及分布式存储，具体涉及一种分布式存储在线扩缩容的数据均衡方法及系统。

背景技术：

1、分布式存储集群在增加节点或减少节点时，需要将原有数据分片重新分布到各存储节点，以维持节点之间的容量和访问压力均衡。现有数据均衡方式通常依据一致性哈希、容量差值或固定迁移阈值生成迁移任务，在节点容量发生变化时能够完成基础的数据重分布。

2、在在线业务持续运行的扩缩容场景中，仅依据容量差值进行迁移容易忽略实际读写负载、业务时延、网络带宽占用、数据冷热变化和访问局部性等因素。某些节点虽然容量占用接近平均值，但仍可能因热点分片集中、周期性业务高峰或突发访问传播而成为性能瓶颈节点，导致容量均衡与性能均衡不一致。

3、此外，迁移执行过程通常采用固定迁移速率或简单剩余带宽比例控制。当业务输入输出负载处于高峰时，迁移输入输出可能与在线业务竞争网络带宽和存储资源，造成业务时延波动。迁移计划生成后若缺少对实际负载、实际带宽占用和迁移完成状态的反馈校正，迁移计划也难以及时适配扩缩容过程中的负载变化。

4、因此，本技术提供一种分布式存储在线扩缩容的数据均衡方法及系统以解决上述技术问题。

技术实现思路

1、本发明的目的在于提供一种分布式存储在线扩缩容的数据均衡方法及系统，用以解决现有分布式存储在在线扩缩容的数据均衡过程中，因均衡决策维度单一、迁移速率控制与业务负载波动脱节以及缺乏迁移执行反馈，导致数据均衡过程对在线业务造成明显干扰的技术问题。

2、为了解决上述技术问题，本发明提供了一种分布式存储在线扩缩容的数据均衡方法，包括：

3、从块设备请求日志和节点资源监测数据中提取数据分片的读写负载、尾部时延、地址集中度、冷热衰减量及节点带宽占用，按各特征与瓶颈标记的互信息排序筛选，得到节点主特征序列；

4、将所述节点主特征序列中的总请求负载拆分为趋势分量、周期分量和残差分量，对趋势分量和周期分量外推，并在残差因果检验识别的上游关联节点的当前残差偏离量越过历史波动阈值时用脉冲响应函数计算突发修正量，得到综合预测负载；

5、按容量偏差和综合预测负载越过安全阈值的风险形成节点失衡代价，对失衡源节点生成候选迁移分片，模拟候选迁移分片迁出源节点并迁入目标节点后的负载变化，以源节点过载概率下降量扣减迁移代价得到迁移任务列表；

6、按迁移任务的因果收益顺序消耗迁移令牌桶执行迁移，以业务带宽占用和预测置信区间半宽计算令牌生成速率，在业务时延触发挂起条件或恢复条件时挂起或恢复迁移输入输出；

7、按迁移期间的负载误差重估预测参数，按带宽越界状态调整令牌桶保守系数，输出下一迁移轮次的控制参数。

8、在其中一些具体实施例中，按各特征与瓶颈标记的互信息排序筛选，得到节点主特征序列，进一步包括：

9、按时间窗口统计分片读写请求次数、请求字节量和尾部时延，计算请求逻辑块地址的基尼系数或信息熵作为地址集中度；

10、按最近访问时刻和历史访问间隔估计冷热衰减常数，计算分片热度半衰期并形成冷热衰减量；

11、将分片特征与节点带宽占用、输入输出等占比拼接后，对每个特征与瓶颈标记执行互信息计算，保留排序靠前的预设数量个特征作为所述节点主特征序列的组成字段。

12、在其中一些具体实施例中，将所述节点主特征序列中的总请求负载拆分为趋势分量、周期分量和残差分量，对趋势分量和周期分量外推，进一步包括：

13、对每个节点在连续时间窗口内的总请求负载执行季节趋势分解，得到趋势分量、周期分量和残差分量；

14、对趋势分量执行局部加权回归平滑并沿预测窗口线性外推，对周期分量执行傅里叶级数拟合并沿预测窗口谐波外推；

15、将趋势外推值和周期外推值相加得到确定性预测基准。

16、在其中一些具体实施例中，在残差因果检验识别的上游关联节点的当前残差偏离量越过历史波动阈值时用脉冲响应函数计算突发修正量，得到综合预测负载，进一步包括：

17、对任意两个存储节点的残差分量建立向量自回归计算关系，采用格兰杰因果检验筛选上游关联节点；

18、当上游关联节点的当前残差偏离量越过历史波动阈值时，将所述当前残差偏离量与从历史残差序列估计的脉冲响应函数按预测步长相乘，得到目标节点在预测步长内的突发修正量；

19、将所述突发修正量与确定性预测基准相加，得到所述综合预测负载。

20、在其中一些具体实施例中，按容量偏差和综合预测负载越过安全阈值的风险形成节点失衡代价，对失衡源节点生成候选迁移分片，进一步包括：

21、计算节点已用容量相对集群平均已用容量的归一化偏差，得到容量偏差；

22、统计所述综合预测负载在预测窗口内越过节点安全阈值的概率和幅度，得到过载风险；

23、按照业务服务等级约束为容量偏差和过载风险分配权重并加权求和，得到节点失衡代价；

24、在节点失衡代价越过预设触发条件时，从触发节点管理的数据分片中剔除冷热衰减量低于预设冷却条件且所述数据分片的请求负载在源节点总请求负载中的占比低于预设贡献条件的数据分片，得到所述候选迁移分片。

25、在其中一些具体实施例中，模拟候选迁移分片迁出源节点并迁入目标节点后的负载变化，以源节点过载概率下降量扣减迁移代价得到迁移任务列表，进一步包括：

26、对每个候选迁移分片读取分片请求负载、分片带宽贡献和分片数据量，在源节点预测序列中扣除分片请求负载和分片带宽贡献，并在目标节点预测序列中加入分片请求负载和分片带宽贡献；

27、比较迁移前后的源节点过载概率，得到因果收益；

28、用分片数据量和单位传输开销计算迁移代价，选择因果收益大于迁移代价且因果收益排序最高的候选迁移分片加入迁移任务列表；

29、若目标节点的节点失衡代价在加入后越过预设回溯条件，则移除最近加入的迁移任务并重新选择候选迁移分片。

30、在其中一些具体实施例中，以业务带宽占用和预测置信区间半宽计算令牌生成速率，进一步包括：

31、读取源节点的网络总带宽安全上限、预测窗口内的业务带宽占用、预测置信区间半宽和令牌桶保守系数；

32、从网络总带宽安全上限中扣减业务带宽占用，并按照令牌桶保守系数对预测置信区间半宽进行扣减补偿，得到令牌生成速率；

33、当扣减后的令牌生成速率低于预设最小速率时，将令牌生成速率置为暂停速率并把未发送的数据块保留在迁移任务队列中。

34、在其中一些具体实施例中，在业务时延触发挂起条件或恢复条件时挂起或恢复迁移输入输出，进一步包括：

35、在迁移执行期间按照时间窗口采集业务输入输出时延，计算业务输入输出时延相对于历史均值和历史标准差的偏离量；

36、当所述偏离量越过预设挂起条件时，停止从迁移任务队列取出新数据块并暂存已取出未发送的数据块；

37、当所述偏离量回落至预设恢复条件时，按照迁移任务列表的因果收益顺序和迁移任务队列的存放顺序取出数据块，并按令牌数量提交迁移输入输出。

38、在其中一些具体实施例中，按迁移期间的负载误差重估预测参数，按带宽越界状态调整令牌桶保守系数，进一步包括：

39、按连续时间窗口比较实际节点负载和所述综合预测负载，得到预测误差序列；

40、当预测误差序列越过预设重估条件时，重新估计趋势分量和周期分量的分解参数，或用更新后的残差序列重算节点间因果系数；

41、比较实际带宽占用与预测置信区间边界，当实际带宽占用越过预测置信区间上界时增大令牌桶保守系数，当实际带宽占用持续低于预测波谷且迁移任务队列未清空时减小令牌桶保守系数，得到下一迁移轮次的控制参数。

42、基于同一构思，本发明还提供一种分布式存储在线扩缩容的数据均衡系统，包括：

43、画像生成模块，配置为从块设备请求日志和节点资源监测数据中提取数据分片的读写负载、尾部时延、地址集中度、冷热衰减量及节点带宽占用，按各特征与瓶颈标记的互信息排序筛选，得到节点主特征序列；

44、负载预测模块，配置为将所述节点主特征序列中的总请求负载拆分为趋势分量、周期分量和残差分量，对趋势分量和周期分量外推，并在残差因果检验识别的上游关联节点的当前残差偏离量越过历史波动阈值时用脉冲响应函数计算突发修正量，得到综合预测负载；

45、迁移计划模块，配置为按容量偏差和综合预测负载越过安全阈值的风险形成节点失衡代价，对失衡源节点生成候选迁移分片，模拟候选迁移分片迁出源节点并迁入目标节点后的负载变化，以源节点过载概率下降量扣减迁移代价得到迁移任务列表；

46、迁移执行模块，配置为按迁移任务的因果收益顺序消耗迁移令牌桶执行迁移，以业务带宽占用和预测置信区间半宽计算令牌生成速率，在业务时延触发挂起条件或恢复条件时挂起或恢复迁移输入输出；

47、反馈校正模块，配置为按迁移期间的负载误差重估预测参数，按带宽越界状态调整令牌桶保守系数，输出下一迁移轮次的控制参数。

48、与现有技术相比，其有益效果在于：

49、本发明公开了一种分布式存储在线扩缩容的数据均衡方法及系统，从块设备请求日志和节点资源监测数据中提取读写负载、尾部时延、地址集中度、冷热衰减量及节点带宽占用，并通过互信息筛选形成节点主特征序列，数据均衡判断能够同时接收容量、访问局部性、冷热变化和节点资源占用信息，减少仅依据容量差值触发迁移时对性能热点的遗漏。

50、将总请求负载拆分为趋势分量、周期分量和残差分量，并在残差因果检验识别的上游关联节点出现突变时用脉冲响应函数计算突发修正量，综合预测负载能够同时表达周期性业务变化和节点间突发传播影响，使后续节点失衡代价和迁移计划建立在预测窗口内的负载变化基础上。

51、按容量偏差和综合预测负载越过安全阈值的风险形成节点失衡代价，并通过模拟候选迁移分片迁出源节点并迁入目标节点后的负载变化计算因果收益，迁移任务列表能够排除对源节点性能风险贡献较低或迁移后导致目标节点失衡的分片，使迁移对象选择与热点缓解、目标节点承载能力和迁移代价形成一致的处理链路。

52、以业务带宽占用和预测置信区间半宽计算迁移令牌桶的令牌生成速率，并在业务时延触发挂起条件或恢复条件时挂起或恢复迁移输入输出，迁移执行能够随业务带宽波动调整迁移提交节奏，减少迁移输入输出与在线业务输入输出在高负载窗口内的资源竞争。

53、由于本发明按迁移期间的负载误差重估预测参数，并按带宽越界状态调整令牌桶保守系数，迁移过程中的实际负载和实际带宽占用能够回流至后续迁移轮次的预测和控制参数，形成预测、迁移、反馈和再控制的闭环处理过程，降低迁移计划固化执行导致的均衡偏差。