一种基于联邦学习的分布式GPU集群存储资源均衡方法与流程

本发明涉及分布式计算与存储资源管理，具体涉及一种基于联邦学习的分布式gpu集群存储资源均衡方法。

背景技术：

1、随着人工智能技术的快速发展，联邦学习作为一种在保障数据隐私前提下实现多方协同建模的分布式机器学习技术，已广泛应用于边缘计算、医疗数据建模及金融风控等场景。在典型的联邦学习系统中，通常包括多个计算节点与中心聚合服务器，各参与节点在本地完成模型训练后，将模型参数或梯度信息上传至中心服务器进行聚合，并在多个训练轮次中反复执行模型分发与更新过程。

2、在实际工程部署中，为满足大规模模型训练需求，联邦学习通常运行于分布式gpu集群环境。该环境包括多个gpu计算节点，每个节点配置本地存储资源，同时系统整体还配置有共享存储层及缓存存储层，用于存储模型参数、梯度数据及训练样本数据。在训练轮次不断推进的过程中，不同类型的数据块在不同阶段的访问频率存在明显差异。例如，在全局模型分发阶段，模型参数数据块会被多个gpu节点高并发读取；在本地训练阶段，梯度数据及样本数据的读写操作则主要集中在各节点本地；在模型聚合阶段，更新后的梯度数据又需被集中写入和读取。然而，现有技术中对于gpu集群环境下的存储资源管理，多采用静态配置方式或基于简单缓存策略进行处理。例如，为各计算节点预分配固定容量的本地存储资源，或将关键数据统一存储于单一高速存储设备中。这种方式未能根据联邦学习训练过程中数据访问热度的动态变化进行调整，难以适应训练阶段之间访问模式频繁切换的特性。当数据访问热点集中于特定数据块时，若该数据仍位于低速存储层，则会增加gpu节点的数据访问延迟，降低训练效率；而当热点转移后，原先占用高速存储资源的数据块未能及时回迁，又会导致高速存储层容量紧张，影响新的高频数据加载。与此同时，由于缺乏对各存储层容量占用率、i/o带宽利用率及访问延迟等负载状态的综合感知，容易造成部分存储层持续高负载运行，而其他存储层资源利用不足，整体资源分配失衡。

技术实现思路

1、本发明的目的在于提供一种基于联邦学习的分布式gpu集群存储资源均衡方法，解决现有技术存在的问题。

2、为实现上述目的，本发明提供如下技术方案：一种基于联邦学习的分布式gpu集群存储资源均衡方法，包括s1、在联邦学习训练轮次执行过程中，采集各gpu计算节点以及中心聚合服务器对模型参数数据块、梯度数据块及训练样本数据块的读写操作记录，生成实时访问日志，并基于当前训练轮次计算各数据块的访问频率分布；s2、根据访问频率分布与预设热度阈值进行比较，识别高频访问数据块集合，形成热数据列表；s3、获取本地高速存储层、快速缓存存储层以及共享存储层的实时负载状态信息，包括容量占用率、i/o带宽利用率及访问延迟指标；s4、基于热数据列表和各存储层的实时负载状态，执行动态迁移决策算法，确定待迁移数据块及对应目标存储层，并生成迁移路径规划；s5、当目标快速存储层的剩余容量满足预设条件时，将高频访问数据块从低速存储层迁移至快速存储层，同时更新分布式存储元数据索引，建立新的数据位置映射关系；s6、在完成数据迁移后，持续监测数据块的后续访问频率变化，当数据块访问频率降低至低于冷数据阈值时，将其逆向迁移至低速存储层，以释放快速存储资源。

3、优选的，所述s1包括采集联邦学习训练轮次执行过程中的读写操作记录，提取模型参数、梯度数据及训练样本的访问特征，得到初始访问日志；根据初始访问日志识别数据分块标识，生成结构化访问日志；通过结构化访问日志统计各个数据分块的读写次数，确定单块访问频次；若单块访问频次大于预设阈值，则标记为高频数据分块并得到分块活跃度集合；根据分块活跃度集合聚合高频数据分块的占比，计算各数据块的访问频率分布。

4、优选的，所述s2包括获取基于预设时间窗口内的读写权重所构建的频率分布矩阵，频率分布矩阵源于对访问频率分布的提取；采用主成分分析法处理频率分布矩阵以提取数据块特征向量，并依据数据块特征向量计算单块活跃度数值；若单块活跃度数值大于预设热度阈值，则标记高频访问数据块以获得高频访问数据块集合；根据高频访问数据块集合提取节点标识并在聚合节点执行列表构建操作，生成热数据列表。

5、优选的，所述s3包括获取存储节点的输入输出请求队列深度及单位时间数据吞吐量数值；根据输入输出请求队列深度及单位时间数据吞吐量数值构建流量压力模型，获得平均访问延迟指标及瞬时输入输出带宽利用率；获取存储层的容量占用率，将容量占用率、平均访问延迟指标及瞬时输入输出带宽利用率输入多维状态评估矩阵，得出资源竞争度数值；根据资源竞争度数值判断负载状态，生成包含容量占用率、瞬时输入输出带宽利用率及平均访问延迟指标的实时负载状态信息。

6、优选的，所述s4包括获取访问频次及剩余容量，访问频次及所述剩余容量经处理得到活跃度评分；若活跃度评分大于预设阈值，则获得待迁移数据块；获取待迁移数据块的大小及写入速度以确定目标存储层；获取目标存储层的网络带宽及待迁移数据块的读取延迟，根据网络带宽及所述读取延迟执行动态迁移决策算法，生成迁移路径规划。

7、优选的，所述s5包括根据低速存储层数据块的读写频次得到热度特征向量，若热度特征向量大于预设阈值则确定高频访问数据块；根据高频访问数据块的体积及快速存储层的可用空间获得目标快速存储层；根据目标快速存储层的物理地址及高频访问数据块的哈希信息生成新的数据位置映射关系；根据新的数据位置映射关系更新分布式存储元数据索引，实现高频访问数据块从低速存储层迁移至快速存储层并建立新的数据位置映射关系。

8、优选的，所述s6包括根据第一数据块的读写请求次数获得第一数据块的热度评分；若热度评分小于预设阈值，则确定第一数据块为待降级数据块。

9、优选的，所述s6还包括根据待降级数据块的体积获得目标低速节点并生成迁移指令；根据迁移指令将待降级数据块写入所述目标低速节点，更新索引，完成数据块逆向迁移至低速存储层并释放快速存储资源。

10、优选的，还包括s7、根据迁移结果对各gpu计算节点的缓存指针及数据访问路径进行同步更新，完成存储资源重新分配，使各存储层负载趋于均衡状态，具体包括获取数据迁移完成日志，解析数据迁移完成日志提取数据块唯一标识符及目标物理存储地址；根据数据块唯一标识符检索持有旧版缓存指针的gpu计算节点列表；向gpu计算节点列表中的节点发送指针更新指令，指针更新指令用于将旧版缓存指针替换为指向目标物理存储地址的新版缓存指针。

11、优选的，所述s7还包括基于新版缓存指针生成最短数据访问路径；采集经由最短数据访问路径传输的流量数据并计算各存储层的存储带宽利用率；若存储带宽利用率方差小于预设均衡度阈值，则确认各存储层负载处于均衡状态。

12、由上述技术方案可知，本发明具有如下有益效果：

13、该基于联邦学习的分布式gpu集群存储资源均衡方法，在联邦学习分布式gpu集群训练环境下，通过对训练轮次内模型参数数据块、梯度数据块及训练样本数据块的访问频率进行实时统计，结合多层存储架构的容量占用率、i/o带宽利用率及访问延迟等负载状态信息，动态识别高频数据并执行跨存储层迁移，同时在访问热度下降时进行逆向迁移，实现数据在本地高速存储层、快速缓存存储层及共享存储层之间的自适应流动，从而有效避免高频数据滞留于低速存储层所导致的gpu计算等待现象，减少因热点切换造成的存储资源挤占问题，提高高速存储资源的利用效率；同时，通过更新分布式存储元数据索引及同步刷新缓存指针，使各gpu计算节点的数据访问路径保持一致性和稳定性，最终实现存储资源的动态均衡分配，降低联邦学习训练轮次整体耗时，提升分布式gpu集群环境下的训练性能与系统稳定性。