HPC集群自适应作业调度方法及系统与流程

本发明涉及hpc集群作业调度，特别是涉及一种hpc集群自适应作业调度方法及系统。

背景技术：

1、高性能计算（hpc，high performance computing）集群通常由成百上千个计算节点通过高速互联网络连接而成，构成一个具有复杂拓扑结构的大规模分布式计算系统。用户提交的作业具有多样化的资源需求（cpu核数、内存容量、gpu数量、网络带宽等），集群作业调度器负责将等待队列中的作业分配到合适的计算节点上执行，其调度质量直接影响集群资源利用率和作业平均等待时间。在资源碎片度量方面，已有资源碎片度量方法通过计算各物理机已分配cpu核心数和内存大小与总量的比例关系，分别得到集群cpu资源碎片率和内存资源碎片率，再综合为统一的集群资源碎片度量指数。该方法虽然实现了多维资源碎片的统一量化，但其本质是基于资源分配数量的比例计算，属于总量型度量，即仅关注已分配资源与总资源的数量比值。这种方法的局限在于：两种完全不同的碎片分布模式可能得到相同的碎片率数值。例如某集群100个节点中，若碎片均匀散布于全部节点，与碎片集中于10个节点而其余节点资源完整，此时两者的资源分配总量比例相同，但前者对所有类型作业的调度都存在阻碍，后者仍可为大作业提供完整节点。比例型度量无法区分这两种本质上完全不同的集群状态。在集群拓扑感知方面，现有hpc调度器在进行节点分配时，通常采用贪婪策略，选择第一个满足资源需求的节点集合，而不考虑所选节点在物理拓扑中的位置关系。这种忽略拓扑结构的分配方式存在两方面的效率损失：其一，若所选节点分散在多个交换机域或机架内，作业内部的进程间通信需要跨越多个网络跳数，导致通信延迟显著增加；其二，拓扑不感知的分配可能造成互联链路的带宽争用和热点拥塞，降低整个集群的并行计算效率。已有拓扑感知调度研究主要集中在基于胖树（fattree）或蜻蜓（dragonfly）拓扑的层级感知分配，但这些方法大多基于静态的拓扑层级规则（如同机架优先、同交换机优先），缺乏能够量化集群拓扑全局结构特征的数学模型，难以在动态变化的集群负载下自适应地平衡通信局部性与资源利用率。

技术实现思路

1、本发明的目的是为克服现有技术的不足和缺陷，提供一种hpc集群自适应作业调度方法及系统，是一种融合多维资源熵评估、图结构感知与不确定性热预测的hpc集群自适应作业调度方法，通过将集群拓扑建模为图结构、引入设备温度约束和多尺度谱图卷积与边类型感知残差图网络的双路径拓扑嵌入，实现从资源碎片评估、拓扑嵌入匹配到不确定性热预测规避的多维度协同优化。

2、根据本技术的第一方面，提供一种hpc集群自适应作业调度方法，包括：

3、实时采集hpc集群的计算节点的多维资源使用数据和物理温度时序数据；

4、基于所述多维资源使用数据计算综合资源熵；所述综合资源熵根据多维资源使用数据的单维度资源熵聚合确定，所述多维资源使用数据至少包括cpu利用率、内存占用量、网络带宽使用率、i/o吞吐量；

5、以每个计算节点为图节点，以计算节点间高速互联链路为图边，构建带权异质拓扑图；基于带权异质拓扑图计算并输出图结构熵；

6、对所述带权异质拓扑图进行多尺度谱图卷积、边类型感知残差gat双路径拓扑嵌入处理，以图结构熵作为门控参数，输出节点级融合嵌入特征；

7、基于所述物理温度时序数据，采用自适应kalman滤波器对每个图节点进行热风险估计，输出节点级热风险，根据节点级热风险确定全局热风险；

8、基于所述综合资源熵以及全局热风险，确定调度策略模式；

9、基于所述调度策略模式以及根据资源需求向量与图节点可用资源向量的余弦相似度、由拓扑层级或节点级融合嵌入特征确定的拓扑匹配度、节点级热风险所确定的每个图节点的综合得分进行作业调度。

10、优选的，所述综合资源熵根据多维资源使用数据的单维度资源熵聚合确定，包括：

11、；；

12、其中，表示综合资源熵，为资源维度的权重, 表示多维资源维度集合，为资源维度的碎片熵；为资源维度下图节点落入第 个资源区间的概率；为资源维度的资源区间划分数；为常数。

13、优选的，所述带权异质拓扑图，包括以链路带宽和链路延迟确定的边权重，所述边权重由物理带宽除以链路延迟的值确定。

14、优选的，所述图边包括多种边类型，用于标注链路的层级归属，所述边类型至少包括leaf-spine链路、spine-core链路、机架内链路、跨机架链路。

15、优选的，所述基于带权异质拓扑图计算并输出图结构熵，是基于带权异质拓扑图的归一化拉普拉斯矩阵特征值谱确定并输出图结构熵，包括：

16、确定归一化拉普拉斯矩阵的特征值，确定归一化特征值概率分布；

17、；表示归一化特征值概率分布，表示图节点数量；、为归一化拉普拉斯矩阵的特征值；

18、根据所述归一化特征值概率分布计算图结构熵：

19、；

20、其中，表示图结构熵；为常数。

21、优选的，所述对所述带权异质拓扑图进行多尺度谱图卷积、边类型感知残差gat双路径拓扑嵌入处理，以图结构熵作为门控参数，输出节点级融合嵌入特征,包括：

22、采用多尺度chebyshev谱图卷积网络，在局部、中程、全局三个感受野上同时进行谱域滤波后进行特征融合，得到图节点的第一嵌入特征：其中，特征融合前不同尺度下的图节点嵌入特征表示如下：

23、；

24、其中，表示尺度下图节点在层的嵌入特征，表示激活函数，表示尺度下图节点在层的嵌入特征，表示阶chebyshev多项式，表示缩放拉普拉斯矩阵；为尺度下第层第阶可学习系数，表示尺度对应的chebyshev多项式阶数；

25、采用边类型感知残差gat，基于边类型各自学习独立的注意力参数，采用残差连接和层归一化处理，得到图节点的第二嵌入特征：

26、；

27、其中，表示图节点在层的第二嵌入特征，表示边类型的注意力参数，表示层归一化处理，表示权重，表示图节点在层的特征，表示图节点的邻居节点在层的特征, 表示邻居节点集合；

28、基于图结构熵确定的特征融合权重系数，对所述第一嵌入特征与第二嵌入特征融合，输出节点级融合嵌入特征；其中，特征融合权重系数通过下式确定：

29、；

30、其中，表示特征融合权重系数，表示门控权重，表示平均池化处理，表示图节点的第一嵌入特征，表示图节点的第二嵌入特征，表示图结构熵。

31、优选的，所述节点级热风险的计算如下：

32、；

33、其中，表示图节点的节点级热风险，表示标准正态累积分布函数，表示图节点预测温度标准差，为安全温度阈值，表示图节点预测温度，表示时刻，为前瞻窗口，为最小标准差。

34、优选的，所述基于所述综合资源熵以及全局热风险，确定调度策略模式，包括：

35、若满足 或 ，执行主动整理模式，执行碎片整理的同时，对且的计算节点触发预迁移，暂停回填；

36、若不满足主动整理模式条件且满足或，执行保守预留模式，避开的计算节点；

37、若既不满足主动整理模式条件，也不满足保守预留模式条件，且满足且 ，执行回填模式；

38、其中，表示综合资源熵，表示全局热风险，、表示综合资源熵的下限阈值与上限阈值，、表示全局热风险的下限阈值与上限阈值，表示节点级热风险，表示图节点预测温度标准差。

39、优选的，所述图节点的综合得分通过下式计算：

40、；

41、；

42、 ；

43、；

44、其中，表示图节点综合得分，表示资源需求向量与图节点可用资源向量的余弦相似度的权重系数，表示拓扑匹配度的权重系数，表示节点级热风险的权重系数，三者之和为1；表示资源需求向量与图节点可用资源向量的余弦相似度，表示拓扑匹配度，表示图结构熵。

45、根据本技术的第二方面，提供一种hpc集群自适应作业调度系统，包括存储器、处理器及存储在所述存储器上并在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现所述hpc集群自适应作业调度方法。

46、本技术的hpc集群自适应作业调度方法及系统，将多维资源熵评估、图结构熵感知和热风险感知三要素融合为一个协同调度体系，对hpc集群自适应作业调度，解决了现有技术中，调度决策仅依赖单一维度的资源状态，缺乏对集群多维资源整体健康度的量化评估调度的缺陷，可应用于大型超算中心、云计算平台、ai训练集群等需要对大规模计算资源进行高效调度与管理的场景。