一种基于服务器集群平台的软件定义资源管理与调度方法与流程

本发明涉及电数字数据处理，具体涉及一种基于服务器集群平台的软件定义资源管理与调度方法。

背景技术：

1、服务器集群是复杂大型软件系统的核心硬件载体，传统软件系统中，软件的部署位置和资源使用配置均为固定模式，存在明显的技术缺陷：一方面，软件与物理服务器强绑定，运行时高度依赖节点的硬件设备和操作系统环境，无法实现跨设备动态迁移，且软件运行所需的cpu、内存、存储等资源在部署时提前固定分配，归软件“独占”，即使服务器处于低负载状态，闲置资源也无法释放给其他软件使用，无资源按需调度机制，导致集群资源利用率极低；另一方面，当软件所绑定的服务器节点出现硬件故障或资源异常时，软件无法正常运行，业务随即中断，且无自动故障处置机制，需人工介入排查和恢复，系统可靠性差，运维成本高。传统服务器集群调度方案仅面向通用it业务，无法适配卫星测控、航天器在轨管理领域专属业务约束，地面测控服务器gpu/网卡硬件失效时，传统系统仅人工迁移测控业务，迁移耗时小时级，易错过业务故障处置黄金测控窗口，存在在轨失控风险，缺乏基于节点健康预测的自动化测控任务无缝迁移机制。

2、现有技术中，部分解决方案引入了容器技术和机器学习调度算法，在一定程度上实现了资源的动态分配，但仍存在以下关键不足：一是忽略了集群资源的异构性，cpu、gpu、内存、网络等不同类型资源具有截然不同的使用特性和交互关系，现有模型采用统一的特征提取方式，无法有效捕捉异构资源的差异化模式；二是缺乏对节点间时空关联性的建模，集群是分布式系统，节点间存在网络通信、负载传导和资源竞争关系，资源使用不仅具有时序依赖性，还具有空间关联性，现有模型仅考虑单节点的时序特征，导致全局调度决策不准确；三是特征提取层次较浅，无法挖掘复杂的非线性资源使用规律，对于动态负载任务和大规模集群场景，资源需求预测精度和节点匹配度较低；四是未考虑任务执行风险，仅根据资源匹配度进行调度，容易导致任务因节点负载波动或隐性故障而执行失败。

3、因此，亟需一种能够有效建模异构资源交互关系和节点时空关联性的智能资源管理与调度方案，通过更深入、更全面的深度特征提取技术，进一步提升集群资源利用率和系统运行可靠性，以解决现有航天运控调度系统存在的卫星过境算力爆发冲突、天地拓扑空间关联建模缺失、航天多模态测控数据资源预测精度低、高优先级应急测控任务资源抢占机制缺失、异常业务迁移时延过长等行业痛点。

技术实现思路

1、本发明是为了解决现有技术忽略资源异构性与节点时空关联性、特征提取层次浅、资源需求预测不准确、节点匹配精度低、未考虑任务执行风险，无法适应大规模复杂集群的运行环境，以及现有航天运控调度系统存在的卫星过境算力爆发冲突、航天多模态测控数据资源预测精度低、高优先级应急测控任务资源抢占机制缺失、异常业务迁移时延过长等行业痛点的问题，提供一种基于服务器集群平台的软件定义资源管理与调度方法，对服务器集群开展软硬件资源双维度建模，硬件维度涵盖节点品牌、cpu/gpu架构、核心数、内存、磁盘、网络带宽及在线、健康、隔离、负载等级等调度属性；软件维度按类型配置并保存运行资源需求，全程基于该模型开展资源管理调度。三级深度特征提取架构可挖掘复杂非线性资源使用规律，多任务学习框架同时输出资源需求、节点匹配度和任务执行风险三个维度的预测结果；结合综合匹配度计算公式，实现资源需求波动曲线与节点可用资源波动曲线的精准对齐，降低动态负载场景下资源需求预测误差，提升节点资源利用率。同时适配卫星测控中心、低轨卫星星座、载人空间站、深空探测器等航天器在轨管理天地一体化算力调度场景，解决航天测控任务时间窗口约束、多星异构资源耦合、异常业务应急处置迁移时延大等行业特有痛点，实现上万颗低轨卫星、载人空间站、深空探测器在轨测控任务的智能化、高可靠集群资源调度。

2、本发明提供一种基于服务器集群平台的软件定义资源管理与调度方法，包括以下步骤：

3、s1、对服务器集群的软件资源和硬件资源进行全维度建模得到资源模型，资源模型以关系型数据库表为载体，通过外键关联硬件资源表、调度状态表和软件资源需求表形成静态资源需求基线；

4、s2、构建调度模型并配置时序数据库，时序数据库自动采集服务器集群的时序数据并存储，调度模型对时序数据和来自资源模型的非时序静态数据进行多维度预处理后依次提取第一级特征、第二级特征和第三级特征，通过挖掘非线性资源使用规律结合多维度预测和综合匹配来预测动态资源需求，使用时空一致性损失函数进行训练优化；

5、s3、搭建容器云管理平台并部署达到优化目标的调度模型，容器云管理平台进行待调度任务的手动和自动双重调度，支持自动分配资源、人工指定节点、gpu核心范围和cpu核心范围；

6、s4、进行任务资源需求预测，向容器云管理平台提交待调度任务，容器云管理平台结合待调度任务的起止时间、软件类型及数量、数据量和任务优先级，通过资源模型和调度模型预测待调度任务整体资源需求及波动曲线；

7、s5、针对待调度任务的时间范围，计算各节点可用资源及波动曲线，将节点可用资源与待调度任务需求进行匹配，根据资源匹配度和任务执行风险预测值选择最优节点调度容器并启动待调度任务；

8、s6、各节点定时上报健康状态，容器云管理平台接收到异常节点状态数据后触发资源隔离操作。

9、本发明所述的一种基于服务器集群平台的软件定义资源管理与调度方法，作为优选方式，容器云管理平台进行静态任务调度时，直接查询软件资源需求表得到默认资源需求并根据输入数据量和缩放系数进行线性调整得到最终资源需求，静态任务包括定期数据备份和固定报表生成；

10、容器云管理平台进行动态负载任务或无预设基线的新任务调度时，将任务属性和服务器集群当前运行状态输入调度模型，调度模型通过学习历史任务的属性与资源消耗映射关系输出动态资源需求值和波动曲线；动态负载任务包括大数据分析和ai模型训练，任务属性包括软件类型、输入数据量、运行时长和优先级；

11、容器云管理平台进行混合任务场景的任务调度时，以静态资源需求基线为下限，以动态资源需求预测值为上限，将静态资源需求基线和动态资源需求预测的加权平均值作为最终资源需求。

12、本发明所述的一种基于服务器集群平台的软件定义资源管理与调度方法，作为优选方式，步骤s1中，硬件资源表中存储节点的静态硬件属性，静态硬件属性包括cpu架构、gpu型号、核心数、内存大小、磁盘容量与iops、网络带宽、网络延迟及在线、健康、隔离、负载等级等调度属性；

13、调度状态表中存储与资源调度相关的动态属性，动态属性包括节点在线状态、健康状态、隔离状态、负载等级和最后心跳时间；

14、软件资源需求表中存储软件维度资源需求信息，软件维度资源需求信息包括软件类型、默认的cpu/gpu/内存/网络/磁盘需求量和针对不同数据量预设的资源需求缩放系数；

15、步骤s2中，时序数据库自动存储时序数据，同时支持时序数据的查询、聚合、降采样、关联分析以进行资源冲突判断和模型迭代训练；

16、时序数据包括：多模态异构资源使用数据、节点状态数据和节点间网络通信数据，多模态异构资源使用数据包括各异构节点的cpu使用率、gpu使用率、gpu显存使用率、内存使用率和磁盘使用率的历史数据；

17、非时序静态数据包括节点硬件属性、软件基础信息和任务基础属性；

18、非时序静态数据与时序数据拼接后输入调度模型；

19、时序数据库支持按时间范围、节点id和任务id进行快速查询，支持对时序数据进行聚合计算，聚合计算包括求平均值、求最大值和求最小值；

20、降采样的方法为：时序数据库将高频数据转换为低频数据；

21、多维度预处理包括数据清洗、缺失值填充、异常值处理、数据标准化和数据对齐；

22、数据清洗：删除重复数据、无效数据和噪声数据；

23、缺失值填充：采用基于时间序列的插值法填充连续型缺失数据，采用众数填充法填充离散型缺失数据；

24、异常值处理：采用孤立森林算法识别并剔除异常值；

25、数据标准化：采用z-score标准化方法将不同量纲的资源数据映射至均值为0、方差为1的标准正态分布；

26、数据对齐：将不同采样频率的资源数据统一对齐至统一时间粒度。

27、本发明所述的一种基于服务器集群平台的软件定义资源管理与调度方法，作为优选方式，步骤s2中，调度模型为多分支异构卷积神经网络；

28、调度模型的特征提取方法为：构建多分支异构卷积神经网络，每个分支分别对一种基础资源类型的时序数据进行特征提取，每个分支均使用至少两层不同卷积核大小的一维卷积层堆叠（卷积核大小分别为3、7、15，步长为1，激活函数采用swish），每个卷积层后接批量归一化层和最大池化层；输入多维度预处理数据，各分支分别进行特征提取，最大池化层输出每个分支提取的局部特征；将局部特征进行拼接得到第一级特征；

29、构建跨模态注意力门控循环单元cm-agru；输入第一级特征，cm-agru通过跨模态注意力机制计算第一级特征中不同资源类型特征之间的交互权重，生成跨模态交互特征矩阵；

30、将跨模态交互特征矩阵输入双向门控循环单元bi-gru捕捉资源使用的双向时序依赖关系，得到第二级特征；

31、；

32、其中，为不同资源类型的局部特征，为可学习的注意力权重矩阵，n为资源类型数量；

33、构建时空图注意力网络st-gat，首先将服务器集群平台中的每个服务器节点建模为时空图的顶点，节点间的网络带宽和通信延迟作为边的权重得到集群拓扑图；输入第二级特征，通过st-gat的空间图注意力层计算节点间的空间关联权重，捕捉不同节点之间的负载传导和资源竞争关系得到空间特征；通过时序卷积层对空间注意力输出的特征进行时序建模，捕捉集群整体资源使用的长期演化趋势得到时序特征；将空间特征和时序特征进行融合得到第三级特征；

34、时空一致性损失函数为时间一致性损失和空间一致性损失之和，时间一致性损失约束同一节点在相邻时间步的特征向量差异，以使特征随时间平滑变化；空间一致性损失约束服务器集群中相邻节点在同一时间步的特征向量差异以体现节点间的负载传导和资源竞争关系。

35、本发明所述的一种基于服务器集群平台的软件定义资源管理与调度方法，作为优选方式，步骤s211中，多分支异构卷积神经网络为cnn模型，分支包括cpu分支、gpu分支、内存分支、磁盘分支和网络分支；

36、通过多任务学习框架构建所述跨模态注意力门控循环单元cm-agru并设置资源需求预测头、节点匹配度预测头和任务执行风险预测头；

37、调度模型的训练使用adamw优化算法；

38、调度模型的损失函数为资源需求预测损失、节点匹配度预测损失、任务执行风险预测损失和时空一致性损失的加权和。

39、本发明所述的一种基于服务器集群平台的软件定义资源管理与调度方法，作为优选方式，步骤s5中，通过节点总资源能力减去已占用资源计算各节点可用资源；

40、最优节点n*为：

41、；

42、其中，为取使括号内表达式值最小的函数；为第n个服务器节点的可用状态标识，取值为0或1，1表示可用，0表示不可用，为服务器节点n的综合资源匹配度；

43、最优节点的选择依据为：可用资源占总资源比例最小，同时任务风险最小的情况

44、；

45、其中，为调度模型预测的服务器节点n执行任务风险预测值，取值范围为[0,1]，λ为资源匹配度与任务执行风险的平衡系数，为常数，默认值为0.7；

46、；

47、其中，分别为cpu、gpu、内存、网络和磁盘资源的权重系数，并根据业务场景调整；、、、、分别为待调度任务的cpu核心数需求值、gpu数量需求值、内存大小需求值、网络带宽需求值和磁盘iops需求值，、、、、分别为第n个节点的总cpu核心数、总gpu数量值、总内存大小、总网络带宽和总磁盘iops。

48、，，，，。

49、本发明所述的一种基于服务器集群平台的软件定义资源管理与调度方法，作为优选方式，步骤s6中，各节点定时上报健康状态，节点定时自主检测周期为5~30秒，检测内容包括cpu温度、gpu显存使用率、内存错误率、网络丢包率、磁盘坏道数和容器运行状态；容器云管理平台接收到异常节点状态数据后，触发资源隔离操作，禁止新任务调度至异常节点并根据任务优先级完成节点上所有运行业务的无缝迁移；

50、节点可用状态判定的方法为：仅当节点在线、健康且未被隔离时判定为可用节点：

51、当应用于天地一体化算力调度场景时，若在卫星测控窗口内节点发生异常，资源管理与调度系统优先保障测控窗口内卫星任务完成无缝迁移，避免错过测控时间窗口；

52、；

53、其中，为第n个节点的在线状态标识，1表示在线，0表示离线；为第n个节点的健康状态标识，1表示健康，0表示异常；为第n个节点的隔离状态标识，1表示已隔离，0表示未隔离；为布尔逻辑与运算符，仅当所有操作数均为1时结果为1；为布尔逻辑非运算符，操作数为1时结果为0，操作数为0时结果为1。

54、本发明所述的一种基于服务器集群平台的软件定义资源管理与调度方法，作为优选方式，资源管理与调度系统进行步骤s1~步骤s6的软件定义资源管理与调度，资源管理与调度系统包括：软硬件资源建模模块、调度模型构建模块、容器云管理平台、精细化资源需求分解模块、存储模块、节点可用资源计算模块、资源精准匹配与调度模块和节点异常自动处置模块；

55、软硬件资源建模模块生成资源模型；

56、调度模型构建模块构建调度模型并完成模型训练、优化与部署；

57、容器云管理平台进行待调度任务管理、手动与自动双重资源调度、资源监控、异常告警和提供可视化界面；

58、精细化资源需求分解模块计算待调度任务的整体资源需求和资源需求波动曲线；

59、存储模块将历史任务的资源使用全量信息存储至时序数据库，为资源冲突判断和模型迭代提供数据支持；

60、节点可用资源计算模块根据待调度任务的时间范围计算各服务器集群节点的实际可用资源和可用资源波动曲线；

61、资源精准匹配与调度模块将节点可用资源与任务资源需求进行匹配，结合任务执行风险评估结果，选择最优节点进行容器调度；

62、节点异常自动处置模块接收节点上报的健康状态数据，对异常节点执行资源隔离操作并将节点上的业务无缝迁移至健康节点。

63、本发明所述的一种基于服务器集群平台的软件定义资源管理与调度方法，作为优选方式，调度模型构建模块包括：数据采集与预处理单元、三级特征提取单元、模型训练与优化单元和模型部署与迭代单元；

64、数据采集与预处理单元采集服务器集群的多模态历史运行数据并进行多维度预处理；

65、三级特征提取单元依次提取多模态历史运行数据或预测的待调度任务整体资源需求和波动曲线的第一级特征、第二级特征、第三级特征；

66、模型训练与优化单元基于多任务学习框架训练调度模型并引入时空一致性损失函数优化模型参数；

67、模型部署与迭代单元将训练好的调度模型部署至容器云管理平台，并定期利用新产生的运行数据进行模型增量更新。

68、本发明所述的一种基于服务器集群平台的软件定义资源管理与调度方法，作为优选方式，软件定义资源管理与调度方法应用于地面系统的资源管理与调度场景，或者航天运控调度系统对航天器进行在轨管理的天地一体化算力调度场景；

69、天地一体化算力调度场景下，调度对象包括以下任意一种或多种：卫星测控中心、低轨卫星星座、载人空间站和深空探测器；

70、步骤s1中，硬件资源表中包括基带处理板卡数量、解调通道数、射频链路资源和通信端口编号，软件资源需求表中包括卫星遥测解调软件、载荷数据解译软件、轨道计算软件、航天器故障研判分析软件和轨道类型字段，轨道类型字段区分低轨、中轨和深空任务；

71、步骤s2中，时序数据库支持按卫星编号进行快速查询，时序数据包括测控硬件负载时序数据和卫星过境窗口期的高频采样数据，非时序静态数据包括基带板卡配置、卫星编号和轨道类型；

72、调度模型中包括测控硬件分支，对基带板卡和解调通道时序数据做特征提取并拼接进第一级特征，第二级特征捕捉卫星过境瞬间基带负载飙升连带cpu和网络同步激增的耦合关系，提取第三级特征时，将地面测控网关和服务器集群节点共同纳入时空图顶点，建模星地链路与地面算力节点之间的关联；

73、调度模型的训练数据集中混入历史低轨星座、载人空间站和深空探测器测控任务样本；

74、步骤s3中，容器云管理平台支持卫星任务多级优先级手动标注；待调度任务包括卫星历史测控数据归档任务、低轨卫星星座过境测控任务、深空探测器遥测数据实时解译任务和航天多星并发测控场景，任务属性包括测控过境窗口时长和卫星轨道类型；

75、步骤s4中，资源管理与调度系统还结合轨道类型进行资源需求预测，待调度任务的起止时间为过境起止测控窗口，软件类型数量为载荷数据量，轨道类型包括低轨、中轨和深空；

76、步骤s5中，计算各节点可用资源时，对于卫星任务过境的时间窗口，同时校验节点剩余解调通道和基带硬件资源。

77、损失函数为资源需求预测损失、节点匹配度预测损失、任务执行风险预测损失与时空一致性损失的加权和，计算公式为：

78、；

79、其中，为资源需求预测的均方误差，为节点匹配度预测的均方误差，为任务执行风险预测的二元交叉熵损失，为时空一致性损失，。

80、本发明的模型训练采用adamw优化算法，学习率设置为0.0005，批次大小为64，训练轮次为200；

81、损失函数默认权重为。

82、本发明采用结构化关系型数据模型来构建资源模型。具体来说，该模型以关系型数据库表为载体，通过设计三张相互关联的表来实现对资源的统一描述：第一张是硬件资源基础表，用于存储节点的静态硬件属性，如cpu架构、gpu型号、核心数、内存大小、磁盘容量与iops、网络带宽与延迟等；第二张是调度状态表，用于存储与资源调度相关的动态属性，如节点在线状态、健康状态、隔离状态、负载等级、最后心跳时间等；第三张是软件资源需求表，用于存储软件维度的资源需求信息，包括软件类型、默认的cpu/gpu/内存/网络/磁盘需求量，以及针对不同数据量预设的资源需求缩放系数。三张表通过节点id进行外键关联，形成一个标准化的资源描述体系。在软件维度资源需求预测方面，本发明采用"静态基线+动态预测"双轨制方法。对于常规的静态任务（如定期数据备份、固定报表生成），系统直接从软件资源需求表中查询默认资源需求基线，再根据实际输入数据量和预设的缩放系数进行线性调整（例如数据量每增加10gb，cpu需求增加1核）。对于动态负载任务（如大数据分析、ai模型训练）或无预设基线的新任务，系统将任务属性（软件类型、输入数据量、运行时长、优先级）和集群当前运行状态输入到基于三级深度特征提取的调度模型中，通过学习历史任务"属性→资源消耗"的映射关系，输出精准的动态资源需求值及波动曲线。在混合任务场景下，系统以静态基线为下限、动态预测值为上限，取两者的加权平均值作为最终资源需求，兼顾稳定性和准确性。

83、关于时序数据库的作用，本发明中时序数据库（influxdb）不仅仅用于存储，而是承担了多项核心功能。首先，它负责实时写入任务资源使用曲线、节点资源负载曲线、节点状态数据等带时间戳的时序数据；其次，它支持快速查询，可按时间范围、节点id、任务id等维度检索数据，为节点可用资源计算提供历史占用依据；第三，它支持聚合计算，如求平均值、最大值、最小值等，为模型训练提供预处理后的批量数据；第四，它支持数据降采样，将高频采集数据转换为低频数据，以减少存储占用和计算开销。此外，存入时序数据库的全量资源使用信息还服务于资源冲突判断和模型迭代训练两大核心用途。因此，时序数据库在本发明中既是数据存储中心，也是数据查询与预处理的支撑平台。关于历史数据与时序数据的关系，文档对历史运行数据的构成做了明确区分：历史数据不完全等于时序数据，但时序数据是历史数据的主体。历史数据中90%以上是时序数据，包括多模态异构资源使用数据（cpu/gpu/内存/磁盘/网络使用率）、节点状态数据、节点间网络通信数据等，这些数据均带有精确到秒的时间戳，按时间顺序连续产生，是三级深度特征提取模型的主要输入。除此之外，历史数据中还包含少量非时序的静态数据，如节点硬件属性（cpu架构、gpu数量）、软件基础信息（软件类型、版本）、任务基础属性（任务id、软件id）等，这类数据不随时间变化，作为辅助特征与时序数据进行拼接，共同输入模型。因此，时序数据是历史数据的核心组成部分，但历史数据的范畴更广，还涵盖了少量静态辅助特征数据。

84、本发明包括以下步骤：对服务器集群开展软硬件资源双维度建模，硬件维度涵盖节点品牌、cpu/gpu架构、核心数、内存、磁盘、网络带宽及在线、健康、隔离、负载等级等调度属性；软件维度按类型配置并保存运行资源需求，全程基于该模型开展资源管理调度。三级深度特征提取架构可挖掘复杂非线性资源使用规律，多任务学习框架同时输出资源需求、节点匹配度和任务执行风险三个维度的预测结果；结合综合匹配度计算公式，实现资源需求波动曲线与节点可用资源波动曲线的精准对齐，降低动态负载场景下资源需求预测误差，提升节点资源利用率。同时适配卫星测控中心、低轨卫星星座、载人空间站、深空探测器等航天器在轨管理天地一体化算力调度场景，解决航天测控任务时间窗口约束、多星异构资源耦合、异常业务应急处置迁移时延大等行业特有痛点。

85、调度模型部署至容器云平台进行资源需求预测、匹配度计算和任务风险评估。

86、本发明具有以下优点：

87、（1）本发明通过资源模型完整覆盖硬件属性与软件资源需求；通过多分支异构卷积神经网络针对cpu、gpu、内存等不同资源类型设计独立特征提取分支，解决了现有技术统一特征提取导致的异构资源差异化模式丢失问题，有效提升特征表征能力。

88、（2）本发明构建跨模态注意力门控循环单元（cm-agru）捕捉资源间的交互关系与时序依赖，通过时空图注意力网络（st-gat）建模集群拓扑的空间关联（负载传导、资源竞争），并引入时空一致性损失函数约束模型训练，彻底解决了传统方案仅考虑单节点时序特征、全局调度决策偏差大的问题，有效提升大规模集群调度准确率。

89、（3）本发明三级深度特征提取架构可挖掘复杂非线性资源使用规律，多任务学习框架同时输出资源需求、节点匹配度和任务执行风险三个维度的预测结果；结合综合匹配度计算公式，实现资源需求波动曲线与节点可用资源波动曲线的精准对齐，降低动态负载场景下资源需求预测误差，提升节点资源利用率。

90、（4）本发明实现手动+自动双重调度模式，支持细粒度资源分配（指定cpu核心、gpu卡号）；节点高频健康检测，异常节点自动隔离与按优先级业务无缝迁移，迁移过程保证数据一致性和服务连续性，业务中断时间从小时级缩短至秒级，降低运维人力成本。

91、（5）本发明任务资源使用全量数据存入时序数据库，支持模型定期增量更新，使调度系统能够自适应集群负载变化、硬件升级和业务增长，长期保持最优调度性能，避免了传统静态调度算法随时间推移性能退化的问题。