一种基于遗传算法的AI算力动态调度方法、处理设备、存储介质及程序产品与流程
本技术涉及人工智能、云计算及信息技术支撑领域,具体涉及一种基于遗传算法的ai算力动态调度方法、处理设备、存储介质及程序产品。
背景技术:
1、随着人工智能技术的快速发展,ai训练和推理任务对计算资源(尤其是图形处理器(gpu))的需求呈爆发式增长。云服务提供商和大型企业通常部署包含多种型号gpu的异构算力集群,以应对不同类型的ai任务。然而,现有的ai算力调度技术存在以下四个核心缺陷:
2、(一)异构gpu资源适配不足:现有算法通常将所有gpu视为同质资源,未区分不同型号gpu(如a100、v100、rtx4090等)在算力、显存带宽、功耗等方面的差异,统一分配导致“大材小用”或“小马拉大车”的资源错配现象,资源错配率高达40%。
3、(二)多目标冲突未解决:ai调度场景中,“高资源利用率”“低任务延迟”“低能耗成本”三个目标往往相互冲突。现有算法过度优化单一指标(如填满gpu显存),导致服务水平协议(sla)违约率高企,部分场景下违约率超过30%。
4、(三)动态负载响应滞后:对突发的推理请求或训练任务的算力需求波动,静态调度策略的调整延迟长(超过10分钟),无法满足ai任务的实时性要求,突发场景下响应效率下降50%以上。
5、(四)成本感知缺失:现有调度决策未将gpu的高运维成本(如单位算力能耗成本、时段性电价、设备折旧)纳入优化目标,导致出现“高利用率但高成本”的低效调度,单位算力成本居高不下。
6、因此,亟需一种能够处理异构资源、平衡多目标、快速响应动态变化并考虑成本因素的ai算力动态调度方法。
技术实现思路
1、为解决上述技术问题,本技术实施例提供了一种基于遗传算法的ai算力动态调度方法、处理设备、计算机存储介质及计算机程序产品,通过资源监控、异构编码、多目标适应度评估、遗传迭代优化及动态重优化闭环,实现gpu资源的精准匹配与全局优化。
2、本技术提供一种基于遗传算法的ai算力动态调度方法,包括:获取异构算力集群中多个计算资源的资源信息以及待调度的多个人工智能ai任务的任务需求;根据所述任务需求选择编码策略以对所述多个计算资源的资源信息进行编码,生成当前种群,所述当前种群包括多个染色体,每个染色体对应一种资源分配方案;执行迭代操作,直至满足预设的终止条件,所述迭代操作包括:利用适应度函数计算所述当前种群中每个染色体的适应度值,并根据所述适应度值筛选出候选种群;对所述候选种群执行遗传操作,生成新种群以作为所述当前种群;迭代终止后,输出适应度值最优的染色体所对应的资源分配方案,作为最优资源分配方案;部署所述最优资源分配方案,并实时监控所述异构算力集群的运行指标;当所述运行指标满足预设的重优化触发条件时,执行上述步骤,以重新生成最优资源分配方案。
3、在一种实施方式中,所述利用适应度函数计算所述当前种群中每个染色体的适应度值,包括:对于所述当前种群中的每个染色体,根据所述染色体对应的资源分配方案,确定每个ai任务在分配到的计算资源上的预估运行延迟,并根据所述每个ai任务的预估运行延迟和对应的优先级权重,计算加权平均延迟作为任务平均延迟;确定每个计算资源的算力利用率和存储利用率,并根据所述每个计算资源的算力利用率和存储利用率,计算集群范围的平均资源利用率;确定每个ai任务分配到的计算资源以及每个ai任务的预估运行持续时间,对于每个计算资源,获取其单位时间成本,所述单位时间成本包括运维成本、时段性电价成本和设备折旧成本;将所述每个ai任务的预估运行持续时间乘以该ai任务所占用的计算资源的单位时间成本,得到所述每个ai任务的算力成本;对所述每个ai任务的算力成本进行累加,得到总算力成本;获取所述任务平均延迟对应的第一权重、所述平均资源利用率对应的第二权重以及所述总算力成本对应的第三权重;使用所述第一权重、第二权重和第三权重,对所述任务平均延迟的倒数、所述平均资源利用率以及所述总算力成本的倒数进行加权求和,得到所述染色体对应的适应度值。
4、在一种实施方式中,所述第一权重、所述第二权重和所述第三权重根据所述ai任务的任务类型动态设定;其中,当所述ai任务为训练任务时,所述第二权重大于所述第一权重,当所述ai任务为推理任务时,所述第一权重大于所述第二权重。
5、在一种实施方式中,所述对所述候选种群执行遗传操作,生成新种群,包括:从所述候选种群中执行选择操作以选出父代个体;根据与所述ai任务的任务类型相关联的交叉策略和交叉概率,对所述父代个体执行交叉操作,生成子代个体;根据与所述ai任务的任务类型相关联的变异策略和变异概率,对所述子代个体执行变异操作,得到变异后的子代个体,由所述变异后的子代个体构成子代种群;将所述子代种群与所述候选种群中适应度值排名靠前的部分个体进行合并,得到临时种群;对所述临时种群进行去重处理,根据所述编码策略和所述资源信息,随机生成满足资源约束的新染色体,将重复个体替换为所述新染色体,得到所述新种群;其中,所述交叉概率和所述变异概率根据所述ai任务的任务类型动态配置。
6、在一种实施方式中,所述重优化触发条件包括以下一种或多种:任务实际延迟超过预设延迟阈值;资源实际利用率低于预设利用率阈值;实际算力成本超过预设成本阈值;服务水平协议履约率低于预设履约率阈值;在预设时间窗口内新增的ai任务数量超过突发任务数量阈值。
7、在一种实施方式中,所述对所述多个计算资源的资源信息进行编码,包括:对于每个计算资源,将其标识信息与经过归一化处理后的异构参数进行组合,生成该计算资源的编码信息;其中,所述异构参数包括算力等级、存储容量、存储带宽、能耗系数和成本系数;根据所述任务需求选择编码策略,生成由多个基因位构成的染色体,每个基因位对应一个资源分配单元,每个染色体对应一种资源分配方案;其中,所述编码策略包括:当所述ai任务为训练任务时,采用直接映射编码规则,将每个计算资源的编码信息分别作为一个基因位,按计算资源顺序排列构成染色体;当所述ai任务为推理任务时,采用层次化编码规则,根据所述ai任务的任务优先级将所述多个计算资源划分为不同的资源层级,将每个资源层级作为一个基因位,并将该资源层级内所有计算资源的编码信息进行聚合后作为该基因位的值,按资源层级顺序排列构成染色体。
8、在一种实施方式中,所述预设的终止条件包括以下一种或多种:迭代次数达到根据所述ai任务的任务类型预设的最大迭代次数;连续多代的最优适应度值的变化量小于预设精度阈值;存在染色体的适应度值达到预设的目标适应度值。
9、此外,本技术还提供一种处理设备,包括处理器和存储器,该存储器用于存储计算机程序,所述处理器用于调用并运行所述存储器中存储的计算机程序,执行上述任一种实施方式所述的方法。
10、此外,本技术还提供一种计算机可读存储介质,用于存储计算机程序,所述计算机程序使得计算机执行上述任一种实施方式所述的方法。
11、此外,本技术还提供一种计算机程序产品,包括计算机程序指令,该计算机程序指令使得计算机执行上述任一种实施方式所述的方法。
12、与现有技术相比,本技术技术方案具有以下有益效果:
13、1.基于异构编码的精准资源适配
14、本技术首先获取异构算力集群中多个计算资源的细粒度资源信息,并根据任务需求选择编码策略,将异构参数(算力、显存、能耗、成本等)显式编码到染色体的基因位中。这使得遗传算法能够直接基于硬件差异进行优化,而不是将gpu视为同质资源,从而能够根据不同型号gpu的特点为ai任务精准匹配最合适的计算资源,避免资源错配。实测表明,该方法可使gpu资源错配率降低40%,异构集群利用率提升25%~30%。
15、2.多目标适应度函数带来的综合性能平衡
16、本技术在迭代操作中利用适应度函数计算每个染色体的适应度值,该函数融合了任务平均延迟、集群平均资源利用率、总算力成本三个目标,并通过可动态调整的权重系数适应不同任务类型(训练任务优先利用率,推理任务优先延迟)。通过加权求和将三个冲突目标统一到同一优化框架中,使遗传算法能够自动搜索帕累托最优解,克服了单一目标优化导致sla违约率居高不下或成本失控的缺陷。实验证明,该方法可使sla违约率降低50%,同时实现运维成本下降15%。
17、3.遗传迭代与精英保留策略保证全局优化
18、本技术通过选择、交叉、变异、精英合并及去重替换等遗传操作,逐代进化种群,采用锦标赛选择、任务类型自适应的交叉/变异策略以及动态配置的交叉概率/变异概率,有效避免陷入局部最优。同时,将子代种群与候选种群中适应度值排名靠前的精英个体合并,防止最优解丢失;对临时种群去重并随机生成新染色体替换重复个体,维持种群多样性。该机制确保了调度决策的全局最优性。
19、4.闭环监控与重优化机制带来的动态响应能力
20、本技术在部署最优资源分配方案后,实时监控集群的运行指标,并预设重优化触发条件。一旦指标超标(如延迟超过阈值、利用率低于60%、成本超支20%、sla不达标、1分钟内新增任务超过20个),即自动重新执行全部调度流程,生成新的最优方案。这一闭环设计将传统静态调度的响应延迟从数分钟缩短至秒级,突发推理请求处理效率提升3倍,确保集群持续处于最优运行状态。
21、5.内生成本优化降低运营开支
22、本技术将单位时间成本(运维成本、时段性电价成本、设备折旧成本)直接融入适应度函数中的总算力成本项,并在加权求和中赋予可调权重。遗传算法在迭代中会自然倾向于选择“高性价比”的资源组合,使得成本从传统的“后验约束”转变为“内生优化目标”,避免了传统方法中成本与性能的脱节。实际应用表明,该方法可使ai算力单位成本降低20%,年运维成本降低10%~15%。
23、综上所述,本技术通过“资源获取→异构编码→多目标适应度评估→遗传迭代→部署监控→动态重优化”的完整闭环,系统性解决了异构资源适配不足、多目标冲突、动态响应滞后和成本感知缺失四大技术问题,在资源利用率、服务质量、响应速度和运营成本等方面均取得了显著的技术进步。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com