面向垂直领域的异构算电协同智能调度方法、系统及介质与流程

摘要: 本技术涉及算电协同调度,尤其涉及面向垂直领域的异构算电协同智能调度方法、系统及介质。背景技术:1、随着智算中心规模的持续扩张以及异构计算架构在垂直行业中的广泛应...
面向垂直领域的异构算电协同智能调度方法、系统及介质与流程

本技术涉及算电协同调度,尤其涉及面向垂直领域的异构算电协同智能调度方法、系统及介质。

背景技术:

1、随着智算中心规模的持续扩张以及异构计算架构在垂直行业中的广泛应用,算力资源的调度决策与电力消耗之间的耦合关系日益紧密。

2、目前,现有的算力调度方法通常以异构加速卡的计算性能作为任务分配的核心依据,将算力资源分配与功耗管理视为相互独立的处理流程,算力调度模块仅关注任务的计算完成效率,功耗管理模块仅在整体功率越限时执行被动限电操作,两者之间缺乏有效的信息交互与协同决策机制。割裂式调度架构导致算力任务分配时未将各异构加速卡在不同负载条件下的功耗特性纳入考量,当电网下发功率调节指令时,调度系统无法区分不同加速卡执行同一任务时的功耗差异,只能按照任务优先级或执行队列顺序进行统一的降频或关机处理。这种无差别调节方式使得部分能效较高的加速卡在调节过程中被不必要地中断,同时部分能效较低的加速卡仍维持高功耗运行状态,造成调节对象选取的随意性和调节行为本身的低效性。在低效调节过程中,每一次不合理的功率调节操作均会引发算力任务在异构加速卡之间的反复迁移或无效中断,进一步增加系统响应延迟,进而影响功率调节指令的执行准确度,最终制约智算中心在参与电网协同调度时的整体调节效率和响应可靠性。

3、综上所述,现有技术中存在由于算力调度与功耗管理相互割裂而导致功率调节时缺乏对异构加速卡能耗效率差异的精细化考量,进一步影响电网调度指令执行准确性的技术问题。

技术实现思路

1、本技术的目的是提供面向垂直领域的异构算电协同智能调度方法、系统及介质,用以解决现有技术中存在由于算力调度与功耗管理相互割裂而导致功率调节时缺乏对异构加速卡能耗效率差异的精细化考量,进一步影响电网调度指令执行准确性的技术问题。

2、鉴于上述问题,本技术提供了面向垂直领域的异构算电协同智能调度方法、系统及介质。

3、第一方面,本技术提供了面向垂直领域的异构算电协同智能调度方法,通过面向垂直领域的异构算电协同智能调度系统实现,包括:采集智算中心内异构加速卡的功耗采集数据和算力吞吐量,计算单位算力功耗并构建能效曲线,并计算功耗系数修正因子以修正算力能力,获得归一化容量因子;解析垂直领域的算力任务请求,将任务需求向量与归一化容量因子生成的资源状态向量进行匹配,依据匹配结果将算力任务分配至对应的异构加速卡更新负载分布数据和实时功耗基态;依据所述负载分布数据确定可调节等级,结合所述实时功耗基态生成功率调节能力画像,并上报至电网调度中心;接收电网调度中心下发的功率调节指令,结合所述实时功耗基态计算调节代价,筛选出调节对象子集;依据所述功率调节能力画像确定约束条件,依据所述调节对象子集、所述约束条件和所述功率调节指令生成算力任务迁移序列和储能充放电功率序列,获得联合调度方案;执行所述联合调度方案,采集实际功率调节量并反馈至电网调度中心,依据执行结果更新所述负载分布数据和所述实时功耗基态。

4、优选地,所述面向垂直领域的异构算电协同智能调度方法还包括:在异构加速卡上分别运行标准负载测试程序,记录异构加速卡在预设计算精度等级和预设负载率档位组合下的功耗采集数据和算力吞吐量;依据所述功耗采集数据中板卡功耗值与所述算力吞吐量的比值,计算单位算力功耗,获得异构加速卡的功耗矩阵数据;以负载率为横轴、单位算力功耗为纵轴,依据所述功耗矩阵数据分别对异构加速卡进行曲线拟合,获得异构加速卡的能效曲线;提取异构加速卡的浮点运算吞吐率、矩阵加速效率和访存带宽作为性能参数,依据所述单位算力功耗的倒数计算功耗系数修正因子,利用所述功耗系数修正因子对所述性能参数进行修正,将修正后的异构加速卡的算力能力映射至同一标量空间,获得归一化容量因子。

5、优选地,所述面向垂直领域的异构算电协同智能调度方法还包括:对接垂直领域的算力任务请求,提取待调度算力任务的计算类型、精度需求等级、时延容忍度、功耗敏感度和任务优先级,获得任务特征数据;依据所述任务特征数据生成待调度算力任务的任务需求向量;采集异构加速卡的实时利用率、可用显存容量、实时功耗基态和实时温度,与所述归一化容量因子生成资源状态向量;计算所述任务需求向量与所述资源状态向量之间的加权余弦相似度作为匹配度评分,依据所述匹配度评分选取匹配度最高的异构加速卡作为目标加速卡,将待调度算力任务分配至所述目标加速卡执行;更新目标加速卡的负载分布数据,计算异构加速卡的实时功耗基态。

6、优选地,所述面向垂直领域的异构算电协同智能调度方法还包括:依据时间可迁移性判定结果和精度可降级性判定结果评定垂直领域算力任务的可调节等级,获得可调节等级评定结果;依据所述实时功耗基态和所述可调节等级评定结果,生成包含可调节容量区间、爬坡速率约束和持续时间约束的功率调节能力画像,上报至电网调度中心。

7、优选地,所述面向垂直领域的异构算电协同智能调度方法还包括:通过所述任务类型信息判断垂直领域算力任务是否具备时间可迁移性,获得时间可迁移性判定结果;通过所述计算精度需求信息判断垂直领域算力任务是否允许降低计算精度后继续运行,获得精度可降级性判定结果。

8、优选地,所述面向垂直领域的异构算电协同智能调度方法还包括:基于所述功率调节指令对所述目标加速卡上运行的实时算力任务,计算从目标加速卡迁移至其他异构加速卡执行后单位算力功耗的变化量,获得能效偏离代价;计算迁移后对算力服务时延和算力服务精度的影响程度,获得服务质量影响代价;依据实时算力任务的数据规模计算迁移所需的数据搬移时间和带宽占用成本,获得迁移开销成本;对所述能效偏离代价、所述服务质量影响代价和所述迁移开销成本进行加权求和,获得综合调节代价;基于所述综合调节代价,遍历异构加速卡,获得调节代价评估结果。

9、优选地,所述面向垂直领域的异构算电协同智能调度方法还包括:依据所述功率调节指令确定目标调节方向和目标调节量;当所述目标调节方向为功率下调方向时,依据所述调节代价评估结果选取综合调节代价最低的异构加速卡作为候选调节对象,在所述候选调节对象满足所述目标调节量的条件下,将所述候选调节对象加入调节对象子集。

10、优选地,所述面向垂直领域的异构算电协同智能调度方法还包括:当所述目标调节方向为功率上调方向时,依据所述调节代价评估结果选取综合调节代价最低的调节对象作为候选调节对象,在所述候选调节对象满足所述目标调节量的条件下,将所述候选调节对象加入调节对象子集。

11、第二方面,本技术还提供了面向垂直领域的异构算电协同智能调度系统,用于执行如第一方面所述的面向垂直领域的异构算电协同智能调度方法,包括:归一化容量因子获得模块,用于采集智算中心内异构加速卡的功耗采集数据和算力吞吐量,计算单位算力功耗并构建能效曲线,并计算功耗系数修正因子以修正算力能力,获得归一化容量因子;算力任务分配模块,用于解析垂直领域的算力任务请求,将任务需求向量与归一化容量因子生成的资源状态向量进行匹配,依据匹配结果将算力任务分配至对应的异构加速卡更新负载分布数据和实时功耗基态;功率调节能力画像生成模块,用于依据所述负载分布数据确定可调节等级,结合所述实时功耗基态生成功率调节能力画像,并上报至电网调度中心;调节对象子集筛选模块,用于接收电网调度中心下发的功率调节指令,结合所述实时功耗基态计算调节代价,筛选出调节对象子集;联合调度方案获得模块,用于依据所述功率调节能力画像确定约束条件,依据所述调节对象子集、所述约束条件和所述功率调节指令生成算力任务迁移序列和储能充放电功率序列,获得联合调度方案;联合调度方案执行模块,用于执行所述联合调度方案,采集实际功率调节量并反馈至电网调度中心,依据执行结果更新所述负载分布数据和所述实时功耗基态。

12、第三方面,一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序在执行时实现上述第一方面中任一项所述的面向垂直领域的异构算电协同智能调度方法的步骤。

13、本技术中提供的技术方案,至少具有如下技术效果或优点:通过实现基于异构加速卡能效差异的精细化调节对象筛选与算电协同联合调度的技术目标,达到在满足电网功率调节指令的前提下最小化调节行为对算力服务质量和系统总体能耗效率的负面影响、提升电网调度指令执行准确性的技术效果。

14、上述说明仅是本技术技术方案的概述,为了能够更清楚地了解本技术的技术手段,而可依照说明书的内容予以实施,并且为了让本技术的上述和其他目的、特征和优点能够更明显易懂,以下特举本技术的具体实施方式。应当理解,本部分所描述的内容并非旨在标识本技术的实施例的关键或重要特征,也不用于限制本技术的范围。本技术的其他特征将通过以下的说明书而变得容易理解。