一种异构算力资源统一调度方法及系统与流程
本发明涉及异构算力资源调度,具体为一种异构算力资源统一调度方法及系统。
背景技术:
1、异构算力资源通常包含不同指令集架构的计算单元、不同存储层级以及不同互联拓扑。针对此类资源的调度,现有方法主要采用面向同构集群的负载均衡策略,或按设备型号维护静态资源信息。资源描述多限于核心数量、内存容量和标称算力等通用参数,不同厂商设备的管理接口和指标口径不一致,未对指令集架构、存储层级、执行模型和互联拓扑进行结构化编码。任务侧通常以作业或容器为粒度进行资源申请,未从算子类型序列、数据依赖关系和并行粒度等维度提取任务特征,调度匹配依赖人工预设规则或简单资源余量比较,容易将任务分配给不具备相应指令执行能力或物理链路条件的计算单元。调度结果一般一次性生成,已分配但尚未执行的调度内容不会随计算单元实际负载和性能变化进行调整。
2、运行过程中,部分计算单元因指令吞吐、缓存或内存带宽压力出现拥塞,其余计算单元却存在空闲时间窗口,已分配未执行任务无法迁移至空闲资源,导致调度结果偏离实际运行状态。在异构资源种类增加、任务结构复杂和负载波动明显的情况下,上述问题使资源利用率和任务执行效率受到限制。
技术实现思路
1、针对现有异构算力资源调度中资源特征描述不统一、任务与资源匹配维度单一、已分配未执行任务无法动态调整的问题,提供一种异构算力资源统一调度方法及系统,通过统一资源描述符和任务特征描述体实现多维匹配,并通过运行时性能指标对资源分配矩阵未执行部分进行增量修正,以改善异构算力资源调度的适配精度和执行效率。
2、为了实现上述目的,本发明提供如下技术方案:本发明提供一种异构算力资源统一调度方法及系统,用于对多种异构算力资源进行统一描述、任务拆分、匹配调度和运行期修正。该方法对异构算力资源执行资源探测,生成包含指令集特征码、存储层级特征码、执行模型特征码和互联拓扑特征码的统一资源描述符,并注册到资源目录;对待调度计算任务执行结构解析,根据任务的数据依赖关系将任务拆分为调度单元,并为每个调度单元生成包含算子类型序列、数据依赖关系和并行粒度的任务特征描述体;将任务特征描述体中的算子类型序列、数据依赖关系和并行粒度,与统一资源描述符中的指令集特征码、互联拓扑特征码和计算单元数量进行匹配,从资源目录中筛选出候选计算单元集;根据候选计算单元集的当前负载状态和可用时间窗口生成资源分配矩阵,按资源分配矩阵生成调度指令序列并下发执行,采集运行时性能指标,对资源分配矩阵中未执行部分进行增量修正。由此,异构算力资源能够被统一描述和注册,任务调度依据资源特征和实时负载进行匹配与调整,减少了因指令集、互联拓扑和并行能力差异造成的调度冲突,提升了算力资源利用效率和任务执行稳定性。
3、作为本发明的一个技术方案,资源探测时读取各算力资源的功能寄存器,将功能寄存器中的指令集架构标识按资源类型编码为指令集特征码;遍历各算力资源的存储层级节点,将缓存层级数、内存类型和地址映射方式组合为存储层级特征码;在各算力资源上执行探针指令序列,根据探针指令序列的完成顺序生成执行模型特征码;读取各算力资源的互联端口连接关系,将端口编号和链路带宽组合为互联拓扑特征码;将指令集特征码、存储层级特征码、执行模型特征码和互联拓扑特征码按预定字段顺序写入资源目录中的资源描述表项。该方式能够形成统一格式的资源描述符,便于后续统一匹配和筛选。
4、优选的,对待调度计算任务执行结构解析时,将待调度计算任务展开为算子依赖图,算子依赖图中的节点为计算算子,边为数据传递关系;对算子依赖图进行连通分量划分,将存在数据传递关系的算子划分到同一调度单元,将不存在数据传递关系的算子划分到不同调度单元;对每个调度单元,按照调度单元内算子的执行顺序提取算子类型序列,将调度单元内跨节点的数据传递关系编码为数据依赖关系,将调度单元内不存在数据依赖关系的算子数量标记为并行粒度,将算子类型序列、数据依赖关系和并行粒度组合成该调度单元的任务特征描述体。由此,任务被拆分为与数据依赖关系对应的调度单元,并行粒度能够反映任务内部可并行执行的程度,便于与资源计算能力进行匹配。
5、进一步地,匹配过程将任务特征描述体中的算子类型序列与统一资源描述符中的指令集特征码进行逐项比对,将不具备任一算子所需指令类型的计算单元从资源目录中排除;将剩余计算单元按照互联拓扑特征码进行组合,检查组合内是否存在与数据依赖关系对应的物理链路,将不存在对应物理链路的组合排除;统计剩余组合中每个计算单元的可分配计算核数量,将可分配计算核数量小于并行粒度的计算单元排除;将最终保留的计算单元组成候选计算单元集。通过该匹配过程,从指令集兼容性、互联链路可达性和并行核数三个方面进行筛选,降低无效分配概率。
6、作为本发明的一个技术方案,资源分配矩阵生成时采集候选计算单元集中每个计算单元的已分配任务列表、平均队列深度和剩余容量,生成负载状态向量;将负载状态向量与时间轴上的空闲时隙组合成资源状态表;从任务特征描述体中读取每个调度单元的最长执行时间和并行粒度,在资源状态表中搜索同时满足最长执行时间和并行粒度的空闲时隙组合;将搜索到的空闲时隙组合所对应的计算单元标识、调度单元标识、执行起始时刻写入资源分配矩阵,形成非零元素。这样资源分配矩阵不仅体现计算单元选择,还体现时间窗口安排,使调度结果具备可执行的时间信息。
7、进一步地,按资源分配矩阵生成调度指令序列并下发执行时,将资源分配矩阵中每个非零元素对应的调度单元标识、计算单元标识、执行起始时刻和执行时长组成一条调度指令;对同一计算单元的多条调度指令按照执行起始时刻的先后顺序排列,生成该计算单元的调度指令序列;根据资源目录中记录的寻址信息,将每个计算单元的调度指令序列封装为与本地调度器通信格式一致的指令包,发送至本地调度器,由本地调度器按照执行起始时刻触发对应的调度单元运行。该方式能够兼容不同本地调度器的通信格式,实现统一调度指令到异构本地执行环境的转换和下发。
8、作为本发明的一个技术方案,运行时性能指标采集和增量修正包括:按固定周期读取各计算单元的硬件性能计数器,获取指令吞吐量、缓存命中率和内存带宽占用量;根据指令吞吐量、缓存命中率和内存带宽占用量生成计算单元的忙碌度等级;将忙碌度等级最高的若干计算单元标记为过载计算单元;扫描资源分配矩阵中未到达执行起始时刻的调度单元,将分配给过载计算单元的未执行调度单元取出,组成待迁移调度单元集合;根据待迁移调度单元集合中的任务特征描述体重新筛选候选计算单元,并为重新筛选出的计算单元分配新的执行时段,更新资源分配矩阵中未执行部分。该过程在任务执行过程中根据实际负载变化对尚未执行的部分进行调整,避免过载计算单元进一步积压任务。
9、优选的,生成忙碌度等级时,将指令吞吐量、缓存命中率和内存带宽占用量分别映射为对应的等级分量;获取计算单元的执行模型特征码,根据执行模型特征码确定等级分量的权重;将指令吞吐量的等级分量、缓存命中率的等级分量和内存带宽占用量的等级分量按权重进行加权组合,将加权组合结果作为忙碌度等级。由此,忙碌度等级能够反映不同执行模型下各性能指标的实际影响差异。
10、进一步地,重新筛选候选计算单元并分配新的执行时段时,以待迁移调度单元集合中的任务特征描述体为查询条件,在资源目录中查找忙碌度等级低于过载计算单元且满足指令集特征码兼容性的候补计算单元;获取每个候补计算单元的当前负载状态信息,当前负载状态信息包含空闲时隙表;从空闲时隙表中将能够容纳该调度单元最长执行时间的空闲时隙标记为候选时隙;按照候选时隙的开始时间从早到晚的顺序,将最早可用的候选时隙作为该调度单元的更新执行时段,将调度单元标识、候补计算单元标识和更新执行时段写入资源分配矩阵的未执行部分。该方式使迁移后的调度单元能够获得可用的时间窗口,并优先选择最早可用的时隙以减少等待。
11、本发明还提供一种异构算力资源统一调度系统,包括存储器、处理器以及存储在存储器中并在处理器上运行的计算机程序,处理器在执行计算机程序时实现上述异构算力资源统一调度方法的步骤。该系统能够对异构算力资源进行统一描述、任务拆分、匹配调度和运行期增量修正,适应多种指令集和互联拓扑并存的算力环境,提升资源调度的整体效率。
12、在上述技术方案中,本发明提供的技术效果和优点:
13、统一资源描述符将异构算力资源的功能寄存器、存储层级、探针执行顺序和互联端口关系分别编码为指令集特征码、存储层级特征码、执行模型特征码和互联拓扑特征码,使不同硬件架构的资源以统一字段结构注册到资源目录。任务特征描述体从调度单元中提取算子类型序列、数据依赖关系和并行粒度,将任务对指令集、数据通路和并行能力的要求显式化。匹配时,算子类型序列与指令集特征码逐项比对,排除无法执行相应算子的计算单元;数据依赖关系与互联拓扑特征码组合检查,排除缺少对应物理链路的资源组合;并行粒度与可分配计算核数量比较,排除并行能力不足的计算单元。该匹配方式使候选计算单元筛选同时考虑指令集兼容性、拓扑可达性和并行资源条件,减少因架构差异和拓扑约束导致的无效调度,改善异构算力资源与计算任务之间的适配精度。
14、资源分配矩阵生成并下发后,采集各计算单元的指令吞吐量、缓存命中率和内存带宽占用量,结合执行模型特征码生成忙碌度等级,识别实际运行中过载的计算单元。对资源分配矩阵中尚未到达执行起始时刻的调度单元,将分配给过载计算单元的未执行部分取出,按任务特征描述体重新筛选忙碌度较低且指令集兼容的候补计算单元,并利用候补计算单元的空闲时隙更新执行时段。该增量修正作用于已分配但未执行的调度单元,在任务实际执行之前完成调整,避免过载计算单元上的排队等待和候补计算单元空闲时间窗口闲置,降低动态负载条件下的拥塞和资源利用不均衡,改善异构算力资源整体调度效率。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com