一种异构算力任务动态调度方法、装置、设备与程序产品与流程

本发明涉及算力网络资源调度，尤其涉及一种异构算力任务动态调度方法、装置、设备与程序产品，适用于云计算、边缘计算、算力网络等场景下的多任务调度、资源匹配与抢占控制。

背景技术：

1、随着人工智能、大数据分析、工业互联网、车联网、扩展现实、智能制造等业务的快速发展，网络中的计算任务呈现出数量多、类型复杂、时延约束差异大、资源需求多样化等特点。不同任务对 cpu、gpu、内存、带宽、存储等算力资源的需求并不相同，同一算力节点在不同时刻的资源可用状态也会随任务到达、执行、完成或迁移而动态变化。因此，如何在有限且异构的算力资源条件下，对多个任务进行合理排序、资源匹配和抢占调度，已成为提升算力资源利用率和保障任务服务质量的重要问题。

2、经检索，中国专利授权号为cn119292788b的专利，公开了一种基于任务优先级的动态算力分配系统，利用插队处理模块获取任务排序指数，动态调整任务优先级，实现资源利用率的提升；中国专利公开号为cn119225926a的专利，公开了一种基于时间的cpu资源协作式调度方法、设备及存储介质，通过任务池的创建对等待任务进行调度分配，并进行动态优先级分析，为每一个任务赋予动态优先级，并判断等待任务是否长时间处于静止状态。现有任务调度技术虽然能够按照一定规则对任务进行排序和资源分配，但在云计算、边缘计算、算力网络等场景下，仍难以适应任务需求动态变化和资源供给状态动态变化的双重影响。具体而言，现有技术存在以下不足：

3、1、优先级评价维度单一，难以准确反映任务的综合调度需求。现有调度方法通常依据任务到达时间、截止时间、任务类型、任务重要程度或资源需求量等单一因素确定任务优先级。当系统负载较高或任务集中到达时，容易导致调度结果偏向某一类任务，进而造成部分紧急任务响应不及时，或部分资源需求较高的任务长期占用算力节点，降低整体调度效率。

4、2、异构算力资源匹配能力不足，难以保障资源利用效率。在异构算力网络中，不同算力节点的cpu、gpu、内存、带宽、存储等资源能力存在差异，不同任务的资源需求结构也不相同。若仅根据任务优先级或节点空闲状态分配任务，容易造成资源碎片化、节点负载不均衡和关键资源瓶颈，进而影响任务执行效率和系统稳定性。

5、3、动态调度调整不足，难以适应任务执行过程中的状态变化。任务在提交、等待、执行和中断恢复过程中，其已等待时间、剩余可用时延、预计剩余执行时间和任务状态会持续变化。现有方法通常在任务进入队列时即确定调度顺序，或仅根据等待时间、截止时间等单一动态因素进行调整，导致部分即将超时且具备完成条件的任务无法及时获得算力资源。

6、4、抢占缺少代价评估机制，容易造成频繁中断和资源浪费。现有抢占式调度机制通常以优先级高低作为主要触发条件，缺少综合评估。对于已经执行较大比例的任务，如果在接近完成时被中断，会增加上下文切换、任务恢复、缓存重建和资源重新分配等额外开销，并导致已投入计算资源不能及时转化为任务完成结果；同时，如果待调度任务与当前算力节点的资源匹配优势不足，抢占还可能破坏已有较优资源匹配关系，从而降低任务完成率和系统吞吐量。

技术实现思路

1、本发明目的在于提供一种异构算力任务动态调度方法、装置、设备与程序产品，以解决现有调度方法存在的优先级评价维度单一、异构算力资源匹配能力不足、动态调度调整不足、抢占缺少代价评估的问题。

2、为实现上述发明目的，第一方面，本发明提供一种异构算力任务动态调度方法，包括：

3、根据任务最大时延限制、任务重要性以及任务与算力节点之间的任务资源匹配度，确定任务初始优先级；所述任务资源匹配度用于衡量任务资源需求与算力节点资源供给之间的匹配程度；

4、根据任务状态、任务的最大剩余可用时延以及剩余执行时间，判断是否存在满足优先级提升条件的任务，对满足优先级提升条件的任务的优先级进行动态调整；

5、当优先级动态调整后的任务需要使用已被占用的算力节点时，根据运行任务剩余执行时间、运行任务最大等待时间、待抢占任务剩余执行时间以及待抢占任务最大等待时间，判定是否执行抢占；其中，在运行任务与待抢占任务不能同时满足任务最大时延限制时，计算抢占代价和抢占收益，得到抢占净收益，在抢占净收益大于预设抢占迟滞阈值的情况下才执行抢占；所述抢占代价，根据运行任务的执行完成度，运行任务与所述占用的算力节点之间的第一任务资源匹配度，以及待抢占任务与所述占用的算力节点之间的第二任务资源匹配度确定；所述抢占收益，根据所述第一任务资源匹配度以及第二任务资源匹配度确定。

6、进一步地，所述任务资源匹配度为任务所需的各算力资源与算力节点提供的对应算力资源比值的加权和。

7、进一步地，所述根据任务最大时延限制、任务重要性以及任务与算力节点之间的任务资源匹配度，确定任务初始优先级，包括：

8、对任务最大时延限制、任务重要性以及任务与算力节点之间的任务资源匹配度进行标准化处理，映射到同一数值区间；

9、对标准化处理后的各指标进行加权求和，计算得到任务初始优先级评分，对所述任务初始优先级评分排序，确定任务初始优先级；其中，在多个任务的所述任务初始优先级评分一致时，按照任务最大时延限制、任务重要性、任务资源匹配度的比较顺序确定任务初始优先级。

10、进一步地，所述根据任务状态、任务的最大剩余可用时延以及剩余执行时间，判断是否存在满足优先级提升条件的任务，包括：

11、选择处于就绪态和阻塞态的任务；对任务的剩余执行时间进行判断，当任务的剩余执行时间小于等于所述最大剩余可用时延时，判定任务满足优先级提升条件；其中，任务的剩余执行时间为任务完成剩余计算需求所需的时间，通过任务计算时间减去任务已执行时间求得；任务的最大剩余可用时延通过任务的最大时延限制减去当前时刻求得。

12、进一步地，在多个任务同时满足优先级提升条件的情况下，根据任务与算力节点之间的任务资源匹配度确定动态调整优先级的任务。

13、进一步地，所述根据运行任务剩余执行时间、运行任务最大等待时间、待抢占任务剩余执行时间以及待抢占任务最大等待时间，判定是否执行抢占，包括：

14、在待抢占任务最大等待时间大于等于运行任务剩余执行时间时，不执行抢占，等待运行任务执行结束；

15、在待抢占任务最大等待时间小于运行任务剩余执行时间，且运行任务最大等待时间大于等于待抢占任务剩余执行时间时，执行抢占；

16、在待抢占任务最大等待时间小于运行任务剩余执行时间，且运行任务最大等待时间小于待抢占任务剩余执行时间时，认为运行任务与待抢占任务不能同时满足任务最大时延限制，计算所述抢占代价与抢占收益，得到抢占净收益，根据抢占净收益以及预设抢占迟滞阈值判定是否执行抢占。

17、进一步地，所述抢占代价，包括运行任务完成度代价、运行任务资源匹配损失以及资源匹配劣化惩罚；所述运行任务完成度代价，根据运行任务的执行完成度确定；所述运行任务资源匹配损失，根据所述第一任务资源匹配度确定；所述资源匹配劣化惩罚，根据所述第一任务资源匹配度减去所述第二任务资源匹配度的差值确定，当所述差值小于零时，取值为零；所述抢占收益，根据所述第二任务资源匹配度减去所述第一任务资源匹配度的差值确定。

18、第二方面，本发明提供一种异构算力任务动态调度装置，包括：

19、初始优先级构建模块，用于根据任务最大时延限制、任务重要性以及任务与算力节点之间的任务资源匹配度，确定任务初始优先级；所述任务资源匹配度用于衡量任务资源需求与算力节点资源供给之间的匹配程度；

20、动态优先级调整模块，用于根据任务状态、任务的最大剩余可用时延以及剩余执行时间，判断是否存在满足优先级提升条件的任务，对满足优先级提升条件的任务的优先级进行动态调整；

21、抢占代价评估与判定模块，用于当优先级动态调整后的任务需要使用已被占用的算力节点时，根据运行任务剩余执行时间、运行任务最大等待时间、待抢占任务剩余执行时间以及待抢占任务最大等待时间，判定是否执行抢占；其中，在运行任务与待抢占任务不能同时满足任务最大时延限制时，计算抢占代价和抢占收益，得到抢占净收益，在抢占净收益大于预设抢占迟滞阈值的情况下才执行抢占；所述抢占代价，根据运行任务的执行完成度，运行任务与所述占用的算力节点之间的第一任务资源匹配度，以及待抢占任务与所述占用的算力节点之间的第二任务资源匹配度确定；所述抢占收益，根据所述第一任务资源匹配度以及第二任务资源匹配度确定。

22、第三方面，本发明提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序/指令，所述计算机程序/指令被处理器执行时实现第一方面所述的异构算力任务动态调度方法的步骤。

23、第四方面，本发明提供一种计算机程序产品，包括计算机程序/指令，所述计算机程序/指令被处理器执行时实现第一方面所述的异构算力任务动态调度方法的步骤。

24、与现有技术相比，本发明具有如下有益效果：

25、1、本发明所提供的方法中，根据任务最大时延限制、任务重要性以及任务与算力节点之间的任务资源匹配度，确定任务初始优先级，使任务调度顺序不再仅由单一静态指标决定，克服了单一指标偏向性，同时通过任务资源匹配度衡量任务资源需求与算力节点资源供给之间的匹配程度，提升了异构算力资源匹配能力，使得任务调度顺序能准确反映任务的综合调度需求。

26、2、本发明所提供的方法中，根据任务状态、任务的最大剩余可用时延以及剩余执行时间，判断是否存在满足优先级提升条件的任务，对满足优先级提升条件的任务的优先级进行动态调整，解决了动态调度调整不足的问题，提升了即将超时任务的响应能力，使具备完成条件且紧迫性升高的任务及时获得调度机会。

27、3、本发明所提供的方法中，在触发抢占候选事件时，根据运行任务剩余执行时间、运行任务最大等待时间、待抢占任务剩余执行时间以及待抢占任务最大等待时间，判定是否执行抢占；其中，在运行任务与待抢占任务不能同时满足任务最大时延限制时，计算抢占代价和抢占收益，得到抢占净收益，在抢占净收益大于预设抢占迟滞阈值的情况下才执行抢占，解决了抢占缺少代价评估的问题，能够避免仅凭优先级高低触发抢占。并且所述抢占代价根据运行任务的执行完成度，运行任务与所述占用的算力节点之间的第一任务资源匹配度，以及待抢占任务与所述占用的算力节点之间的第二任务资源匹配度确定；所述抢占收益根据所述第一任务资源匹配度以及第二任务资源匹配度确定，能够减少高完成度任务和高资源匹配任务被无效中断，提高任务完成率、系统吞吐量和调度稳定性。

28、4、本发明所提供的异构算力任务动态调度装置、电子设备以及程序产品与所提供的异构算力任务动态调度方法具有相同效果。