异构集群中的机器学习工作负载编排的制作方法

技术特征：
1.一种工作负载编排系统，包括：发现子系统，用于标识多个计算集群中的每个计算集群的计算资源，其中所述计算集群具有异构计算资源；清单子系统，用于标识与应用和数据集相关联的多个工作负载中的每个工作负载的资源需求；放置子系统，用于基于（i）每个相应工作负载的所标识的资源需求和（ii）每个计算集群的所标识的计算资源的匹配来将每个工作负载指派到所述计算集群中的一个；以及自适应建模子系统，用于根据每个相应工作负载被指派到的计算集群的所标识的计算资源以及所述数据集来定义每个工作负载的超参数。2.根据权利要求1所述的系统，其中所述清单子系统用于标识所述工作负载中的两个工作负载的同地性约束和策略，以及其中所述放置子系统将具有同地性约束的两个工作负载指派到相同的计算集群。3.根据权利要求1所述的系统，其中所述清单子系统用于标识所述工作负载中的两个工作负载的亲和性约束，以及其中所述放置子系统将具有亲和性约束的两个工作负载指派到相同的计算集群。4.根据权利要求1所述的系统，其中由所述发现子系统标识的每个计算集群的计算资源包括中央处理单元（cpu）资源、图形处理单元（gpu）资源、易失性存储器资源、网络带宽和持久性存储资源中的至少一个。5.根据权利要求1所述的系统，其中由所述清单子系统标识的每个工作负载的资源需求包括反亲和性约束、局部性约束、通信开销需求、中央处理单元（cpu）需求、图形处理单元（gpu）需求、易失性存储器需求、网络带宽需求和持久性存储需求中的至少一个。6.根据权利要求1所述的系统，其中由所述发现子系统标识的计算资源包括总计算资源和可用计算资源，以及其中所述放置子系统基于所述可用计算资源来指派所述工作负载。7.根据权利要求1所述的系统，其中由所述自适应建模子系统定义的所述超参数包括批大小、时期、学习速度中的至少一个。8.根据权利要求1所述的系统，其中所述应用包括机器学习应用和人工智能应用中的一个的至少部分。9.根据权利要求1所述的系统，其中所述清单子系统基于所述多个计算集群中的每个计算集群的所标识的计算资源将所述应用划分成所述多个工作负载。10.一种方法，包括：标识具有异构计算资源的多个计算集群中的每个计算集群的可用计算资源；至少部分地基于所述计算集群中的至少一些的所标识的计算资源来将应用划分成多个工作负载，其中每个工作负载具有资源需求；基于（i）每个相应工作负载的资源需求和（ii）每个计算集群的计算资源的匹配来将每个工作负载指派到所述计算集群中的一个；以及根据相关联的数据集以及每个相应工作负载被指派到的计算集群的所标识的计算资源来定义每个工作负载的超参数，使得所述工作负载中的至少两个具有不同的超参数。11.根据权利要求10所述的方法，其中每个计算集群的计算资源和每个工作负载的资
源需求是就中央处理单元（cpu）资源、图形处理单元（gpu）资源、易失性存储器资源、网络通信能力和持久性存储资源中的至少一个而言来定义的。12.根据权利要求10所述的方法，其中由所述自适应建模子系统定义的所述超参数包括批大小、时期、学习速度中的至少一个。13.根据权利要求10所述的方法，进一步包括：标识所述计算集群中的一个的可用计算资源中的改变；以及修改被指派到在其中标识了可用计算资源中的改变的计算集群的工作负载的超参数。14.一种其上具有存储的指令的非暂时性计算机可读介质，所述指令在由计算设备的处理器执行时使得所述计算设备：发现多个计算集群中的每个计算集群的计算资源，其中所述计算集群中的至少两个具有在量值上相差至少两倍的计算资源；将机器学习应用划分成多个工作负载，其中每个工作负载具有由所述计算集群中的至少一个满足的资源需求；将每个工作负载指派到具有与每个相应工作负载的资源需求相对应的计算资源的计算集群；以及至少部分地基于每个相应工作负载被指派到的计算集群的计算资源和与每个相应工作负载相关联的数据集来将超参数与每个工作负载相关联。15.根据权利要求14所述的非暂时性计算机可读介质，其中所述机器学习应用是人工智能应用的一部分。

技术总结
本文中描述了用于使用具有异构计算资源的分布式计算集群来编排诸如机器学习或人工智能应用之类的应用的执行的系统和方法。发现子系统可以标识每个计算集群的不同计算资源。该应用被划分成多个工作负载，其中每个工作负载与对应于计算集群中的一个的计算资源的资源需求相关联。自适应建模允许基于与每个相应工作负载被指派到的计算集群相关联的计算资源以及相关联的数据集来定义每个工作负载的超参数。超参数。超参数。


技术研发人员：C
受保护的技术使用者：惠普发展公司,有限责任合伙企业
技术研发日：2019.12.20
技术公布日：2022/7/21