多任务调度方法、装置、设备以及存储介质与流程

1.本公开涉及人工智能技术领域中的分布式计算技术，尤其涉及多任务调度方法、装置、设备以及存储介质。


背景技术：

2.联邦学习是一种新的分布式机器学习技术，利用分布式的数据和计算资源在多个分布式边缘设备或服务器之间协作训练，并保护客户端的数据隐私。不同于传统的机器学习算法，联邦学习不需要共享设备的本地原始数据，能够有效地保证用户的隐私与安全。联邦学习只需要将待训练的全局模型分发给边缘设备，不同的设备从服务器下载模型并用本地数据训练模型，之后设备将更新的模型参数上传给服务器，最后服务器将聚合各个设备返回的模型参数并更新得到新的全局模型，如此迭代则可有效避免数据共享而导致的隐私的泄露。
3.虽然联邦学习中客户端不需要共享自己的本地数据，但由于不同设备的计算资源和能力有限，整个任务的训练效率会变得低下。


技术实现要素：

4.本公开提供了一种多任务调度方法、装置、设备以及存储介质。
5.根据本公开的第一方面，提供了一种多任务调度方法，包括：初始化候选调度方案列表，其中，候选调度方案用于为多个机器学习任务中的每个机器学习任务分配用于训练的终端设备；对于候选调度方案列表中的每个候选调度方案，对候选调度方案进行扰动，生成新的调度方案；基于候选调度方案的适应值以及新的调度方案的适应值，确定是否以新的调度方案替换候选调度方案，生成新的调度方案列表；基于新的调度方案列表中的每个新的调度方案的适应值，确定目标调度方案。
6.根据本公开的第二方面，提供了一种多任务调度装置，包括：初始化模块，被配置成初始化候选调度方案列表，其中，候选调度方案用于为多个机器学习任务中的每个机器学习任务分配用于训练的终端设备；替换模块，被配置成对于候选调度方案列表中的每个候选调度方案，对候选调度方案进行扰动，生成新的调度方案；基于候选调度方案的适应值以及新的调度方案的适应值，确定是否以新的调度方案替换候选调度方案，生成新的调度方案列表；确定模块，被配置成基于新的调度方案列表中的每个新的调度方案的适应值，确定目标调度方案。
7.根据本公开的第三方面，提供了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如第一方面中任一实现方式描述的方法。
8.根据本公开的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，计算机指令用于使计算机执行如第一方面中任一实现方式描述的方法。
9.根据本公开的第五方面，提供了一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现如第一方面中任一实现方式描述的方法。
10.应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
11.附图用于更好地理解本方案，不构成对本公开的限定。其中：
12.图1是本公开可以应用于其中的示例性系统架构图；
13.图2是根据本公开的多任务调度方法的一个实施例的流程图；
14.图3是根据本公开的多任务调度方法的另一个实施例的流程图；
15.图4是根据本公开的多任务调度方法的又一个实施例的流程图；
16.图5是图4所示的多任务调度方法的候选调度方案生成步骤的分解流程图；
17.图6是根据本公开的多任务调度装置的一个实施例的结构示意图；
18.图7是用来实现本公开实施例的多任务调度方法的电子设备的框图。
具体实施方式
19.以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
20.需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
21.图1示出了可以应用本公开的多任务调度方法或多任务调度装置的实施例的示例性系统架构100。
22.如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
23.用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送信息等。终端设备101、102、103上可以安装有各种客户端应用。
24.终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述电子设备中。其可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块。在此不做具体限定。
25.服务器105可以提供各种服务。例如，服务器105可以对从终端设备101、102、103获取的候选调度方案进行分析和处理，并生成处理结果(例如目标调度方案)。
26.需要说明的是，服务器105可以是硬件，也可以是软件。当服务器105为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器105为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。
27.需要说明的是，本公开实施例所提供的多任务调度方法一般由服务器105执行，相应地，多任务调度装置一般设置于服务器105中。
28.应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
29.继续参考图2，其示出了根据本公开的多任务调度方法的一个实施例的流程200。该多任务调度方法包括以下步骤：
30.步骤201，初始化候选调度方案列表。
31.在本实施例中，多任务调度方法的执行主体(例如图1所示的服务器105)可以初始化候选调度方案列表，其中，候选调度方案用于为多个机器学习任务中的每个机器学习任务分配用于训练的终端设备。
32.其中，联邦学习是一种新的分布式机器学习技术，利用分布式的数据和计算资源在多个分布式边缘设备或服务器之间协作训练，并保护客户端的数据隐私。在多任务联邦学习中，联邦学习系统有多个需要训练的机器学习任务，例如图像分类、语音识别、文本生成等等。为了提高训练效率，多任务联邦学习中由多个终端设备并行训练这些任务，以使所有任务能够尽快收敛。然而，由于终端设备的资源有限，多个任务需要共享终端设备的资源，因此需要为每个任务分配恰当的终端设备。基于此，需要为每个机器学习任务生成对应的、包含用于训练的终端设备的候选调度方案，然后所有机器学习任务的候选调度方案组成了候选调度方案列表。
33.可选地，针对上述多个机器学习任务中的每个机器学习任务，上述执行主体可基于用于训练的多个终端设备中的每个终端设备的资源状态来确定训练各个机器学习任务所需要的时间，然后基于该时间从多个终端设备中确定至少两个用于训练该任务的终端设备，从而生成该机器学习任务对应的候选调度方案，从而生成包含多个机器学习任务的候选调度方案的候选调度方案列表。
34.对于多任务联邦学习的设备调度问题，在优化调度方案开始前为任务找到一个局部最优的调度方案，也即候选调度方案。
35.步骤202，对于候选调度方案列表中的每个候选调度方案，对候选调度方案进行扰动，生成新的调度方案；基于候选调度方案的适应值以及新的调度方案的适应值，确定是否以新的调度方案替换候选调度方案，生成新的调度方案列表。
36.在本实施例中，对于候选调度方案列表中的每个候选调度方案，上述执行主体可以会对每个候选调度方案进行扰动，从而生成新的调度方案。由于实际的搜索空间大并且复杂，有多种调度方案可供选择，在寻找问题规模越来越大的高效调度方案时，搜索空间会迅速增长。本实施例的目标是通过快速遍历大的搜索空间找到接近最优的解决方案，并为开始执行这个多任务联邦学习生成最终的调度方案。为了达到此目的，本实施例中首先对每个候选调度方案进行扰动后，从而生成一个新的调度方案。
37.由于盲目地更改候选调度方案中的设备可能会产生无效的调度方案，甚至降低精度。所以在本实施例中，分别在m个机器学习任务的调度方案中，在不违反设备约束的前提下，用新的可用设备来替换当前调度方案的设备，从而实现对候选调度方案进行扰动，从而生成新的调度方案。
38.然后，计算每个候选调度方案的适应值以及对该候选调度方案进行扰动后生成的
新的调度方案的适应值，并将两个适应值进行比较，基于比较结果确定是否接收扰动，也即基于比较结果确定是否以新的调度方案替换候选调度方案，从而生成新的调度方案列表。
39.其中，适应值是基于适应度函数计算得到的。在遗传算法中，适应度是描述个体性能的主要指标，根据适应度的大小，对个体进行优胜劣汰。也即在本实施例中，通过调度方案的适应值来评估该调度方案的收敛程度。
40.步骤203，基于新的调度方案列表中的每个新的调度方案的适应值，确定目标调度方案。
41.在本实施例中，上述执行主体可以基于步骤202生成的新的调度方案列表中的每个新的调度方案的适应值来确定最终的调度方案，也即目标调度方案。首先，上述执行主体会计算新的调度方案列表中的每个新的调度方案的适应值；然后，将所有适应值里面适应值最高的调度方案确定为目标调度方案。
42.本公开实施例提供的多任务调度方法，首先初始化候选调度方案列表，其中，候选调度方案用于为多个机器学习任务中的每个机器学习任务分配用于训练的终端设备；然后对于候选调度方案列表中的每个候选调度方案，对候选调度方案进行扰动，生成新的调度方案；基于候选调度方案的适应值以及新的调度方案的适应值，确定是否以新的调度方案替换候选调度方案，生成新的调度方案列表；最后基于新的调度方案列表中的每个新的调度方案的适应值，确定目标调度方案。本实施例中的多任务调度方法，该方法可以在大并且复杂搜索空间中，快速找到接近最优的解决方案，从而快速地为开始执行这个多任务联邦学习生成目标调度方案，提高了服务调度的效率，也提高了多任务联邦学习的训练效率。
43.本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。
44.继续参考图3，图3示出了根据本公开的多任务调度方法的另一个实施例的流程300。该多任务调度方法包括以下步骤：
45.步骤301，初始化候选调度方案列表。
46.步骤301与前述实施例的步骤201基本一致，具体实现方式可以参考前述对步骤201的描述，此处不再赘述。
47.步骤302，对于候选调度方案列表中的每个候选调度方案，随机将候选调度方案中的任一终端设备替换为不违反设备约束的新终端设备，生成新的调度方案。
48.在本实施例中，对于候选调度方案列表中的每个候选调度方案，多任务调度方法的执行主体(例如图1所示的服务器105)可以随机地将候选调度方案中所包括的至少两台终端设备终端中的任一终端设备替换为新的终端设备，该新的终端设备应为不违反设备约束，从而生成新的调度方案。从而避免了无效调度方案的产生，提升了服务调度的效率。
49.步骤303，将候选调度方案的适应值与新的调度方案的适应值进行比较。
50.在本实施例中，上述执行主体可以将新的调度方案的适应值与候选调度方案的适应值进行比较。也即在生成新的调度方案后，上述执行主体会分别计算候选调度方案的适应值以及新的调度方案的适应值，然后将两个适应值进行比较。
51.在本实施例的一些可选实施方式中，适应值fitness是基于调度方案中的每台终端设备的通信时间以及计算时间计算得到的。可将适应值fitness的计算公式(1)表示为如下形式：
[0052][0053]
其中，s表示所有机器学习任务的所有轮训练的终端设备的集合；sm为任务m的所有轮训练的终端设备的集合；k表示各个终端设备的索引；表示终端设备k的通信时间；表示终端设备k的计算时间。通过上述公式(1)可计算得到适应值fitness。本实施例中通过调度方案的适应值来评估该调度方案的收敛程度。
[0054]
步骤304，基于比较结果确定是否以新的调度方案替换候选调度方案，并生成新的调度方案列表。
[0055]
在本实施例中，上述执行主体可以基于比较结果来确定是否以新的调度方案替换候选调度方案，从而生成新的调度方案列表。例如，当新的调度方案的适应值大于候选调度方案的适应值时，以新的调度方案替换候选调度方案；在新的调度方案的适应值不大于候选调度方案的适应值时，便不以新的调度方案替换候选调度方案。从而使得新的调度方案列表中的调度方案能够更接近于机器学习任务的最优解。
[0056]
步骤305，将新的调度方案列表中适应值最大的新的调度方案，确定为目标调度方案。
[0057]
在本实施例中，上述执行主体可以基于公式(1)分别计算新的调度方案列表中的每个新的调度方案的适应值，然后将适应值最大的调度方案确定为最终的调度方案，也即目标调度方案。从而使得目标调度方案为最接近最优解的方案。
[0058]
从图3中可以看出，与图2对应的实施例相比，本实施例中的多任务调度方法，该方法突出了生成新的调度方案以及新的调度方案列表的过程，从而进一步提高了服务调度的效率以及多任务联邦学习的训练效率。
[0059]
继续参考图4，图4示出了根据本公开的多任务调度方法的又一个实施例的流程400。该多任务调度方法包括以下步骤：
[0060]
步骤401，初始化候选调度方案列表。
[0061]
步骤402，对于候选调度方案列表中的每个候选调度方案，随机将候选调度方案中的任一终端设备替换为不违反设备约束的新终端设备，生成新的调度方案。
[0062]
步骤403，将候选调度方案的适应值与新的调度方案的适应值进行比较。
[0063]
步骤401-403与前述实施例的步骤301-303基本一致，具体实现方式可以参考前述对步骤301-303的描述，此处不再赘述。
[0064]
步骤404，响应于确定新的调度方案的适应值大于候选调度方案的适应值，以新的调度方案替换候选调度方案。
[0065]
在本实施例中，多任务调度方法的执行主体(例如图1所示的服务器105)可以在确定新的调度方案的适应值大于候选调度方案的适应值的情况下，以新的调度方案替换候选调度方案。新的调度方案的适应值大于候选调度方案的适应值说明新的调度方案在训练时，模型收敛的更快、效果更优，所以，以新的调度方案替换候选调度方案，提升了模型的收敛速度。
[0066]
步骤405，响应于确定新的调度方案的适应值不大于候选调度方案的适应值，基于模拟退火算法计算新的调度方案被接受的概率值。
[0067]
在本实施例中，上述执行主体可以在确定新的调度方案的适应值不大于候选调度方案的适应值的情况下，基于模拟退火算法计算新的调度方案被接受的概率值。
[0068]
模拟退火算法是解决优化问题的一个关键的算法，该算法模拟退火模拟冶金过程中的退火原理，使用蒙特卡洛模拟法计算多分子系统中分子能量分布。将寻找问题的最优解类似为寻找系统的最低能量，随着系统降温能量逐渐下降，问题的解也“下降”到最值，因此它能有效地搜索庞大和复杂的空间，使优化调度实际执行。在冶金退火过程中，退火指物体逐渐降温的物理现象，温度愈低，物体的能量状态越低，系统内部分子的平均动能逐渐降低，分子在自身位置附近的扰动能力也随之下降。即分子自身的搜索范围随着温度的下降而下降。足够低后，液体开始冷凝与结晶，在结晶状态时系统的能量状态最低。利用该特性，我们对待求解空间的目标函数的最值进行求解。在高温状态下，由于分子的扰动能力较强，对较差解的容忍性高，因此可以在给定状态空间内进行全局的随机搜索，从而有较高概率跳出局部最优解。随着温度的逐渐下降，分子的扰动能力较弱，对较差解的容忍性随之降低，此时全局的搜索能力下降，对局部极值的搜索能力上升。最终在理想状态下，可能得到目标函数的全局最优解。模拟退火算法能够有效地搜索大而复杂的空间，在高温状态下以一定概率接受较差的调度方案，缓慢地降低温度从而搜索更优的方案。
[0069]
在本实施例的一些可选实施方式中，步骤405包括：基于候选调度方案的适应值、新的调度方案的适应值以及当前温度值，计算新的调度方案被接受的概率值。
[0070]
在本实现方式中，基于公式(2)来计算新的调度方案被接受的概率值p：
[0071][0072]
其中，f(snew)为新的调度方案的适应值；f(s)为候选调度方案的适应值；t为当前温度值。可以看出，随着温度t的减小，接受较差解的概率p也会随之下降。
[0073]
步骤406，响应于确定概率值满足预设条件，以新的调度方案替换候选调度方案。
[0074]
在本实施例中，上述执行主体可以在确定概率值满足预设条件的情况下，以新的调度方案替换候选调度方案。可选地，可以随机在0到1之间出一个值，如果该值小于p，那么就以新的调度方案替换候选调度方案；否则则不以新的调度方案替换候选调度方案，也即保留候选调度方案。从而保证模型的收敛速度。
[0075]
步骤407，生成新的调度方案列表。
[0076]
在本实施例中，上述执行主体可以将上述步骤生成的新的调度方案进行组合，从而生成新的调度方案列表。
[0077]
步骤408，将新的调度方案列表中适应值最大的新的调度方案，确定为目标调度方案。
[0078]
步骤408与前述实施例的步骤305基本一致，具体实现方式可以参考前述对步骤305的描述，此处不再赘述。
[0079]
从图4中可以看出，与图3对应的实施例相比，本实施例中的多任务调度方法，该方法突出了基于新的调度方案的适应值与候选调度方案的适应值的比较结果来确定是否以新的调度方案替换候选调度方案的步骤，从而使得新的调度方案能够使机器学习任务更快地收敛，提升了训练速度。
[0080]
继续参考图5，其示出了图4所示的多任务调度方法的候选调度方案生成步骤的分解流程图500。该步骤可以分解如下：
[0081]
步骤501，对于多个机器学习任务中的每个机器学习任务，获取用于训练的多个终端设备中的各个终端设备的资源状态。
[0082]
在本实施例中，假设联邦学习系统由一台服务器和k个终端设备组成，将k个终端设备的集合记为k，其中，各终端设备的索引k＝{1,2，
…
，k}。联邦学习系统共同参与m个机器学习任务的训练，其中，各任务的索引m＝{1,2，
…
，m}。每个终端设备上都具有m个任务的本地训练样本，其中，第k个设备上第m个任务的本地训练样本为其中，为数据的样本个数，为设备k上第m个任务的第d个sm维输入数据向量，为数据的标签。
[0083]
因此任务m的整个数据集可表示为其样本个数为
[0084]
每个设备都有全部任务的数据集，而多任务联邦学习是通过不同任务的损失函数从相应的数据集中学习各自的模型参数wm。多任务联邦学习的全局学习问题可以通过以下公式表示：
[0085][0086]
其中，w：≡{w1，w2，...，wm}是所有任务的模型权重的集合，是第m个任务的输入输出数据对在参数wm上的模型损失。
[0087]
为了解决公式(3)的问题，服务器需要根据多任务联邦学习方案连续地为不同任务选择本地设备，以迭代地更新全局模型，直到所有任务的模型收敛。在确保收敛精度的同时，如何使每个任务尽快完成收敛是本公开的方案主要关注的问题。为此，本公开实施例的方法中考虑所有任务完成训练的时间来为每一个任务分配终端设备。
[0088]
所以，对于多个机器学习任务中的每个机器学习任务，上述执行主体首先会获取用于训练的多个终端设备中的各个终端设备的资源状态。
[0089]
例如，对于多个机器学习任务中的每个机器学习任务，服务器向各终端设备发送资源请求，并根据各终端设备的响应确定各终端设备当前的资源状态。
[0090]
步骤502，根据各个终端设备的资源状态，确定训练各个机器学习任务所需要的时间。
[0091]
在本实施例中，上述执行主体会根据各个终端设备的资源状态，确定训练各个机器学习任务所需要的时间。从而根据训练各个任务所需要的时间确定目标终端设备。
[0092]
第k个终端设备在接收到第m个任务的全局模型的参数后，完成第r轮训练所需要的时间是由计算时间和通信时间决定的。对于每个任务，每一轮训练所需要的时间由训练该任务的终端设备中速度最慢的设备决定。假设终端设备与服务器的通信是并行
的，第m个任务的第r轮训练所需的时间如下：
[0093][0094]
步骤503，根据训练各个机器学习任务所需要的时间，从多个终端设备中确定至少两个目标终端设备，生成该机器学习任务对应的候选调度方案。
[0095]
在本实施例中，为了提高多任务的训练，提出了以下效率优化问题：
[0096][0097][0098][0099]
s＝{s1，s2，
…
，sm}
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(8)
[0100][0101]
其中，为任务m的第r轮训练的终端设备；sm为任务m的所有轮训练的终端设备的集合；s为所有任务的所有轮训练的终端设备的集合；表示任务m的收敛曲线的参数；βm表示机器学习任务m的收敛曲线的参数，lm为任务m的预期损失值或达到收敛的损失值，rm表示实现预期损失lm所需的轮数。从而实现了对收敛精度的约束，在给定任务的收敛精度的情况下，任务收敛所需的训练轮数也随之确定。
[0102]
上述优化问题使得所有任务的收敛所需的时间最小化。由于m个任务并行进行训练，本地训练样本的大小和全局模型的复杂度都有所不同，因此同一设备完成不同任务的更新所需的时间也有所不同。为了描述局部模型更新所需时间的随机性，假设终端设备完成一轮训练所需的时间遵循位移指数分布：
[0103][0104]
其中，参数ak》0和μk》0是设备k的计算能力的最大值和波动值。由于服务器计算能力强，任务的模型复杂度低，因此我们忽略了模型聚合的计算时间。
[0105]
待解决的公式(5)和(6)是一个组合优化问题，为了解决此问题，服务器在接收到空闲终端设备的资源信息后，可以根据接收到的设备信息调度各任务所需的终端设备。此外，每个任务的训练轮数不需要一致，各任务之间也不需要互相等待。一般情况下，给定全局模型的收敛精度，如公式(9)所示，收敛所需的轮数也随之确定。
[0106]
在理想情况下，即所有设备的资源和状态保持不变，服务器可以根据所有设备信息，为每个任务一次调度完成所有轮训练所需的设备。然而，在实际的边缘计算环境中，边
缘设备的资源和状态会发生改变。例如，设备可能当前是空闲和可用的，但在一段时间之后，设备可能是忙碌且不可用或者一部分资源被占用。因此，一次性完成所有设备调度是不现实的，为此，本实施例中在考虑实际调度时，每次为待训练任务调度这一轮训练所需的终端设备，并确保当前时间节点，所有任务所需的训练时间最短。也即每个任务都要求服务器在每轮训练中为其安排设备，从而提高所有任务的训练效率。
[0107]
在设备调度过程中，设备参与的公平性和参与训练数据分布的均衡性是影响收敛速度的关键因素。如果过度选择训练较快的设备，尽管这能加速每一轮的训练速度，但会使全局模型的训练集中在少数设备上，最终导致任务的收敛精度下降。而训练的最终目标是在保证模型精度的前提下，使所有联邦学习任务尽快收敛。因此，本实施例在尽可能确保设备参与的公平性的前提下进行设备调度。
[0108]
对于参与训练的数据的均衡性，可以将其与训练时间共同作为优化的目标。假设服务器在第rm轮中为当前任务m调度的设备集合为sm，其中m∈{1,2,3,
…
,m}。将所有设备的数量|k|表示为n，以n为索引。有一个大小为n的集合qm，其中qm[n]＝0。
[0109]
因此，可以根据以下公式(11)来计算出任务m在所有设备上的设备调度公平性的方差：
[0110][0111]
参与模型训练的数据越均衡，则模型收敛越快越稳定。同时，考虑任务m的当前调度对其他任务会产生影响。因此在为当前任务m的一轮训练调度终端设备时会考虑所有任务的一轮训练的运行情况，将本实施例中的效率优化问题由公式(5)和(6)优化为以下公式(12)，即，在为任务m的第r轮训练调度终端设备时所解决的问题可以写为：
[0112][0113]
针对上述组合优化问题，本实施例中可以采用贪心算法，根据训练各个机器学习任务所需要的时间，从多个终端设备中确定至少两个目标终端设备，生成该机器学习任务对应的候选调度方案。
[0114]
将各终端设备分别代入公式(12)中，可以得到各终端设备训练各个全局模型所需的时间，并求和得到各终端设备所有全局模型所需要的时间，再加上波动值参数，得到优化后的值，并按照该优化值对应的终端设备进行排序，从多个终端设备中确定至少两个目标终端设备，生成该机器学习任务对应的候选调度方案。从而在每轮调度终端设备时，都能保证这一轮所有任务的收敛时间最小，提高了训练效率。
[0115]
从图5中可以看出，本实施例中的方法在为多个机器学习任务中的每个机器学习任务生成调度方案时，根据各个机器学习任务所需要的时间，确保当前时间节点，所有任务所需的训练时间最短，从而提高了所有任务的训练效率。
[0116]
进一步参考图6，作为对上述各图所示方法的实现，本公开提供了一种多任务调度装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
[0117]
如图6所示，本实施例的多任务调度装置600包括：初始化模块601、替换模块602和确定模块603。其中，初始化模块601，被配置成初始化候选调度方案列表，其中，候选调度方案用于为多个机器学习任务中的每个机器学习任务分配用于训练的终端设备；替换模块602，被配置成对于候选调度方案列表中的每个候选调度方案，对候选调度方案进行扰动，生成新的调度方案；基于候选调度方案的适应值以及新的调度方案的适应值，确定是否以新的调度方案替换候选调度方案，生成新的调度方案列表；确定模块603，被配置成基于新的调度方案列表中的每个新的调度方案的适应值，确定目标调度方案。
[0118]
在本实施例中，多任务调度装置600中：初始化模块601、替换模块602和确定模块603的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201-203的相关说明，在此不再赘述。
[0119]
在本实施例的一些可选的实现方式中，上述多任务调度装置600还包括候选调度方案生成模块，候选调度方案生成模块包括：获取子模块，被配置成对于多个机器学习任务中的每个机器学习任务，获取用于训练的多个终端设备中的各个终端设备的资源状态；第一确定子模块，被配置成根据各个终端设备的资源状态，确定训练各个机器学习任务所需要的时间；第二确定子模块，被配置成根据训练各个机器学习任务所需要的时间，从多个终端设备中确定至少两个目标终端设备，生成该机器学习任务对应的候选调度方案。
[0120]
在本实施例的一些可选的实现方式中，替换模块包括：第一替换子模块，被配置成随机将候选调度方案中的任一终端设备替换为不违反设备约束的新终端设备，生成新的调度方案。
[0121]
在本实施例的一些可选的实现方式中，替换模块包括：比较子模块，被配置成将候选调度方案的适应值与新的调度方案的适应值进行比较；第二替换子模块，被配置成基于比较结果确定是否以新的调度方案替换候选调度方案，并生成新的调度方案列表。
[0122]
在本实施例的一些可选的实现方式中，第二替换子模块包括：第一替换单元，被配置成响应于确定新的调度方案的适应值大于候选调度方案的适应值，以新的调度方案替换候选调度方案，生成新的调度方案列表。
[0123]
在本实施例的一些可选的实现方式中，第二替换子模块还包括：计算单元，被配置成响应于确定新的调度方案的适应值不大于候选调度方案的适应值，基于模拟退火算法计算新的调度方案被接受的概率值；第二替换单元，被配置成响应于确定概率值满足预设条件，以新的调度方案替换候选调度方案，生成新的调度方案列表。
[0124]
在本实施例的一些可选的实现方式中，计算单元包括：计算子单元，被配置成基于候选调度方案的适应值、新的调度方案的适应值以及当前温度值，计算新的调度方案被接受的概率值。
[0125]
在本实施例的一些可选的实现方式中，适应值是基于调度方案中的每台终端设备的通信时间以及计算时间计算得到的。
[0126]
在本实施例的一些可选的实现方式中，确定模块包括：第三确定子模块，被配置成将新的调度方案列表中适应值最大的新的调度方案，确定为目标调度方案。
[0127]
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
[0128]
图7示出了可以用来实施本公开的实施例的示例电子设备700的示意性框图。电子
设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
[0129]
如图7所示，设备700包括计算单元701，其可以根据存储在只读存储器(rom)702中的计算机程序或者从存储单元708加载到随机访问存储器(ram)703中的计算机程序，来执行各种适当的动作和处理。在ram 703中，还可存储设备700操作所需的各种程序和数据。计算单元701、rom 702以及ram 703通过总线704彼此相连。输入/输出(i/o)接口705也连接至总线704。
[0130]
设备700中的多个部件连接至i/o接口705，包括：输入单元706，例如键盘、鼠标等；输出单元707，例如各种类型的显示器、扬声器等；存储单元708，例如磁盘、光盘等；以及通信单元709，例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
[0131]
计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理，例如多任务调度方法。例如，在一些实施例中，多任务调度方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元708。在一些实施例中，计算机程序的部分或者全部可以经由rom 702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到ram 703并由计算单元701执行时，可以执行上文描述的多任务调度方法的一个或多个步骤。备选地，在其他实施例中，计算单元701可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行多任务调度方法。
[0132]
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、负载可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
[0133]
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
[0134]
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可
读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
[0135]
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，crt(阴极射线管)或者lcd(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
[0136]
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(lan)、广域网(wan)和互联网。
[0137]
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。
[0138]
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
[0139]
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。