多任务的部署方法、装置、电子设备及存储介质与流程

技术特征：
1.一种多任务的部署方法，包括：获取n个第一任务和k个网络模型，其中，n和k为大于或者等于1的正整数；将所述n个第一任务轮换地分配到所述k个网络模型上进行运算，以获取任务与网络模型之间的至少一个候选组合，每个所述候选组合中包括所述n个第一任务与所述k个网络模型之间的映射关系；从所述至少一个候选组合中选取组合运算正确率最大的目标组合；将所述k个网络模型和所述目标组合的目标映射关系部署到预测机器上。2.根据权利要求1所述的方法，其中，所述将所述n个第一任务轮换地分配到所述k个网络模型上进行运算，以获取任务与模型之间的至少一个候选组合，包括：每当完成所述n个第一任务的分配后，获取分配所形成的任务与网络模型之间的备选组合的任务执行所需的消耗时间；响应于所述备选组合的所述消耗时间满足可调度约束参数，确定所述备选组合为所述候选组合。3.根据权利要求2所述的方法，其中，所述方法还包括：响应于所述备选组合的所述消耗时间未满足所述可调度约束参数，丢弃所述备选组合，并重新获取下一个所述备选组合。4.根据权利要求2或3所述的方法，其中，所述方法还包括：根据所述第一任务的数量n和所述网络模型的数量k，确定总迭代次数；响应于所述迭代次数大于迭代次数阈值，基于上一个所述备选组合的组合运算正确率，通过粒子群优化算法pso搜索出下一个所述备选组合。5.根据权利要求2所述的方法，其中，所述获取分配所形成的任务与网络模型之间的备选组合的任务执行所需的消耗时间，包括：获取所述备选组合中所述n个第一任务中每个第一任务在各自分配至的目标网络模型上被执行时的任务最坏情况执行时间wcet；基于每个所述第一任务的所述wcet和任务处理周期，获取所述备选组合的所述消耗时间。6.根据权利要求5所述的方法，其中，所述基于每个所述第一任务的所述任务最坏情况执行时间和任务处理周期，获取所述备选组合的所述消耗时间，包括：根据每个所述第一任务的所述wcet，获取所述备选组合的总wcet；根据所述备选组合的总wcet和所述任务处理周期，获取所述备选组合的所述消耗时间。7.根据权利要求6所述的方法，其中，所述根据每个所述任务的所述wcet，获取所述备选组合的总wcet，包括：针对每个所述第一任务，获取所述第一任务对应的所述目标网络模型的多个历史wcet；基于所述多个历史wcet和当次的所述wcet，获取所述第一任务在所述目标网络模型上的平均wcet；根据所述第一任务的平均wcet，获取所述备选组合的总wcet。8.根据权利要求7所述的方法，其中，所述根据所述任务的平均wcet，获取所述备选组
合的总wcet，包括：获取所述多个历史wcet和当次的所述wcet的第一标准差；获取所述第一任务的平均wcet和所述第一标准差之间的第一和值；对所有所述第一任务的所述第一和值求和，得到所述备选组合的总wcet。9.根据权利要求6
‑
8任一项所述的方法，其中，所述根据所述备选组合的总wcet和所述任务处理周期，获取所述备选组合的所述消耗时间，包括：获取多个历史任务处理周期；基于所述多个历史任务处理周期和当次的所述任务处理周期，获取平均任务处理周期；根据所述备选组合的总wcet和平均任务处理周期，确定所述备选组合的所述消耗时间。10.根据权利要求9所述的方法，其中，所述根据所述备选组合的总wcet和平均任务处理周期，确定所述备选组合的所述消耗时间，包括：获取所述多个历史任务处理周期和所述当次的所述任务处理周期的第二标准差；获取所述平均任务处理周期和所述第二标准差之间的第二和值；获取所述备选组合的总wcet与所述第二和值的比值，作为所述备选组合的所述消耗时间。11.根据权利要求1
‑
3或5
‑
8任一项所述的方法，其中，所述从所述至少一个候选组合中选取组合运算正确率最大的目标组合之前，还包括：针对每个所述候选组合，获取所述第一任务在分配至的目标网络模型上的任务组合运算正确率；根据所有的所述第一任务的所述任务组合运算正确率，获取所述候选组合的组合运算正确率。12.根据权利要求1
‑
3或5
‑
8任一项所述的方法，其中，所述根据所有任务的所述任务组合运算正确率，获取所述候选组合的组合运算正确率，包括：获取每个所述第一任务的权重；基于所述第一任务的权重，对所述第一任务的任务组合运算正确率进行加权，获取所述候选组合的组合运算正确率。13.根据权利要求1
‑
3或5
‑
8所述的方法，其中，所述将所述k个网络模型和所述目标组合的目标映射关系部署到预测机器上之后，还包括：响应于在目标任务处理周期内接收到一个第二任务，对所述目标任务周期内待处理的第二任务进行排序；按序对所述待处理的第二任务进行所述目标映射关系的查询，以获取当前查询到的所述待处理的第二任务对应的目标网络模型；将所述待处理任务下发至所述预测机器上的所述目标网络模型进行处理。14.一种多任务的部署装置，包括：获取模块，用于获取n个第一任务和k个网络模型，其中，n和k为大于或者等于1的正整数；运算模块，用于将所述n个第一任务轮换地分配到所述k个网络模型上进行运算，以获
取任务与网络模型之间的至少一个候选组合，每个所述候选组合中包括所述n个第一任务与所述k个网络模型之间的映射关系；选取模块，用于从所述至少一个候选组合中选取组合运算正确率最大的目标组合；部署模块，将所述k个网络模型和所述目标组合的目标映射关系部署到预测机器上。15.根据权利要求14所述的装置，所述运算模块还用于：每当完成所述n个第一任务的分配后，获取分配所形成的任务与网络模型之间的备选组合的任务执行所需的消耗时间；响应于所述备选组合的所述消耗时间满足可调度约束参数，确定所述备选组合为所述候选组合。16.根据权利要求15所述的装置，所述运算模块还用于：响应于所述备选组合的所述消耗时间未满足所述可调度约束参数，丢弃所述备选组合，并重新获取下一个所述备选组合。17.根据权利要求15和16所述的装置，其中，所述运算模块还用于：根据所述第一任务的数量n和所述网络模型的数量k，确定总迭代次数；响应于所述迭代次数大于迭代次数阈值，基于上一个所述备选组合的组合运算正确率，通过粒子群优化算法pso搜索出下一个所述备选组合。18.根据权利要求15所述的装置，所述运算模块还用于：获取所述备选组合中所述n个第一任务中每个第一任务在各自分配至的目标网络模型上被执行时的任务最坏情况执行时间wcet；基于每个所述第一任务的所述wcet和任务处理周期，获取所述备选组合的所述消耗时间。19.根据权利要求18所述的装置，所述运算模块还用于：根据每个所述第一任务的所述wcet，获取所述备选组合的总wcet；根据所述备选组合的总wcet和所述任务处理周期，获取所述备选组合的所述消耗时间。20.根据权利要求19所述的装置，所述运算模块还用于：针对每个所述第一任务，获取所述第一任务对应的所述目标网络模型的多个历史wcet；基于所述多个历史wcet和当次的所述wcet，获取所述第一任务在所述目标网络模型上的平均wcet；根据所述第一任务的平均wcet，获取所述备选组合的总wcet。21.根据权利要求20所述的装置，所述运算模块还用于：获取所述多个历史wcet和当次的所述wcet的第一标准差；获取所述第一任务的平均wcet和所述第一标准差之间的第一和值；对所有所述第一任务的所述第一和值求和，得到所述备选组合的总wcet。22.根据权利要求19
‑
21任一项所述的装置，其中，所述运算模块还用于：获取多个历史任务处理周期；基于所述多个历史任务处理周期和当次的所述任务处理周期，获取平均任务处理周期；
根据所述备选组合的总wcet和平均任务处理周期，确定所述备选组合的所述消耗时间。23.根据权利要求22所述的装置，所述运算模块还用于：获取所述多个历史任务处理周期和所述当次的所述任务处理周期的第二标准差；获取所述平均任务处理周期和所述第二标准差之间的第二和值；获取所述备选组合的总wcet与所述第二和值的比值，作为所述备选组合的所述消耗时间。24.根据权利要求14
‑
16或18
‑
21任一项所述的装置，其中，所述从所述至少一个候选组合中选取组合运算正确率最大的目标组合之前，还包括：针对每个所述候选组合，获取所述第一任务在分配至的目标网络模型上的任务组合运算正确率；根据所有的所述第一任务的所述任务组合运算正确率，获取所述候选组合的组合运算正确率。25.根据权利要求14
‑
16或18
‑
21任一项所述的装置，其中，所述根据所有任务的所述任务组合运算正确率，获取所述候选组合的组合运算正确率，包括：获取每个所述第一任务的权重；基于所述第一任务的权重，对所述第一任务的任务组合运算正确率进行加权，获取所述候选组合的组合运算正确率。26.根据权利要求14
‑
16或18
‑
21任一项所述的装置，其中，所述将所述k个网络模型和所述目标组合的目标映射关系部署到预测机器上之后，还包括：响应于在目标任务处理周期内接收到一个第二任务，对所述目标任务周期内待处理的第二任务进行排序；按序对所述待处理的第二任务进行所述目标映射关系的查询，以获取当前查询到的所述待处理的第二任务对应的目标网络模型；将所述待处理任务下发至所述预测机器上的所述目标网络模型进行处理。27.一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1
‑
13中任一项所述的多任务的部署方法。28.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1
‑
13中任一项所述的多任务的部署方法。29.一种计算机程序产品，包括计算机程序/指令，其特征在于，该计算机程序/指令被处理器执行时实现权利要求1
‑
13所述方法的多任务的部署步骤。

技术总结
本公开提供了一种多任务的部署方法、装置、电子设备及存储介质，涉及计算机技术领域，具体涉及深度学习和自然语言处理等人工智能技术领域。具体实施方案为：获取N个第一任务和K个网络模型，N和K为大于或者等于1的正整数；将N个第一任务轮换地分配到K个网络模型上进行运算，以获取任务与网络模型之间的至少一个候选组合，每个候选组合中包括N个第一任务与K个网络模型之间的映射关系；从至少一个候选组合中选取组合运算正确率最大的目标组合；将K个网络模型和目标组合的目标映射关系部署到预测机器上。通过将任务与网络模型进行匹配，以获取到任务


技术研发人员：王卡风 熊昊一 须成忠 窦德景
受保护的技术使用者：北京百度网讯科技有限公司
技术研发日：2021.08.25
技术公布日：2021/12/14