服务部署方法及装置、电子设备和存储介质与流程

技术特征：
1.一种服务部署方法，包括：获取用于提供所述服务的多个处理模块、所述多个处理模块之间的依赖信息、以及与所述多个处理模块分别对应的多个性能参数；基于所述多个性能参数确定线程配置信息，所述线程配置信息包括所述多个处理模块各自的线程数量，所述线程数量为用于执行相应处理模块的线程池所包括的线程的数量；以及将所述多个处理模块、所述依赖信息、以及所述线程配置信息进行打包，以生成用于提供所述服务的镜像。2.根据权利要求1所述的方法，其中，所述性能参数用于指示相应处理模块的单位性能，所述单位性能为相应处理模块被单个线程执行时的性能，并且其中，对于任一处理模块，该处理模块的线程数量与其单位性能负相关。3.根据权利要求2所述的方法，其中，基于所述多个性能参数确定线程配置信息包括：基于所述多个性能参数，确定所述多个处理模块的线程数量的比例；以及基于所述比例，确定所述多个处理模块各自的线程数量。4.根据权利要求3所述的方法，其中，所述性能参数包括相应处理模块被单个线程执行时的请求平均响应时间，并且其中，所述多个处理模块中的任意两个处理模块的线程数量的比值与该两个处理模块的请求平均响应时间的比值成正比。5.根据权利要求3所述的方法，其中，所述性能参数包括相应处理模块被单个线程执行时的单位时间请求处理量，并且其中，所述多个处理模块中的任意两个处理模块的线程数量的比值与该两个处理模块的单位时间请求处理量的比值成反比。6.根据权利要求3
‑
5中任一项所述的方法，还包括：获取所述多个处理模块各自的单位资源利用率，所述单位资源利用率为相应处理模块被单个线程执行时的资源利用率，其中，基于所述比例，确定所述多个处理模块各自的线程数量包括：基于所述比例，确定所述多个处理模块各自的最小线程数量；基于所述最小线程数量和所述单位资源利用率，计算所述多个处理模块的总资源利用率；以及将所述最小线程数量与放大倍数的乘积确定为相应处理模块的线程数量，其中，所述放大倍数为资源利用率阈值与所述总资源利用率的商的整数部分。7.根据权利要求1
‑
6中任一项所述的方法，其中，所述多个处理模块之间的依赖信息通过有向无环图来表示。8.根据权利要求1
‑
7中任一项所述的方法，还包括：基于所述镜像启动容器，所述容器包括所述多个处理模块各自对应的线程池。9.根据权利要求8所述的方法，其中，基于所述镜像启动容器包括：基于所述服务的请求并发量，确定所述容器的数量；以及基于所述镜像，启动所述数量的容器。10.一种服务部署方法，包括：获取所述服务的镜像，所述镜像是通过对用于提供所述服务的多个处理模块、所述多
个处理模块之间的依赖信息、以及线程配置信息进行打包而生成的，所述线程配置信息包括所述多个处理模块各自的线程数量，所述线程数量为用于执行相应处理模块的线程池所包括的线程的数量；以及基于所述镜像启动容器，其中，所述容器包括所述多个处理模块各自对应的线程池。11.根据权利要求10所述的方法，其中，基于所述镜像启动容器包括：基于所述服务的请求并发量，确定所述容器的数量；以及基于所述镜像，启动所述数量的容器。12.一种服务部署装置，包括：获取模块，被配置为获取用于提供所述服务的多个处理模块、所述多个处理模块之间的依赖信息、以及与所述多个处理模块分别对应的多个性能参数；确定模块，被配置为基于所述多个性能参数确定线程配置信息，所述线程配置信息包括所述多个处理模块各自的线程数量，所述线程数量为用于执行相应处理模块的线程池所包括的线程的数量；以及打包模块，被配置为将所述多个处理模块、所述依赖信息、以及所述线程配置信息进行打包，以生成用于提供所述服务的镜像。13.根据权利要求12所述的装置，其中，所述性能参数用于指示相应处理模块的单位性能，所述单位性能为相应处理模块被单个线程执行时的性能，并且其中，对于任一处理模块，该处理模块的线程数量与其单位性能负相关。14.根据权利要求13所述的装置，其中，所述确定模块包括：第一确定单元，被配置为基于所述多个性能参数，确定所述多个处理模块的线程数量的比例；以及第二确定单元，被配置为基于所述比例，确定所述多个处理模块各自的线程数量。15.根据权利要求14所述的装置，其中，所述获取模块进一步被配置为：获取所述多个处理模块各自的单位资源利用率，所述单位资源利用率为相应处理模块被单个线程执行时的资源利用率，并且其中，所述第二确定单元包括：第三确定单元，被配置为基于所述比例，确定所述多个处理模块各自的最小线程数量；计算单元，被配置为基于所述最小线程数量和所述单位资源利用率，计算所述多个处理模块的总资源利用率；以及第四确定单元，被配置为将所述最小线程数量与放大倍数的乘积确定为相应处理模块的线程数量，其中，所述放大倍数为资源利用率阈值与所述总资源利用率的商的整数部分。16.根据权利要求12
‑
15中任一项所述的装置，其中，所述多个处理模块之间的依赖信息通过有向无环图来表示。17.一种服务部署装置，包括：获取模块，被配置为获取所述服务的镜像，所述镜像是通过对用于提供所述服务的多个处理模块、所述多个处理模块之间的依赖信息、以及线程配置信息进行打包而生成的，所述线程配置信息包括所述多个处理模块各自的线程数量，所述线程数量为用于执行相应处理模块的线程池所包括的线程的数量；以及实例化模块，被配置为基于所述镜像启动容器，其中，所述容器包括所述多个处理模块
各自对应的线程池。18.一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1
‑
11中任一项所述的方法。19.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使计算机执行根据权利要求1
‑
11中任一项所述的方法。20.一种计算机程序产品，包括计算机程序，其中，所述计算机程序在被处理器执行时实现权利要求1
‑
11中任一项所述的方法。

技术总结
本公开提供了一种服务部署方法及装置、电子设备和存储介质，涉及人工智能领域，尤其涉及计算机视觉和深度学习技术，具体可应用于图像处理场景中。实现方案为：获取用于提供服务的多个处理模块、多个处理模块之间的依赖信息、以及与多个处理模块分别对应的多个性能参数；基于多个性能参数确定线程配置信息，线程配置信息包括多个处理模块各自的线程数量，线程数量为用于执行相应处理模块的线程池所包括的线程的数量；以及将多个处理模块、依赖信息、以及线程配置信息进行打包，以生成用于提供服务的镜像。供服务的镜像。供服务的镜像。


技术研发人员：闻一鸣
受保护的技术使用者：北京百度网讯科技有限公司
技术研发日：2021.09.29
技术公布日：2022/1/4