一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

基于插件式部署的深度伪造及检测模型应用系统及方法与流程

2022-03-19 20:06:02 来源:中国专利 TAG:

技术特征:
1.一种基于插件式部署的深度伪造及检测模型应用系统,其特征在于:包括应用层:使用户可以通过客户端与部署平台进行交互;web服务层:用于封装部署平台的常用功能界面;应用服务层:用于对各模型推理服务进行服务部署、任务调度、gpu调度、结果保存以及程序监控操作;模型接口层:是所有插件化的、封装好的模型推理服务所提供的接口集合;模型部署层:用于部署封装好的模型推理服务和执行推理任务;数据存储层:用于存储各种临时或永久数据。2.如权利要求1所述的基于插件式部署的深度伪造及检测模型应用系统,其特征在于:所述的应用服务层包括服务部署模块,用于将封装好的模型推理服务上传到gpu服务器进行部署运行;gpu调度模块,用于实现一台gpu服务器多个gpu显卡的资源利用监控和调配;任务调度模块,负责安排部署平台的伪造或检测任务的运行队列;结果保存模块,用于将每个伪造或检测任务的执行过程、结果信息存储到数据存储层中,并提供接口供web服务层调用返回伪造或检测任务执行情况给前端页面;状态监测模块,用于监控每个伪造或检测任务的运行状况,负责监控模型推理服务是否异常停止;日志监控模块,负责维护每个模型推理服务以及整个部署平台的异常或运行日志。3.如权利要求1所述的基于插件式部署的深度伪造及检测模型应用系统,其特征在于:所述的模型接口层提供了两种接口,第一种接口提供调用模型推理服务功能,第二种接口获取模型推理服务的推理任务执行状态接口。4.如权利要求1所述的基于插件式部署的深度伪造及检测模型应用系统,其特征在于:所述的模型部署层是多个gpu服务器组成的集群,每个gpu服务器至少拥有一个gpu显卡。5.如权利要求1所述的基于插件式部署的深度伪造及检测模型应用系统,其特征在于:所述的数据存储层包括数据库、redis缓存以及文件服务器,数据库保存部署平台的业务数据,redis缓存保存服务运行期间所产生的临时数据用以提高系统的接口性能,文件服务器用来保存运行模型推理任务输入输出的多媒体文件和报告文件数据。6.如权利要求1所述的基于插件式部署的深度伪造及检测模型应用系统,其特征在于:所述的web服务层包括用于供用户登陆及权限设置的登陆模块、用于新建伪造任务的伪造任务模块、用于新建检测任务的检测任务模块、用于查看伪造结果的伪造报告模块、用于查看检测结果的检测报告模块;所述的应用层为pc网页、微信小程序、app或windows桌面应用中的一种或多种。7.一种基于插件式部署的深度伪造及检测模型应用方法,其特征在于:包括如下步骤:s100、部署平台完成gpu服务器参数、数据库、文件服务器参数的维护;s200、每个深度伪造或检测模型根据接口标准将模型推理过程封装成可独立运行的服务程序包;s300、在部署平台的服务部署模块中输入模型服务包的运行显存大小要求、cpu核数、内存要求,服务部署模块根据上述条件选择符合条件的gpu服务器上传模型服务程序包到指定的gpu服务器中;
s400、模型服务程序包上传到gpu服务器前,需要配置运行端口、服务类型、服务程序名称、输入参数个数及类型信息;s500、模型服务程序完成平台的部署入驻后,用户通过用户入口选择该模型服务新建推演任务。8.如权利要求7所述的基于插件式部署的深度伪造及检测模型应用方法,其特征在于:应用服务层将执行任务请求通过任务调度模块以及gpu调度模块在指定模型服务所在gpu服务的gpu资源有空闲的时机调用dojobs接口进行模型的推演,同时状态监测模块会定时调用该模型的getstatus接口获取该任务的执行状态和结果;任务调度模块确保任何一个时刻,每个服务模型均最多只有一个推演的实例在运行;gpu调度模块确保同一台gpu服务器上运行的服务模块耗费的gpu资源不会超过模型正常运行的资源耗费;状态监控模块获取到模型服务推演结束或推演失败时将推演的结果保存至数据库中,并将推演结果返回给应用层。9.一种计算机可读存储介质,其特征在于:其上存储有计算机程序,所述计算机程序被处理器执行时,实现如权利要求7或8中所述的基于插件式部署的深度伪造及检测模型应用方法。10.一种电子设备,其特征在于:包括存储器、处理器及存储在存储器上的计算机程序,所述处理器执行所述计算机程序时,实现如权利要求7或8中所述的基于插件式部署的深度伪造及检测模型应用方法。

技术总结
本发明特别涉及一种基于插件式部署的深度伪造及检测模型应用系统,包括应用层:使用户可以通过客户端与部署平台进行交互;Web服务层:用于封装部署平台的常用功能界面;应用服务层:用于对各模型推理服务进行服务部署、任务调度、GPU调度、结果保存以及程序监控操作;模型接口层:是所有插件化的、封装好的模型推理服务所提供的接口集合;模型部署层:用于部署封装好的模型推理服务和执行推理任务;数据存储层:用于存储各种临时或永久数据。通过该方案,一方面解决了不同的模型使用不同的AI框架的封装问题(封装成独立服务或docker,并暴露特定的接口);另一方面解决了深度伪造模型升级或产生新的算法时,可以不停机实现新模型的横向扩展的问题。型的横向扩展的问题。型的横向扩展的问题。


技术研发人员:田辉 彭胜聪 郭玉刚 张志翔
受保护的技术使用者:合肥高维数据技术有限公司
技术研发日:2021.11.29
技术公布日:2022/3/18
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献