一种面向电网调控业务的AI模型服务化共享方法及系统与流程

技术特征：
1.一种面向电网调控业务的ai模型服务化共享方法，其特征在于，包括如下步骤：获取ai模型仓库，所述ai模型仓库包括多个模型集，每个模型集中存储有多个相同类型的ai模型；以ai模型仓库中的模型集为粒度在集群系统中创建ai模型的模型在线服务；通过启动模型在线服务将ai模型仓库中的ai模型保存到集群系统中；根据外部请求从集群系统中加载ai模型。2.根据权利要求1所述的一种面向电网调控业务的ai模型服务化共享方法，其特征在于，ai模型仓库中的每个模型集配置有唯一的模型集id，同一个模型集包括一个或多个模型集版本，每个模型版本配置有唯一的模型集版本id；ai模型仓库中的每个ai模型配置有唯一的模型uid。3.根据权利要求2所述的一种面向电网调控业务的ai模型服务化共享方法，其特征在于，ai模型仓库中设置有模型集信息表、模型集版本信息表和ai模型信息表，均为二维表形式；模型集信息表包括模型集id、模型集名称、模型类型、模型来源；模型集版本信息表包括模型集id、模型集版本id、更新时间；ai模型信息表包括模型uid、模型集id、模型集版本id、更新时间。4.根据权利要求1所述的一种面向电网调控业务的ai模型服务化共享方法，其特征在于，ai模型仓库的构建方法为：通过电网调控业务训练获取多个ai模型，并将获取到的ai模型以内存块形式暂存；利用校验算法计算内存块的特征值，记为第一特征值；将内存块与第一特征值共同发送给服务器的文件管理服务；文件管理服务利用校验算法再次计算内存块的特征值，记为第二特征值；判断第一特征值与第二特征值是否相同，如果相同，从内存块中获取ai模型，并将ai模型存储到ai模型仓库对应的模型集中。5.根据权利要求1或2所述的一种面向电网调控业务的ai模型服务化共享方法，其特征在于，模型在线服务的创建方法包括：获取服务名称、实例数、cpu、gpu和内存；根据模型集id、模型集版本id和服务名称，设置模型在线服务的集群标签为“app=服务名称-集群id”；调用kubernetes api创建deployment，deployment的标签label为集群标签；通过deployment创建replicaset，并利用replicaset在系统后台创建与实例数相等个数的pod；调用kubernetes api创建service，并将service的selector和deployment的label设置一致；调用kubernetes api创建ingress，并将ingress与service关联起来。6.根据权利要求1所述的一种面向电网调控业务的ai模型服务化共享方法，其特征在于，通过启动模型在线服务将ai模型仓库中的ai模型保存到集群系统中的方法为：根据模型集id、模型集版本id从ai模型仓库中获取对应的模型uid列表；根据模型uid列表，通过文件管理服务从ai模型仓库中批量获取ai模型，并将获取到的ai模型以内存块形式暂存；
利用校验算法计算内存块的特征值，记为第一特征值；通过文件管理服务将第一特征值与内存块一起发送至集群系统；集群系统利用校验算法再次计算内存块的特征值，记为第二特征值；判断第一特征值与第二特征值是否相同，如果相同，将该内存块保存至集群系统。7.根据权利要求5所述的一种面向电网调控业务的ai模型服务化共享方法，其特征在于，在集群系统中，通过修改ingress对象的backend配置信息进行模型在线服务的蓝绿集群部署升级。8. 根据权利要求5所述的一种面向电网调控业务的ai模型服务化共享方法，其特征在于，在集群系统中，调用kubernetes api修改deployment的replicas参数，从而增减pod的数量；调用kubernetes api修改deployment的requests和limits参数，从而修改每个pod的cpu、gpu和内存。9.根据权利要求5所述的一种面向电网调控业务的ai模型服务化共享方法，其特征在于，根据外部请求从集群系统中加载ai模型的方法包括：通过ingress获取集群外部url格式的http请求，并根据预先设置的规则列表对接收到的http请求进行规则匹配；规则匹配成功后，ingress根据service名称和端口号将http请求转发给service；service根据selector将http请求代理到对应的deployment的pod上；模型在线服务解析http请求，根据解析出的模型uid使用各ai算法框架相应的模型加载方式加载集群系统中的ai模型。10.一种面向电网调控业务的ai模型服务化共享系统，其特征在于，包括：ai模型仓库，用于以模型集的形式存储ai模型，每个模型集存储相同类型的ai模型；模型管理模块，用于批量存取ai模型，更新ai模型，管理ai模型仓库中的模型集信息和模型集版本；模型在线服务部署模块，用于以ai模型仓库中的模型集为粒度在集群系统中部署ai模型的模型在线服务；服务启动模块，通过启动模型在线服务将ai模型仓库中的ai模型保存到集群系统中；模型加载模块，根据外部请求从集群系统中加载ai模型。

技术总结
本发明公开了一种面向电网调控业务的AI模型服务化共享方法及系统，其包括：获取AI模型仓库，所述AI模型仓库包括多个模型集，每个模型集中存储有多个相同类型的AI模型；以AI模型仓库中的模型集为粒度在集群系统中创建AI模型的模型在线服务；通过启动模型在线服务将AI模型仓库中的AI模型保存到集群系统中；根据外部请求从集群系统中加载AI模型。本发明采用批量存取AI模型方式，减少了网络传输频率，有效提高了存取效率，基于Kubernetes提供AI模型服务一体化发布，实现快速平滑升级和扩容，提高硬件资源利用率，方便快捷、安全可靠、低成本，构建应用AI模型成果在调控系统内部共建共享的生态环境。享的生态环境。享的生态环境。


技术研发人员：沈嘉灵 李佳阳 陈佳佳 闫妮 张瑞智 王宇冬 陈子韵 徐丽燕 李昊 季学纯 张珂珩 劳莹莹
受保护的技术使用者：国电南瑞科技股份有限公司
技术研发日：2021.11.30
技术公布日：2022/3/8