一种跨平台模型预测方法及装置与流程

1.本发明涉及机器学习领域，特别涉及一种跨平台模型预测方法及装置。


背景技术：

2.随着计算机科学技术的发展，各种语言的机器学习算法模型层出不穷，应用各种功能的模型进行工作，能够极大提高生产效率。
3.然而，在应用模型的过程中，通常需要在与模型算法的语言适配的运行环境的平台下，对算法模型进行维护和应用，在模型算法语言不适配的运行环境的平台下，无法正常使用模型。


技术实现要素：

4.本发明所要解决的技术问题是提供一种跨平台模型预测方法，能够在与预测模型不适配的平台上正常应用的预测模型。
5.本发明还提供了一种跨平台模型预测装置，用以保证上述方法在实际中的实现及应用。
6.一种跨平台模型预测方法，包括：
7.当接收到目标平台调用预设的服务接口发送的预测服务调用请求时，获取所述预测服务调用请求中的预测参数以及模型信息；所述目标平台为预设的平台集合中的任意一个平台；
8.确定所述模型信息对应的标准格式类型的目标预测模型；所述目标预测模型预先由原生格式类型的原生预测模型转码得到；
9.应用所述目标预测模型对所述预测参数进行预测，获得所述预测参数的预测结果；
10.将所述预测结果发送至所述目标平台。
11.上述的方法，可选的，由原生格式类型的原生预测模型转码得到目标预测模型的过程，包括：
12.基于所述原生格式类型确定所述原生预测模型的转码方式；
13.依据所述原生预测模型的转码方式对所述原生预测模型进行转码，获得所述目标预测模型。
14.上述的方法，可选的，所述应用所述目标预测模型对所述预测参数进行预测，获得所述预测参数对应的预测结果，包括：
15.对所述目标预测模型进行加载；
16.当检测到所述目标预测模型加载完成后，将所述预测参数输入至已完成加载的所述目标预测模型中，获得已完成加载的所述目标预测模型输出的与所述预测参数对应的预测结果。
17.上述的方法，可选的，所述确定所述模型信息对应的标准格式类型的目标预测模
型，包括：
18.获取预先构建的备选预测模型集合，所述备选预测模型集合包含各个标准格式类型的备选预测模型；
19.在所述备选预测模型集合的各个备选预测模型中确定出所述模型信息对应的目标预测模型。
20.上述的方法，可选的，所述获取预先构建的备选预测模型集合之后，还包括：
21.当接收到针对所述备选模型集合中的任一备选预测模型的更新指令时，将该备选预测模型确定为待更新预测模型，并获取所述更新指令对应的待上线预测模型；
22.确定所述待上线预测模型的原生格式类型；
23.依据所述待上线预测模型的原生格式类型确定所述待上线预测模型的转码方式；
24.依据所述转码方式对所述待上线预测模型进行转码，获得所述待上线预测模型对应的所述标准格式类型的备选预测模型；
25.将所述待上线预测模型对应的所述标准格式类型的备选预测模型替换所述待更新模型。
26.一种跨平台模型预测装置，包括：
27.接收单元，用于当接收到目标平台调用预设的服务接口发送的预测服务调用请求时，获取所述预测服务调用请求中的预测参数以及模型信息；所述目标平台为预设的平台集合中的任意一个平台；
28.确定单元，用于确定所述模型信息对应的标准格式类型的目标预测模型；所述目标预测模型预先由原生格式类型的原生预测模型转码得到；
29.预测单元，用于应用所述目标预测模型对所述预测参数进行预测，获得所述预测参数的预测结果；
30.发送单元，用于将所述预测结果发送至所述目标平台。
31.上述的装置，可选的，所述确定单元，包括：
32.第一确定子单元，用于基于所述原生格式类型确定所述原生预测模型的转码方式；
33.转码子单元，用于依据所述原生预测模型的转码方式对所述原生预测模型进行转码，获得所述目标预测模型。
34.上述的装置，可选的，所述预测单元，包括：
35.加载子单元，用于对所述目标预测模型进行加载；
36.预测子单元，用于当检测到所述目标预测模型加载完成后，将所述预测参数输入至已完成加载的所述目标预测模型中，获得已完成加载的所述目标预测模型输出的与所述预测参数对应的预测结果。
37.上述的装置，可选的，所述确定单元，包括：
38.获取子单元，获取预先构建的备选预测模型集合，所述备选预测模型集合包含各个标准格式类型的备选预测模型；
39.第二确定子单元，用于在所述备选预测模型集合的各个备选预测模型中确定出所述模型信息对应的目标预测模型。
40.上述的装置，可选的，所述确定单元，还包括：
41.接收子单元，用于当接收到针对所述备选模型集合中的任一备选预测模型的更新指令时，将该备选预测模型确定为待更新预测模型，并获取所述更新指令对应的待上线预测模型；
42.第三确定子单元，用于确定所述待上线预测模型的原生格式类型；
43.第四确定子单元，用于依据所述待上线预测模型的原生格式类型确定所述待上线预测模型的转码方式；
44.转码子单元，用于依据所述转码方式对所述待上线预测模型进行转码，获得所述待上线预测模型对应的所述标准格式类型的备选预测模型；
45.替换子单元，用于将所述待上线预测模型对应的所述标准格式类型的备选预测模型替换所述待更新模型。
46.与现有技术相比，本发明包括以下优点：
47.本发明提供了一种跨平台模型预测方法及装置，该方法包括：当接收到目标平台调用预设的服务接口发送的预测服务调用请求时，获取所述预测服务调用请求中的预测参数以及模型信息；所述目标平台为预设的平台集合中的任意一个平台；确定所述模型信息对应的标准格式类型的目标预测模型；所述目标预测模型预先由原生格式类型的原生预测模型转码得到；应用所述目标预测模型对所述预测参数进行预测，获得所述预测参数的预测结果；将所述预测结果发送至所述目标平台。应用本发明实施例提供的方法，目标平台通过调用服务接口，即可获得模型的预测结果，无需关心训练该预测模型的所采用的编程语言，能够在与预测模型不适配的平台上正常应用的预测模型。
附图说明
48.为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
49.图1为本发明提供的一种跨平台模型预测方法的方法流程图；
50.图2为本发明提供的一种由原生格式类型的原生预测模型转码得到目标预测模型的过程的流程图；
51.图3为本发明提供的一种获得预测参数对应的预测结果的过程的流程图；
52.图4为本发明提供的一种跨平台模型预测方法的流程示意图；
53.图5为本发明提供的一种跨平台模型预测装置的结构示意图。
具体实施方式
54.下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
55.在本技术中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有
明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个
……”
限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
56.本发明实施例提供了一种跨平台模型预测方法，该方法可以应用于电子设备，所述方法的方法流程图如图1所示，具体包括：
57.s101：当接收到目标平台调用预设的服务接口发送的预测服务调用请求时，获取所述预测服务调用请求中的预测参数以及模型信息；所述目标平台为预设的平台集合中的任意一个平台。
58.在本发明实施例中，目标平台可以调用预设的服务接口发送该预测服务调用请求，该目标平台可以运行于该电子设备中，也可以运行于除该电子设备以外设备，该服务接口可以通过封装标准格式类型的备选预测模型得到。
59.其中，平台集合中可以包括不同运行环境、不同系统的平台，例如，可以为配置有java、c、python或scala等语言的运行环境的，window、unix、ios、android或linux等系统的平台。
60.具体的，该预测参数可以为各种类型的模型输入参数，例如，可以为图像的模型输入参数。
61.可选的，该模型信息包括模型标识。
62.s102：确定所述模型信息对应的标准格式类型的目标预测模型；所述目标预测模型预先由原生格式类型的原生预测模型转码得到；
63.在本发明实施例中，标准格式类型可以为预设的标准格式类型，该原生预测模型的原生格式类型由训练该模型所采用的编程语言确定，其中，采用不同的编程语言得到不同的原生格式类型，该语言可以为java、c、python或scala等，原先预测模型的原生格式类型可以根据训练所述原生预测模型所采用的编程语言确定。
64.其中，该原生预测模型可以为各种深度学习模型或机器学习模型。
65.s103：应用所述目标预测模型对所述预测参数进行预测，获得所述预测参数的预测结果。
66.在本发明实施例中，可以将该预测参数输入至该目标预测模型中，获得该目标预测模型输出的预测结果。
67.s104：将所述预测结果发送至所述目标平台。
68.在本发明实施例中，该预测结果的格式可以为json格式或xml格式。
69.本发明提供了一种跨平台模型预测方法，该方法包括：当接收到目标平台调用预设的服务接口发送的预测服务调用请求时，获取所述预测服务调用请求中的预测参数以及模型信息；所述目标平台为预设的平台集合中的任意一个平台；确定所述模型信息对应的标准格式类型的目标预测模型；所述目标预测模型预先由原生格式类型的原生预测模型转码得到；应用所述目标预测模型对所述预测参数进行预测，获得所述预测参数的预测结果；将所述预测结果发送至所述目标平台。应用本发明实施例提供的方法，目标平台通过调用服务接口，即可获得模型的预测结果，无需关心训练该预测模型的所采用的编程语言，能够在与预测模型不适配的平台上正常应用的预测模型。
70.在本发明提供的一实施例中，基于上述的实施过程，具体的，由原生格式类型的原
生预测模型转码得到目标预测模型的过程，如图2所示，可以包括：
71.s201：基于所述原生格式类型确定所述原生预测模型的转码方式。
72.在本发明实施例中，不同的原生格式类型对应不同的转码方式。
73.其中，可以依据该原生格式类型遍历预先的配置文件，以确定该原生预测模型的转码方式。
74.s202：依据所述原生预测模型的转码方式对所述原生预测模型进行转码，获得所述目标预测模型。
75.在本发明实施例中，通过该转码方式对该原生预测模型进行转码，可以将原生格式类型的原生预测模型，转换为标准格式类型的模型。
76.在本发明提供的一实施例中，基于上述的实施过程，具体的，所述应用所述目标预测模型对所述预测参数进行预测，获得所述预测参数对应的预测结果，如图3所示，具体包括：
77.s301：对所述目标预测模型进行加载。
78.s302：当检测到所述目标预测模型加载完成后，将所述预测参数输入至已完成加载的所述目标预测模型中，获得已完成加载的所述目标预测模型输出的与所述预测参数对应的预测结果。
79.在本发明实施例中，在对该目标预测模型进行加载的过程中，可以记录该目标预测模型的加载耗时，若该目标预测模型的加载耗时大于预设的耗时阈值，则可以发出超时报警的信息。
80.在本发明提供的一实施例中，基于上述的实施过程，具体的，所述确定所述模型信息对应的标准格式类型的目标预测模型，包括：
81.获取预先构建的备选预测模型集合，所述备选预测模型集合包含各个标准格式类型的备选预测模型；
82.在所述备选预测模型集合的各个备选预测模型中确定出所述模型信息对应的目标预测模型。
83.在本发明实施例中，备选预测模型集合中包含的每个备选预测模型，可以为已完成转码的原生预测模型；具体的，可以确定每个待转码的原生预测模型的原生格式类型，根据该原生格式类型确定该原生预测模型的转码方式，根据每个原生预测模型的转码方式，对该原生预测模型进行转码，获得标准格式类型的备选预测模型。
84.在本发明提供的一实施例中，基于上述的实施过程，具体的，所述获取预先构建的备选预测模型集合之后，还包括：
85.当接收到针对所述备选模型集合中的任一备选预测模型的更新指令时，将该备选预测模型确定为待更新预测模型，并获取所述更新指令对应的待上线预测模型；
86.确定所述待上线预测模型的原生格式类型；
87.依据所述待上线预测模型的原生格式类型确定所述待上线预测模型的转码方式；
88.依据所述转码方式对所述待上线预测模型进行转码，获得所述待上线预测模型对应的所述标准格式类型的备选预测模型；
89.将所述待上线预测模型对应的所述标准格式类型的备选预测模型替换所述待更新模型。
90.在本发明实施例中，该待上线预测模型可以为定期更新或者根据业务需求更新的预测模型。
91.其中，每一功能类型的预测模型的原生格式类型由训练该预测模型所采用的编程语言确定，即，不同的语言训练得到的预测模型的格式类型可以不同。
92.在本发明实施例中，还可以在接收到针对备选集合中的任一备选预测模型的删除指令时，将该备选预测模型进行删除。
93.参见图4，为本发明实施例提供的一种跨平台模型预测方法的流程示意图，可以获取python
‑
sklearn、spark
‑
ml、tensorflow、pytorch或keras等不同编程语言训练得到的预测模型，可以判断是否对该预测模型进行格式转码，若是，则可以按该预测模型的转码方式对该预测模型进行转码，获得标准格式类型的备选预测模型，该备选预测模型即为通用模型。进一步基于该通用模型封装预测服务。
94.当接收到python、scala、c、php或java等语言环境的平台调用该预测服务的接口发送的http预测服务调用请求时，获取预测服务调用请求中的预测参数以及模型信息；确定模型信息对应的标准格式类型的目标预测模型；应用目标预测模型对所述预测参数进行预测，获得预测参数的预测结果；将预测结果发送至所述目标平台，该预测结果的格式可以为json格式。
95.与图1所述的方法相对应，本发明实施例还提供了一种跨平台模型预测装置，用于对图1中方法的具体实现，本发明实施例提供的跨平台模型预测装置可以应用于电子设备中，其结构示意图如图5所示，具体包括：
96.接收单元501，用于当接收到目标平台调用预设的服务接口发送的预测服务调用请求时，获取所述预测服务调用请求中的预测参数以及模型信息；所述目标平台为预设的平台集合中的任意一个平台；
97.确定单元502，用于确定所述模型信息对应的标准格式类型的目标预测模型；所述目标预测模型预先由原生格式类型的原生预测模型转码得到；
98.预测单元503，用于应用所述目标预测模型对所述预测参数进行预测，获得所述预测参数的预测结果；
99.发送单元504，用于将所述预测结果发送至所述目标平台。
100.本发明提供了一种跨平台模型预测装置，当接收到目标平台调用预设的服务接口发送的预测服务调用请求时，获取所述预测服务调用请求中的预测参数以及模型信息；所述目标平台为预设的平台集合中的任意一个平台；确定所述模型信息对应的标准格式类型的目标预测模型；所述目标预测模型预先由原生格式类型的原生预测模型转码得到；应用所述目标预测模型对所述预测参数进行预测，获得所述预测参数的预测结果；将所述预测结果发送至所述目标平台。应用本发明实施例提供的方法，目标平台通过调用服务接口，即可获得模型的预测结果，无需关心训练该预测模型的所采用的编程语言，能够在与预测模型不适配的平台上正常应用的预测模型。
101.在本发明提供的一实施例中，基于上述的实施过程，具体的，所述确定单元502，包括：
102.第一确定子单元，用于基于所述原生格式类型确定所述原生预测模型的转码方式；
103.转码子单元，用于依据所述原生预测模型的转码方式对所述原生预测模型进行转码，获得所述目标预测模型。
104.在本发明提供的一实施例中，基于上述的实施过程，具体的，所述预测单元503，包括：
105.加载子单元，用于对所述目标预测模型进行加载；
106.预测子单元，用于当检测到所述目标预测模型加载完成后，将所述预测参数输入至已完成加载的所述目标预测模型中，获得已完成加载的所述目标预测模型输出的与所述预测参数对应的预测结果。
107.在本发明提供的一实施例中，基于上述的实施过程，具体的，所述确定单元502，包括：
108.获取子单元，获取预先构建的备选预测模型集合，所述备选预测模型集合包含各个标准格式类型的备选预测模型；
109.第二确定子单元，用于在所述备选预测模型集合的各个备选预测模型中确定出所述模型信息对应的目标预测模型。
110.在本发明提供的一实施例中，基于上述的实施过程，具体的，所述确定单元502，还包括：
111.接收子单元，用于当接收到针对所述备选模型集合中的任一备选预测模型的更新指令时，将该备选预测模型确定为待更新预测模型，并获取所述更新指令对应的待上线预测模型；
112.第三确定子单元，用于确定所述待上线预测模型的原生格式类型；
113.第四确定子单元，用于依据所述待上线预测模型的原生格式类型确定所述待上线预测模型的转码方式；
114.转码子单元，用于依据所述转码方式对所述待上线预测模型进行转码，获得所述待上线预测模型对应的所述标准格式类型的备选预测模型；
115.替换子单元，用于将所述待上线预测模型对应的所述标准格式类型的备选预测模型替换所述待更新模型。
116.本发明实施例还提供了一种存储介质，所述存储介质包括存储的指令，其中，在所述指令运行时控制所述存储介质所在的设备执行上述跨平台模型预测方法。
117.需要说明的是，本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。对于装置类实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
118.最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个
……”
限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
119.为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本发明时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
120.通过以上的实施方式的描述可知，本领域的技术人员可以清楚地了解到本发明可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如rom/ram、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例或者实施例的某些部分所述的方法。
121.以上对本发明所提供的一种跨平台模型预测方法进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。