基于边云协同的机器学习模型闭环迭代方法、设备及介质与流程

本发明涉及增量学习，特别是基于边云协同的机器学习模型闭环迭代方法、设备及介质。

背景技术：

1、随着边缘计算、云计算及机器学习技术持续发展，机器学习模型的部署方式逐渐由集中式训练向边缘侧长期运行与云端协同更新演进；边缘侧机器学习模型面向连续采样任务执行实时识别，并在运行期间持续产生识别结果、模型版本及采样时序记录；云端依托较高计算资源承担样本复核、参数更新及模型版本维护；面向动态场景的机器学习研究已逐步关注持续学习、增量学习及参数高效微调等技术，其中低秩适配能够在保持原有参数主体不变的条件下调整有限参数，旁路推理则可在不改变当前在线识别状态的前提下评价不同候选模型的实际识别表现，相关技术已成为边缘智能持续演进的重要研究方向。

2、现有机器学习模型在长期运行过程中产生的误报样本与漏报样本通常具有不同的错误成因及参数修正方向，而现有增量训练方式往往将误报样本与漏报样本统一参与参数更新，缺少针对不同错误方向的独立约束；当两类样本对应的参数更新方向存在明显重叠甚至冲突时，联合训练容易出现一类识别错误得到修正而另一类识别错误反向增加的现象，并可能改变原有正确识别样本对应的参数表征，使机器学习模型在连续迭代过程中难以同时维持误报修正、漏报修正及原有识别能力之间的稳定关系。

技术实现思路

1、鉴于上述现有存在的问题，提出了本发明。

2、因此，本发明提供了基于边云协同的机器学习模型闭环迭代方法解决难以同时维持误报修正、漏报修正及原有识别能力之间的稳定关系问题。

3、为解决上述技术问题，本发明提供如下技术方案：

4、第一方面，本发明提供了基于边云协同的机器学习模型闭环迭代方法，其包括，

5、将边缘侧机器学习模型的识别结果按时序编排，形成边缘运行轨迹，从边缘运行轨迹中归集异常识别区段，累计误报与漏报证据，通过云端对异常识别区段进行复核，将复核结果划分为误报样本和漏报样本，形成增量训练样本集；

6、基于增量训练样本集记录的模型版本，将对应的边缘侧机器学习模型复制为三个训练模型，基于独立低秩适配参数分别对三个训练模型执行误报增量训练、漏报增量训练和误报漏报联合增量训练，形成误报候选模型、漏报候选模型和联合候选模型，比较错误修正情况与原有识别保持情况，将满足保留条件的候选模型归集为候选模型集；

7、对候选模型集实施旁路推理，比较各候选模型的误报改善情况、漏报改善情况与原有识别保持情况，按照误报改善情况、漏报改善情况及原有识别保持情况核算各候选模型的竞争结果，按照竞争结果排列各候选模型，形成边缘竞争评价结果；

8、从边缘竞争评价结果中选取排序首位的候选模型，按照排序首位候选模型的误报改善情况和漏报改善情况调整误报样本与漏报样本的训练权重和误报漏报证据累计条件，并以排序首位候选模型替换边缘侧机器学习模型，形成机器学习模型闭环迭代结果。

9、作为本发明所述基于边云协同的机器学习模型闭环迭代方法的一种优选方案，其中：所述形成增量训练样本集，具体为，

10、沿边缘侧机器学习模型的识别时序排列识别结果，将连续采样位置的识别结果依次记录，形成边缘运行轨迹；

11、从边缘运行轨迹中归集识别结果发生连续变化的异常识别区段，按照误报方向和漏报方向分别累计异常识别区段内的识别结果，形成误报与漏报证据；

12、通过云端对误报与漏报证据涉及的异常识别区段进行复核，比较复核结果与边缘侧机器学习模型的识别结果，分别得到误报样本和漏报样本；

13、按照识别时序排列误报样本和漏报样本，对排列后的误报样本和漏报样本进行汇集，形成增量训练样本集。

14、作为本发明所述基于边云协同的机器学习模型闭环迭代方法的一种优选方案，其中：所述将对应的边缘侧机器学习模型复制为三个训练模型，具体为，

15、根据增量训练样本集记录的模型版本，调取边缘侧机器学习模型的模型结构和模型参数；

16、将边缘侧机器学习模型的模型结构和模型参数分别复制至三个训练实例，保持三个训练实例的模型结构和模型参数一致，形成同版本训练实例组；

17、在同版本训练实例组的相同可训练参数位置分别配置独立低秩适配参数，固定三个训练实例原有模型参数，并分离三个训练实例的独立低秩适配参数更新路径，形成三个训练模型，所述三个训练模型包括误报训练模型、漏报训练模型和误报漏报联合训练模型。

18、作为本发明所述基于边云协同的机器学习模型闭环迭代方法的一种优选方案，其中：所述形成误报候选模型、漏报候选模型和联合候选模型，具体为，

19、从增量训练样本集中分离误报样本和漏报样本，将误报样本分配至误报训练模型，将漏报样本分配至漏报训练模型，将误报样本和漏报样本共同分配至误报漏报联合训练模型，形成三路增量训练关系；

20、对误报训练模型的原有模型参数进行冻结，利用误报样本更新独立低秩适配参数，形成误报候选模型；

21、基于漏报样本对漏报训练模型的独立低秩适配参数进行增量更新，并维持原有模型参数不变，形成漏报候选模型；

22、在三路增量训练关系中的误报漏报联合训练模型内，根据误报样本和漏报样本分别建立独立低秩适配参数更新方向，将两个独立低秩适配参数更新方向限制在近似正交的低秩更新子空间，按照两个独立低秩适配参数更新方向更新独立低秩适配参数，形成联合候选模型。

23、作为本发明所述基于边云协同的机器学习模型闭环迭代方法的一种优选方案，其中：所述独立低秩适配参数是设置于三个训练模型相同参数层位置，并以低秩矩阵形式分别参与误报增量训练、漏报增量训练和误报漏报联合增量训练的可训练参数集合；

24、所述近似正交的低秩更新子空间是对独立低秩适配参数更新方向进行正交化调整，并将两个独立低秩适配参数更新方向限定为内积接近于零的低秩参数更新范围。

25、作为本发明所述基于边云协同的机器学习模型闭环迭代方法的一种优选方案，其中：所述形成边缘竞争评价结果，具体为，

26、对候选模型集实施旁路推理，将边缘侧机器学习模型与各候选模型在相同边缘识别样本上的识别结果分别记录，形成旁路推理记录；

27、所述旁路推理是将候选模型集中的各候选模型部署在边缘侧机器学习模型对应的旁路推理位置，将相同边缘识别样本同步送入边缘侧机器学习模型与各候选模型，在保持预处理方式、输入尺寸、识别参数配置和结果判定方式一致的条件下分别对相同边缘识别样本执行识别，并按采样时序记录边缘侧机器学习模型识别结果和各候选模型识别结果；

28、在旁路推理记录中比较各候选模型与边缘侧机器学习模型的误报数量和漏报数量，核对各候选模型对原有正确识别样本的识别保持数量，分别形成误报改善情况、漏报改善情况与原有识别保持情况，并汇集为候选模型评价记录；

29、基于候选模型评价记录，按照误报改善情况、漏报改善情况与原有识别保持情况对各候选模型两两执行帕累托支配判别，将未被剩余候选模型支配的候选模型列为第一非支配层，对剩余候选模型逐级执行帕累托支配判别，形成候选模型非支配层级；

30、在候选模型非支配层级中，分别选取误报改善情况最高、漏报改善情况最高及原有识别保持情况最高的评价结果；

31、将三个最高评价结果组合为参照评价点，对误报改善情况、漏报改善情况及原有识别保持情况进行同尺度归一化，按照各候选模型与参照评价点的欧氏距离核算竞争距离，基于候选模型非支配层级依次排列各候选模型，并在相同候选模型非支配层级内按照竞争距离从小至大排列，形成候选模型竞争结果；

32、通过候选模型竞争结果排列各候选模型，形成边缘竞争评价结果。

33、作为本发明所述基于边云协同的机器学习模型闭环迭代方法的一种优选方案，其中：所述边缘识别样本是在边缘侧采集，并在相同识别条件下供边缘侧机器学习模型与各候选模型执行旁路推理的实时样本集合。

34、作为本发明所述基于边云协同的机器学习模型闭环迭代方法的一种优选方案，其中：所述形成机器学习模型闭环迭代结果，具体为，

35、从边缘竞争评价结果中按照候选模型排列次序选取排序首位候选模型，保留排序首位候选模型的误报改善情况和漏报改善情况，形成排序首位候选模型评价记录；

36、根据排序首位候选模型评价记录，按照误报改善情况和漏报改善情况分别调整误报样本训练权重和漏报样本训练权重，形成下一轮训练权重；

37、依据下一轮训练权重，分别调整误报漏报证据累计条件中误报证据和漏报证据的累计要求，形成下一轮误报漏报证据累计条件，所述误报漏报证据累计条件是误报证据和漏报证据的累计情况达到启动云端复核及模型增量训练的预设要求；

38、以排序首位候选模型替换边缘侧机器学习模型，将下一轮训练权重和下一轮误报漏报证据累计条件纳入后续迭代，形成机器学习模型闭环迭代结果。

39、第二方面，本发明提供了一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，其中：所述计算机程序被处理器执行时实现如本发明第一方面所述的基于边云协同的机器学习模型闭环迭代方法的任一步骤。

40、第三方面，本发明提供了一种计算机可读存储介质，其上存储有计算机程序，其中：所述计算机程序被处理器执行时实现如本发明第一方面所述的基于边云协同的机器学习模型闭环迭代方法的任一步骤。

41、本发明有益效果为：通过近似正交的低秩更新，提高了机器学习模型联合增量训练的稳定性。将误报样本对应的独立低秩适配参数更新方向与漏报样本对应的独立低秩适配参数更新方向约束在近似正交的低秩更新子空间内，可降低两类更新方向在相同参数位置产生的重叠程度，减弱误报修正对漏报修正造成的方向干扰，同时保持原有模型参数不变，使误报识别能力与漏报识别能力能够分别获得针对性调整，并减少增量训练对原有正确识别能力的扰动，从而提升联合候选模型的错误修正稳定性与原有识别保持能力，为后续边缘侧候选模型竞争评价提供更稳定的机器学习模型基础。