机器学习模型训练方法、识别方法、相关装置及电子设备与流程

技术特征：
1.一种机器学习模型训练方法，应用于第一设备中，所述方法包括：接收对全局模型的更新指令，所述指令用于触发本地模型的训练；响应所述更新指令，基于本地数据集，得到所述本地模型的本地动量参数；根据所述本地动量参数对所述本地模型进行训练，得到所述本地模型的本地目标参数；发送所述本地目标参数，所述本地目标参数用于供第二设备对所述全局模型进行参数更新，完成参数更新的全局模型用于识别待识别数据中的目标对象。2.根据权利要求1所述的方法，所述本地数据集包括多个训练图像集，其中，所述基于本地数据集，得到所述本地模型的本地动量参数，包括：基于每次训练下采用的训练图像集，得到每次训练下所述本地模型的图像梯度，将所述图像梯度作为本地梯度参数；基于每次训练下所述本地模型的本地梯度参数，对每次训练对应的参考动量参数进行调整，得到每次训练下所述本地模型的本地动量参数。3.根据权利要求2所述的方法，其中，所述根据所述本地动量参数对所述本地模型进行训练，得到所述本地模型的本地目标参数，包括：基于每次训练下所述本地模型的本地动量参数，对每次训练下所述本地模型的初始模型参数进行调整，得到每次训练下所述本地模型的候选参数；基于每次训练下所述本地模型的候选参数，得到所述本地模型的本地目标参数。4.根据权利要求3所述的方法，其中，所述本地目标参数为多次训练中的最后一次训练下而得到的候选参数。5.根据权利要求2或3或4所述的方法，其中，在多次训练的非首次训练下，所述本地模型的初始模型参数为所述非首次训练的前一次训练下而得到的所述本地模型的候选参数；在多次训练的首次训练下，所述本地模型的初始模型参数基于所述更新指令而得到。6.根据权利要求1至5中任一项所述的方法，其中，所述完成参数更新的全局模型用于识别待识别图像中的目标对象。7.根据权利要求1至5任一项所述的方法，其中，所述完成参数更新的全局模型通过采用全局动量参数对所述全局模型的全局参考参数进行调整而得到；其中，所述全局动量参数基于至少一个所述第一设备发送的本地目标参数而得到的。8.根据权利要求7所述的方法，其中，所述全局动量参数基于全局参考动量和全局梯度而得到，其中所述全局梯度基于所述至少一个所述第一设备的本地目标参数之间的聚合结果而得到。9.一种机器学习模型训练方法，应用于第二设备中，所述方法包括：接收针对全局模型的更新指令而产生的多个本地目标参数，所述多个本地目标参数为各第一设备根据权利要求1-5中任一项所述的方法而得到；基于对所述多个本地目标参数的聚合结果，得到全局模型的全局动量参数；采用全局动量参数，对所述全局模型进行参数更新，得到目标全局模型，所述目标全局模型用于识别待识别数据中的目标对象。10.根据权利要求9所述的方法，其中，所述聚合结果通过采用预设聚合算法对所述多
个本地目标参数进行聚合而得到。11.根据权利要求9或10所述的方法，其中，所述基于对所述多个本地目标参数的聚合结果，得到全局模型的全局动量参数，包括：基于所述多个本地目标参数的聚合结果，得到所述全局模型的全局梯度；基于所述全局梯度和全局参考动量，得到全局模型的全局动量参数。12.根据权利要求11所述的方法，其中，所述采用全局动量参数，对所述全局模型进行参数更新，得到目标全局模型，包括：采用全局动量参数，对全局模型的全局参考参数进行调整，得到全局目标参数；基于所述全局目标参数，得到目标全局模型。13.一种识别方法，包括：获得待识别数据；将所述待识别数据输入至权利要求9至12中任一项所述的目标全局模型，得到所述待识别数据中的目标对象。14.一种机器学习模型训练装置，包括：接收单元，用于接收对全局模型的更新指令，所述指令用于触发本地模型的训练；第一获得单元，用于响应所述更新指令，基于本地数据集，得到所述本地模型的本地动量参数；第二获得单元，用于根据所述本地动量参数对所述本地模型进行训练，得到所述本地模型的本地目标参数；发送单元，用于发送所述本地目标参数，所述本地目标参数用于供第二设备对所述全局模型进行参数更新，完成参数更新的全局模型用于识别待识别数据中的目标对象。15.根据权利要求14所述的装置，其中，所述本地数据集包括多个训练图像集，所述第一获得单元，用于：基于每次训练下采用的训练图像集，得到每次训练下所述本地模型的图像梯度，将所述图像梯度作为本地梯度参数；基于每次训练下所述本地模型的本地梯度参数，对每次训练对应的参考动量参数进行调整，得到每次训练下所述本地模型的本地动量参数。16.根据权利要求15所述的装置，其中，所述第二获得单元，用于：基于每次训练下采用的训练图像集，得到每次训练下所述本地模型的图像梯度，将所述图像梯度作为本地梯度参数；基于每次训练下所述本地模型的本地梯度参数，对每次训练对应的参考动量参数进行调整，得到每次训练下所述本地模型的本地动量参数。17.根据权利要求16所述的装置，其中，所述本地目标参数为多次训练中的最后一次训练下而得到的候选参数。18.根据权利要求15或16或17所述的装置，其中，在多次训练的非首次训练下，所述本地模型的初始模型参数为所述非首次训练的前一次训练下而得到的所述本地模型的候选参数；在多次训练的首次训练下，所述本地模型的初始模型参数基于所述更新指令而得到。19.根据权利要求14至18中任一项所述的装置，其中，所述完成参数更新的全局模型用
于识别待识别图像中的目标对象。20.根据权利要求14至18中任一项所述的装置，其中，所述完成参数更新的全局模型通过采用全局动量参数对所述全局模型的全局参考参数进行调整而得到；其中，所述全局动量参数基于至少一个接收到的本地目标参数而得到的。21.根据权利要求20所述的装置，其中，所述全局动量参数基于全局参考动量和全局梯度而得到，其中所述全局梯度基于所述至少一个所述第一设备的本地目标参数之间的聚合结果而得到。22.一种机器学习模型训练装置，包括：接收模块，用于接收针对全局模型的更新指令而产生的多个本地目标参数，所述本地目标参数为权利要求14-18任一所述装置中的本地目标参数；第一获得模块，用于基于对所述多个本地目标参数的聚合结果，得到全局模型的全局动量参数；第二获得模块，用于采用全局动量参数，对所述全局模型进行参数更新，得到目标全局模型，所述目标全局模型用于识别待识别数据中的目标对象。23.根据权利要求22所述的装置，其中，所述聚合结果通过采用预设聚合算法对所述多个本地目标参数进行聚合而得到。24.根据权利要求22或23所述的装置，其中，所述第一获得模块，用于：基于所述多个本地目标参数的聚合结果，得到所述全局模型的全局梯度；基于所述全局梯度和全局参考动量，得到全局模型的全局动量参数。25.根据权利要求24所述的装置，其中，所述第二获得模块，用于：采用全局动量参数，对全局模型的全局参考参数进行调整，得到全局目标参数；基于所述全局目标参数，得到目标全局模型。26.一种识别装置，包括：第一获得单元，用于获得待识别数据；第二获得单元，用于将所述待识别数据输入至权利要求22至25中任一项所述的目标全局模型，得到所述待识别数据中的目标对象。27.一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-8和/或权利要求9-13中任一项所述的方法。28.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使计算机执行权利要求1-8和/或权利要求9-13中任一项所述的方法。29.一种计算机程序产品，包括计算机程序，该计算机程序在被处理器执行时实现权利要求1-8和/或权利要求9-13中任一项所述的方法。

技术总结
本公开提供了一种机器学习模型训练方法、识别方法、相关装置、电子设备、存储介质及计算机程序产品，涉及人工智能技术领域，尤其涉及联邦学习技术领域。具体实现方案为：接收对全局模型的更新指令，所述指令用于触发本地模型的训练；响应所述更新指令，基于本地数据集，得到所述本地模型的本地动量参数；根据所述本地动量参数对所述本地模型进行训练，得到所述本地模型的本地目标参数；发送所述本地目标参数，所述本地目标参数用于供第二设备对所述全局模型进行参数更新，完成参数更新的全局模型用于识别待识别数据中的目标对象。本公开为训练更精准的联邦学习模型提供了一种技术支持。练更精准的联邦学习模型提供了一种技术支持。练更精准的联邦学习模型提供了一种技术支持。


技术研发人员：刘吉 贠瑜晖 窦德景
受保护的技术使用者：北京百度网讯科技有限公司
技术研发日：2022.10.19
技术公布日：2023/1/13