基于联邦学习的模型训练方法、装置及存储介质与流程

技术特征：
1.一种基于联邦学习的模型训练方法，其特征在于，包括：参与联邦学习的第一子节点和第二子节点分别计算本地参数，并分别对所述本地参数进行加密；所述第一子节点和所述第二子节点分别将加密后的所述本地参数发送到区块链网络；所述区块链网络对加密后的所述本地参数进行聚合，根据聚合结果计算全局参数，并将所述全局参数回传给所述第一子节点和所述第二子节点；所述第一子节点和所述第二子节点根据所述全局参数进行参数更新，完成模型训练。2.根据权利要求1所述的方法，其特征在于，所述第一子节点和所述第二子节点分别对所述本地参数进行加密包括：所述第一子节点和所述第二子节点之间交换第一密钥；所述第一子节点和所述第二子节点分别根据接收到的所述第一密钥生成第二密钥，并使用所述第二密钥加密各自的所述本地参数得到第一加密本地参数；所述第一子节点和所述第二子节点使用所述区块链网络提供的公钥分别加密各自的所述第一加密本地参数，得到各自的第二加密本地参数。3.根据权利要求2所述的方法，其特征在于，所述第一子节点和所述第二子节点之间交换第一密钥包括：所述第一子节点和所述第二子节点之间通过迪菲霍尔曼dh算法交换第一密钥。4.根据权利要求3所述的方法，其特征在于，所述第一子节点和所述第二子节点之间通过迪菲霍尔曼dh算法交换第一密钥包括：在所述第一子节点和所述第二子节点之间公开素数a和素数p，其中，a是p的一个原根；所述第一子节点选择第一随机数，并根据所述第一随机数、所述素数a和所述素数p计算所述第一子节点的所述第一密钥；所述第二子节点选择第二随机数，并根据所述第二随机数、所述素数a和所述素数p计算所述第二子节点的所述第一密钥；所述第一子节点和所述第二子节点之间交换各自的所述第一密钥。5.根据权利要求4所述的方法，其特征在于，所述第一子节点和所述第二子节点分别根据接收到的所述第一密钥生成第二密钥包括：所述第一子节点根据接收到的所述第二子节点的所述第一密钥、所述第一随机数和所述素数p生成所述第一子节点的所述第二密钥；所述第二子节点根据接收到的所述第一子节点的所述第一密钥、所述第二随机数和所述素数p生成所述第二子节点的所述第二密钥。6.根据权利要求5所述的方法，其特征在于，使用所述第二密钥加密各自的所述本地参数得到第一加密本地参数包括：所述第一子节点将所述第一子节点的所述本地参数加上所述第一子节点的所述第二密钥得到所述第一子节点的所述第一加密本地参数，且所述第二子节点将所述第二子节点的所述本地参数减去所述第二子节点的所述第二密钥得到所述第二子节点的所述第一加密本地参数；或者，所述第一子节点将所述第一子节点的所述本地参数减去所述第一子节点的所述第二密钥得到所述第一子节点的所述第一加密本地参数，且所述第二子节点将所述第二子节点的所述本地参数加上所述第二子节点的所述第二密钥得到所述第二子节点的所述第一加密本地参数。
7.根据权利要求5所述的方法，其特征在于，所述第一子节点和所述第二子节点使用所述区块链网络提供的公钥分别加密各自的所述第一加密本地参数，得到各自的第二加密本地参数包括：所述第一子节点和所述第二子节点使用所述区块链网络提供的公钥，基于同态加密算法分别加密各自的所述第一加密本地参数，得到各自的第二加密本地参数。8.根据权利要求7所述的方法，其特征在于，所述区块链网络对加密后的所述本地参数进行聚合，根据聚合结果计算全局参数包括：所述区块链网络对所述第一子节点和所述第二子节点各自的所述第二加密本地参数进行乘法运算，得到所述第一子节点的所述本地参数和所述第二子节点的所述本地参数的和作为所述聚合结果，并将所述聚合结果取平均作为所述全局参数。9.根据权利要求1-8中任一项所述的方法，其特征在于，所述第一子节点和所述第二子节点根据所述全局参数进行参数更新，完成模型训练包括：所述第一子节点和所述第二子节点根据所述全局参数进行参数更新，并确定模型是否收敛；在模型不收敛的情况下，返回继续执行参与联邦学习的第一子节点和第二子节点分别计算本地参数的步骤；在模型收敛的情况下，确定完成模型训练。10.根据权利要求1-8中任一项所述的方法，其特征在于，所述本地参数包括局部梯度。11.一种基于联邦学习的模型训练装置，设置于参与联邦学习的子节点，其特征在于，包括：加密模块，用于计算本地参数，并对所述本地参数进行加密；发送模块，用于将加密后的所述本地参数发送到区块链网络；接收模块，用于接收所述区块链网络在对参与联邦学习的各子节点的加密后的所述本地参数进行聚合，并根据聚合结果计算全局参数后，回传给所述子节点的所述全局参数；训练控制模块，用于根据所述全局参数进行参数更新，完成模型训练。12.一种基于联邦学习的模型训练装置，设置于区块链网络，其特征在于，包括：接收模块，用于参与联邦学习的各子节点发送的加密后的本地参数；聚合模块，用于对各子节点的加密后的所述本地参数进行聚合，并根据聚合结果计算全局参数；回传模块，用于将所述全局参数回传给各子节点。13.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行所述权利要求1至10任一项中所述的方法。14.一种电子装置，包括存储器和处理器，其特征在于，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行所述权利要求1至10任一项中所述的方法。

技术总结
本发明实施例提供了一种基于联邦学习的模型训练方法、装置及存储介质，该方法包括：参与联邦学习的第一子节点和第二子节点分别计算本地参数，并分别对所述本地参数进行加密；所述第一子节点和所述第二子节点分别将加密后的所述本地参数发送到区块链网络；所述区块链网络对加密后的所述本地参数进行聚合，根据聚合结果计算全局参数，并将所述全局参数回传给所述第一子节点和所述第二子节点；所述第一子节点和所述第二子节点根据所述全局参数进行参数更新，完成模型训练。通过本发明，解决了相关技术中联邦框架下的模型训练过程中存在数据安全隐患的问题，保证了联邦学习框架下的数据隐私，实现了局部模型权重的安全聚合。实现了局部模型权重的安全聚合。实现了局部模型权重的安全聚合。


技术研发人员：李钰 樊昕晔 王鹏 田江 向小佳 丁永建 李璠
受保护的技术使用者：光大科技有限公司
技术研发日：2022.04.19
技术公布日：2022/7/15