联邦学习审计装置、系统及方法与流程

技术特征：
1.一种联邦学习审计方法，其特征在于，所述联邦学习审计方法包括：获得参与方所接收和/或发送的数据包；和根据所述参与方的审计级别而开启控制流审计、算法流审计以及数据流审计中的一种或者多种，从而审计所述数据包并生成审计结果，其中，所述控制流审计用于校验所述数据包的控制流信息，所述控制流信息与所述参与方所参与的联邦学习任务相关，所述算法流审计用于检验所述数据包的算法流信息，所述算法流信息与联邦学习算法相关，所述联邦学习算法对应所述联邦学习任务中的模块，所述数据流审计用于校验所述数据包的数据流信息，所述数据流信息与所述参与方的通信数据相关。2.根据权利要求1所述的联邦学习审计方法，其特征在于，所述联邦学习审计方法还包括：根据所述审计结果来判断所述数据包是否存在错误，并且根据判断结果确定是否让所述数据包用于所述联邦学习任务或者所述联邦学习算法。3.根据权利要求1所述的联邦学习审计方法，其特征在于，所述联邦学习审计方法还包括：根据所述审计结果来判断所述数据包是否存在错误，在进行判断同时继续让所述数据包用于所述联邦学习任务或者所述联邦学习算法。4.根据权利要求1至3中任一项所述的联邦学习审计方法，其特征在于，所述控制流信息包括与所述参与方所参与的联邦学习任务相对应的模块调用列表和模块调用次序。5.根据权利要求4所述的联邦学习审计方法，其特征在于，所述控制流审计包括，根据所述数据包的控制流信息，确定与所述联邦学习任务相对应的模块调用列表是否与参考模块调用列表一致以及确定与所述联邦学习任务相对应的模块调用次序是否与参考模块调用次序一致，其中，所述参考模块列表和所述参考模块调用次序均预先设定。6.根据权利要求5所述的联邦学习审计方法，其特征在于，根据所述数据包的控制流信息，确定与所述联邦学习任务相对应的模块调用列表是否与所述参考模块调用列表一致以及确定与所述联邦学习任务相对应的模块调用次序是否与所述参考模块调用次序一致，包括：根据所述数据包的控制流信息，判断与所述联邦学习任务相对应的模块调用列表和与所述联邦学习任务相对应的模块调用次序是否均符合用于控制流审计的有限状态机fsm，其中，所述用于控制流审计的fsm预先设定。7.根据权利要求6所述的联邦学习审计方法，其特征在于，所述用于控制流审计的fsm是多个预设的联邦学习任务fsm之一，所述多个预设的联邦学习任务fsm与多个联邦学习任务一一对应，所述多个联邦学习任务包括以下至少一种任务：纵向安全梯度提升树任务、纵向逻辑回归任务、本地sklearn逻辑回归任务、纵向线性回归任务、纵向泊松回归任务、横向逻辑回归任务、横向神经网络任务、纵向快速安全梯度提升树任务、纵向神经网络任务、横向安全梯度提升树任务、纵向联邦迁移学习任务、纵向k
‑
means任务、feldman安全求和任务。8.根据权利要求7所述的联邦学习审计方法，其特征在于，所述多个预设的联邦学习任务fsm均是有向无环图dag并且可通过拓扑排序被转化为一个或者多个单向无分叉的dag。
9.根据权利要求8所述的联邦学习审计方法，其特征在于，获得所述参与方所接收或者发送的数据包，包括：根据所述多个预设的联邦学习任务fsm中与所述参与方所参与的联邦学习任务相对应的fsm，确定抓取间隔，并根据所述抓取间隔来间隔地获得所述参与方所接收或者发送的数据包。10.根据权利要求9所述的联邦学习审计方法，其特征在于，所述抓取间隔是所述多个预设的联邦学习任务fsm中与所述参与方所参与的联邦学习任务相对应的fsm中的最短子路径的长度减一。11.根据权利要求9或10所述的联邦学习审计方法，其特征在于，审计所述数据包并生成所述审计结果，包括：审计根据所述抓取间隔来间隔地获得的所述数据包并生成所述控制流审计的审计结果。12.根据权利要求1至3中任一项所述的联邦学习审计方法，其特征在于，所述算法流信息包括所述联邦学习算法的执行流程。13.根据权利要求12所述的联邦学习审计方法，其特征在于，所述算法流审计包括，根据所述数据包的算法流信息确定所述联邦学习算法的执行流程是否与参考算法执行流程一致，其中，所述参考算法执行流程预先设定。14.根据权利要求13所述的联邦学习审计方法，其特征在于，根据所述数据包的算法流信息确定所述联邦学习算法的执行流程是否与所述参考算法执行流程一致，包括：根据所述数据包的算法流信息判断所述联邦学习算法的执行流程是否符合用于算法流审计的fsm，其中，所述用于算法流审计的fsm基于所述参考算法执行流程。15.根据权利要求14所述的联邦学习审计方法，其特征在于，所述用于算法流审计的fsm是多个预设的联邦学习算法fsm之一，所述多个预设的联邦学习算法fsm与多个联邦学习算法一一对应，所述多个联邦学习算法包括以下至少一种算法：求交集算法、纵向安全梯度提升树算法、纵向逻辑回归算法、本地sklearn逻辑回归算法、纵向线性回归算法、纵向泊松回归算法、横向逻辑回归算法、横向神经网络算法、纵向快速安全梯度提升树算法、纵向安全梯度提升树特征编码算法、纵向神经网络算法、横向安全梯度提升树算法、纵向联邦迁移学习算法、纵向k
‑
means算法、feldman安全求和算法。16.根据权利要求15所述的联邦学习审计方法，其特征在于，所述多个预设的联邦学习算法fsm包括不带有迭代计算的第一类联邦学习算法fsm和带有迭代计算的第二类联邦学习算法fsm，其中，所述第一类联邦学习算法fsm均是dag并且可通过拓扑排序被转化为一个或者多个单向无分叉的dag。17.根据权利要求16所述的联邦学习审计方法，其特征在于，获得所述参与方所接收或者发送的数据包，包括：判断所述联邦学习算法是否属于所述第一类联邦学习算法，若是，则根据所述第一类联邦学习算法fsm中与所述联邦学习算法相对应的fsm，确定抓取间隔，并根据所述抓取间隔来间隔地获得所述参与方所接收或者发送的数据包。18.根据权利要求17所述的联邦学习审计方法，其特征在于，所述抓取间隔是所述第一类联邦学习算法fsm中与所述联邦学习算法相对应的fsm中的最短子路径的长度减一。19.根据权利要求17或18所述的联邦学习审计方法，其特征在于，审计所述数据包并生成所述审计结果，包括：审计根据所述抓取间隔来间隔地获得的所述数据包并生成所述算法流审计的审计结果。
20.根据权利要求16所述的联邦学习审计方法，其特征在于，所述第二类联邦学习算法fsm中的迭代计算按照自内向外的嵌套关系被转化为多个可反复执行的dag，其中，所述多个可反复执行的dag中的每一个下层dag是相对于该下层dag而言的上层dag中的状态节点。21.根据权利要求20所述的联邦学习审计方法，其特征在于，所述多个可反复执行的dag中的每一个dag包括一个或者多个强连通scc分量。22.根据权利要求20所述的联邦学习审计方法，其特征在于，与该下层dag对应的状态节点的合法状态转移事件是完成对该下层dag的迭代计算。23.根据权利要求20所述的联邦学习审计方法，其特征在于，获得所述参与方所接收或者发送的数据包，包括：判断所述联邦学习算法是否属于所述第二类联邦学习算法，若是，则根据所述第二类联邦学习算法fsm中与所述联邦学习算法相对应的fsm被转化而成的多个可反复执行的dag，确定抓取间隔，并根据所述抓取间隔来间隔地获得所述参与方所接收或者发送的数据包。24.根据权利要求23所述的联邦学习审计方法，其特征在于，审计所述数据包并生成所述审计结果，包括：审计根据所述抓取间隔来间隔地获得的所述数据包并生成所述算法流审计的审计结果。25.根据权利要求1至3中任一项所述的联邦学习审计方法，其特征在于，所述通信数据与所述联邦学习任务或者所述联邦学习算法相关，所述数据流信息包括所述通信数据的基本特征，其中，所述基本特征包括以下至少一种：大小、类型、格式、哈希值。26.根据权利要求25所述的联邦学习审计方法，其特征在于，所述数据流审计包括，根据所述数据包的数据流信息确定所述基本特征是否符合预设规范。27.根据权利要求26所述的联邦学习审计方法，其特征在于，所述数据流信息还包括密态数据，所述数据流审计还包括，根据所述数据包的数据流信息确定所述密态数据被解密后是否合理。28.根据权利要求27所述的联邦学习审计方法，其特征在于，根据所述数据包的数据流信息确定所述密态数据被解密后是否合理，包括：根据预设规则表判断所述密态数据被解密后是否满足合理范围和可为空属性的要求。29.根据权利要求27所述的联邦学习审计方法，其特征在于，所述方法还包括：判断所述参与方是否为裁决方或者具有裁决方权限，并且当且仅当所述参与方为裁决方或者具有裁决方权限时允许所述参与方审计所述密态数据。30.一种非瞬时性计算机可读存储介质，该计算机存储介质保存计算机指令，其特征在于，该计算机指令被处理装置执行时，使得所述处理装置执行根据权利要求1至29中任一项所述的联邦学习审计方法。31.一种联邦学习审计系统，其中，所述联邦学习审计系统包括多个参与方用于协同进行联邦学习模型的训练或者应用，所述多个参与方中的至少一个参与方根据权利要求1至29中任一项所述的联邦学习审计方法对该参与方所接收或者发送的数据包进行审计。32.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现根据权利要求1至29中任一项所述的联邦学习审计方法。33.一种电子设备，其特征在于，所述电子设备包括：至少一个处理器；以及，
与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行根据权利要求1至29中任一项所述的联邦学习审计方法。34.一种联邦学习审计装置，其特征在于，所述联邦学习审计装置包括：数据收集模块，用于获得参与方所接收或者发送的数据包；和数据分析模块，用于根据所述参与方的审计级别而开启控制流审计、算法流审计以及数据流审计中的一种或者多种，从而审计所述数据包并生成审计结果，其中，所述控制流审计用于校验所述数据包的控制流信息，所述控制流信息与所述参与方所参与的联邦学习任务相关，所述算法流审计用于检验所述数据包的算法流信息，所述算法流信息与联邦学习算法相关，所述联邦学习算法对应所述联邦学习任务中的模块，所述数据流审计用于校验所述数据包的数据流信息，所述数据流信息与所述参与方的通信数据相关。35.根据权利要求34所述的联邦学习审计装置，其特征在于，所述联邦学习审计装置还包括：密钥管理模块，用于密钥生成和密钥维护，其中，所述密钥生成是基于量子随机数。36.根据权利要求35所述的联邦学习审计装置，其特征在于，所述密钥生成包括基于量子随机数生成用于paillier加密算法的私钥，其中，所述私钥基于等比特位宽的两个不相等素数生成，在生成所述私钥的过程中通过判断校验误差是否低于2的负t次幂来进行素数校验，所述t是所述量子随机数的比特位宽。37.一种联邦学习审计系统，其中，所述联邦学习审计系统包括多个参与方用于协同进行联邦学习模型的训练或者应用，所述多个参与方中的每一个参与方包括根据权利要求34至36中任一项所述的联邦学习审计装置，所述多个参与方通过区块链技术来共同存储和维护参与通信的密态中间结果。

技术总结
本申请涉及数据安全和隐私保护技术领域中的一种联邦学习审计装置、系统及方法。联邦学习审计装置包括：数据收集模块，用于获得参与方所接收或者发送的数据包；和数据分析模块，用于根据参与方的审计级别而开启控制流审计、算法流审计以及数据流审计中的一种或者多种，从而审计数据包并生成审计结果。控制流审计用于校验数据包的控制流信息且与参与方所参与的联邦学习任务相关。算法流审计用于检验数据包的算法流信息且与联邦学习算法相关。数据流审计用于校验数据包的数据流信息，数据流信息与参与方的通信数据相关。通过不同的审计级别和设定各自独立的审计机制，可以满足每个参与方对通信和计算的安全性多样化的诉求，有利于系统整体安全性。利于系统整体安全性。利于系统整体安全性。


技术研发人员：彭瑞 孙军欢 陈沫
受保护的技术使用者：深圳致星科技有限公司
技术研发日：2021.08.10
技术公布日：2021/11/30