用于保护敏感数据的方法、设备、装置和介质与流程

技术特征：
1.一种用于保护敏感数据的方法，包括：接收来自服务器设备的待处理数据；接收用户对于所述待处理数据的处理结果，所述处理结果包括所述用户对于所述待处理数据的处理过程的敏感数据；基于所述处理结果与针对所述待处理数据的预测结果的比较，确定用于训练所述服务器设备处的服务器模型的梯度；以及在与所述梯度相关联的变化方向上更新所述梯度，以生成用于向所述服务器设备发送的更新梯度。2.根据权利要求1所述的方法，进一步包括：接收来自所述服务器设备的用于设置客户端模型的客户端模型参数；以及基于所述客户端模型参数和所述客户端模型处理所述待处理数据，以获得针对所述待处理数据的所述预测结果。3.根据权利要求2所述的方法，进一步包括：向所述服务器设备发送所述更新梯度，以使得所述服务器设备根据所述更新梯度来确定用于设置所述客户端模型的所述客户端模型参数。4.根据权利要求1所述的方法，其中生成所述更新梯度包括：基于与所述待处理数据相关联的一组候选结果，确定与所述梯度相关联的所述变化方向；以及基于所述梯度和所述变化方向，生成所述更新梯度。5.根据权利要求4所述的方法，其中确定与所述梯度相关联的所述变化方向包括：确定分别与所述一组候选结果相关联的一组梯度；以及基于所述一组梯度之间的差异，确定与所述梯度相关联的所述变化方向。6.根据权利要求4所述的方法，其中基于所述梯度和所述变化方向，生成所述更新梯度包括：确定用于更新所述梯度的噪声因子，所述噪声因子表示向所述梯度引入的噪声数据的强度；以及基于所述梯度、所述噪声因子和所述变化方向来生成所述更新梯度。7.根据权利要求6所述的方法，其中确定用于更新所述梯度的噪声因子包括：基于布尔随机变量来确定所述噪声因子，所述噪声因子使得所述更新梯度等于所述梯度的概率不低于1/2。8.根据权利要求6所述的方法，其中确定用于更新所述梯度的噪声因子包括：基于高斯随机变量来确定所述噪声因子，所述噪声因子使得所述更新梯度与所述梯度之间的距离小于所述更新梯度与所述一组候选梯度中的不同于所述梯度的其他候选梯度之间的距离的概率不低于1/2。9.根据权利要求1所述的方法，其中所述待处理数据被包括在来自所述服务器设备的训练数据包中，以及所述方法进一步包括：利用所述方法来处理所述训练数据包中的其他待处理数据。10.根据权利要求1所述的方法，其中所述方法在连接至所述服务器的客户端设备处被执行，以及所述方法在所述客户端设备处被迭代地执行。
11.一种电子设备，包括：至少一个处理单元；以及至少一个存储器，所述至少一个存储器被耦合到所述至少一个处理单元并且存储用于由所述至少一个处理单元执行的指令，所述指令在由所述至少一个处理单元执行时使所述设备执行以下动作：接收来自服务器设备的待处理数据；接收用户对于所述待处理数据的处理结果，所述处理结果包括所述用户对于所述待处理数据的处理过程的敏感数据；基于所述处理结果与针对所述待处理数据的预测结果的比较，确定用于训练所述服务器设备处的服务器模型的梯度；以及在与所述梯度相关联的变化方向上更新所述梯度，以生成用于向所述服务器设备发送的更新梯度。12.根据权利要求11所述的设备，进一步包括：接收来自所述服务器设备的用于设置客户端模型的客户端模型参数；以及基于所述客户端模型参数和所述客户端模型处理所述待处理数据，以获得针对所述待处理数据的所述预测结果。13.根据权利要求12所述的设备，进一步包括：向所述服务器设备发送所述更新梯度，以使得所述服务器设备根据所述更新梯度来确定用于设置所述客户端模型的所述客户端模型参数。14.根据权利要求11所述的设备，其中生成所述更新梯度包括：基于与所述待处理数据相关联的一组候选结果，确定与所述梯度相关联的所述变化方向；以及基于所述梯度和所述变化方向，生成所述更新梯度。15.根据权利要求14所述的设备，其中确定与所述梯度相关联的所述变化方向包括：确定分别与所述一组候选结果相关联的一组梯度；以及基于所述一组梯度之间的差异，确定与所述梯度相关联的所述变化方向。16.根据权利要求14所述的设备，其中基于所述梯度和所述变化方向，生成所述更新梯度包括：确定用于更新所述梯度的噪声因子，所述噪声因子表示向所述梯度引入的噪声数据的强度；以及基于所述梯度、所述噪声因子和所述变化方向来生成所述更新梯度。17.根据权利要求16所述的设备，其中确定用于更新所述梯度的噪声因子包括：基于布尔随机变量来确定所述噪声因子，所述噪声因子使得所述更新梯度等于所述梯度的概率不低于1/2。18.根据权利要求16所述的设备，其中确定用于更新所述梯度的噪声因子包括：基于高斯随机变量来确定所述噪声因子，所述噪声因子使得所述更新梯度与所述梯度之间的距离小于所述更新梯度与所述一组候选梯度中的不同于所述梯度的其他候选梯度之间的距离的概率不低于1/2。19.根据权利要求11所述的设备，其中所述待处理数据被包括在来自所述服务器设备
的训练数据包中，以及所述动作进一步包括：利用所述动作来处理所述训练数据包中的其他待处理数据。20.根据权利要求11所述的设备，其中所述设备在连接至所述服务器的客户端设备处被执行，以及所述动作在所述客户端设备处被迭代地执行。21.一种用于保护敏感数据的装置，包括：数据接收模块，配置用于接收来自服务器设备的待处理数据；结果接收模块，配置用于接收用户对于所述待处理数据的处理结果，所述处理结果包括所述用户对于所述待处理数据的处理过程的敏感数据；梯度确定模块，配置用于基于所述处理结果与针对所述待处理数据的预测结果的比较，确定用于训练所述服务器设备处的服务器模型的梯度；以及更新生成模块，配置用于在与所述梯度相关联的变化方向上更新所述梯度，以生成用于向所述服务器设备发送的更新梯度。22.一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现根据权利要求1至10中任一项所述的方法。23.一种计算机程序产品，其上存储有计算机程序，所述程序被处理器执行时实现根据权利要求1至10中任一项所述的方法。

技术总结
根据本公开的实现方式，提供了用于保护敏感数据的方法、设备、装置和介质。在一种方法中，接收来自服务器设备的待处理数据。接收用户对于待处理数据的处理结果，处理结果包括用户对于待处理数据的处理过程的敏感数据。基于处理结果与针对待处理数据的预测结果的比较，确定用于训练服务器设备处的服务器模型的梯度。在与梯度相关联的变化方向上更新梯度，以生成用于向服务器设备发送的更新梯度。以此方式，仅在与梯度相关联的变化方向上添加噪声。一方面可以降低处理多个方向上的噪声的相应开销，另一方面还可以确保更新梯度不会被引入干扰训练的过多噪声数据。干扰训练的过多噪声数据。干扰训练的过多噪声数据。


技术研发人员：杨鑫 解浚源 孙建凯 姚元舜 王崇
受保护的技术使用者：脸萌有限公司
技术研发日：2021.11.23
技术公布日：2022/2/24