一种面向心理健康高敏感数据的隐私增强与合规管控方法与流程

本发明涉及人工智能、数据安全与隐私计算交叉，特别涉及一种面向心理健康高敏感数据的隐私增强与合规管控方法。

背景技术：

1、在心理健康ai（artificial intelligence，人工智能）领域，数据是个人信息中最高危的“敏感中的敏感” 。现有的数据处理方案通常仅依赖通用的单点脱敏工具，无法精准识别心理咨询场景中特有的复杂实体，如隐晦的亲属关系、就诊机构结合病史等，且不具有从数据准入、训练防推断到输出安全对齐的全流程闭环把控能力。

2、这里的陈述仅提供与本发明有关的背景技术，而并不必然地构成现有技术。

技术实现思路

1、本发明的目的是提供一种面向心理健康高敏感数据的隐私增强与合规管控方法，实现模型训练的全流程管控。

2、为了实现以上目的，本发明通过以下技术方案实现：

3、一种面向心理健康高敏感数据的隐私增强与合规管控方法，包括：

4、获取心理咨询场景的原始数据；

5、针对所述原始数据的数据场景，采用所述数据场景对应的隐私增强方式对所述原始数据进行处理，得到第一训练数据；

6、采用所述第一训练数据训练待训练模型，并基于dp-sgd算法获得所述待训练模型的第一权重更新参数；

7、基于所述第一权重更新参数调整所述待训练模型，得到训练后的推理模型；

8、向训练后的推理模型提供输入数据，获得所述推理模型的推理结果，若检测到所述推理结果中存在异常信息，则对所述推理结果进行拦截；所述输入数据为多模态医疗数据。

9、可选地，所述方法还包括：

10、采用五级敏感分级模型，标记所述原始数据的敏感级别和数据分类。

11、可选地，所述方法还包括：

12、生成匹配所述原始数据的敏感级别的交互式电子授权合约；

13、将所述交互式电子授权合约通过区块链进行加密存证。

14、可选地，所述隐私增强方式包括：

15、对所述原始数据进行哈希运算处理；

16、或，基于k-匿名算法对所述原始数据进行合规泛化替换；

17、或，基于差分隐私技术在所述原始数据中加入噪声数据。

18、可选地，所述采用所述第一训练数据训练待训练模型之前，所述方法还包括：

19、对所述第一训练数据进行重识别攻击模拟，若模拟结果表示所述第一训练数据脱敏失败，则对所述第一训练数据再次进行隐私增强处理；

20、和/或，对所述第一训练数据进行语义可用性校验，若校验结果表示所述第一训练数据的信息熵损失过高，则对所述第一训练数据进行降噪处理。

21、可选地，所述待训练模型为本地模型；所述基于所述第一权重更新参数调整所述待训练模型，得到训练后的推理模型，包括：

22、将所述第一权重更新参数发送至中央服务器，以使得所述中央服务器根据所述第一权重更新参数以及从其它训练设备获得的第二权重更新参数，计算第三权重更新参数；

23、接收所述中央服务器发送的第三权重更新参数调整所述待训练模型，得到训练后的推理模型。

24、可选地，在所述中央服务器根据所述第一权重更新参数以及从其它训练设备获得的第二权重更新参数之前，所述方法还包括：

25、基于安全多方计算协议拆分所述第一权重更新参数，得到第一参数密文，以使得所述中央服务器根据所述第一参数密文以及从其他训练设备获得的、基于所述第二权重更新参数拆分的第二参数密文，计算第三权重更新参数。

26、可选地，所述方法还包括：

27、生成针对所述第一训练数据的调用日志，并将所述调用日志的哈希摘要存储于区块链上。

28、一种电子设备，包括处理器和存储器，所述存储器上存储有计算机程序，所述计算机程序被所述处理器执行时，实现上述任一所述的面向心理健康高敏感数据的隐私增强与合规管控方法。

29、一种可读存储介质，所述可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时，实现上述任一所述的面向心理健康高敏感数据的隐私增强与合规管控方法。

30、本发明实施例提供的方案中，在模型训练之前，会根据原始数据的数据场景，匹配合适的隐私增强方式对原始数据进行处理，从而提供安全的训练数据，在训练过程中，采用dp-sgd算法进行梯度裁剪，进一步地减少训练过程中的隐私数据泄露。在训练完成后采用模型进行推理时，还会针对异常信息进行拦截，实现了真正的全流程闭环管控，从源头上解决大模型训练数据不合规的问题。

1.一种面向心理健康高敏感数据的隐私增强与合规管控方法，其特征在于，包括：

2.如权利要求1所述的面向心理健康高敏感数据的隐私增强与合规管控方法，其特征在于，所述方法还包括：

3.如权利要求2所述的面向心理健康高敏感数据的隐私增强与合规管控方法，其特征在于，所述方法还包括：

4.如权利要求1所述的面向心理健康高敏感数据的隐私增强与合规管控方法，其特征在于，所述隐私增强方式包括：

5.如权利要求1所述的面向心理健康高敏感数据的隐私增强与合规管控方法，其特征在于，所述采用所述第一训练数据训练待训练模型之前，所述方法还包括：

6.如权利要求1所述的面向心理健康高敏感数据的隐私增强与合规管控方法，其特征在于，所述待训练模型为本地模型；所述基于所述第一权重更新参数调整所述待训练模型，得到训练后的推理模型，包括：

7.如权利要求6所述的面向心理健康高敏感数据的隐私增强与合规管控方法，其特征在于，在所述中央服务器根据所述第一权重更新参数以及从其它训练设备获得的第二权重更新参数之前，所述方法还包括：

8.如权利要求1所述的面向心理健康高敏感数据的隐私增强与合规管控方法，其特征在于，所述方法还包括：

9.一种电子设备，其特征在于，包括处理器和存储器，所述存储器上存储有计算机程序，所述计算机程序被所述处理器执行时，实现权利要求1-8中任一项所述的面向心理健康高敏感数据的隐私增强与合规管控方法。

10.一种可读存储介质，其特征在于，所述可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时，实现权利要求1-8中任一项所述的面向心理健康高敏感数据的隐私增强与合规管控方法。