一种数据处理方法和装置与流程

本发明涉及计算机，尤其涉及一种数据处理方法和装置。

背景技术：

1、在调用外部大模型开展业务交互时，数据会经由网络传输至第三方模型服务平台，存在业务数据、用户隐私、内部机密向外泄露的风险。在向外部大模型提交输入内容前对输入内容进行内容敏感度检测，能够主动识别输入内容中的各类敏感信息，提升交互安全。

2、在实现本发明过程中，发明人发现现有技术中存在如下问题：

3、现有的敏感度检测通常使用简单的规则匹配，且统一进行阻断处理，检测准确度不高，处理方式过于单一，缺少对输入内容细粒度化的安全处理，导致只要输入内容中检出敏感信息便直接整体拦截，大量包含少量敏感字段但整体具备正常业务价值的输入请求被直接拒绝，影响用户正常使用体验。

技术实现思路

1、有鉴于此，本发明实施例提供一种数据处理方法和装置，实现了精准、细粒度、无感的数据处理，基于敏感等级，对输入内容中的敏感信息进行细粒度的数据安全处理，并将数据安全处理后的安全输入内容发送至外部大模型，最后基于外部大模型输出的推理结果和原始的输入内容，生成用户无感知的响应结果。

2、为实现所述目的，根据本发明实施例的一个方面，提供了一种数据处理方法，包括：

3、响应于监测到外部大模型的启动，拦截用户待发送至所述外部大模型的输入内容，对所述输入内容进行内容敏感度检测，识别所述输入内容中的敏感信息；

4、根据所述敏感信息，计算所述输入内容的敏感等级，根据所述敏感等级，对所述输入内容中的所述敏感信息进行数据安全处理；

5、将数据安全处理后的安全输入内容发送至所述外部大模型，获取所述外部大模型基于所述安全输入内容生成的推理结果，根据所述推理结果和所述输入内容，生成所述输入内容对应的响应结果。

6、可选地，对所述输入内容进行内容敏感度检测，识别所述输入内容中的敏感信息，包括：将所述用户在指定时间内已发送至所述外部大模型的历史输入，与所述输入内容进行组合，得到组合输入；对所述组合输入进行规则匹配敏感度检测，并且在所述规则匹配检测未检测出敏感信息的情况下，对所述组合输入进行语义敏感度检测，识别所述输入内容中的显性敏感信息；利用本地检测模型模拟所述外部大模型对所述组合输入的推理思维链，并检测所述推理思维链的敏感度，识别所述输入内容中的隐性敏感信息；根据所述显性敏感信息和所述隐性敏感信息，确定所述输入内容中的敏感信息。

7、可选地，根据所述敏感信息，计算所述输入内容的敏感等级，包括：识别所述输入内容的内容类型，所述内容类型包括代码类型、配置类型、日志类型、自然语言类型中的至少一种；根据所述敏感信息，所述敏感信息的出现频次，所述敏感信息的时效性，计算所述敏感信息的敏感度；根据所述敏感度、所述内容类型、所述用户的角色特征，计算所述输入内容的敏感等级。

8、可选地，根据所述推理结果和所述输入内容，生成所述输入内容对应的响应结果，包括：识别所述推理结果中的待确定内容，所述待确定内容需要所述输入内容参与确定；基于所述输入内容，按照所述待确定内容对应的推理逻辑，获取所述待确定内容；将获取到的所述待确定内容，以及所述推理结果中的确定内容进行组装，生成所述响应结果。

9、可选地，根据所述敏感等级，对所述输入内容中的所述敏感信息进行数据安全处理，包括：在所述敏感等级为一级的情况下，对所述敏感信息进行替换或者泛化处理；在所述敏感等级为二级的情况下，对所述敏感信息进行局部遮盖，或者调整包含所述敏感信息的所述输入内容的表达方式，并向所述用户发送对应的处理许可请求，以获取所述用户的许可。

10、可选地，所述方法还包括：在所述敏感等级超出二级的情况下，拦截所述输入内容的发送动作，并提示所述用户其输入内容中存在高敏感信息。

11、可选地，所述方法还包括：响应于接收到关于敏感信息的更新反馈信息，根据所述更新反馈信息，更新所述内容敏感度检测的检测依据和/或所述敏感等级的计算参数。

12、根据本发明实施例的第二方面，提供一种数据处理装置，包括：

13、敏感度检测模块，用于响应于监测到外部大模型的启动，拦截用户待发送至所述外部大模型的输入内容，对所述输入内容进行内容敏感度检测，识别所述输入内容中的敏感信息；

14、第一处理模块，用于根据所述敏感信息，计算所述输入内容的敏感等级，根据所述敏感等级，对所述输入内容中的所述敏感信息进行数据安全处理；

15、第二处理模块，用于将数据安全处理后的安全输入内容发送至所述外部大模型，获取所述外部大模型基于所述安全输入内容生成的推理结果，根据所述推理结果和所述输入内容，生成所述输入内容对应的响应结果。

16、根据本发明实施例的第三方面，提供一种数据处理电子设备，包括：

17、一个或多个处理器；

18、存储装置，用于存储一个或多个程序，

19、当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明实施例第一方面提供的方法。

20、根据本发明实施例的第四方面，提供一种计算机可读介质，其上存储有计算机程序，所述程序被处理器执行时实现本发明实施例第一方面提供的方法。

21、根据本发明实施例的第五方面，提供一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现本发明实施例第一方面提供的方法。

22、所述发明中的一个实施例具有如下优点或有益效果：通过响应于监测到外部大模型的启动，拦截用户待发送至外部大模型的输入内容，对输入内容进行内容敏感度检测，识别输入内容中的敏感信息；根据敏感信息，计算输入内容的敏感等级，根据敏感等级，对输入内容中的敏感信息进行数据安全处理；将数据安全处理后的安全输入内容发送至外部大模型，获取外部大模型基于安全输入内容生成的推理结果，根据推理结果和输入内容，生成输入内容对应的响应结果的技术方案，实现了精准、细粒度、无感的数据处理，基于敏感等级，对输入内容中的敏感信息进行细粒度的数据安全处理，并将数据安全处理后的安全输入内容发送至外部大模型，最后基于外部大模型输出的推理结果和原始的输入内容，生成用户无感知的响应结果。

1.一种数据处理方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，对所述输入内容进行内容敏感度检测，识别所述输入内容中的敏感信息，包括：

3.根据权利要求1所述的方法，其特征在于，根据所述敏感信息，计算所述输入内容的敏感等级，包括：

4.根据权利要求1所述的方法，其特征在于，根据所述推理结果和所述输入内容，生成所述输入内容对应的响应结果，包括：

5.根据权利要求1所述的方法，其特征在于，根据所述敏感等级，对所述输入内容中的所述敏感信息进行数据安全处理，包括：

6.根据权利要求5所述的方法，其特征在于，所述方法还包括：

7.根据权利要求1所述的方法，其特征在于，所述方法还包括：

8.一种数据处理装置，其特征在于，包括：

9.一种移动电子设备终端，其特征在于，包括：

10.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1-7中任一所述的方法。

11.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-7中任一项所述的方法。