在基于云的数据处理系统中保护隐私的方法和装置与流程

本发明大体上涉及数据隐私和保护，更具体地，涉及一种在基于云的数据处理系统中保护隐私的方法和系统，该数据处理系统使用大型语言模型（large language model，llm）来处理数据。本发明还涉及一种用于在基于云的数据处理系统中保护隐私的装置，该系统使用大型语言模型（large language model，llm）来处理数据。

背景技术：

1、大型语言模型（large language model，llm）用作处理非结构化文本数据或信息的工具。但是，在业务环境中使用llm涉及到将个人和敏感信息集成到所述llm中，从而增加了第三方或未经授权方在未经授权的情况下公开个人和敏感信息的安全风险。

2、现有系统保护业务环境或业务边界内的个人和敏感信息的隐私。现有系统包括业务边界和云服务提供商。业务边界包括业务特定信息模型（business specificinformation model，bsim）数据库，云服务提供商包括llm。bsim数据库是一个整合的、互联的信息结构，包含业务特定信息（business specific information，bsi）。bsi包括个人和敏感信息，所述个人和敏感信息可以包括个人身份信息（personally identifiableinformation，pii）、个人健康信息（personal health information，phi）、财务信息（financial information，fi）、认证信息（authentication information，aui）、知识产权（intellectual property，ip）或监管信息（regulated information，ri）。尽管努力安全地管理个人和敏感信息，但将个人和敏感信息集成到llm中仍存在未经授权公开的风险，数据泄露的概率为10%至30%。llm中的隐私保护机制依赖于llm对要保护的数据的解释，并且可以通过越狱攻击轻松绕过。因此，为了遵守业务边界准则和法规，需要在llm边界之外保护个人和敏感信息。

3、llm执行数据处理和交互两个功能。首先，llm将数据转换为适合其操作的格式。这包括将数据上传到llm，由llm转换数据，并由llm将转换后的数据返回并存储到业务边界。其次，llm通过允许智能代理发起查询以访问bsi来促进与智能代理的交互。若llm对所访问的bsi的质量缺乏信心，则llm可以从bsim数据库中检索其它数据。llm将bsi连同其它数据一起发送到智能代理。此外，在转换数据时，当从智能代理接收查询时，以及当llm访问bsi时，个人和敏感信息容易暴露给云服务提供商。由于llm内部的隐私保护不可靠，这种暴露带来了安全风险。

4、现有的个人敏感信息保护方法（如内容加密）破坏了依赖于通过词嵌入理解词义的llm功能。类似地，在隔离的可信执行环境中运行llm或应用假名化技术来保护隐私也会带来性能下降和大小限制等挑战。

5、因此，需要解决上述技术问题/缺陷，以增强基于云的数据处理系统中的隐私保护，并确保敏感信息的安全处理。

技术实现思路

1、本发明的一个目的是提供一种在基于云的数据处理系统中保护隐私的方法和系统，所述数据处理系统使用大型语言模型（large language model，llm）来处理数据。本发明还涉及一种在基于云的数据处理系统中保护隐私的装置，所述基于云的数据处理系统使用大型语言模型（large language model，llm）来处理数据，同时避免现有技术方法的一个或多个缺点。通过独立权利要求的特征来实现上述目的。进一步的实现方式在从属权利要求、说明书和附图中显而易见。

2、根据第一方面，提供了一种在基于云的数据处理系统中保护隐私的方法，所述处理系统使用大型语言模型（large language model，llm）来处理数据。所述方法包括接收待发送到所述基于云的数据处理系统的个人和敏感信息。所述方法包括通过生成与所述接收到的psi对应的假名，将所述接收到的个人和敏感信息转换为假名；使用所述生成的假名替换所述接收到的个人和敏感信息。所述方法包括：将所述生成的假名发送到所述基于云的数据处理系统，以使用所述llm进行处理。

3、上述方法利用所述llm来增强所述个人和敏感信息的隐私和安全性。所述方法支持通用数据保护条例（general data protection regulation，gdpr）和健康保险可携性和责任法案（health insurance portability and accountability act，hipaa）法规。

4、优选地，所述方法还包括接收所述基于云的数据处理系统使用所述llm进行的处理的结果，并从所述基于云的数据处理系统的所述处理的所述结果中包含的假名恢复所述个人和敏感信息。

5、优选地，所述方法还包括在假名分配策略指定的预定义边界内选择假名的转换步骤。优选地，通过考虑语义断裂限制来指定所述假名分配策略。优选地，所述假名分配策略应用于与保护对象相关的属性。

6、优选地，所述方法还包括转换步骤，所述转换步骤使用假名化技术，所述假名化技术保留了所述跨属性链接的保护对象。优选地，所述跨属性链接的保护对象涉及以无监督方式学习的相关属性组，或者涉及由授权监督者定义的相关属性组。

7、优选地，所述方法还包括使用以下中的至少一种的转换步骤：基于掩码的假名化技术；基于扰码的假名化技术；基于加密的假名化技术；掩码假名化技术；基于映射的令牌化假名化技术。

8、根据第二方面，提供了一种在基于云的数据处理系统中保护隐私的装置，所述处理系统使用大型语言模型（large language model，llm）来处理数据。所述装置包括接收器、转换器、替换器和发送器。所述接收器用于接收待发送到所述基于云的数据处理系统的个人和敏感信息。所述转换器用于通过生成与所述接收到的个人和敏感信息对应的假名，将所述接收到的个人和敏感信息转换为假名。所述替换器用于使用所述生成的假名替换所述接收到的个人和敏感信息。所述发送器用于将所述生成的假名发送到所述基于云的数据处理系统，以使用所述llm进行处理。

9、根据第三方面，提供了一种系统，包括适用于执行所述方法的所有步骤的模块。

10、根据第四方面，提供了一种计算机程序，包括指令，所述指令用于当所述计算机程序在计算机系统上执行时，执行所述的方法的所有步骤。

11、因此，与现有技术方案不同，上述方法和系统在所述基于云的数据处理系统中提供增强的隐私保护，所述处理系统使用大型语言模型（large language model，llm）来保护用户的个人和敏感信息的隐私。

12、根据下文描述的实现方式，本发明的这些和其它方面是显而易见的。

1.一种在基于云的数据处理系统（126）中保护隐私的方法，其特征在于，所述基于云的数据处理系统使用大型语言模型（large language model，llm）（128、216a、216b）来处理数据，所述方法包括以下步骤：

2.根据权利要求1所述的方法，其特征在于，还包括以下步骤：

3.根据权利要求1所述的方法，其特征在于，所述转换步骤选择由假名分配策略指定的预定义边界内的所述假名。

4.根据权利要求3所述的方法，其特征在于，所述假名分配策略是通过考虑语义断裂限制来指定的。

5.根据权利要求3所述的方法，其特征在于，所述假名分配策略应用于与保护对象相关的属性。

6.根据权利要求1所述的方法，其特征在于，所述转换步骤使用假名化技术，所述假名化技术保留了所述跨属性链接的保护对象。

7.根据权利要求6所述的方法，其特征在于，所述跨属性链接的保护对象涉及相关属性组以无监督方式学习，或者涉及相关属性组由授权监督者定义。

8.根据权利要求1所述的方法，其特征在于，所述转换步骤使用以下中的至少一项：

9.一种用于在基于云的数据处理系统（126）中保护隐私的装置（100），其特征在于，所述基于云的数据处理系统使用大型语言模型（large language model，llm）（128、216a、216b）来处理数据，所述装置包括：

10.一种系统，其特征在于，包括适用于执行根据上述权利要求中任一项所述的方法的所有步骤的模块。

11.一种计算机程序，其特征在于，包括指令，所述指令用于当所述计算机程序在计算机系统上执行时，执行根据上述权利要求中任一项所述的方法的所有步骤。