在基于检索的上下文学习增强的大语言模型中用于防御上下文提取的方法与流程

本公开涉及一种在基于检索的上下文学习增强的大语言模型中用于防御上下文提取的方法。

背景技术：

1、基于检索的上下文学习(reticl)是一种通过动态整合从外部数据存储中检索到的相关示例来增强大语言模型(llms)的方法。在交互过程中，reticl系统集成了两个基本组件：用户查询和检索到的示例，这些示例作为演示来丰富上下文理解，并改进响应的准确性。

技术实现思路

1、本公开针对的是检索到的示例应受到保护且对 reticl 系统的最终用户不可访问的场景。当此类系统被私人或公司实体部署为外部服务时，这一点尤为关键。reticl 提供商可能使用专有的、隐私敏感的或机密的数据来改进模型性能。未经授权地访问这些检索到的示例可能使攻击者能够重建底层数据集，从而暴露有价值的知识产权或机密领域知识。

2、有鉴于此，需要一种有弹性的防御机制，以便在保持响应有效性的同时，保护训练数据的机密性。

3、根据本公开的第一方面，该目标通过一种在基于检索的上下文学习增强的大语言模型中用于防御示例提取的计算机实现方法来实现，该方法包括：

4、通过以下方式针对例如存储在示例数据库中的示例的原始示例嵌入来计算经优化的代理示例嵌入：

5、- 最小化在大语言模型基于原始示例嵌入对预定的查询集生成的响应与大语言模型基于代理示例嵌入对所述预定的查询集生成的响应之间的交叉熵损失，以及

6、- 最小化在大语言模型基于代理示例嵌入对攻击查询生成的响应与固定的预定响应之间的交叉熵损失；以及

7、- 由大语言模型基于经优化的代理示例嵌入生成对输入查询的响应。

8、通过最小化在大语言模型基于原始示例嵌入对预定的查询集生成的响应与大语言模型基于代理示例嵌入对所述预定的查询集生成的响应之间的交叉熵损失，基于检索的上下文学习 (reticl) 增强的大语言模型(llm)的效用得以保留。通过最小化在大语言模型基于代理示例嵌入对攻击查询生成的响应与固定的预定响应之间的交叉熵损失，防止原始示例被提取。

9、该组预定查询中的查询可以通过大语言模型使用原始示例作为参考来合成。作为攻击查询，可以使用代理查询。例如，它可能仅在优化过程中使用，并可作为潜在攻击查询的下界。固定的预定响应可被指定为在语义上与原始示例不同。

10、经优化的代理示例嵌入可以通过解决以下优化问题来计算：

11、，

12、其中表示预定的查询集，q 表示查询集中的查询，表示查询 q的嵌入，表示响应于输入查询 q而检索到的一个或多个原始示例的嵌入，表示代理示例嵌入，表示攻击查询嵌入，表示固定的预定响应，而表示交叉熵损失。

13、通过解决上述优化问题获得的经优化的代理示例嵌入可以用作单个全局代理示例嵌入，其可以与每个查询的相应嵌入相结合。

14、为了有效处理复杂或异构的模式，可能需要多个代理示例嵌入。为了解决这一方面，该方法可进一步包括：学习m 个代理示例嵌入的集合以及系数矩阵，其中 n 是存储在数据库中的示例数量或存储在数据库中的所有示例的数量，，且 wim≥0。例如，可以通过最小化上述表达式来进行学习，其中代理示例嵌入被替换为 m 个代理示例嵌入的凸组合（convex combination），其中系数矩阵wim的系数作为系数。

15、于是，数据集中存储的针对每个示例的代理示例嵌入可以就学习到的 m 个代理示例嵌入方面而言表示如下：

16、，

17、其中表示 n 个示例中第i个示例的代理示例嵌入，表示已学习的代理示例嵌入的集合中的一个已学习的代理示例嵌入，而表示已学习系数矩阵的系数。

18、如果响应于输入查询而检索到 k 个相关示例，则可以通过以如下方式连接（concatenate）与这 k 个示例对应的相应代理示例嵌入来确定代理示例嵌入：

19、,

20、其中表示最终得到的代理示例嵌入，表示检索到的 k 个示例的代理示例嵌入，而符号表示连接操作。通过这种方式，可以保留丰富的结构信息。

21、替代地，也可以通过以如下方式聚合检索到的 k 个示例的代理示例嵌入来确定代理示例：

22、。

23、在这种情况下，可以通过解决以下优化问题来进行代理示例嵌入的集合和系数矩阵的学习：

24、。

25、在本公开的第二方面，提供了一种数据处理装置，其包括被配置为执行上述方法的装置。

26、在本公开的第三方面，提供了一种计算机程序，其包括指令，当所述程序由计算机执行时，所述指令使所述计算机执行如前所述的方法。

27、在本公开的第四方面，提供了一种计算机可读存储介质，其包括指令，当由计算机执行时，所述指令使所述计算机执行如前所述的方法。

1.一种在基于检索的上下文学习增强的大语言模型（370）中用于防御示例提取的计算机实现的方法（200），所述方法（200）包括：

2.根据权利要求 1 所述的方法（200），其中，所述经优化的代理示例嵌入 ()通过解决以下优化问题来计算：

3.根据权利要求 1 或 2 所述的方法（200），所述方法包括：学习m 个代理示例嵌入的集合以及系数矩阵，其中 n 是存储在数据库中的示例的数量，，且 wim≥0。

4.根据权利要求 3 所述的方法（200），其中，n 个示例中第i个示例的经优化的代理示例嵌入以如下方式来确定：

5.根据权利要求 4 所述的方法，所述方法进一步包括：针对响应于输入查询q而检索到的k 个示例，通过以如下方式连接与所述k 个示例对应的相应代理示例嵌入来确定代理示例嵌入：

6.根据权利要求 4 所述的方法，所述方法进一步包括，对于响应于输入查询 q 而检索到的 k 个示例，通过以如下方式聚合检索到的 k 个示例的代理示例嵌入来确定代理示例嵌入：

7.根据权利要求 6 所述的方法，其中，通过解决以下优化问题来进行代理示例嵌入的集合和系数矩阵 的学习：

8.一种数据处理装置（300），其包括被配置为执行根据权利要求 1 至 7 中任一项所述的方法的装置（310）。

9.一种计算机程序，其包括指令，当所述程序由计算机（310）执行时，所述指令使所述计算机（310）执行根据权利要求 1 至 7 中任一项所述的方法（200）。

10.一种计算机可读存储介质（320），其包括指令，当由计算机（310）执行时，所述指令使所述计算机（310）执行根据权利要求 1 至 7 中任一项所述的方法（200）。