基于离散策略搜索的大语言模型越狱攻击测试方法及系统

本发明涉及大语言模型安全领域，具体涉及一种基于离散策略搜索的大语言模型越狱攻击测试方法及系统。

背景技术：

1、本部分的陈述仅仅是提供了与本发明相关的背景技术信息，不必然构成在先技术。

2、随着大语言模型在各个领域的广泛应用，其输出安全性和稳健性成为人工智能安全的重要课题。现有大语言模型通常通过安全对齐和内容过滤降低风险输出，但在复杂语言风格、隐式意图表达、跨语境重写及多层叙事等条件下，安全策略仍可能表现出不稳定性，因此需要进行大语言模型越狱攻击测试。

3、现有大语言模型越狱攻击测试方法通常依赖人工设计模板、固定重写规则或少量启发式策略，通过调整提示中的角色身份、行为引导、表达风格以及上下文设定等因素生成测试提示。然而，现有方法主要关注提示中的核心语义因素，对于时间叙事、话语结构、语义粒度和校验方式等结构性表达因素考虑不足，导致生成提示的表达形式有限，难以覆盖复杂语境下的多样化攻击策略。而若将上述结构性表达因素作为独立维度直接加入搜索过程，虽然能够提升提示表达能力，但会使策略组合空间快速膨胀，在有限模型查询预算下导致搜索效率降低，难以稳定获得高质量测试提示。

技术实现思路

1、针对现有技术的不足，本发明的目的在于提供一种基于离散策略搜索的大语言模型越狱攻击测试方法及系统。本发明能够在保持多维提示表达能力的同时降低有效搜索复杂度，保证有限查询预算下的搜索稳定性。

2、为了实现上述目的，本发明采用如下技术方案：

3、第一方面，提供了一种基于离散策略搜索的大语言模型越狱攻击测试方法，包括：

4、获取待优化的越狱攻击测试任务参数；

5、加载预先构建的核心策略维度和辅助结构维度，对所述辅助结构维度进行结构配置因子化处理，根据所述核心策略维度和所述结构配置因子构建候选策略搜索空间；

6、根据当前采样概率分布在所述候选策略搜索空间中采样候选策略编码，将候选策略编码的结构配置因子展开为对应的辅助结构维度，并结合所述核心策略维度形成完整策略表达；基于所述完整策略表达和待优化的越狱攻击测试任务参数生成候选越狱攻击提示；

7、将所述候选越狱攻击提示输入目标大语言模型，得到候选策略综合评分；对所述候选策略综合评分进行质量门控判断，将满足质量门控条件的对应候选策略加入历史精英记忆集合，并基于历史精英记忆集合和当前候选策略的评分结果更新采样概率分布；

8、基于更新后的采样概率分布重复执行候选策略采样，直至满足预设停止条件，输出越狱攻击测试结果。

9、第二方面，提供了一种基于离散策略搜索的大语言模型越狱攻击测试系统，包括：

10、任务参数获取模块，被配置为：获取待优化的越狱攻击测试任务参数；

11、搜索空间构建模块，被配置为：加载预先构建的核心策略维度和辅助结构维度，对所述辅助结构维度进行结构配置因子化处理，根据所述核心策略维度和所述结构配置因子构建候选策略搜索空间；

12、策略采样与提示生成模块，被配置为：根据当前采样概率分布在所述候选策略搜索空间中采样候选策略编码，将候选策略编码的结构配置因子展开为对应的辅助结构维度，并结合所述核心策略维度形成完整策略表达；基于所述完整策略表达和待优化的越狱攻击测试任务参数生成候选越狱攻击提示；

13、评分与更新模块，被配置为：将所述候选越狱攻击提示输入目标大语言模型，得到候选策略综合评分；对所述候选策略综合评分进行质量门控判断，将满足质量门控条件的对应候选策略加入历史精英记忆集合，并基于历史精英记忆集合和当前候选策略的评分结果更新采样概率分布；

14、迭代控制与输出模块，被配置为：基于更新后的采样概率分布重复执行候选策略采样，直至满足预设停止条件，输出越狱攻击测试结果。

15、第三方面，还提供了一种电子设备，包括：

16、存储器，用于非暂时性存储计算机可读指令；

17、处理器，用于运行所述计算机可读指令，

18、其中，所述计算机可读指令被所述处理器运行时，执行上述第一方面所述的方法。

19、第四方面，提供一种计算机可读存储介质，其上存储有程序，该程序被处理器执行时实现如上述第一方面所述方法。

20、第五方面，提供了一种计算机程序产品，采用如下技术方案：

21、一种计算机程序产品，包括软件代码，所述软件代码中的程序执行如本发明第一方面所述的方法中的步骤。

22、上述技术方案具有如下优点或有益效果：

23、本发明在八个核心策略维度基础上增加时间叙事、话语结构、语义粒度和校验方式四类辅助结构维度，使越狱攻击提示能够在更丰富的语言组织层面进行表达，提升复杂语境下越狱攻击提示的覆盖能力。

24、本发明将四个辅助结构维度进行结构配置因子化处理，形成一个结构配置因子维度，在保持十二维表达能力的同时，将实际搜索维度压缩为九维，避免直接扩维造成组合空间膨胀，提高有限查询预算下的搜索可行性。

25、本发明通过质量门控减少低质量样本误导，通过历史精英记忆提高高质量策略复用能力，并通过概率裁剪和分布回退降低早熟收敛和错误方向累积风险。

1.一种基于离散策略搜索的大语言模型越狱攻击测试方法，其特征在于，包括：

2.如权利要求1所述的基于离散策略搜索的大语言模型越狱攻击测试方法，其特征在于，所述核心策略维度具体包括：角色身份、行为引导、机制设计、隐喻映射、表达风格、知识关系、上下文设定和触发模式；所述辅助结构维度包括时间叙事、话语结构、语义粒度和校验方式。

3.如权利要求1所述的基于离散策略搜索的大语言模型越狱攻击测试方法，其特征在于，对所述辅助结构维度进行结构配置因子化处理，具体为：根据预设的结构组合规则以及各个辅助结构维度之间的语言功能一致性，将各辅助结构维度的候选取值预先组合为多个结构配置因子，形成结构配置因子维度；每个结构配置因子对应一组确定的辅助结构维度取值组合。

4.如权利要求1所述的基于离散策略搜索的大语言模型越狱攻击测试方法，其特征在于，将所述候选越狱攻击提示输入目标大语言模型，得到候选策略综合评分，具体为：将候选越狱攻击提示输入目标大语言模型，获得目标模型响应，并对所述目标模型响应进行标准化处理，根据测试任务参数对标准化后的目标模型响应进行候选策略综合评分；所述候选策略综合评分包括语义一致性得分和响应有效性得分。

5.如权利要求1所述的基于离散策略搜索的大语言模型越狱攻击测试方法，其特征在于，所述将满足质量门控条件的对应候选策略加入历史精英记忆集合，并基于历史精英记忆集合和当前候选策略的评分结果更新采样概率分布，具体为：当当前轮至少一个候选策略对应的候选策略综合评分达到质量门控阈值时，判定该轮候选策略具有可靠优化信号，将高分候选策略加入历史精英记忆集合，并结合当前轮精英样本和历史精英样本形成更新集合；根据候选策略综合评分形成分数加权经验分布，根据当前采样概率分布和分数加权经验分布更新各搜索维度的采样概率。

6.如权利要求1所述的基于离散策略搜索的大语言模型越狱攻击测试方法，其特征在于，基于所述完整策略表达和待优化的越狱攻击测试任务参数生成候选越狱攻击提示，具体为：根据完整策略表达中各策略维度的具体取值形成相应的提示生成约束，并将所述提示生成约束与待优化的越狱攻击测试任务参数按照预设提示格式进行组织；随后，将组织后的内容提供给提示生成大语言模型，由提示生成大语言模型按照提示生成约束生成对应的候选越狱攻击提示。

7.一种基于离散策略搜索的大语言模型越狱攻击测试系统，其特征在于，包括：

8.一种电子设备，其特征在于，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现了如权利要求1-6任一项所述的基于离散策略搜索的大语言模型越狱攻击测试方法中的步骤。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现了如权利要求1-6任一项所述的基于离散策略搜索的大语言模型越狱攻击测试方法中的步骤。

10.一种计算机程序产品，包括软件代码，其特征在于，所述软件代码中的程序执行如权利要求1-6中任一项所述的基于离散策略搜索的大语言模型越狱攻击测试方法中的步骤。