一种基于大语言模型的自动化中文对抗文本生成方法及系统与流程

本发明涉及一种基于大语言模型的自动化中文对抗文本生成方法及系统，属于信息安全。

背景技术：

1、对抗文本是一种向原始文本中加入人类难以察觉的微小扰动后，能够触发目标模型错误预测的恶意样本，研究对抗文本生成方法，能够评估包括当下流行的大语言模型（large language model, llm）在内的各种深度学习模型的对抗鲁棒性，并为后续防御工作的设计打下坚实基础，基于llm的对抗文本生成方法能够生成流畅性更高的对抗文本，然而当前此类方法往往将该问题看作一个整体进行处理，或仅让llm参与某个子任务，这可能会导致该问题无法得到更细致有效的处理或无法完全实现基于llm的自动化。

技术实现思路

1、针对现有技术的不足，本发明提供一种基于大语言模型的自动化中文对抗文本生成方法及系统，将词符级对抗文本生成拆解为两个子任务，分别是词语重要性排序以及扰动添加，通过让llm依次参与这两个子任务，使其覆盖整个对抗文本生成方法的全流程，从而在更加细致有效地处理每个子任务的同时，降低对抗文本的生成门槛。

2、术语解释：

3、llm：large language model, 大语言模型，现有的llm通常基于transformer架构，其通过学习大量文本中的语言规律，在输入上下文的基础上逐步预测并生成下一个token，从而完成对话、写作和问答等任务。

4、模型架构：其核心模块包括分词器、词向量层、位置信息、transformer层、自注意力机制、前馈神经网络以及输出层。

5、工作过程：llm的工作过程如下。首先，用户向llm输入一句自然语言；随后，将用户输入的自然语言分词并转变为词向量；接下来，需要将词向量输入给多层的transformer，使得模型在每一层里结合上下文信息调整对输入内容的理解；最后，模型会得到一个概率分布，并从中选择一个最合适的词语进行输出。重复上述步骤，llm即可输出多个词语并组成最终的回答。

6、本发明的技术方案如下：

7、一种基于大语言模型的自动化中文对抗文本生成方法，步骤如下：

8、（1）基于llm进行词语重要性排序，由于llm给出的回答具有较高的随机性，因此进行多轮重复问询，以获得相对准确和稳定的排序结果，由于llm每一轮回答的结果以词语的形式呈现，无法给出每个词语对应的重要性分数，为了便于获得最终的词语重要性有序列表，为每一轮给出的重要词语进行赋分操作；

9、（2）基于llm的扰动添加。

10、根据本发明优选的，步骤（1）中，赋分操作使用基于等差数列的赋分方法。

11、根据本发明进一步优选的，赋分操作具体步骤如下：

12、设等差数列的公差为

η，重要词语列表中包含的词语数量为m，给定文本中包含的词语总数为

n，设某个词语重要性排序第

i位，则其词语重要性分数

s

i通过下式计算：

13、（1）

14、给定重复问询的轮数为

r，设第

j轮问询中，文本第

k个词语的重要性分数表示为

s

jk，若第

k个词语为llm挑选的前

m个重要词语，则按公式（1）的情况一计算其重要性分数；若第

k个词语不是llm挑选的前

m个重要词语，则按公式（1）的情况二将其重要性分数置0即可，对于文本中第

k个词语，问询

r轮后得到的总重要性分数

i

k用下式计算：

15、（2）

16、对词语的总重要性分数进行归一化处理，得到最终第

k个词语的重要性分数；

17、设最终得到重要性分数非0的词语数量为

x，而

x≥

m，因此，将最终得到的词语列表按重要性分数大小由高到低排序，并截取前

m个重要词语，作为在

r轮问询的过程中llm挑选的最终的重要词语列表。

18、根据本发明优选的，公差

η通过下式计算：

19、 （3）。

20、根据本发明优选的，重要性分数计算式为：

21、 （4）。

22、根据本发明优选的，步骤（2）中，在词语重要性排序阶段中，llm选出了

m个重要词语并排序，而在重要词语扰动阶段中，则需要基于llm向挑选出的重要词语中添加扰动，在添加扰动的过程中，主要应用以下几种扰动策略：打乱词语中汉字的顺序、将汉字拆成组成它的偏旁部首、同义词替换、形近字替换和谐音词替换。

23、一种基于大语言模型的自动化中文对抗文本生成系统，包括：

24、排序模块，基于llm进行词语重要性排序，由于llm给出的回答具有较高的随机性，因此进行多轮重复问询，以获得相对准确和稳定的排序结果，由于llm每一轮回答的结果以词语的形式呈现，无法给出每个词语对应的重要性分数，为了便于获得最终的词语重要性有序列表，为每一轮给出的重要词语进行赋分操作；

25、扰动模块，基于llm进行扰动添加。

26、本发明的有益效果在于：

27、本发明将词符级对抗文本生成拆解为两个子任务，分别是词语重要性排序以及扰动添加，通过让llm依次参与这两个子任务，使其覆盖整个对抗文本生成方法的全流程，从而在更加细致有效地处理每个子任务的同时，降低对抗文本的生成门槛。

1.一种基于大语言模型的自动化中文对抗文本生成方法，其特征在于，步骤如下：

2.如权利要求1所述的基于大语言模型的自动化中文对抗文本生成方法，其特征在于，步骤（1）中，赋分操作使用基于等差数列的赋分方法。

3.如权利要求2所述的基于大语言模型的自动化中文对抗文本生成方法，其特征在于，赋分操作具体步骤如下：

4.如权利要求3所述的基于大语言模型的自动化中文对抗文本生成方法，其特征在于，公差η通过下式计算：

5.如权利要求4所述的基于大语言模型的自动化中文对抗文本生成方法，其特征在于，重要性分数计算式为：

6.如权利要求5所述的基于大语言模型的自动化中文对抗文本生成方法，其特征在于，步骤（2）中，在词语重要性排序阶段中，llm选出了m个重要词语并排序，而在重要词语扰动阶段中，则需要基于llm向挑选出的重要词语中添加扰动，在添加扰动的过程中，主要应用以下几种扰动策略：打乱词语中汉字的顺序、将汉字拆成组成它的偏旁部首、同义词替换、形近字替换和谐音词替换。

7.一种基于大语言模型的自动化中文对抗文本生成系统，其特征在于，包括：