归因解释方法的稳定性的确定方法、装置和设备

技术特征：
1.一种归因解释方法的稳定性的确定方法，其特征在于，包括：获取样本文本；对所述样本文本进行文本对抗攻击，得到攻击后的样本文本；分别对样本文本和所述攻击后的样本文本采用多个归因解释方法进行解释，得到样本文本中各个单词的归因值以及攻击后的样本文本中各个单词的归因值；基于所述样本文本中各个单词的归因值以及攻击后的样本文本中各个单词的归因值，确定各个归因解释方法对应的归因值排序发生变化的单词数量；根据归因值排序发生变化的单词数量，确定各个归因解释方法的稳定性。2.根据权利要求1所述的归因解释方法的稳定性的确定方法，其特征在于，所述对所述样本文本进行文本对抗攻击，得到攻击后的样本文本，包括：确定样本文本中的各个单词的攻击顺序及各个单词对应的同义词集合；根据所述攻击顺序和各个单词对应的同义词集合，对样本文本进行攻击，得到攻击后的样本文本。3.根据权利要求1所述的归因解释方法的稳定性的确定方法，其特征在于，所述根据所述攻击顺序和各个单词对应的同义词集合，对样本文本进行攻击，得到攻击后的样本文本各个单词，包括：对各个单词对应的同义词集合中的各个同义词进行打分，得到各个同义词的打分结果；根据所述攻击顺序和各个单词对应的所述同义词的打分结果，对样本文本进行攻击。4.根据权利要求3所述的归因解释方法的稳定性的确定方法，其特征在于，所述对各个单词对应的同义词集合中的各个同义词进行打分，得到各个同义词的打分结果，包括：根据样本文本中的各个单词的同义词，对样本文本中的单词进行替换，得到各个目标文本；所述目标文本包括所述所述同义词；分别对样本文本和所述目标文本采用归因解释方法进行解释，得到样本文本中各个单词的归因值以及目标文本中各个单词的归因值；根据所述样本文本中各个单词的归因值及各个目标文本中各个单词的归因值，确定各个同义词对应的各个目标文本中归因值排序发生变化的单词数量；根据各个目标文本中归因值排序发生变化的单词数量，对各个同义词进行打分，得到各个同义词的打分结果。5.根据权利要求4所述的归因解释方法的稳定性的确定方法，其特征在于，所述根据归因值排序发生变化的单词数量，确定各个归因解释方法的稳定性，包括：根据归因值排序发生变化的单词数量和预设的攻击成功条件，确定各个归因解释方法的攻击成功率；根据各个归因解释方法的攻击成功率，确定各个归因解释方法的稳定性。6.根据权利要求4或5所述的归因解释方法的稳定性的确定方法，其特征在于，所述根据归因值排序发生变化的单词数量，确定各个归因解释方法的稳定性，包括：所述根据归因值排序发生变化的单词数量，确定各个归因解释方法的解释相似度；根据各个归因解释方法的解释相似度，确定各个归因解释方法的稳定性。7.一种归因解释方法的稳定性的确定装置，其特征在于，包括：
获取模块，用于获取样本文本；处理模块，用于对所述样本文本进行文本对抗攻击，得到攻击后的样本文本；分别对样本文本和所述攻击后的样本文本采用多个归因解释方法进行解释，得到样本文本中各个单词的归因值以及攻击后的样本文本中各个单词的归因值；基于所述样本文本中各个单词的归因值以及攻击后的样本文本中各个单词的归因值，确定各个归因解释方法对应的归因值排序发生变化的单词数量；确定模块，用于根据归因值排序发生变化的单词数量，确定各个归因解释方法的稳定性。8.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至6任一项所述的归因解释方法的稳定性的确定方法。9.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现如权利要求1至6任一项所述的归因解释方法的稳定性的确定方法。10.一种计算机程序产品，其上存储有可执行指令，其特征在于，该指令被处理器执行时使处理器实现如权利要求1至6中任一项所述的归因解释方法的稳定性的确定方法。

技术总结
本发明实施例提供一种归因解释方法的稳定性的确定方法、装置和设备，该方法包括：获取样本文本；对样本文本进行文本对抗攻击，得到攻击后的样本文本；分别对样本文本和攻击后的样本文本采用多个归因解释方法进行解释，得到样本文本中各个单词的归因值以及攻击后的样本文本中各个单词的归因值；基于样本文本中各个单词的归因值以及攻击后的样本文本中各个单词的归因值，确定各个归因解释方法对应的归因值排序发生变化的单词数量；根据归因值排序发生变化的单词数量，确定各个归因解释方法的稳定性。本发明实施例的方法为归因解释方法的衡量和选择提供了合理准确的评价标准，实现了对各个归因解释方法优劣的准确衡量。对各个归因解释方法优劣的准确衡量。对各个归因解释方法优劣的准确衡量。


技术研发人员：张元哲 刘康 赵军 杨朝
受保护的技术使用者：中国科学院自动化研究所
技术研发日：2022.08.31
技术公布日：2022/12/1