一种数据交易模型公平性测试方法、系统、设备及介质与流程

本发明涉及数据交易安全，尤其涉及一种数据交易模型公平性测试方法、系统、设备及介质。

背景技术：

1、随着深度学习在数据交易等社会公共领域的广泛应用，模型极易继承训练数据中的偏见并做出违背伦理的歧视性决策，因此引入公平性测试至关重要。然而，由于模型决策的低可解释性以及偏见在样本空间中的隐蔽性，现有的公平性测试方法主要通过生成个体歧视样本进行检测，亟需通过增强样本的多样性来提升测试的全面性。

2、当前主流的公平性测试方法虽采用全局搜索与局部生成相结合的梯度搜索策略，但仍存在明显局限：一方面，过度依赖当前梯度信息易导致搜索路径单一和样本重复生成；另一方面，梯度引导策略缺乏对样本与决策边界关联关系的考量，导致全局搜索效率低下，难以全面、高效地覆盖模型的偏见决策行为。

技术实现思路

1、鉴于上述现有存在的问题，提出了本发明。

2、因此，本发明提供了一种数据交易模型公平性测试方法、系统、设备及介质解决现有的公平性测试方法只关注当前梯度信息且未考虑样本与决策边界间的关联关系，导致迭代过程容易陷入相同的搜索路径，降低全局搜索阶段对样本空间中个体歧视样本的搜索效率的问题。

3、为解决上述技术问题，本发明提供如下技术方案：

4、第一方面，本发明提供了一种数据交易模型公平性测试方法，包括：

5、获取待测试数据交易模型的原始测试样本集合，对原始测试样本集合进行聚类处理，并以轮询方式从各聚类簇中抽取种子样本构成种子样本集合；

6、对所述种子样本集合执行全局迭代搜索，计算待测试模型输出的基尼值梯度，并依据所述基尼值梯度引导种子样本的属性值更新，直至搜索到预测输出发生改变的样本，并将所述样本记为初始歧视样本；

7、将所述初始歧视样本作为起点执行局部迭代生成，在每次迭代中利用多臂老虎机算法在梯度搜索策略与历史经验策略之间动态选择路径搜索策略，并根据所选策略更新所述初始歧视样本的属性值，以生成新的个体歧视样本；

8、基于迭代生成的所有新的个体歧视样本构成的个体歧视样本集，对待测试模型进行公平性测试，得到公平性测试结果。

9、作为本发明所述的数据交易模型公平性测试方法的一种优选方案，其中：所述对原始测试样本集合进行聚类处理，并以轮询方式从各聚类簇中抽取种子样本构成种子样本集合，包括：

10、利用聚类算法根据所述受保护属性及非受保护属性对所述原始测试样本集合进行聚类，得到多个聚类簇；

11、计算每个所述聚类簇的样本密度，并根据所述样本密度确定每个所述聚类簇的抽样数量；

12、按照所述抽样数量，以轮询方式从每个所述聚类簇中随机抽取样本，并将抽取的样本组合构成所述种子样本集合。

13、作为本发明所述的数据交易模型公平性测试方法的一种优选方案，其中：所述计算待测试模型输出的基尼值梯度，并依据所述基尼值梯度引导种子样本的属性值更新，包括：

14、构建基于基尼指数的公平性损失函数，计算所述待测试模型针对所述种子样本集合中样本的预测输出相对于所述种子样本的属性值的梯度，得到所述基尼值梯度；

15、根据所述基尼值梯度计算各属性对应的选择概率，并按照所述选择概率从所述种子样本的属性中确定目标更新属性；

16、依据所述目标更新属性对应的梯度符号确定属性值更新方向，并根据所述属性值更新方向对所述目标更新属性的属性值进行更新。

17、作为本发明所述的数据交易模型公平性测试方法的一种优选方案，其中：所述利用多臂老虎机算法在梯度搜索策略与历史经验策略之间动态选择路径搜索策略，包括：

18、生成一个随机数；

19、响应于所述随机数小于预设的策略选择阈值，选择梯度搜索策略作为当前迭代的路径搜索策略；

20、响应于所述随机数大于等于所述策略选择阈值，选择历史经验策略作为当前迭代的路径搜索策略。

21、本优选技术方案的有益效果为，通过状态参数阈值动态切换策略确立机制，并结合成功率与多样性贡献度进行加权奖励计算，实现了探索与利用的动态平衡，有效避免了搜索路径陷入局部最优，从而显著提升了生成的个体歧视样本的多样性与全局搜索效率。

22、作为本发明所述的数据交易模型公平性测试方法的一种优选方案，其中：所述根据所选策略更新所述初始歧视样本的属性值，包括：

23、响应于所述路径搜索策略为所述梯度搜索策略，计算所述待测试模型输出的基尼值对当前初始样本各非保护属性的梯度，对所述各非保护属性的梯度绝对值进行反向归一化处理，得到各属性对应的选择概率，并根据所述选择概率选择目标属性进行更新；

24、响应于所述路径搜索策略为所述历史经验策略，获取各非保护属性在历史迭代中的历史成功率，并按所述历史成功率的高低选择目标属性进行更新；

25、所述历史成功率是根据所述属性在历史迭代中被选中的总次数与成功使更新所得样本被判定为个体歧视样本的成功次数的比值计算得到的；

26、在每次属性更新后，若生成的样本被判定为个体歧视样本，则增加对应目标属性的成功次数和总次数；

27、若未被判定为个体歧视样本，则仅增加对应目标属性的总次数；

28、并根据更新后的成功次数与总次数的比值更新所述属性的历史成功率。

29、本优选技术方案的有益效果为，通过结合局部梯度反方向扰动与历史相似样本偏移更新，实现了确定性探索与经验性引导的互补，有效拓宽了样本的搜索空间，进一步增强了生成的个体歧视样本的多样性。

30、作为本发明所述的数据交易模型公平性测试方法的一种优选方案，其中：所述直至搜索到预测输出发生改变的样本，并将所述样本记为初始歧视样本，包括：

31、在迭代过程中，构建与当前种子样本对应的相似样本，所述相似样本是指与当前种子样本的非保护属性取值全部相同、且至少一个保护属性取值不同的样本；

32、若当前种子样本与所述相似样本经待测试模型的预测输出不同，则判定搜索到预测输出发生改变的样本，并将当前种子样本记为初始歧视样本。

33、作为本发明所述的数据交易模型公平性测试方法的一种优选方案，其中：所述基于迭代生成的所有新的个体歧视样本构成的个体歧视样本集，对待测试模型进行公平性测试，包括：

34、统计所述个体歧视样本集中的样本总数以及导致所述待测试模型产生歧视性预测结果的样本数量；

35、根据所述样本总数与所述样本数量计算个体歧视覆盖率指标；

36、将所述个体歧视覆盖率指标与预设公平性阈值进行比较，响应于所述个体歧视覆盖率指标超过所述预设公平性阈值，判定所述待测试模型未通过公平性测试。

37、第二方面，本发明提供了一种数据交易模型公平性测试系统，包括：

38、聚类选种模块，用于获取待测试数据交易模型的原始测试样本集合，对原始测试样本集合进行聚类处理，并以轮询方式从各聚类簇中抽取种子样本构成种子样本集合；

39、全局搜索模块，用于对所述种子样本集合执行全局迭代搜索，计算待测试模型输出的基尼值梯度，并依据所述基尼值梯度引导种子样本的属性值更新，直至搜索到预测输出发生改变的样本，并将所述样本记为初始歧视样本；

40、局部生成模块，用于将所述初始歧视样本作为起点执行局部迭代生成，在每次迭代中利用多臂老虎机算法在梯度搜索策略与历史经验策略之间动态选择路径搜索策略，并根据所选策略更新所述初始歧视样本的属性值，以生成新的个体歧视样本；

41、公平性测试模块，用于基于迭代生成的所有新的个体歧视样本构成的个体歧视样本集，对待测试模型进行公平性测试，得到公平性测试结果。

42、第三方面，本发明提供了一种计算机设备，包括：

43、存储器，用于存储程序；

44、处理器，用于执行所述计算机可执行指令，该计算机可执行指令被处理器执行时实现所述数据交易模型公平性测试方法的步骤。

45、第四方面，本发明提供了一种计算机可读存储介质，包括：所述程序被处理器执行时，实现所述的数据交易模型公平性测试方法的步骤。

46、本发明的有益效果：本发明通过构建基于基尼指数的公平性损失函数，计算待测试模型输出的基尼值梯度，并依据该梯度引导种子样本属性值更新，实现了对模型决策边界的定向逼近，有效提升了初始歧视样本的搜索效率；通过利用多臂老虎机算法在梯度搜索策略与历史经验策略之间动态选择路径搜索策略，并结合成功率及多样性贡献度计算累积奖励值以确定最优路径，实现了搜索过程中探索与利用的动态平衡，避免了搜索路径陷入局部最优；通过根据所选策略分别执行沿局部梯度反方向的扰动更新或向高相似度历史参考样本的偏移更新，实现了确定性探索与经验性引导的互补，显著拓宽了样本搜索空间，增强了生成的个体歧视样本的多样性。