一种基于群体联合优化的循环神经网络模糊测试种子选择方法

摘要: 本发明涉及人工智能模型测试,具体涉及一种基于群体联合优化的循环神经网络模糊测试种子选择方法,适用于从图像序列、语音序列、文本序列、传感器序列及其他时间序列数据中...
一种基于群体联合优化的循环神经网络模糊测试种子选择方法

本发明涉及人工智能模型测试,具体涉及一种基于群体联合优化的循环神经网络模糊测试种子选择方法,适用于从图像序列、语音序列、文本序列、传感器序列及其他时间序列数据中筛选用于循环神经网络模糊测试的高价值初始种子。

背景技术:

1、循环神经网络(recurrent neural network,rnn)通过隐藏状态在时间维度上传递历史信息,能够对具有时序依赖关系的数据进行建模,已广泛应用于语音识别、自然语言处理、心电信号分类、行为识别和序列预测等任务。由于循环神经网络的分类结果依赖输入序列在多个时间步上的累积传播,其内部隐藏状态具有高维、非线性和时序相关等特征,输入中的细微扰动可能在状态传播过程中被放大,并导致分类结果发生变化。

2、模糊测试是一种通过持续生成和执行测试输入以发现目标系统异常行为的自动化测试技术。面向深度学习模型的模糊测试通常包括种子选择、样本变异、模型执行和反馈评价等阶段。其中,初始种子的质量会直接影响后续变异搜索的起点和测试资源的利用效率。当候选测试样本数量较大时,如果不对其测试价值进行区分,而是采用随机抽取或者顺序抽取的方式构建种子集合,大量测试资源容易被消耗在模型判别稳定的区域,难以触及容易发生分类变化的临界区域。

3、现有面向循环神经网络的测试样本选择方法,通常依据覆盖率、隐藏状态聚类结果、状态向量差异或样本代表性进行筛选。上述方法能够在一定程度上反映模型内部状态的分布,但仍存在以下问题:一是未显式构造和利用不同类别之间的决策边界,因而难以直接衡量候选样本与模型判别临界区域之间的距离;二是部分方法仅选择最接近某一局部高风险区域的样本,容易使种子集中在少数边界邻域,降低对整体决策空间的探索广度;三是部分方法仅强调样本分布多样性,而未同时考虑样本对决策边界的逼近程度,导致所选种子虽然分散,但不一定具有较高的错误触发潜力。

4、因此,需要一种能够利用循环神经网络内部隐藏状态表征,显式刻画模型决策边界,并在边界接近程度与边界区域分布多样性之间进行联合优化的测试种子选择方法,以在有限测试预算下获得更具测试价值的初始种子集合。

技术实现思路

1、本发明的目的在于提供一种基于群体联合优化的循环神经网络模糊测试种子选择方法,以解决现有技术中随机种子选择难以触及模型判别临界区域、单一距离优化容易造成种子局部聚集以及单一多样性优化无法保证种子错误触发潜力的问题。

2、为实现上述目的,本发明以待测试循环神经网络分类模型、训练样本集、候选测试样本集和目标种子数量为输入,以目标测试种子集合为输出。首先,通过定向跨类别样本生成和插值路径搜索构造决策边界实例,并提取决策边界实例在循环神经网络中的隐藏状态表示;其次,将候选测试样本映射至隐藏状态空间,计算候选测试样本到决策边界的最小距离,并根据最近决策边界实例划分边界邻域;再次,将包含预定数量候选测试样本的候选种子集合编码为群体级个体,分别计算其群体逼近度和群体分布熵,并形成联合适应度;最后,通过父代选择、集合级交叉、样本替换变异及种群更新对候选种子集合进行迭代优化,输出兼顾决策边界逼近能力和边界区域分布广度的目标测试种子集合。具体包括下列步骤:

3、1)决策边界实例构造:从训练样本集中选取基准样本,针对与基准样本原始类别不同的目标类别生成跨类别样本;在基准样本与跨类别样本之间构造插值路径,沿插值路径搜索使原始类别预测概率与目标类别预测概率接近的样本,并将该样本确定为决策边界实例;将决策边界实例输入待测试循环神经网络分类模型,提取对应隐藏状态表示,得到决策边界实例集合及边界隐藏状态集合。

4、2)候选样本边界距离计算:将候选测试样本集中的各候选测试样本输入待测试循环神经网络分类模型,提取候选隐藏状态表示;计算候选隐藏状态表示与边界隐藏状态集合中各边界隐藏状态表示之间的距离,将最小距离作为相应候选测试样本到决策边界的边界距离,并将取得最小距离的决策边界实例所对应的邻近区域确定为该候选测试样本所属的边界邻域。

5、3)候选种群构建与群体评价:将由目标种子数量个互不重复的候选测试样本构成的候选种子集合编码为一个个体,初始化由多个个体构成的候选种群;针对每个个体,根据个体内各候选测试样本的边界距离计算群体逼近度,根据个体内各候选测试样本在不同边界邻域中的分布计算群体分布熵,并对群体逼近度和群体分布熵进行加权融合,得到相应个体的联合适应度。

6、4)种子集合进化优化:依据联合适应度从当前候选种群中选择父代个体,对父代个体执行集合级交叉和样本替换变异,并对生成的子代个体执行重复样本消除和种子数量修复;利用子代个体形成新种群,重复执行群体评价和种群更新,直至达到预设进化代数或满足预设收敛条件;从最终候选种群中选取联合适应度最大的候选种子集合作为目标测试种子集合。

7、进一步地,在步骤1)中,设待测试循环神经网络分类模型为f,基准样本为xᵢ,基准样本的原始类别为yᵢ,选取任一满足yⱼ≠yᵢ的类别yⱼ作为目标类别。以目标类别yⱼ对应的分类损失为优化目标,计算所述分类损失相对于输入样本的梯度,并沿减小目标类别分类损失的方向对基准样本施加定向扰动。具体地,在第 r 次迭代中,沿减小目标类别分类损失的方向对当前样本进行更新,并将更新后的样本限制在有效输入域 ω 内,其迭代过程表示为:

8、

(1)

9、其中,r为定向扰动迭代次数,εa为定向扰动步长,l为分类损失函数,clipω表示将扰动后的样本限制在有效输入域ω内。

10、进一步地,在基准样本xᵢ与跨类别样本xⱼ之间构造如下线性插值路径:

11、

(2)

12、将α=0和α=1分别作为搜索区间的两个端点,计算区间中点样本对应于原始类别yᵢ和目标类别yⱼ的预测概率。当原始类别预测概率不小于目标类别预测概率时,使用中点替换原始类别一侧的端点;当原始类别预测概率小于目标类别预测概率时,使用中点替换目标类别一侧的端点。重复上述二分搜索,当中点样本b满足下式时,将其确定为类别yᵢ与类别yⱼ之间的决策边界实例:

13、

(3)

14、其中,pᵢ(b)和pⱼ(b)分别为待测试循环神经网络分类模型对中点样本b属于类别yᵢ和类别yⱼ的预测概率,β为边界判定阈值。二分搜索还可以在达到预设最大搜索次数或者搜索区间长度小于预设阈值时结束,并将当前概率差值最小的中点样本作为近似决策边界实例。

15、进一步地,将每个决策边界实例bk输入待测试循环神经网络分类模型,提取隐藏状态h(bk),形成边界隐藏状态集合hb。隐藏状态可以采用最后一层循环层在最后一个时间步输出的隐藏状态;对于包含双向循环层或者多层循环层的模型,也可以采用前向和后向隐藏状态拼接、多个时间步隐藏状态聚合或者多个循环层隐藏状态拼接的方式形成样本隐藏状态表示。

16、进一步地,在步骤2)中,对于候选测试样本sᵢ和决策边界实例bⱼ,按照如下公式计算二者在隐藏状态空间中的距离 d(sᵢ,bⱼ):

17、

(4)

18、候选测试样本sᵢ到决策边界实例集合b的边界距离为d(sᵢ,b):

19、

(5)

20、取得所述最小距离的决策边界实例记为b(sᵢ),并将候选测试样本sᵢ归入决策边界实例b(sᵢ)对应的边界邻域。

21、进一步地,在步骤3)中,将每一个决策边界实例及其邻近区域定义为一个边界邻域。设候选种子集合s中归入第k个边界邻域的候选测试样本数量为nk,候选种子集合包含的样本总数为|s|,则第k个边界邻域的分布概率为:

22、

(6)

23、根据各边界邻域的分布概率计算候选种子集合s的群体分布熵:

24、

(7)

25、其中,m为决策边界实例的数量,当pk为0时对应项取0。群体分布熵越大,表明候选种子样本分布于更多边界邻域且分布更加均衡,候选种子集合对整体决策边界的探索广度越高。

26、进一步地,对于包含n个候选测试样本的候选种子集合s,按照如下公式计算群体逼近度:

27、

(8)

28、其中,δ为防止分母为零而设置的正数。群体逼近度越大,表明候选种子集合在隐藏状态空间中整体越接近决策边界,作为后续模糊测试初始种子的潜在测试价值越高。

29、进一步地,按照如下公式对群体逼近度和群体分布熵进行加权融合,获得候选种子集合s的联合适应度:

30、

(9)

31、其中,λ1和λ2分别为群体逼近度与群体分布熵的非负权重,且λ1与λ2不同时为0。通过调整λ1和λ2,可以根据测试任务在深度探索和广度探索之间进行权衡。

32、进一步地,在步骤4)中,候选种群中的每一个个体由目标种子数量个互不重复的候选测试样本索引构成。采用锦标赛选择方式从当前候选种群中选择两个父代个体;以预设交叉概率对两个父代个体执行集合级交叉,从父代样本索引的并集、交集或者其组合中生成中间子代个体;以预设变异概率将中间子代个体中的至少一个候选测试样本替换为候选测试样本集中的其他候选测试样本。

33、在子代更新过程中,删除重复的候选测试样本索引;当子代个体的样本数量小于目标种子数量时,从未被选择的候选测试样本中补充样本;当子代个体的样本数量大于目标种子数量时,根据随机方式、边界距离或者对联合适应度的边际贡献删除多余样本,从而使每个子代个体始终包含目标种子数量个互不重复的候选测试样本。

34、当新生成的子代个体数量达到预设种群规模时,可以采用整代更新策略,以新种群替换当前候选种群;也可以采用精英保留策略,将当前候选种群中联合适应度最高的一个或多个个体保留至新种群。达到预设进化代数,或者最优联合适应度在连续若干代内的变化量小于预设收敛阈值时,终止进化过程。

35、进一步,其中上述步骤1)的具体步骤如下:

36、步骤1)-1:获取待测试循环神经网络分类模型f和训练样本集t;

37、步骤1)-2:从训练样本集t中选取多个基准样本,形成基准样本集合;

38、步骤1)-3:针对每个基准样本xᵢ,确定其原始类别yᵢ,并从其余类别中确定至少一个目标类别yⱼ;

39、步骤1)-4:根据目标类别yⱼ对应的分类损失相对于输入的梯度,对基准样本xᵢ执行定向扰动,并对扰动后的样本执行有效输入范围约束;

40、步骤1)-5:判断扰动后的样本是否进入目标类别yⱼ的判别区域;若否,则继续执行定向扰动;若是,则将其记录为跨类别样本xⱼ;

41、步骤1)-6:在基准样本xᵢ与跨类别样本xⱼ之间构造插值路径,并初始化二分搜索区间;

42、步骤1)-7:计算搜索区间中点样本对应于原始类别yᵢ和目标类别yⱼ的预测概率,并依据两类预测概率的大小关系更新搜索区间;

43、步骤1)-8:当两类预测概率差值小于边界判定阈值β时,将中点样本确定为决策边界实例,并记录其关联的原始类别和目标类别;

44、步骤1)-9:重复步骤1)-3至步骤1)-8,构建决策边界实例集合b;

45、步骤1)-10:将决策边界实例集合b中的各决策边界实例输入待测试循环神经网络分类模型,提取对应隐藏状态表示,得到边界隐藏状态集合hb

46、进一步,其中上述步骤2)的具体步骤如下:

47、步骤2)-1:获取候选测试样本集c;

48、步骤2)-2:将候选测试样本集c中的各候选测试样本输入待测试循环神经网络分类模型,提取候选隐藏状态表示;

49、步骤2)-3:计算每个候选隐藏状态表示与边界隐藏状态集合hb中各边界隐藏状态表示之间的距离;

50、步骤2)-4:将各距离中的最小值记录为相应候选测试样本到决策边界的边界距离;

51、步骤2)-5:记录取得最小距离的决策边界实例标识,并将候选测试样本归入该决策边界实例对应的边界邻域;

52、步骤2)-6:保存各候选测试样本的边界距离及边界邻域标识,形成候选样本边界信息表。

53、进一步,其中上述步骤3)的具体步骤如下:

54、步骤3)-1:根据目标种子数量k,从候选测试样本集中随机选取k个互不重复的候选测试样本构成一个候选种子集合;

55、步骤3)-2:重复生成多个候选种子集合,并将每个候选种子集合编码为一个个体,形成初始候选种群p;

56、步骤3)-3:针对候选种群p中的每一个个体s,读取个体内各候选测试样本的边界距离和边界邻域标识;

57、步骤3)-4:根据各候选测试样本的边界距离计算个体s的群体逼近度prox(s);

58、步骤3)-5:统计个体s中候选测试样本在各边界邻域中的样本数量和分布概率;

59、步骤3)-6:根据各边界邻域的分布概率计算个体s的群体分布熵hdiv(s);

60、步骤3)-7:根据群体逼近度、群体分布熵及其权重计算个体s的联合适应度fp(s);

61、步骤3)-8:记录候选种群中各个体的联合适应度,并确定当前最优个体。

62、进一步,其中上述步骤4)的具体步骤如下:

63、步骤4)-1:根据联合适应度从当前候选种群中选择两个父代个体;

64、步骤4)-2:根据预设交叉概率判断是否执行集合级交叉;若执行,则融合两个父代个体的样本索引以生成中间子代个体;若不执行,则复制其中一个父代个体作为中间子代个体;

65、步骤4)-3:根据预设变异概率判断是否执行样本替换变异;若执行,则从中间子代个体中选取至少一个样本索引,并使用候选测试样本集中未被该个体选取的其他样本索引进行替换;

66、步骤4)-4:删除子代个体中的重复样本索引,并通过补充或删除样本执行种子数量修复,使子代个体包含k个互不重复的候选测试样本;

67、步骤4)-5:将修复后的子代个体加入新种群,重复步骤4)-1至步骤4)-4,直至新种群达到预设种群规模;

68、步骤4)-6:计算新种群中各个体的群体逼近度、群体分布熵和联合适应度;

69、步骤4)-7:使用新种群替换当前候选种群,或者采用精英保留策略构成更新后的候选种群;

70、步骤4)-8:判断是否达到预设进化代数或者满足预设收敛条件;若否,则返回步骤4)-1;若是,则终止进化;

71、步骤4)-9:从最终候选种群中选取联合适应度最大的候选种子集合,并将其作为目标测试种子集合输出。