一种模型测试方法、装置及电子设备与流程

技术特征：
1.一种模型测试方法，包括：获取噪声图序列，所述噪声图序列中包括目标噪声图；获取目标扰动图像，所述目标扰动图像由所述目标噪声图与预先获取的原始图像融合得到；使用所述目标扰动图像对第一模型进行测试，以得到所述第一模型的测试结果，所述测试结果用于评估模型的鲁棒性。2.如权利要求1所述的方法，其中，所述获取噪声图序列，包括：获取透明图，以及随机噪声；基于所述随机噪声，针对所述透明图执行m次迭代操作，得到包括m个噪声图的噪声图序列，其中，第一次迭代操作为在所述透明图上叠加所述随机噪声，第m次迭代操作为在所述第m-1次迭代操作得到的噪声图上叠加所述随机噪声，所述目标噪声图为所述m个噪声图中的噪声图，m为大于1的整数，m为大于1，且小于或者等于m的整数。3.如权利要求2所述的方法，其中，所述获取目标扰动图像，包括：获取扰动图序列，所述扰动图序列包括多个扰动图像，所述多个扰动图像分别由所述m个噪声图与所述原始图像融合得到，所述多个扰动图像包括所述目标扰动图像；所述使用所述目标扰动图像对第一模型进行测试，以得到所述第一模型的测试结果，包括：基于预设迭代次数间隔，获取所述多个扰动图像中的目标扰动图像，所述目标扰动图像包括n个扰动图像，n为小于或等于m的整数；基于所述n个扰动图像对应的迭代次数，依次使用所述n个扰动图像对所述第一模型进行测试，以得到所述第一模型的测试结果。4.如权利要求3所述的方法，其中，所述基于所述n个扰动图像对应的迭代次数，依次使用所述n个扰动图像对所述第一模型进行测试，以得到所述第一模型的测试结果，包括：基于所述n个扰动图像对应的迭代次数，依次使用所述n个扰动图像对所述第一模型进行测试，直至所述第一模型的测试结果包括无法识别所述原始图像的结果，所述第一模型的测试结果还包括：所述无法识别所述原始图像的结果对应的扰动图像与所述原始图像之间的像素差值。5.如权利要求3所述的方法，所述基于所述n个扰动图像对应的迭代次数，依次使用所述n个扰动图像对所述第一模型进行测试，以得到所述第一模型的测试结果之后，还包括：基于所述n个扰动图像对应的迭代次数，依次使用所述n个扰动图像对第二模型进行测试，以得到所述第二模型的测试结果，所述第二模型为与所述第一模型识别任务相同的模型；比较所述第一模型的测试结果与所述第二模型的测试结果，以确定所述第一模型和所述第二模型的鲁棒性的比较结果。6.如权利要求3所述的方法，所述基于预设迭代次数间隔，获取所述多个扰动图像中的至少部分扰动图像之前，还包括：获取模型测试的颗粒度参数；基于所述颗粒度参数，确定所述预设迭代次数间隔。7.如权利要求1至6中任一项所述的方法，所述使用所述目标扰动图像对第一模型进行
测试，以得到所述第一模型的测试结果之前，还包括：获取所述噪声图序列中每一噪声图的像素值；所述使用所述目标扰动图像对第一模型进行测试，以得到所述第一模型的测试结果之后，所述方法还包括：在所述测试结果包括无法识别所述原始图像的结果的情况下，输出所述目标噪声图的像素值。8.一种模型测试装置，包括：第一获取模块，用于获取噪声图序列，所述噪声图序列中包括目标噪声图；第二获取模块，用于获取目标扰动图像，所述目标扰动图像由所述目标噪声图与预先获取的原始图像融合得到；第一测试模块，用于使用所述目标扰动图像对第一模型进行测试，以得到所述第一模型的测试结果，所述测试结果用于评估模型的鲁棒性。9.如权利要求8所述的装置，其中，所述第一获取模块，包括：第一获取单元，用于获取透明图，以及随机噪声；迭代单元，用于基于所述随机噪声，针对所述透明图执行m次迭代操作，得到包括m个噪声图的噪声图序列，其中，第一次迭代操作为在所述透明图上叠加所述随机噪声，第m次迭代操作为在所述第m-1次迭代操作得到的噪声图上叠加所述随机噪声，所述目标噪声图为所述m个噪声图中的噪声图，m为大于1的整数，m为大于1，且小于或者等于m的整数。10.如权利要求9所述的装置，其中，所述第二获取模块，包括：第二获取单元，用于获取扰动图序列，所述扰动图序列包括多个扰动图像，所述多个扰动图像分别由所述m个噪声图与所述原始图像融合得到，所述多个扰动图像包括所述目标扰动图像；所述第一测试模块，包括：第三获取单元，用于基于预设迭代次数间隔，获取所述多个扰动图像中的目标扰动图像，所述目标扰动图像包括n个扰动图像，n为小于或等于m的整数；测试单元，用于基于所述n个扰动图像对应的迭代次数，依次使用所述n个扰动图像对所述第一模型进行测试，以得到所述第一模型的测试结果。11.如权利要求10所述的装置，其中，所述测试单元，包括：测试子单元，用于基于所述n个扰动图像对应的迭代次数，依次使用所述n个扰动图像对所述第一模型进行测试，直至所述第一模型的测试结果包括无法识别所述原始图像的结果，所述第一模型的测试结果还包括：所述无法识别所述原始图像的结果对应的扰动图像与所述原始图像之间的像素差值。12.如权利要求10所述的装置，还包括：第二测试模块，用于基于所述n个扰动图像对应的迭代次数，依次使用所述n个扰动图像对第二模型进行测试，以得到所述第二模型的测试结果，所述第二模型为与所述第一模型识别任务相同的模型；比较模块，用于比较所述第一模型的测试结果与所述第二模型的测试结果，以确定所述第一模型和所述第二模型的鲁棒性的比较结果。13.如权利要求10所述的装置，还包括：
第三获取模块，用于获取模型测试的颗粒度参数；确定模块，用于基于所述颗粒度参数，确定所述预设迭代次数间隔。14.如权利要求8至13中任一项所述的装置，还包括：第四获取模块，用于获取所述噪声图序列中每一噪声图的像素值；输出模块，用于在所述测试结果包括无法识别所述原始图像的结果的情况下，输出所述目标噪声图的像素值。15.一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。16.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的方法。17.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-7中任一项所述的方法。

技术总结
本公开提供了一种模型测试方法、装置及电子设备，涉及图像处理技术领域，尤其涉及人工智能技术领域。具体实现方案为：获取噪声图序列，所述噪声图序列中包括目标噪声图；获取目标扰动图像，所述目标扰动图像由所述目标噪声图与预先获取的原始图像融合得到；使用所述目标扰动图像对第一模型进行测试，以得到所述第一模型的测试结果，所述测试结果用于评估模型的鲁棒性。本公开可以提高模型测试的效率。本公开可以提高模型测试的效率。本公开可以提高模型测试的效率。


技术研发人员：张华正
受保护的技术使用者：北京百度网讯科技有限公司
技术研发日：2022.02.21
技术公布日：2022/5/31