一种基于特征一致性的深度学习模型合理性判别方法

本发明涉及深度学习，更具体地说，本发明涉及一种基于特征一致性的深度学习模型合理性判别方法。

背景技术：

1、在深度学习模型的实际部署应用过程中，通常依赖训练阶段所形成的样本分布特征与模型解释结果来保证预测行为的稳定性，其中基于归因图的可解释性分析方式能够在一定程度上反映模型对输入特征的关注区域与决策依据，训练环境与部署环境在数据采集条件、样本结构以及输入语义分布方面往往存在客观差异，使得模型在部署阶段产生的归因图分布与训练阶段归因基准模式之间逐渐出现偏离现象。

2、现有技术存在以下不足：

3、目前，现有技术仅通过单一归因图相似性或静态阈值方式对训练域与部署域的特征一致性进行判断，无法形成跨域归因分布的动态基准建模与分区级差异联合分析机制，导致对归因偏移的识别粒度较粗且难以区分不同类型的劣化演化模式，因此，提出一种基于特征一致性的深度学习模型合理性判别方法。

4、在所述背景技术部分公开的上述信息仅用于加强对本公开的背景的理解，因此它可以包括不构成对本领域普通技术人员已知的现有技术的信息。

技术实现思路

1、为了克服现有技术的上述缺陷，本发明的实施例提供一种基于特征一致性的深度学习模型合理性判别方法，通过运用训练域样本归因图集合构建归因基准模式并结合部署域样本归因图实现跨域归因偏移量量化评估与分级预警并引入分区归因分析与历史劣化模式匹配实现漂移类型识别及归因基准反馈修正以解决上述背景技术中提出的问题。

2、为实现上述目的，本发明提供如下技术方案，一种基于特征一致性的深度学习模型合理性判别方法，包括以下步骤：

3、步骤s1：调取训练域样本归因图集合生成训练域归因基准模式，采集部署域样本归因图，综合训练域归因基准模式与部署域样本归因图计算跨域归因偏移量，基于跨域归因偏移量判断是否进入劣化预警比对状态；

4、步骤s2：进入劣化预警比对状态后，采集部署域样本输入图像，根据部署域样本输入图像对部署域样本归因图执行区域划分生成部署归因区域分布，训练域归因基准模式分析分区偏移特征，综合跨域归因偏移量与分区偏移特征设定归因漂移等级；

5、步骤s3：读取历史已确认劣化样本归因图集合，基于历史已确认劣化样本归因图集合提取历史劣化漂移模式，结合归因漂移等级生成漂移类型识别结果，根据漂移类型识别结果设置部署合理性预警指令；

6、步骤s4：根据部署合理性预警指令对训练域归因基准模式执行反馈修正，生成修正后的训练域归因基准模式。

7、在一个优选的实施方式中，在步骤s1中，训练域是一种深度学习模型完成训练所依据的样本集合所处的数据采集环境；

8、归因图通过装设于训练服务器的可解释性运算单元生成；

9、将训练域样本归因图集合中各归因图在同一像素位置上的取值进行算术平均与区间标准化处理，得到训练域归因基准模式；

10、将已训练好的深度学习模型部署至部署域后，对部署域待评估样本通过同一可解释性算法生成部署域样本归因图；

11、综合训练域归因基准模式与部署域样本归因图，利用皮尔逊相关系数的取反衰减形式计算跨域归因偏移量。

12、在一个优选的实施方式中，在步骤s1中，基于跨域归因偏移量判断是否进入劣化预警比对状态：

13、当跨域归因偏移量超过预设的偏移触发边界时，判定部署域样本归因相对训练域已出现显著偏移，进入劣化预警比对状态；

14、当跨域归因偏移量未超过预设的偏移触发边界时，判定部署域样本归因仍处于训练域允许波动范围，不进入劣化预警比对状态，直接判定当前部署域样本具备合理性。

15、在一个优选的实施方式中，在步骤s2中，进入劣化预警比对状态后，部署域样本输入图像通过装设于部署侧推理服务器输入接口的图像采集模块对部署域待评估样本进行同分辨率读取得到；

16、在部署域样本输入图像上采用最大类间方差法获取目标分割阈值，基于目标分割阈值将像素分为前景像素与背景像素，再对前景像素轮廓向外按设定的过渡带宽度作形态学膨胀，得到目标区域、过渡区域、背景区域三类分区掩膜；

17、将三类分区掩膜按位置映射到部署域样本归因图上，使部署域样本归因图按目标区域、过渡区域、背景区域三个分区分别保留对应区域内的归因取值，得到部署归因区域分布。

18、在一个优选的实施方式中，在步骤s2中，综合训练域归因基准模式与部署归因区域分布，采用分区皮尔逊相关系数取反形式计算分区偏移特征；

19、综合跨域归因偏移量与分区偏移特征，利用几何平均法生成归因漂移等级评估量；

20、将归因漂移等级评估量与预设的等级划分边界进行比较，设定归因漂移等级：

21、当归因漂移等级评估量低于轻度漂移边界时，归因漂移等级设定为轻度；

22、当归因漂移等级评估量介于轻度漂移边界与重度漂移边界之间时，归因漂移等级设定为中度；

23、当归因漂移等级评估量高于重度漂移边界时，归因漂移等级设定为重度。

24、在一个优选的实施方式中，在步骤s3中，基于历史已确认劣化样本归因图集合提取历史劣化漂移模式，具体步骤如下：

25、将历史已确认劣化样本归因图集合按历史已确认劣化样本归因图集合中样本的劣化成因标签划分为背景依赖型子集与跨域伪迹型子集；

26、对背景依赖型子集与跨域伪迹型子集分别按像素位置进行算术平均与区间标准化处理，得到背景依赖型劣化模式与跨域伪迹型劣化模式，将两个子集模式与对应的劣化成因标签共同构成历史劣化漂移模式。

27、在一个优选的实施方式中，在步骤s3中，结合归因漂移等级与历史劣化漂移模式生成漂移类型识别结果，具体过程如下：

28、当归因漂移等级为轻度时，直接将漂移类型识别结果设定为可观察轻微漂移，无需进行模式匹配；

29、当归因漂移等级为中度或重度时，将部署域样本归因图分别与历史劣化漂移模式中的背景依赖型劣化模式、跨域伪迹型劣化模式计算皮尔逊相关系数，得到两个模式相似度；

30、在两个模式相似度中取最大值与预设的模式匹配边界进行比较；

31、当模式相似度最大值高于模式匹配边界时，将漂移类型识别结果设定为最大值所对应的已知劣化类型；

32、当模式相似度最大值低于模式匹配边界时，将漂移类型识别结果设定为未知新型漂移。

33、在一个优选的实施方式中，在步骤s4中，当部署合理性预警指令为常规观察指令时，保持训练域归因基准模式不变，直接将训练域归因基准模式作为修正后的训练域归因基准模式输出；

34、当部署合理性预警指令为已知类型针对性优化指令时，保持训练域归因基准模式不变，同时将本次部署域样本归因图的来源样本、所属已知劣化类型与对应的预警指令一并写入部署侧推理服务器的运行日志，不参与训练域归因基准模式的当次更新。

35、在一个优选的实施方式中，在步骤s4中，当部署合理性预警指令为新型有效归因模式扩展指令时，将本次部署域样本归因图作为新增样本纳入训练域样本归因图集合，按步骤s1中的训练域归因基准模式生成方法重新执行算术平均与区间标准化处理，得到修正后的训练域归因基准模式；

36、修正后的训练域归因基准模式作为下一轮部署域样本判别的参照基准，替换训练域归因基准模式存入部署侧推理服务器。

37、本发明的技术效果和优点：

38、本发明通过构建训练域样本归因图集合生成归因基准模式并引入部署域样本归因图进行跨域归因偏移量计算，实现训练分布与部署分布在归因空间的一致性量化评估，并基于跨域偏移量触发劣化预警比对状态，在预警状态下对部署域输入图像进行分区处理，形成目标区域过渡区域与背景区域对应的归因区域分布，并结合训练域归因基准模式进行分区偏移特征分析，同时融合历史劣化样本归因图集合提取劣化漂移模式，完成漂移类型识别并依据识别结果对归因基准模式进行反馈修正，提升了深度学习模型在跨域部署场景下的合理性识别精度与异常漂移识别能力，增强了归因一致性评估的稳定性。