基于学习动态筛选的分布外检测参考统计量提纯方法、系统、终端及介质

本发明涉及人工智能、深度学习、计算机视觉、模型安全和开放环境识别，具体涉及一种基于学习动态筛选的分布外检测参考统计量提纯方法、系统、终端及介质，用以分类模型训练完成后进行事后分布外检测。

背景技术：

1、深度神经网络在封闭类分类任务上通常能够取得较高准确率，但当测试输入来自训练分布之外时，模型仍可能输出高置信度预测。分布外检测的目标是识别这些未知分布样本，以提高模型在开放环境中的安全性。

2、事后分布外检测（post-hoc out-of-distribution detection,post-hoc ooddetection）:在基础分类模型训练完成后，分布内训练样本中提取特征向量，并基于多个训练样本的特征向量计算至少一种特征空间参考量；在推理阶段，利用待测样本的特征向量与特征空间参考量之间的关系计算分布外检测得分。整个过程不更新基础模型的参数，不调整模型的结构，不对模型原本的任务产生影响。

3、现有的事后ood检测方法主要包括以下几类：

4、1、基于输出分数的方法：例如最大softmax概率、最大logit、energy等。这类方法计算简单，但是容易受到模型过度自信和logit尺度变化影响。

5、2、基于特征统计的方法：例如mahalanobis、vim、nci等。这类方法利用训练集特征均值、协方差、主子空间、特征范数等统计量，这些统计量通常等权使用训练样本，容易受到困难样本、边界样本或噪声样本影响。

6、3、基于近邻或局部密度的方法：例如knn-ood，这类方法保存训练集特征库，在测试时计算待测特征与训练特征之间的距离或局部密度，通常性能较强，但是默认所有的训练样本同等可靠，没有利用训练过程本身暴露出样本稳定性信息。

7、在监督训练中，不同样本的学习轨迹差异很大，这些样本很早被模型正确分类，并在后续训练中持续保持正确；有些样本会反复经历“正确-错误-正确”的切换，也就是发生遗忘事件（某训练样本在某一训练周期被正确分类，而在后续训练周期又被错误分类的事件）。遗忘事件往往反映样本对模型而言处于类边界、语义混杂、背景干扰较强、标注噪声较大或数据增强敏感区域。

8、现有的ood检测方法大多只观察训练结束后的静态特征分布，而忽略了训练动态信息，导致ood检测性能不足。

技术实现思路

1、为了解决上述技术问题，本发明提供了一种基于学习动态筛选的分布外检测参考统计量提纯方法、系统、终端及介质，实现在不增加基础模型推理计算量、不修改基于参考统计类方法事后特性的前提下，提升ood检测性能。

2、本发明的技术目的是通过以下技术方案实现的：

3、基于学习动态筛选的分布外检测参考统计量提纯方法，该方法包括：

4、s1、给定分布内训练集进行基础分类模型训练，并在训练过程中记录训练动态，标记训练过程中至少被正确分类过一次且首次正确分类后未发生遗忘的样本；

5、s2、基础分类模型训练完成后，使用所有样本构建样本集合，从样本集合中提取特征向量，并基于所提取的特征向量计算特征空间参考量；

6、在推理阶段，利用待测样本的特征向量与所述空间参考量之间的关系计算分布外检测得分；

7、s3、基于分布外检测得分构造统一的分布内置信分数，将统一后的分布内置信分数与设定阈值比较，输出检测判定结果。

8、进一步地，在步骤s1中，包括：

9、s11、给定分布内训练集，基于给定的分布内训练集进行基础分类模型训练；

10、s12、训练过程中，记录训练周期内给定的分布内训练集中的样本是否被正确分类；

11、若未被正确分类，在后续训练周期内持续记录是否被正确分类；

12、若被正确分类，在后续训练周期内监控被正确分类的样本是否发生遗忘事件，若后续训练周期内未发生遗忘事件，则将样本标记为lnf样本，记作样本。

13、进一步地，在步骤s1中，给定的分布内训练集表示为：

14、；

15、式中，为第

i个训练样本，为第i个训练样本的类别标签；

16、在第t个训练周期内，记录样本是否被正确分类：

17、；

18、式中，c为分类类别。

19、进一步地，在步骤s2中，特征空间参考量包括全局特征均值、类别特征均值、协方差矩阵、精度矩阵、主子空间、正交补空间、特征模长统计量及由上述特征空间参考量确定的缩放参数中的至少一种。

20、进一步地，步骤s3中在构造统一的分布内置信分数时：

21、若原始的分布外检测得分越大则输入样本越倾向于分布内样本，则统一后的分布内置信分数=；

22、若原始的分布外检测得分越大则输入样本越倾向于分布外样本，则统一后的分布内置信分数=-。

23、进一步地，在步骤s3中，将统一后的分布内置信分数与设定阈值比较：

24、；

25、式中：m表示所采用的具体检测方法，表示采取检测方法m对输入样本x的判定结果。

26、本发明还提供了一种基于学习动态筛选的分布外检测参考统计量提纯系统，包括：

27、训练模块，用以对给定的分布内训练集进行基础分类模型训练，并在训练过程中记录训练动态，标记训练过程中至少被正确分类过一次且首次正确分类后未发生遗忘事件的样本；

28、参考量构建模块，用以在基础分类模型训练完成后基于样本构建样本集合并从样本集合中提取特征向量，基于所提取的特征向量计算特征空间参考量；

29、分布外检测模块，用以在推理阶段利用待测样本的特征向量与参考量构建模块所计算得到的特征空间参考量之间的关系计算分布外检测得分，并基于分布外检测得分构造统一的分布内置信分数后与设定阈值比较以输出检测判定结果。

30、本发明还提供了一种终端，包括存储器和处理器，存储器存储有计算机程序，处理器执行计算机程序时按照上述基于学习动态筛选的分布外检测参考统计量提纯方法的步骤执行。

31、本发明还提供了一种存储介质，存储有计算机程序，计算机程序运行时按照上述基于学习动态筛选的分布外检测参考统计量提纯方法的步骤运行。

32、相比于现有技术，本发明的有益效果在于：

33、1、相比于直接使用全部训练样本构建事后ood检测统计量或特征库的方法，本发明利用训练过程中产生的样本学习动态，对训练样本进行可靠性识别，并基于被正确分类后未发生遗忘的样本构建特征空间参考量，无需修改基础模型、无需引入额外的ood数据，提升ood检测的性能。

34、2、降低不稳定训练样本对参考统计量的干扰。现有的vim、马氏距离、nci、fdbd、knn和neco等事后ood检测方法，通常默认训练样本等价可靠，直接使用全部训练样本估计均值、协方差、主子空间、全局中心或近邻特征库，对于训练过程中反复遗忘的样本，这些反复遗忘的样本的特征往往更接近类别边界、背景干扰较强或语义不够典型，直接纳入统计量可能使分布内参考空间变得分散。本技术通过lnf样本筛选，减少这类不稳定样本对参考统计量的干扰。

35、3、提高分布内参考空间的语义纯度。在训练过程中，被正确分类（学会）后不再遗忘的样本通常更早被模型稳定识别，能够更好地代表相应类别的核心语义区域，利用这样的样本来构建类中心、全局均值、pca子空间、正交补空间或近邻特征库，可以使得事后ood检测器更多依赖稳定语义特征，而不是依赖偶然背景、边界样本或难学习样本形成的统计偏移。

36、4、无需额外ood样本或辅助训练目标。本发明中所需的信息均来自正常id分类训练过程中的预测正确性历史，不需要收集额外ood样本，也不需要构造辅助异常数据集，基础模型仍然按照常规分类目标训练，降低了方法部署和数据准备成本。

37、5、不改变已经训练完成的基础分类模型。本发明的方法属于事后检测方法，基础分类模型训练完成后，仅在构建检测器统计量或特征库时改变训练样本的使用方式，不修改模型结构，也不更新模型参数，使得本技术的方法可以直接叠加到已有分类模型和已有事后ood检测流程上，工程改造成本较低。

38、6、能够适配多类基于参考统计量或特征库的检测方法。本发明的方法不依赖于某一种特定的ood得分形式，对于vim、马氏距离、nci、fdbd、knn、neco等方法均可适配：对于vim，可用lnf样本估计主子空间和缩放因子；对于马氏距离，可用lnf样本估计类均值和共享协方差；对于nci和fdbd，可用lnf样本估计全局特征均值；对于knn，可用lnf样本构建近邻特征库；对于neco，可用lnf样本拟合pca主语义子空间。因此，可以作为一种通用的训练动态驱动的特征空间提纯模块使用。

39、7、可降低近邻类方法的存储和检索开销。对于knn这类需要保存训练特征库的方法，使用lnf样本构建特征库可以减少需要保存和检索的训练特征数量，从而降低显存或内存占用，并减少测试阶段近邻检索的计算开销，在训练样本规模较大的场景中该优势更加明显。

40、8.具有较好的可解释性。本发明中的样本筛选依据来自训练动态，例如遗忘次数和是否一次学会后不再遗忘，这些指标能够解释为什么某些样本被视为更可靠的分布内参考样本，使得ood检测器在构建过程中不再是纯粹依赖最终静态特征，而是同时利用模型训练过程中暴露出的样本稳定性信息。