一种基于可靠伪标签的半监督多标签图像分类方法
本发明涉及计算机视觉与图像处理,具体而言,涉及一种基于可靠伪标签的半监督多标签图像分类方法。
背景技术:
1、在多标签图像分类任务中,需要同时识别出一幅图像中存在的多个物体或场景类别。为降低对大规模人工标注的依赖,半监督学习方法旨在利用少量有标签样本和大量无标签样本来提升模型性能。现有技术中,与本发明最接近的实现方案主要有以下三种:
2、(1).基于固定阈值生成伪标签,该方法利用有标签样本训练一个初始分类模型,然后用该模型对无标签样本进行预测,得到各个类别的预测概率。当某个类别的预测概率高于全局预设的阈值时,便将该类别作为伪标签赋予该无标签样本,并将其加入下一轮训练。
3、(2).基于主动学习的样本选择,该方法通过模型评估无标签样本的信息,常用指标如预测熵、置信度或不确定性等。系统优先选择模型最不确定的样本,交由人工进行标注,然后将新标注的样本加入训练集。
4、(3).基于图结构的半监督多标签分类,该方法将每个图像样本视为图中的一个节点,根据样本间的特征相似性建立边连接,构建一个图网络。通过图卷积等传播算法,将有标签节点的标签信息沿边传播至相邻的无标签节点,从而为无标签节点生成预测。
5、然而,上述现有技术均存在明显的缺陷。首先方案一对所有类别采用相同的固定阈值,忽略了多标签任务中不同类别的学习难度以及预测分布的差异。将导致易学的类别丢失大量可靠的伪标签,而难学习的类别则可能被错误地生成伪标签,影响模型精度。方案二主动学习方法则是基于不确定性的样本选择,通常是针对单个类别或整体图像计算单一分数,未能充分考虑多标签类别之间的共现关系和语义相关性,导致选择的样本缺乏代表性,对提升模型多标签整体性能的效率不高。最后,方案三的图传播则依赖初始的伪标签质量。一旦初始预测产生错误,该错误会通过图网络的边迅速传播并放大,严重影响模型训练的稳定性和最终分类效果。
6、综上所述,需提出一种半监督多标签图像分类方法,在有限人工标注条件下保证训练稳定性并持续提升多标签图像分类精度。
技术实现思路
1、鉴于此,本发明提出了一种基于可靠伪标签的半监督多标签图像分类方法,能够充分考虑多标签任务中不同类别的学习难度与预测分布差异,在主动学习样本选择中融合类别间的共现关系和语义相关性且具代表性的样本进行标注,并采用类别专属的动态阈值与容差机制筛选高置信度伪标签,同时通过自适应图传播与伪标签筛选的迭代联合优化抑制错误沿图结构的传播与累积。
2、为实现上述目的,本发明提出以下技术方案:
3、一种基于可靠伪标签的半监督多标签图像分类方法,包括:
4、获取多标签图像数据集并划分为有标签样本集和无标签样本集;
5、构建初始神经网络模型,采用有标签样本集对所述初始神经网络模型进行训练,获取初始模型;
6、基于所述有标签样本集计算类别之间的标签相关性矩阵;将所述无标签样本输入所述初始模型,获得每个无标签样本在各类别上的预测概率,并计算各类别的预测不确定度;结合所述标签相关性与所述预测不确定度,计算各无标签样本的相关不确定性分数,根据所述相关不确定性分数对无标签样本进行排序,选取分数最高的样本进行人工标注,并将新标注的样本加入所述有标签样本集;
7、提取所有样本特征,基于特征相似度构建k-nn样本图,在所述k-nn样本图上应用图卷积网络进行信息传播,更新每个节点的表示,获得经过图结构增强的预测矩阵;
8、针对每一个类别,分析该类别预测分数的分布情况,通过搜索算法确定该类别专属的动态阈值,并基于所述动态阈值和容差范围制定伪标签生成规则;收集所有满足条件的预测,构建伪标签集合;
9、构建总损失函数,采用反向传播算法更新模型,利用更新后的模型重新计算特征和预测矩阵,重复执行图传播、伪标签生成和模型优化过程,直至模型收敛或达到预设的迭代次数。
10、进一步地,所述初始神经网络模型包含特征提取器和分类器,所述特征提取器用于提取输入图像的深层特征,所述分类器用于输出图像在各类别上的预测概率;初步训练过程采用有标签样本集中样本的图像作为输入、以对应的人工标注真值作为监督信号,通过最小化多标签分类损失获得初始模型参数。
11、进一步地,所述预测不确定度采用下式计算:
12、
u
jc=1-max(
jc,1-
jc)
13、其中,
jc为所述初始模型对无标签样本
x
j属于类别c的预测概率;预测概率越接近0.5,对应的不确定度越高;预测概率越接近0或1,对应的不确定度越低。
14、进一步地,所述相关不确定性分数采用下式计算:
15、
cu
j= [
u
jc +
λ|
ρ
cr| |
u
jc-
u
jr| ]
16、其中,
u
jc 为样本
x
j在类别c上的预测不确定度,
ρ
cr为类别c与类别r之间的相关性,λ为标签相关性的权重系数,c为类别总数。
17、进一步地,所述k-nn样本图的构建方式为:采用k近邻算法,提取每个样本的特征向量,计算样本之间的特征相似度,将节点代表样本,边代表样本间的相似关系。
18、进一步地,所述伪标签生成规则包括:
19、基于动态阈值
t
*
c和预设的容差范围
δ,若预测分数高于
t
*
c+δ,判定为正类伪标签为1,若预测分数低于
t
*
c
-δ,判定为负类伪标签为0,若预测分数落在模糊区间内,则忽略该样本该类别的预测,不生成伪标签。
20、进一步地,所述总损失函数如下式所示:
21、
l=
l
sup+
αl
pseudo
22、其中,
l
sup为有标签样本的监督损失,
l
pseudo为无标签样本的伪标签损失,
α为平衡权重的超参数。
23、与现有技术相比,本发明的有益效果在于:
24、本发明通过标签相关不确定性评估,能够优先选出在相关类别上具有高不确定性的样本进行人工标注。这类样本能更高效地帮助模型解释易混淆的类别边界,相比传统单一指标,在相同标注预算下能获得更高的模型性能提升。
25、本发明采用类别动态阈值和容差机制,为每个类别量身定制筛选标准,有效避免了易分类别伪标签的浪费和难分类别噪声的引入。容差机制排除了模糊样本的干扰,保证了用于训练的伪标签均具有高置信度,从而稳定了训练过程,防止模型被错误标签误导。
26、本发明将自适应图传播与高置信度伪标签筛选进行迭代联合优化。能够改善预测结果,而严格的伪标签筛选机制又能反过来过滤掉传播中可能产生的错误,中断了错误的累积,使得模型能持续从无标签数据中稳定学习,最终显著提升分类精度。