对象分类方法、深度学习模型的训练方法、装置和设备与流程

1.本公开涉及人工智能技术领域，尤其涉及深度学习、图像识别和计算机视觉技术领域。更具体地，本公开提供了一种对象分类方法、深度学习模型的训练方法、装置、电子设备和存储介质。


背景技术：

2.随着人工智能技术的发展，深度学习模型已被广泛地应用于执行面部伪造检测或图像处理等任务。例如，可以利用深度学习模型将面部伪造检测任务转换为分类任务。


技术实现要素：

3.本公开提供了一种对象分类方法、深度学习模型的训练方法、装置、设备以及存储介质。
4.根据本公开的一方面，提供了一种对象分类方法，该方法包括：根据目标图像的初始向量特征图，得到k个初始特征，其中，k为大于1的整数；根据k个初始特征，确定k个校正特征和k个聚类特征；根据k个校正特征和k个聚类特征，确定c个聚合特征，其中，c为大于或等于1的整数，且c为小于k的整数；以及根据c个聚合特征，对目标图像中的目标对象进行分类，得到分类结果。
5.根据本公开的另一方面，提供了一种深度学习模型的训练方法，该方法包括：根据样本图像的初始向量特征图，得到k个初始特征，其中，k为大于1的整数；根据k个初始特征，确定k个校正特征和k个聚类特征；根据k个校正特征和k个聚类特征，确定c个聚合特征，其中，c为大于或等于1的整数，且c为小于k的整数；根据c个聚合特征，对样本图像中的样本对象进行分类，得到分类结果；以及根据分类结果与样本图像的标签之间的差异值，对深度学习模型进行训练。
6.根据本公开的另一方面，提供了一种对象分类装置，该装置包括：第一获得模块，用于根据目标图像的初始向量特征图，得到k个初始特征，其中，k为大于1的整数；第一确定模块，用于根据k个初始特征，确定k个校正特征和k个聚类特征；第二确定模块，用于根据k个校正特征和k个聚类特征，确定c个聚合特征，其中，c为大于或等于1的整数，且c为小于k的整数；以及第一分类模块，用于根据c个聚合特征，对目标图像中的目标对象进行分类，得到分类结果。
7.根据本公开的另一方面，提供了一种深度学习模型的训练装置，该装置包括：第二获得模块，用于根据样本图像的初始向量特征图，得到k个初始特征，其中，k为大于1的整数；第三确定模块，用于根据k个初始特征，确定k个校正特征和k个聚类特征；第四确定模块，用于根据k个校正特征和k个聚类特征，确定c个聚合特征。其中，c为大于或等于1的整数，且c为小于k的整数；第二分类模块，用于根据c个聚合特征，对样本图像中的样本对象进行分类，得到分类结果；以及训练模块，用于根据分类结果与样本图像的标签之间的差异值，对深度学习模型进行训练。
8.根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行根据本公开提供的方法。
9.根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行根据本公开提供的方法。
10.根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现根据本公开提供的方法。
11.应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
12.附图用于更好地理解本方案，不构成对本公开的限定。其中：
13.图1是根据本公开的一个实施例的可以应用对象分类方法和装置的示例性系统架构示意图；
14.图2是根据本公开的一个实施例的对象分类方法的流程图；
15.图3是根据本公开的一个实施例的对象分类方法的原理图；
16.图4是根据本公开的另一个实施例的对象分类方法的原理图；
17.图5是根据本公开的另一个实施例的对象分类方法的原理图；
18.图6是根据本公开的另一个实施例的对象分类方法的原理图
19.图7是根据本公开的一个实施例的深度学习模型的训练方法的流程图；
20.图8是根据本公开的一个实施例的深度学习模型的训练方法的原理图；
21.图9是根据本公开的另一个实施例的深度学习模型的训练方法的原理图；
22.图10是根据本公开的一个实施例的深度学习模型的训练方法的原理图；
23.图11是根据本公开的一个实施例的对象分类装置的框图；
24.图12是根据本公开的一个实施例的深度学习模型的训练装置的框图；以及
25.图13是根据本公开的一个实施例的可以应用对象分类方法和/或深度学习模型的训练方法的电子设备的框图。
具体实施方式
26.以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
27.基于计算视觉技术，可以确定目标视频或目标图像中的对象的面部是否被更改或操纵，以进行面部伪造检测。随着人工智能技术的快速发展，基于面部操纵技术和生成技术，可以合成人工无法区分的面部图像。
28.面部伪造已经涉及到科学、新闻、娱乐、生活等诸多领域。恶意篡改后的图像经过传播，会影响人们对客观事物的判断，可能造成不良的影响。
29.面部伪造检测技术可以应用在多种产品或场景中。例如，可以将面部伪造技术应
用于新闻审核场景中，以识别出伪造面部图像，降低人力审核成本，并降低业务违规风险。又例如，可以将面部伪造检测技术应用于个人隐私保护场景中。根据视频的关键帧的信息，进行面部伪造检测，为目标对象提供隐私保护。
30.可以基于cnn(convolutional neural networks，卷积神经网络)模型将面部伪造检测任务转化为二分类任务来处理。在训练用于执行二分类任务的cnn模型时，可以基于包括自然面部图像和伪造面部图像的混合数据集(采用二值化标签)，利用softmax监督网络，进行端到端训练。但cnn模型可以获取到局部特征，但在一定程度上不善于捕捉全局特征。
31.此外，还可以基于多模态融合技术进行面部伪造检测。例如，不仅采用rgb图像进行面部伪造检测，而且采用频域等模态的信息来获取更丰富的特征，以便进行面部伪造检测。
32.此外，也可以调整损失函数，使得相关模型可以获取到更具分辨力的特征。
33.基于cnn模型、多模态融合技术或调整后的损失函数进行面部伪造检测的方案，可以将最后一层的伪造特征输入到判别器中，以获取输出的检测结果或分类结果。对于神经网络而言，不同层次的网络可以获取不同的信息，例如低层网络可以获取细粒度的、精细的信息。高层网络可以获取鲁棒更强的、全面的特征。因此，若只采用最后一层特征来进行面部伪造检测，则可能无法获取准确的检测结果。
34.如上文所述，cnn模型可以获取图像的局部特征。局部特征是进行面部伪造检测的关键。但是，由于感知能力有限，cnn模型可能学习到图像的归纳偏差，其泛化能力较差。
35.在建模长期依赖关系方面，transformer模型显示出极大的优势。在视觉任务方面，例如vit(vision transformer，视觉transformer)模型也取得了良好的效果。为了提高cnn模型获取全局特征的能力，可以在cnn模型中增加了一个或多个transformer层。
36.然而，首先，transformer模型更善于获取图像的全局特征。然而，如上文所述，局部特征是面部伪造检测的关键。此外，当前transformer模型的结构利用最后一层输出的特征进行面部伪造检测。如上文所述，若只采用最后一层特征来进行面部伪造检测，则可能无法获取准确的检测结果。
37.图1是根据本公开一个实施例的可以应用对象分类方法和装置的示例性系统架构示意图。需要注意的是，图1所示仅为可以应用本公开实施例的系统架构的示例，以帮助本领域技术人员理解本公开的技术内容，但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
38.如图1所示，根据该实施例的系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线和/或无线通信链路等等。
39.用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
40.服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
41.需要说明的是，本公开实施例所提供的对象分类方法一般可以由服务器105执行。相应地，本公开实施例所提供的对象分类装置一般可以设置于服务器105中。本公开实施例所提供的对象分类方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地，本公开实施例所提供的对象分类装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
42.图2是根据本公开的一个实施例的对象分类方法的流程图。
43.如图2所示，该方法200可以包括操作s210至操作s240。
44.在操作s210，根据目标图像的初始向量特征图，得到k个初始特征。
45.例如，k为大于1的整数。
46.例如，目标图像可以为包含伪造面部的图像，也可以为包含真实面部的图像。
47.例如，可以对目标图像进行patch embedding(块嵌入)操作，得到目标图像的初始向量特征图。在一个示例中，可以利用一个卷积层来进行patch embedding操作。
48.例如，可以利用特征提取模块对初始向量特征图进行特征提取，得到特征图。特征图中可以包括k个token(标记)。可以将每个token作为一个初始特征。
49.在一个示例中，特征图的尺寸例如可以为224*224，该特征图中可以包括196个token。即，针对该特征图，k＝196。
50.在一个示例中，特征提取模块可以包括1个transformer模型。
51.在操作s220，根据k个初始特征，确定k个校正特征和k个聚类特征。
52.例如，可以利用se(squeeze—and—excitation，挤压激励)网络模型对k个初始特征进行处理，得到k个校正特征。根据初始特征确定的校正特征可以校正与token相关的特征。
53.例如，可以利用各种聚类算法，对k个初始特征进行处理，得到k个聚类特征。
54.例如，k个聚类特征可以与c个簇对应。
55.在操作s230，根据k个校正特征和k个聚类特征，确定c个聚合特征。
56.例如，c为大于或等于1的整数，且c为小于k的整数。
57.例如，聚合特征的数量可以与簇的数量相同。
58.在操作s240，根据c个聚合特征，对目标图像中的目标对象进行分类，得到分类结果。
59.例如，可以将c个聚合特征转换为一个聚合特征图，利用分类器根据该聚合特征图进行分类，得到分类结果。
60.通过本公开实施例，根据k个校正特征和k个聚类特征确定了c个聚合特征，可以将特征图中的多个token投影到几个集群中，减少了冗余信息，提高了面部伪造检测的准确性。
61.在一些实施例中，目标对象包括面部，分类结果包括真实面部和伪造面部。
62.在一些实施例中，所述k个聚类特征指示了所述k个初始特征中的第k个初始特征被聚类至c个簇中的第c个簇的权重，其中，k为大于或等于1的整数，且k为小于或等于k的整数，c为大于或等于1的整数，且c为小于或等于c的整数。
63.在一些实施例中，根据k个校正特征和k个聚类特征，确定c个聚合特征包括：利用k
个聚类特征对k个校正特征进行加权，得到k个加权特征；以及针对c个簇，对k个加权特征进行聚合，得到c个聚合特征。下面将结合图3进行详细说明。
64.图3是根据本公开的一个实施例的对象分类方法的原理图。
65.可以利用特征提取模块对初始向量特征图进行特征提取，得到特征图。如上文所述，特征图中可以包括k个token。可以将每个token作为一个初始特征，得到k个初始特征。
66.然后利用一个聚合模块对k个初始特征进行处理，以得到c个聚合特征。在一个示例中，聚合模块也可以被称为mcp(multi-head clustering projection，多头聚类投影)模块。
67.聚合模块320包括第一注意力子模块321、第二注意力子模块322和聚合子模块323。第一注意力子模块321例如是根据上文的se网络构建的。第二注意力子模块322例如是根据聚类注意力机制构建的。
68.例如，第一注意力子模块321可以包括reduce(缩减)层3211、全连接层3212、全连接层3213和sigmoid层3214。
69.初始特征的维度例如可以为d。在将k个初始特征输入第一注意力子模块321之后，k个初始特征经reduce层3211、全连接层3212、全连接层3213和sigmoid层3214处理后，得到k个处理后的特征。在一个示例中，reduce层3211可以将初始特征的维度转换为1维。sigmoid层3214可以利用sigmoid函数对全连接层3213的输出进行处理，得到k个处理后的特征。每个处理后的特征的维度例如可以为1。
70.将k个处理后的特征与k个初始特征融合，得到k个校正特征。在一个示例中，k个校正特征的维度例如可以为d。
71.又例如，第二注意力子模块322可以包括全连接层3221和softmax层3222。
72.在将k个初始特征输入第二注意力子模块322之后，k个初始特征经全连接层3221和softmax层3222处理后，得到k个聚类特征。
73.在一个示例中，可以通过以下公式确定k个聚类特征第k个聚类特征中的第c个特征值：
[0074][0075]
第c个特征值可以指示k个初始特征中的第k个初始特征被聚类至c个簇中的第c个簇的权重。w为全连接层3221根据初始特征确定的子权重值、b为全连接层3221根据初始特征确定的子偏置值。为第k个初始特征。l∈[1，...c]。
[0076]
接下来，聚合子模块323可以利用k个聚类特征对k个校正特征进行加权，得到k个加权特征。针对c个簇，对k个加权特征进行聚合，得到c个聚合特征。
[0077]
例如，可以通过以下公式确定c个聚合特征中第c个聚合特征hc：
[0078][0079]
为第k个校正特征。
[0080]
通过本公开实施例，聚合模块可以将特征集中到c个簇中，可以减少冗余信息。可以根据实际应用设置c的数值。
[0081]
在一些实施例中，根据目标图像的初始向量特征图，得到k个初始特征包括：对初始向量特征图进行特征提取，得到k个第1级初始特征；以及对第n-1级初始特征进行特征提取，得到k个第n级初始特征，n为大于1的整数，且n为小于或等于n的整数，n为大于1的整数。
[0082]
在一些实施例中，根据k个校正特征和k个聚类特征，确定c个聚合特征包括：根据k个第1级初始特征，确定k个第1级校正特征和k个第1级聚类特征；以及根据k个第n级初始特征，确定k个第n级校正特征和k个第n级聚类特征。
[0083]
在一些实施例中，根据k个校正特征和k个聚类特征，确定c个聚合特征包括：根据k个第1级校正特征和k个第1级聚类特征，确定c个第1级聚合特征；以及根据k个第n级校正特征和k个第n级聚类特征，确定c个第n级聚合特征。下面将结合图4进行详细说明。
[0084]
图4是根据本公开的另一个实施例的对象分类方法的原理图。
[0085]
如图4所示，可以将目标图像401输入块嵌入层410，得到目标图像401的初始向量特征图。
[0086]
可以利用n级特征提取模块对初始向量特征图进行n级特征提取操作，得到n个特征图。如上文所述，本实施例中，以n＝3为示例。在一个示例中，每个特征提取模块可以包括1个transformer模型。
[0087]
例如，可以将初始向量特征图输入第1级特征提取模块4301，进行特征提取，得到第1级特征图。将第1级特征图输入第2级特征提取模块4302，进行特征提取，得到第2级特征图。将第2级特征图输入第3级特征提取模块4303，进行特征提取，得到第3级特征图。
[0088]
第1级特征图可以包括k个token，将每个token作为一个第1级初始特征，得到k个第1级初始特征。第2级特征图可以包括k个token，将每个token作为一个第2级初始特征，得到k个第2级初始特征。第3级特征图可以包括k个token，将每个token作为一个第3级初始特征，得到k个第3级初始特征。
[0089]
接下来，聚合模块4201的第一注意力子模块可以根据k个第1级初始特征，确定k个第1级校正特征。聚合模块4201的第二注意力子模块可以根据k个第1级初始特征，确定k个第1级聚类特征。接下来，聚合模块4201的聚合子模块可以利用k个第1级聚类特征对k个第1级校正特征进行加权，得到k个第1级加权特征。聚合模块4201的聚合子模块再对k个第1级加权特征进行聚合，得到c个第1级聚合特征。
[0090]
类似地，聚合模块4202可以根据k个第2级初始特征，确定k个第2级校正特征和k个第2级聚类特征。接下来，聚合模块4202可以根据k个第2级校正特征和k个第2级聚类特征，确定c个第2级聚合特征。聚合模块4203可以根据k个第3级初始特征，确定k个第3级校正特征和k个第3级聚类特征。接下来，聚合模块4203可以根据k个第3级校正特征和k个第3级聚类特征，确定c个第3级聚合特征。需要说明的是，本实施例中，关于第1级聚合模块4201至第3级聚合模块4203中任一级聚合模块的详细描述，可以参考上文所述的聚合模块320，本公开在此不再赘述。
[0091]
接下来，可以利用拼接模块440将c个第1级聚合特征、c个第2级聚合特征和c个第3级聚合特征拼接，得到拼接聚合特征。利用一个分类器根据拼接聚合特征进行分类，可以得到分类结果402。
[0092]
在一些实施例中，根据c个聚合特征，对目标图像中的目标对象进行分类包括：将c个第1级聚合特征至c个第n级聚合特征进行拼接，得到拼接聚合特征；将拼接聚合特征变换
到频域，得到频域聚合特征；对频域聚合特征进行全局滤波，得到融合频域聚合特征；将融合频域聚合特征变换到时域，得到融合特征；以及根据融合特征，对目标图像中的目标对象进行分类。下面将结合图5进行详细说明。
[0093]
图5是根据本公开的另一个实施例的对象分类方法的原理图。
[0094]
如上文所述，可以利用上文的拼接模块将c个第1级聚合特征至c个第n级聚合特征进行拼接，得到拼接聚合特征。
[0095]
如图5所示，可以利用频域融合模块550根据拼接聚合特征，得到融合特征。
[0096]
频域融合模块550可以包括归一化层551、频域变换子模块552、全局滤波子模块553、频域逆变换子模块554和激活层555。
[0097]
归一化层551可以对拼接聚合特征进行归一化处理，得到归一化后的拼接聚合特征r
p
×q。
[0098]
频域变换子模块552可以将归一化后的拼接聚合特征r
p
×q变换到频域，得到频域聚合特征。在一个示例中，可以通过以下公式得到频域聚合特征：
[0099][0100]
为频域融合特征，u和v为表示频率分量的指标，p和q为拼接聚合特征的尺寸，c[p，q]为归一化后的拼接聚合特征r
p
×q中的一个值。
[0101]
全局滤波子模块553可以对频域聚合特征进行全局滤波，得到融合频域聚合特征
[0102]
频域逆变换子模块554可以将融合频域聚合特征变换到时域，得到融合特征x
′
。在一个示例中，可以通过以下公式得到融合特征x
′
：
[0103][0104]
k为与全局滤波子模块553对应的矩阵，f-1
(
·
)为频域逆变换函数，为点乘。在一个示例中，k为一个可学习的矩阵。
[0105]
激活层555例如可以利用gelu(gaussian error linear units，高斯误差线性单元)对融合特征x
′
进行处理，得到处理后的融合特征。再将处理后的融合特征与拼接聚合特征融合，得到输出特征。可以根据输出特征，进行分类。通过设置激活层，在训练时，可以加快包含频域融合模块的深度学习模型收敛。
[0106]
通过本公开实施例，将聚合特征转换到频域，使得伪造面部图像的聚合特征与真实面部图像的聚合特征之间的区别更加显著，有助于提高面部伪造检测的准确率。
[0107]
图6是根据本公开的另一个实施例的对象分类方法的原理图。
[0108]
如图6所示，关于块嵌入层610、聚合模块6201至聚合模块6203、特征提取模块6301至特征提取模块6303和拼接模块640的详细描述，可以参考上文所述的块嵌入层410、聚合模块4201至聚合模块4203、特征提取模块4301至特征提取模块4303和拼接模块440，本公开在此不再赘述。
[0109]
与图4对应的实施例不同之处在于，利用拼接模块640得到拼接聚合特征之后，将拼接聚合特征输入第1级频域融合模块6501，得到第1级输出特征。将第1级输出特征输入第2级频域融合模块6502，得到第2级输出特征。再将第2级输出特征输入聚合模块660，得到最终的c个聚合特征。根据最终的c个聚合特征，进行分类，得到分类结果602。
[0110]
需要说明的是，关于第1级频域融合模块6501或第2级频域融合模块6502的详细描述，可以参考上文所述的频域融合模块550，本公开在此不再赘述。关于聚合模块660的详细描述，可以参考上文所述的聚合模块320，本公开在此不再赘述。
[0111]
需要说明的是，本实施例中以2级频域融合模块为示例。但在本公开的其他实施例中，可以包括1级或1级以上的频域融合模块，本公开对此不做限制。
[0112]
图7是根据本公开的一个实施例的深度学习模型的训练方法的流程图。
[0113]
如图7所示，该方法700包括操作s710至操作s750。
[0114]
在操作s710，根据样本图像的初始向量特征图，得到k个初始特征。
[0115]
例如，k为大于1的整数。
[0116]
在操作s720，根据k个初始特征，确定k个校正特征和k个聚类特征。
[0117]
在操作s730，根据k个校正特征和k个聚类特征，确定c个聚合特征。
[0118]
例如，c为大于或等于1的整数，且c为小于k的整数。
[0119]
在操作s740，根据c个聚合特征，对样本图像中的样本对象进行分类，得到分类结果。
[0120]
可以理解，方法700中的操作s710至操作s740，与方法200中的操作s210至操作s240相同或类似，本公开在此不再赘述。
[0121]
在操作s750，根据分类结果与样本图像的标签之间的差异值，对深度学习模型进行训练。
[0122]
例如，样本图像中样本对象包括面部。
[0123]
例如，样本图像的标签可以为“真实面部”或“伪造面部”。
[0124]
例如，可以根据ce(cross entropy，交叉熵)损失函数确定分类结果与样本图像的标签之间的差异值。根据该差异值调整深度学习模型的参数，以训练深度学习模型。
[0125]
在一些实施例中，根据分类结果与样本图像的标签之间的差异值，对深度学习模型进行训练包括：确定分类结果与样本图像的标签之间的差异值；以及调整深度学习模型的参数，使得差异值收敛。
[0126]
在一些实施例中，所述k个聚类特征指示了所述k个初始特征中的第k个初始特征被聚类至c个簇中的第c个簇的权重，其中，k为大于或等于1的整数，且k为小于或等于k的整数，c为大于或等于1的整数，且c为小于或等于c的整数。
[0127]
在一些实施例中，深度学习模型包括聚合模块，根据k个校正特征和k个聚类特征，确定c个聚合特征包括：利用聚合模块对k个聚类特征对k个校正特征进行加权，得到k个加权特征；以及针对c个簇，对k个加权特征进行聚合，得到c个聚合特征。下面将结合图8进行详细说明。
[0128]
图8是根据本公开的一个实施例的深度学习模型的训练方法的原理图。
[0129]
如图8所示，深度学习模型800可以包括块嵌入层810、特征提取模块820和聚合模块830。
[0130]
可以将目标图像801输入块嵌入层810，得到目标图像801的初始向量特征图。
[0131]
可以利用特征提取模块830对初始向量特征图进行特征提取，得到特征图。特征图可以包括k个token，将每个token作为一个初始特征，得到k个初始特征。利用聚合模块820根据k个初始特征，可以得到c个聚合特征。对于聚合模块820的详细描述，可以参考上文所
述的聚合模块320，本公开在此不再赘述。
[0132]
根据c个聚合特征，可以得到分类结果802。利用ce损失函数，可以确定分类结果802和标签803之间的差异值804。根据差异值804，可以调整深度学习模型800的参数，以对深度学习模型800进行训练。例如，标签803可以是样本图像801的标签。又例如，可以调整特征提取模块830和聚合模块820的参数，使得差异值804收敛。
[0133]
在一些实施例中，深度学习模型包括级联的n级特征提取模块，n为大于1的整数；根据样本图像的初始向量特征图，得到k个初始特征包括：利用第1级特征提取模块对初始向量特征图进行特征提取，得到k个第1级初始特征；以及利用第n级特征提取模块对第n-1级初始特征进行特征提取，得到k个第n级初始特征，n为大于1的整数，且n为小于或等于n的整数，n为大于1的整数。
[0134]
在一些实施例中，深度学习模型包括n级聚合模块，根据k个校正特征和k个聚类特征，确定c个聚合特征包括：利用第1级聚合模块，根据k个第1级初始特征，确定k个第1级校正特征和k个第1级聚类特征，以及根据k个第1级校正特征和k个第1级聚类特征，确定c个第1级聚合特征；以及利用第n级聚合模块，根据k个第n级初始特征，确定k个第n级校正特征和k个第n级聚类特征，以及根据k个第n级校正特征和k个第n级聚类特征，确定c个第n级聚合特征。下面将结合图9进行详细说明。
[0135]
图9是根据本公开的一个实施例的深度学习模型的训练方法的原理图。
[0136]
如图9所示，深度学习模型900可以包括块嵌入层910、n级聚合模块和n级特征提取模块。本实施例中，以n＝3为示例。
[0137]
n级特征提取模块例如可以第1级特征提取模块930_1、第2级特征提取模块930_2和第3级特征提取模块930_3。在一个示例中，每个特征提取模块可以包括1个transformer模型。
[0138]
例如，可以将初始向量特征图输入第1级特征提取模块930_1，进行特征提取，得到第1级特征图。将第1级特征图输入第2级特征提取模块930_2，进行特征提取，得到第2级特征图。将第2级特征图输入第3级特征提取模块930_3，进行特征提取，得到第3级特征图。
[0139]
第1级特征图可以包括k个token，将每个token作为一个第1级初始特征，得到k个第1级初始特征。第2级特征图可以包括k个token，将每个token作为一个第2级初始特征，得到k个第2级初始特征。第3级特征图可以包括k个token，将每个token作为一个第3级初始特征，得到k个第3级初始特征。
[0140]
接下来，聚合模块920_1的第一注意力子模块可以根据k个第1级初始特征，确定k个第1级校正特征。聚合模块920_1的第二注意力子模块可以根据k个第1级初始特征，确定k个第1级聚类特征。接下来，聚合模块920_1的聚合子模块可以利用k个第1级聚类特征对k个第1级校正特征进行加权，得到k个第1级加权特征。聚合模块920_1的聚合子模块再对k个第1级加权特征进行聚合，得到c个第1级聚合特征。
[0141]
类似地，聚合模块920_2可以根据k个第2级初始特征，确定k个第2级校正特征和k个第2级聚类特征。接下来，聚合模块920_2可以根据k个第2级校正特征和k个第2级聚类特征，确定c个第2级聚合特征。聚合模块920_3可以根据k个第3级初始特征，确定k个第3级校正特征和k个第3级聚类特征。接下来，聚合模块920_3可以根据k个第3级校正特征和k个第3级聚类特征，确定c个第3级聚合特征。需要说明的是，本实施例中，关于第1级聚合模块920_
1至第3级聚合模块920_3中任一级聚合模块的详细描述，可以参考上文所述的聚合模块320，本公开在此不再赘述。
[0142]
接下来，可以利用拼接模块940将c个第1级聚合特征、c个第2级聚合特征和c个第3级聚合特征拼接，得到拼接聚合特征。利用一个分类器根据拼接聚合特征进行分类，可以得到分类结果902。
[0143]
利用ce损失函数，可以确定分类结果902和标签903之间的差异值904。根据差异值904，可以调整深度学习模型900的参数，以对深度学习模型900进行训练。例如，标签903可以是样本图像901的标签。又例如，可以调整n级特征提取模块、n级聚合模块和拼接模块中一个或多个模块的参数，使得差异值904收敛。
[0144]
在一些实施例中，深度学习模型还包括频域融合模块，频域融合模块包括频域变换子模块、全局滤波子模块和频域逆变换子模块；根据c个聚合特征，对目标图像中的目标对象进行分类包括：将c个第1级聚合特征至c个第n级聚合特征进行拼接，得到拼接聚合特征；利用频域变换子模块，将拼接聚合特征变换到频域，得到频域聚合特征；利用全局滤波子模块，对频域聚合特征进行全局滤波，得到融合频域聚合特征；利用频域逆变换子模块，将融合频域聚合特征变换到时域，得到融合特征；以及根据融合特征，对目标图像中的目标对象进行分类。下面将结合图10进行详细说明。
[0145]
图10是根据本公开的另一个实施例的深度学习模型的训练方法的原理图。
[0146]
深度学习模型1000例如可以包括块嵌入层1010、n级聚合模块、n级特征提取模块和拼接模块1040。
[0147]
n级聚合模块例如可以包括聚合模块1020_1至聚合模块1020_3。n级特征提取模块例如可以包括特征提取模块1030_1至特征提取模块1030_3。
[0148]
关于块嵌入层1010、聚合模块1020_1至聚合模块1020_3、特征提取模块1030_1至特征提取模块1030_3、拼接模块1040的详细描述，可以参考上文所述的块嵌入层910、聚合模块920_1至聚合模块920_3、特征提取模块930_1至特征提取模块930_3、拼接模块940，本公开在此不再赘述。
[0149]
与深度学习模型900不同之处在于，深度学习模型1000在利用拼接模块1040得到拼接聚合特征之后，将拼接聚合特征输入第1级频域融合模块1050_1，得到第1级输出特征。将第1级输出特征输入第2级频域融合模块1050_2，得到第2级输出特征。再将第2级输出特征输入聚合模块1060，得到最终的c个聚合特征。根据最终的c个聚合特征，进行分类，得到分类结果1002。
[0150]
需要说明的是，关于第1级频域融合模块1050_1或第2级频域融合模块1050_2的详细描述，可以参考上文所述的频域融合模块550，本公开在此不再赘述。关于聚合模块1060的详细描述，可以参考上文所述的聚合模块320，本公开在此不再赘述。
[0151]
利用ce损失函数，可以确定分类结果1002和标签1003之间的差异值1004。根据差异值1004，可以调整深度学习模型1000的参数，以对深度学习模型1000进行训练。例如，标签1003可以是样本图像1001的标签。又例如，可以调整n级特征提取模块、多级聚合模块、拼接模块、多级频域融合模块中一个或多个模块的参数，使得差异值1004收敛。在一个示例中，可以调整全局滤波子模块对应的矩阵k中的参数。
[0152]
需要说明的是，本实施例中，深度学习模型1000包括2级频域融合模块。但在本公
开的其他实施例中，深度学习模型可以包括1级或1级以上的频域融合模块，本公开对此不做限制。
[0153]
图11是根据本公开的一个实施例的对象分类装置的框图。
[0154]
如图11所示，该装置1100可以包括第一获得模块1110、第一确定模块1120、第二确定模块1130和分类模块1140。
[0155]
第一获得模块1110，用于根据目标图像的初始向量特征图，得到k个初始特征。例如，k为大于1的整数。
[0156]
第一确定模块1120，用于根据所述k个初始特征，确定k个校正特征和k个聚类特征。
[0157]
第二确定模块1130，用于根据所述k个校正特征和所述k个聚类特征，确定c个聚合特征。例如，c为大于或等于1的整数，且c为小于k的整数。
[0158]
第一分类模块1140，用于根据所述c个聚合特征，对所述目标图像中的目标对象进行分类，得到分类结果。
[0159]
在一些实施例中，所述k个聚类特征指示了所述k个初始特征中的第k个初始特征被聚类至c个簇中的第c个簇的权重，其中，k为大于或等于1的整数，且k为小于或等于k的整数，c为大于或等于1的整数，且c为小于或等于c的整数。
[0160]
在一些实施例中，所述第二确定模块包括：第一加权子模块，用于利用所述k个聚类特征对所述k个校正特征进行加权，得到k个加权特征；以及第一聚合子模块，用于针对c个簇，对所述k个加权特征进行聚合，得到所述c个聚合特征。
[0161]
在一些实施例中，所述第一获得模块包括：第一特征提取子模块，用于对所述初始向量特征图进行特征提取，得到k个第1级初始特征；以及第二特征提取子模块，用于对第n-1级初始特征进行特征提取，得到k个第n级初始特征，n为大于1的整数，且n为小于或等于n的整数，n为大于1的整数。
[0162]
在一些实施例中，所述第二确定模块包括：第一确定子模块，用于根据所述k个第1级初始特征，确定k个第1级校正特征和k个第1级聚类特征；以及第二确定子模块，用于根据所述k个第n级初始特征，确定k个第n级校正特征和k个第n级聚类特征。
[0163]
在一些实施例中，根据第二确定模块包括：第三确定子模块，用于根据所述k个第1级校正特征和所述k个第1级聚类特征，确定c个第1级聚合特征；以及第四确定子模块，用于根据所述k个第n级校正特征和所述k个第n级聚类特征，确定c个第n级聚合特征。
[0164]
在一些实施例中，所述第一分类模块包括：第一拼接子模块，用于将所述c个第1级聚合特征至所述c个第n级聚合特征进行拼接，得到拼接聚合特征；第一频域变换子模块，用于将所述拼接聚合特征变换到频域，得到频域聚合特征；第一全局滤波子模块，用于对所述频域聚合特征进行全局滤波，得到融合频域聚合特征；第一时域变换子模块，用于将所述融合频域聚合特征变换到时域，得到融合特征；以及第一分类子模块，用于根据所述融合特征，对所述目标图像中的目标对象进行分类。
[0165]
在一些实施例中，所述目标对象包括面部，所述分类结果包括真实面部和伪造面部。
[0166]
图12是根据本公开的另一个实施例的深度学习模型的训练装置的框图。
[0167]
如图12所示，该装置1200可以包括第二获得模块1210、第三确定模块1220、第四确
定模块1230、第二分类模块1240和训练模块1250。
[0168]
第二获得模块1210，用于根据样本图像的初始向量特征图，得到k个初始特征。例如，k为大于1的整数。
[0169]
第三确定模块1220，用于根据所述k个初始特征，确定k个校正特征和k个聚类特征。
[0170]
第四确定模块1230，用于根据所述k个校正特征和所述k个聚类特征，确定c个聚合特征。例如，c为大于或等于1的整数，且c为小于k的整数。
[0171]
第二分类模块1240，用于根据所述c个聚合特征，对所述样本图像中的样本对象进行分类，得到分类结果。
[0172]
训练模块1250，用于根据所述分类结果与所述样本图像的标签之间的差异值，对所述深度学习模型进行训练。
[0173]
在一些实施例中，所述k个聚类特征指示了所述k个初始特征中的第k个初始特征被聚类至c个簇中的第c个簇的权重，其中，k为大于或等于1的整数，且k为小于或等于k的整数，c为大于或等于1的整数，且c为小于或等于c的整数。
[0174]
在一些实施例中，所述深度学习模型包括聚合模块，所述第四确定模块包括：第一获得子模块，用于利用所述聚合模块对所述k个聚类特征对所述k个校正特征进行加权，得到k个加权特征；以及针对c个簇，对所述k个加权特征进行聚合，得到所述c个聚合特征。
[0175]
在一些实施例中，所述深度学习模型包括级联的n级特征提取模块，n为大于1的整数；所述第二获得模块包括：第三特征提取子模块，用于利用第1级特征提取模块对所述初始向量特征图进行特征提取，得到k个第1级初始特征；以及第四特征提取子模块，用于利用第n级特征提取模块对第n-1级初始特征进行特征提取，得到k个第n级初始特征，n为大于1的整数，且n为小于或等于n的整数，n为大于1的整数。
[0176]
在一些实施例中，所述深度学习模型包括n级聚合模块，每级聚合模块与一级特征提取模块对应，所述第四确定模块包括：第五确定子模块，用于利用第1级聚合模块，根据所述k个第1级初始特征，确定k个第1级校正特征和k个第1级聚类特征，以及根据所述k个第1级校正特征和所述k个第1级聚类特征，确定c个第1级聚合特征。以及第六确定子模块，用于利用第n级聚合模块，根据所述k个第n级初始特征，确定k个第n级校正特征和k个第n级聚类特征，以及根据所述k个第n级校正特征和所述k个第n级聚类特征，确定c个第n级聚合特征。
[0177]
在一些实施例中，所述深度学习模型还包括频域融合模块，所述频域融合模块包括频域变换子模块、全局滤波子模块和频域逆变换子模块；所述第二分类模块包括：第二拼接子模块，用于将所述c个第1级聚合特征至所述c个第n级聚合特征进行拼接，得到拼接聚合特征；第二频域变换子模块，用于利用所述频域变换子模块，将所述拼接聚合特征变换到频域，得到频域聚合特征；第二全局滤波子模块，用于利用所述全局滤波子模块，对所述频域聚合特征进行全局滤波，得到融合频域聚合特征；第二时域变换子模块，用于利用所述频域逆变换子模块，将所述融合频域聚合特征变换到时域，得到融合特征；以及第二分类子模块，用于根据所述融合特征，对所述样本图像中的样本对象进行分类。
[0178]
在一些实施例中，所述训练模块包括：第七确定子模块，用于确定所述分类结果与所述样本图像的标签之间的差异值；以及调整子模块，用于调整所述深度学习模型的参数，使得所述差异值收敛。
[0179]
本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。
[0180]
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
[0181]
图13示出了可以用来实施本公开的实施例的示例电子设备1300的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
[0182]
如图13所示，设备1300包括计算单元1301，其可以根据存储在只读存储器(rom)1302中的计算机程序或者从存储单元1308加载到随机访问存储器(ram)1303中的计算机程序，来执行各种适当的动作和处理。在ram 1303中，还可存储设备1300操作所需的各种程序和数据。计算单元1301、rom 1302以及ram 1303通过总线1304彼此相连。输入/输出(i/o)接口1305也连接至总线1304。
[0183]
设备1300中的多个部件连接至i/o接口1305，包括：输入单元1306，例如键盘、鼠标等；输出单元1307，例如各种类型的显示器、扬声器等；存储单元1308，例如磁盘、光盘等；以及通信单元1309，例如网卡、调制解调器、无线通信收发机等。通信单元1309允许设备1300通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
[0184]
计算单元1301可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1301的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。计算单元1301执行上文所描述的各个方法和处理，例如对象分类方法和/或深度学习模型的训练方法。例如，在一些实施例中，对象分类方法和/或深度学习模型的训练方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元1308。在一些实施例中，计算机程序的部分或者全部可以经由rom 1302和/或通信单元1309而被载入和/或安装到设备1300上。当计算机程序加载到ram 1303并由计算单元1301执行时，可以执行上文描述的对象分类方法和/或深度学习模型的训练方法的一个或多个步骤。备选地，在其他实施例中，计算单元1301可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行对象分类方法和/或深度学习模型的训练方法。
[0185]
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、复杂可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
[0186]
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来
编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
[0187]
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
[0188]
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，crt(阴极射线管)或者lcd(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
[0189]
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(lan)、广域网(wan)和互联网。
[0190]
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
[0191]
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
[0192]
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。