模型训练的方法、装置、电子设备及存储介质与流程

1.本公开涉及深度学习技术领域，尤其涉及模型训练领域，具体涉及一种模型训练的方法、装置、电子设备及存储介质。


背景技术：

2.对象分类模型，用于对对象进行分类。在对象分类模型的使用过程中，经常需要增加对象分类模型可识别的分类类别的数量。
3.相关技术中，为了训练得到新模型，往往将原始分类模型所利用的样本集与新增的样本集合并为新的样本集，通过新的样本集，对新的对象分类模型进行训练，最终得到既具有原始分类模型的原始类别的识别能力，又具有新增类别的识别能力的新模型。


技术实现要素：

4.本公开提供了一种用于可以兼顾模型训练的效率与准确性的模型训练的方法、装置、设备以及存储介质。
5.根据本公开的一方面，提供了一种模型训练的方法，包括：
6.获取目标样本集；其中，所述目标样本集包括原始样本集中属于原始类别的部分样本对象，以及新增样本集中属于新增类别的样本对象，所述原始样本集为预先训练完成的原始分类模型所利用的样本集；
7.基于所述原始分类模型对应的原始信息，采用所述目标样本集对待训练的目标分类模型进行训练，得到训练完成的所述目标分类模型；
8.其中，所述目标分类模型用于推理的各类别包括所述原始类别和所述新增类别；所述原始分类模型对应的原始信息包括：针对所述目标样本集中每个样本对象，利用所述原始分类模型进行分类时所得到的分类结果。
9.根据本公开的另一方面，提供了一种模型训练的装置，包括：
10.样本集获取模块，用于获取目标样本集；其中，所述目标样本集包括原始样本集中属于原始类别的部分样本对象，以及新增样本集中属于新增类别的样本对象，所述原始样本集为预先训练完成的原始分类模型所利用的样本集；
11.模型训练模块，用于基于所述原始分类模型对应的原始信息，采用所述目标样本集对待训练的目标分类模型进行训练，得到训练完成的所述目标分类模型；
12.其中，所述目标分类模型用于推理的各类别包括所述原始类别和所述新增类别；所述原始分类模型对应的原始信息包括：针对所述目标样本集中每个样本对象，利用所述原始分类模型进行分类时所得到的分类结果。
13.根据本公开的另一方面，提供了一种电子设备，包括：
14.至少一个处理器；以及
15.与所述至少一个处理器通信连接的存储器；其中，
16.所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一
个处理器执行，以使所述至少一个处理器能够执行模型训练的方法。
17.根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行模型训练的方法。
18.根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现模型训练的方法。
19.应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
20.附图用于更好地理解本方案，不构成对本公开的限定。其中：
21.图1是根据本公开第一实施例的示意图；
22.图2是根据本公开第二实施例的示意图；
23.图3是根据本公开第三实施例的示意图；
24.图4是本公开实施例提供的模型蒸馏示意图；
25.图5是根据本公开第四实施例的示意图；
26.图6是用来实现本公开实施例的模型训练的方法的电子设备的框图。
具体实施方式
27.以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
28.对象分类模型是用于对对象进行分类的模型。在对象分类模型的使用过程中，经常需要增加对象分类模型可识别的分类类别的数量。
29.示例性的，原始分类模型是利用包含1000类标签、共计100万张(每类1000张)样本对象的原始样本集训练所得的图像分类模型，其具有1000类分类类别的识别能力，当新增包含20类标签、共计4000张样本对象的新增样本集时，则可以基于原始样本集与新增样本集训练即具有1020类分类类别的识别能力的新增模型。
30.相关技术中，为了训练得到新增模型，往往需要将原始样本集与新增样本集合并为新的样本集，进而通过新的样本集，对新的对象分类模型进行训练，最终得到既具有原始分类模型的原始分类类别的识别能力，又具有新增的新增类别的识别能力的新增模型。
31.相关技术中，将原始样本集与新增样本集合为新的样本集，使得所合并的样本集中样本数量较多，训练得到新增模型耗时较多，效率较低。
32.示例性的，原始样本集包含1000类标签、共计100万张样本对象，而新增样本集包含20类标签、共计4000张样本对象，由于原始样本集内样本对象的数量较多，使得合并后的样本集中也包含超过100万的样本对象，使得训练新增模型非常耗费时间，同时也影响用户的体验。
33.为了兼顾模型训练的效率和准确性，本公开实施例提供一种模型训练的方法。
34.需要说明的，在具体应用中，本公开实施例所提供的模型训练的方法可以应用于
各类电子设备，例如，个人电脑、服务器、以及其他具有数据处理能力的设备。另外，可以理解的是，本公开实施例提供的模型训练方法可以通过软件、硬件或软硬件结合的方式实现。
35.其中，本公开实施例所提供的一种模型训练的方法可以包括：
36.获取目标样本集；其中，目标样本集包括原始样本集中属于原始类别的部分样本对象，以及新增样本集中属于新增类别的样本对象，原始样本集为预先训练完成的原始分类模型所利用的样本集；
37.基于原始分类模型对应的原始信息，采用目标样本集对待训练的目标分类模型进行训练，得到训练完成的目标分类模型；
38.其中，目标分类模型用于推理的各类别包括原始类别和新增类别；原始分类模型对应的原始信息包括：针对目标样本集中每个样本对象，利用原始分类模型进行分类时所得到的分类结果。
39.本公开提供的上述方案，由于目标样本集仅包括原始样本集中属于原始类别的部分样本对象，使得目标样本集中的样本对象的数量比总样本对象的数量少，因此，可以减小训练新增模型所需的时间，同时通过利用已训练的原始分类模型的原始信息对新增模型进行训练，可以提高新增模型的准确性，可见，通过本公开提供的上述方案可以兼顾模型训练的效率与准确性。
40.下面结合附图对本公开实施例所提供的一种模型训练的方法进行介绍。
41.如图1所示，本公开实施例提供所一种模型训练的方法，可以包括如下步骤：
42.s101，获取目标样本集；其中，目标样本集包括原始样本集中属于原始类别的部分样本对象，以及新增样本集中属于新增类别的样本对象，原始样本集为预先训练完成的原始分类模型所利用的样本集；
43.其中，原始分类模型可以为对图像、音频等对象进行分类的模型。与原始分类模型对应的，样本对象可以为图像、音频等对象。示例性的，若原始分类模型为图像分类模型，如基于cnn(convolutional neural network，卷积神经网络)所构建的模型，则样本对象可以为样本图像。
44.上述原始样本集中为预先训练完成的原始分类模型所利用的样本集。也就是说，通过原始样本集中的样本对象训练得到原始分类模型。原始类别是原始样本集中样本对象所属的分类类别。示例性的，原始样本集中包含100万张样本对象，分属于类别1
‑
类别1000，则类别1
‑
类别1000均为原始类别。同时，由于原始分类模型是利用原始样本集训练得到的，因此，原始类别是原始分类模型可推理的分类类别。
45.在原始类别为多个的情况下，目标样本集包括原始样本集中属于每一原始类别的部分样本对象。示例性的，原始样本集中每类样本对象的数量为1000张，则目标样本集中可以包含原始样本图像中每类样本图像1000张中的200张。
46.新增样本集中包含新增类别的样本对象，新增类别是不同于原始类别的分类类别。如原始类别为类别1
‑
类别1000，则新增类别可以为类别1001、类别1002等。
47.目标样本集包括新增样本集属于新增类别的全部样本对象。
48.由于目标样本集仅包括原始样本集中属于原始类别的部分样本对象，使得目标样本集中的样本对象的数量比总样本对象的数量少，因此，可以减小训练目标分类模型所需的时间。
49.s102，基于原始分类模型对应的原始信息，采用目标样本集对待训练的目标分类模型进行训练，得到训练完成的目标分类模型。
50.其中，目标分类模型即为需要新增的对象分类模型，用于推理的各类别包括原始类别和新增类别。举例而言，若原始类别包含1000类，新增类别包含20类，则目标分类模型用于推理1020种类别。
51.原始分类模型对应的原始信息包括：针对目标样本集中每个样本对象，利用原始分类模型进行分类时所得到的分类结果。由于原始分类模型用于推论原始类别，因此，将样本对象输入至原始分类模型后，原始分类模型可以输出该样本对象属于原始类别的概率，即该样本对象的分类结果。需要说明的是，若原始类别为多个，则原始分类模型输出的分类结果中包含该样本对象属于每一原始类别的概率。
52.由于原始信息中包含针对目标样本集中每个样本对象，利用原始分类模型进行分类时所得到的分类结果，因此，该分类结果可作为用于训练该目标分类模型的指定推理结果的参照信息，该指定推理结果具体指：目标分类模型对样本对象进行分类所得到分类结果中属于原始类别的结果，进而在目标样本集中仅包含原始样本集中属于原始类别的部分样本对象的情况下，也可以训练得到准确度较高的目标分类模型。可以理解的是，基于原始分类模型对应的原始信息，采用目标样本集对待训练的目标分类模型进行训练的方式，可以称为利用原始分类模型对目标分类模型的蒸馏训练。
53.本公开提供的上述方案，由于目标样本集仅包括原始样本集中属于原始类别的部分样本对象，使得目标样本集中的样本对象的数量比总样本对象的数量少，因此，可以减小训练新增模型所需的时间，同时通过利用已训练的原始分类模型的原始信息对新增模型进行训练，可以提高目标分类模型的准确性，可见，通过本公开提供的上述方案可以兼顾模型训练的效率与准确性。
54.基于图1的实施例，如图2所示，本公开的另一实施例所提供的模型训练的方法，上述s102，可以包括步骤s1021
‑
s1024：
55.s1021，从目标样本集中获取样本对象，作为目标样本对象；
56.目标样本集包含原始样本集中属于原始类别的部分样本对象，以及新增样本集中属于新增类别的样本对象，可以从目标样本集获取样本对象，作为目标样本对象。
57.可选的，为了充分利用到目标样本集中每一样本对象对目标分类模型进行训练，可以记录每次获取的样本对象，从而可以在获取样本对象时，从目标样本集中获取未被利用过的样本对象，作为目标样本对象。
58.s1022，将目标样本对象输入目标分类模型，得到第一分类结果，并将目标样本对象输入原始分类模型，得到第二分类结果；
59.其中，第一分类结果中包含目标分类模型所预测的目标样本对象属于每一原始类别和每一新增类别的概率。第二分类结果包含原始分类模型所预测的目标样本对象属于每一原始类别的概率。
60.举例而言，原始类别包含类别1、类别2和类别3，新增类别包含类别4。在将样本图像a输入到目标分类模型后，得到的第一分类结果包括：类别1的概率10％、类别2的概率10％、类别3的概率75％、类别4的概率5％。在将样本图像a输入到原始分类模型后，得到的第二分类结果包括：类别1的概率10％、类别2的概率10％、类别3的概率80％。
61.s1023，利用第一分类结果中针对原始类别的结果与第二分类结果的差异，确定目标分类模型的损失，作为目标分类模型的结果损失；
62.其中，上述结果损失也称之为蒸馏损失，也就是利用原始分类模型输出的原始类型的分类结果对目标分类模型输出的分类结果进行调整的损失。
63.第一分类结果中针对原始类别的结果与第二分类结果的差异可以反映目标分类模型的预测能力与原始分类模型预测能力的差异。因此，可以利用第一分类结果中针对原始类别的结果与第二分类结果的差异，确定目标分类模型的损失，作为目标分类模型的结果损失。
64.可选的，可以采用多种方式利用第一分类结果中针对原始类别的结果与第二分类结果的差异，确定目标分类模型的损失，作为目标分类模型的结果损失，包括：
65.第一方式：计算第一分类结果中针对各个原始类别的结果与对应的第二分类结果的差值，将计算得到的差值之和作为目标分类模型的结果损失。
66.示例性的，第一分类结果中针对原始类别的结果是目标分类模型预测目标样本对象属于原始类别的概率。示例性的，原始类别包含类别1、类别2和类别3，新增类别包含类别4，第一分类结果包括：类别1的概率10％、类别2的概率10％、类别3的概率75％、类别4的概率5％。则第一分类结果中针对原始类别的结果为：类别1的概率10％、类别2的概率10％、类别3的概率75％。
67.在一种实现方式中，可以先计算每一原始类别在第一分类结果中针对原始类别的结果中的概率与在第二分类结果中概率的差值，再将所计算的各差值的绝对值相加，得到结果损失。
68.示例性的，第一分类结果中针对原始类别的结果为：类别1的概率10％、类别2的概率10％、类别3的概率75％。第二分类结果包括：类别1的概率10％、类别2的概率10％、类别3的概率80％。则计算类别1的差值为0、类别2的差值为0、类别3的差值为5％，则结果损失为5％。
69.第二方式：计算第一分类结果中针对原始类别的结果和第二分类结果之间的散度，作为目标分类模型的结果损失。
70.上述散度可以为kl(kullback
‑
leibler，相对熵)散度或js(jensen
–
shannon，詹森
‑
香农)散度。
71.其中，kl散度的计算公式如下：
[0072][0073]
其中，p为第一分类结果中针对原始类别的结果，q为第二分类结果，n为原始类别的数量，p(x
i
)为第一分类结果中针对原始类别的结果中第i个类别的概率值，q(x
i
)为第二分类结果中第i个类别的概率值。
[0074]
其中，js散度的计算公式如下：
[0075][0076]
其中，p1为第一分类结果中针对原始类别的结果，p2为第二分类结果，
为计算p1与的kl散度，为计算p2与的kl散度。
[0077]
若所计算的散度为js散度，则上述第二方式，可以包括：
[0078]
计算第一分类结果中针对原始类别的结果和第二分类结果之间的js散度，作为目标分类模型的结果损失。
[0079]
由于js散度可以更准确的反映出第一分类结果中针对原始类别的结果和第二分类结果之间的差异情况，因此，可以使得目标分类模型的结果损失的更准确。
[0080]
s1024，基于结果损失，调整目标分类模型的参数，并在目标样本集中样本对象均被利用之前，返回执行从目标样本集中获取样本对象，作为目标样本对象的步骤，继续对目标分类模型进行训练。
[0081]
其中，对于神经网络模型而言，损失越大，所要调整的参数的调整幅度也越大，因此，可以结合实际情况与需求，基于结果损失，调整目标分类模型的参数。
[0082]
可选的，在一种实现方式中，上述基于结果损失，调整目标分类模型的参数，还可通过如下步骤一
‑
步骤二实现：
[0083]
步骤一：对结果损失和目标样本对象对应的分类损失进行加权，得到分类模型的模型损失；
[0084]
其中，分类损失为基于第一分类结果与目标样本对象的类别标定结果的差异所确定的损失。即计算目标分类模型最终输出目标样本对象的类别是否与目标样本对象的类别标定结果的差异，若相同，说明可以目标分类模型可以准确识别出目标样本对象的类别，则分类损失为0，否则，目标分类模型不能准确识别出目标样本对象的类别，则基于目标分类模型所预测的类别与标定结果的差异大小，确定分类损失。
[0085]
在确定分类损失后，可以按照预先为分类损失与结果所述配置的权重，对结果损失和目标样本对象对应的分类损失进行加权，得到分类模型的模型损失。
[0086]
步骤二：基于模型损失，按照预定参数调整方式，调整目标分类模型的参数。
[0087]
其中，预定参数调整方式可以与现有基于损失调整参数的方式相同，本公开实施例在此不再赘述。示例性的，预定参数调整方式可以随机梯度下降方式、批量梯度下降方式等等。
[0088]
由于分类损失基于第一分类结果与目标样本对象的类别标定结果的差异所确定的损失，因此，通过分类损失可以进一步的提高模型训练的准确性。
[0089]
可选的，在一种实现方式中，为了进一步的提高模型训练的效率，目标分类模型与原始分类模型的指定网络层的参数相同，指定网络层为除用于输出分类类别的全连接层外的网络层，此时，可以基于模型损失，调整目标分类模型的全连接层中的参数。
[0090]
由于对目标分类模型进行训练的过程只需要对全连接层的参数进行调整，从而进一步的提高了训练效率。
[0091]
本公开提供的上述方案，由于目标样本集仅包括原始样本集中属于原始类别的部分样本对象，使得目标样本集中的样本对象的数量比总样本对象的数量少，因此，可以减小训练新增模型所需的时间，同时通过利用已训练的原始模型与新增模型之间的结果损失，对新增模型的参数进行调整，可以提高新增模型的准确性，可见，通过本公开提供的上述方
案可以兼顾模型训练的效率与准确性。
[0092]
可选的，在一实施例中，当新增样本集合中每一新增类别的样本对象的数量较少时，可以通过对新增类别的样本对象在总样本对象中占比的方式，避免训练后的模型预测类别是偏向原始类别，从而可以进一步的提高训练模型的准确率。
[0093]
在一种实现方式中，可以通过增加目标样本集合内新增类别的样本对象的数量方式实现上采样。例如，可以针对每一属于新增类型的样本对象，复制多个该样本对象，从而增大了新增类型的样本对象在总样本对象中的占比。
[0094]
在另一实现方式中，还可以采用上采样的方式，即针对每一样本对象，多次利用该样本对象对模型进行训练，此时，本公开实施例还可以包括：
[0095]
在基于结果损失，调整目标分类模型的参数之后，可以识别目标样本对象是属于原始类别的样本对象，还是属于新增类别的样本对象。
[0096]
若目标样本对象为属于原始类别的样本对象，则执行返回执行从目标样本集中获取样本对象，作为目标样本对象的步骤。
[0097]
若目标样本对象为属于新增类别的样本对象，则确定目标样本对象已利用次数是否小于预设阈值；若不小于，则执行返回执行从目标样本集中获取样本对象，作为目标样本对象的步骤，否则，执行将目标样本对象输入目标分类模型，得到第一分类结果的步骤，直至已利用次数不小于预设阈值。
[0098]
其中，目标样本对象已利用次数可以通过在每次利用目标样本对象对模型进行训练后记录得到，每利用一次，已利用次数加1。上述预设阈值可以基于实际使用情况与需求确定，例如，在每一原始类别的样本对象数量为1000，而每一新增类别的样本对象数量为200的情况下，预设阈值可以为5。
[0099]
若目标样本对象已利用次数小于预设阈值，则可以继续使用目标样本对象对目标分类模型进行训练，即执行将目标样本对象输入目标分类模型，得到第一分类结果的步骤，直至已利用次数不小于预设阈值。
[0100]
若目标样本对象已利用次数不小于预设阈值时，则需要重新获取样本对象对目标分类模型进行训练。即执行返回执行从目标样本集中获取样本对象，作为目标样本对象的步骤。
[0101]
本公开提供的上述方案，通过本公开提供的上述方案可以兼顾模型训练的效率与准确性，同时，在当新增样本集合中每一新增类别的样本对象的数量较少，可以通过提高新增类别的样本对象在目标样本集合中占比方式，进一步的提高训练模型的准确率。
[0102]
可选的，在一实施例中，在目标样本集中全部的样本对象均被利用之后，即目标分类模型训练完成之后，还可以利用测试样本集对目标分类模型进行测试，其中，测试样本集中的样本对象可以为目标样本集中的样本对象，也可以为通过其他方式收集的样本对象。具体的，将测试样本集中的样本对象输入目标分类模型中，若目标分类模型的模型损失满足预设的损失条件，则确定目标分类模型训练完成，否则需要重新使用目标样本集对目标分类模型进行训练。
[0103]
为了更好的理解本公开所提供的方案，如图3所示，以图像分类这个场景为例，介绍下本公开所提供的方案，其中，图像分类场景中原始样本集为底库，底库包含1000类标签、每一分类类别包含1000张图像、共计100万张图像，而新增样本集包含20类标签、每一分
类类别包含200张图像、共计4000张图像，包括步骤：
[0104]
1、从底库1000类图像每类取200张左右样本，这样底库总量变成20万，比原来的100万少了五分之四，也就是训练时间少五分之四左右；
[0105]
2、新增20类图像每类200张，在训练的时候进行上采样5倍左右，新增总量变成2万。新增图像翻倍的原因是因为，如果不进行翻倍，那么新增4000张图像相比于底库20万的图像还是比重比较低，对于新增20类的全连接更新比较少，导致在底库1000类的图像上准确率高，新增20类的图像上准确率低，进行翻倍之后，既能确保原有1000类有不错的准确率，又能确保新增20类因为翻倍，也有不错的准确率。
[0106]
3、在进行训练的时候，需要尽可能的保留底库模型的信息，可以用底库模型对新增模型训练进行蒸馏，如下图4所示。
[0107]
图中，x是输入图像，n是原始类别数1000，m是新增类别数20，是底库模型中全连接层输出得到n维的向量分数，其中，每一维度向量分数为原始分类模型预测输入图像的类别为一个原始类型的概率，o
n m
＝[o1,o2,
…
,o
n
,o
n 1
,
…
,o
n m
]是目标分类模型输出下面n m维的向量分数，同样的，其中每一维度向量分数为目标分类模型预测输入图像的类别为一个原始类别或新增类别的概率，通过原始分类模型输出的n维的向量分数蒸馏目标分类模型输出的n m维中的n维向量分数，即计算蒸馏损失。同时还需要计算目标分类模型n m维的向量分数的交叉熵损失，作为目标分类模型的分类损失。
[0108]
4、在目标分类模型训练完成之后，还可以利用测试样本集对目标分类模型进行测试，其中，测试样本集中的样本图像可以为目标样本集中的样本图像，也可以为通过其他方式收集的样本图像。具体的，将测试样本集中的样本图像输入目标分类模型中，若目标分类模型的模型损失满足预设的损失条件，则确定目标分类模型训练完成，否则需要重新使用目标样本集对目标分类模型进行训练。
[0109]
通过以上的在线优化蒸馏方案，在原有的底库模型基础上，可以新增图像进行训练，在确保底库图像准确率的情况，可以更快更好地训练新增的图像，新增模型不仅有较高的准确率，同时也兼备底库图像的识别能力。
[0110]
根据本公开的实施例，如图5所示，本公开还提供了一种模型训练的装置，上述装置包括：
[0111]
样本集获取模块501，用于获取目标样本集；其中，目标样本集包括原始样本集中属于原始类别的部分样本对象，以及新增样本集中属于新增类别的样本对象，原始样本集为预先训练完成的原始分类模型所利用的样本集；
[0112]
模型训练模块502，用于基于原始分类模型对应的原始信息，采用目标样本集对待训练的目标分类模型进行训练，得到训练完成的目标分类模型；
[0113]
其中，目标分类模型用于推理的各类别包括原始类别和新增类别；原始分类模型对应的原始信息包括：针对目标样本集中每个样本对象，利用原始分类模型进行分类时所得到的分类结果。
[0114]
可选的，模型训练模块，包括：
[0115]
对象获取子模块，用于从目标样本集中获取样本对象，作为目标样本对象；
[0116]
对象输入子模块，用于将目标样本对象输入目标分类模型，得到第一分类结果，并
将目标样本对象输入原始分类模型，得到第二分类结果；
[0117]
损失确定子模块，用于利用第一分类结果中针对原始类别的结果与第二分类结果的差异，确定目标分类模型的损失，作为目标分类模型的结果损失；
[0118]
参数调整子模块，用于基于结果损失，调整目标分类模型的参数，并在目标样本集中样本对象均被利用之前，返回执行从目标样本集中获取样本对象，作为目标样本对象的步骤，继续对目标分类模型进行训练。
[0119]
可选的，参数调整子模块，包括：
[0120]
损失加权单元，用于对结果损失和目标样本对象对应的分类损失进行加权，得到分类模型的模型损失；其中，分类损失为基于第一分类结果与目标样本对象的类别标定结果的差异所确定的损失；
[0121]
参数调整单元，用于基于模型损失，按照预定参数调整方式，调整目标分类模型的参数。
[0122]
可选的，目标分类模型与原始分类模型的指定网络层的参数相同，指定网络层为除用于输出分类类别的全连接层外的网络层；
[0123]
参数调整单元，还用于基于模型损失，调整目标分类模型的全连接层中的参数。
[0124]
可选的，损失确定子模块，包括：
[0125]
差值计算子模块，用于计算第一分类结果中针对各个原始类别的结果与对应的第二分类结果的差值，并将计算得到的差值之和作为目标分类模型的结果损失；或者，
[0126]
散度计算子模块，用于计算第一分类结果中针对原始类别的结果和第二分类结果之间的散度，作为目标分类模型的结果损失。
[0127]
可选的，散度计算子模块，还用于计算第一分类结果中针对原始类别的结果和第二分类结果之间的詹森
‑
香农js散度，作为目标分类模型的结果损失。
[0128]
可选的，参数调整子模块，还用于在基于结果损失，调整目标分类模型的参数之后，若目标样本对象为属于原始类别的样本对象，则执行返回执行从目标样本集中获取样本对象，作为目标样本对象的步骤；若目标样本对象为属于新增类别的样本对象，则确定目标样本对象已利用次数是否小于预设阈值；若不小于，则执行返回执行从目标样本集中获取样本对象，作为目标样本对象的步骤，否则，执行将目标样本对象输入目标分类模型，得到第一分类结果的步骤，直至已利用次数不小于预设阈值。
[0129]
本公开提供的上述方案，由于目标样本集仅包括原始样本集中属于原始类别的部分样本对象，使得目标样本集中的样本对象的数量比总样本对象的数量少，因此，可以减小训练新增模型所需的时间，同时通过利用已训练的原始分类模型的原始信息对新增模型进行训练，可以提高新增模型的准确性，可见，通过本公开提供的上述方案可以兼顾模型训练的效率与准确性。
[0130]
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
[0131]
本公开实施例提供了一种电子设备，包括：
[0132]
至少一个处理器；以及
[0133]
与所述至少一个处理器通信连接的存储器；其中，
[0134]
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一
个处理器执行，以使所述至少一个处理器能够执行模型训练的方法。
[0135]
本公开提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行模型训练的方法。
[0136]
本公开提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现模型训练的方法。
[0137]
图6示出了可以用来实施本公开的实施例的示例电子设备600的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
[0138]
如图6所示，设备600包括计算单元601，其可以根据存储在只读存储器(rom)602中的计算机程序或者从存储单元608加载到随机访问存储器(ram)603中的计算机程序，来执行各种适当的动作和处理。在ram 603中，还可存储设备600操作所需的各种程序和数据。计算单元601、rom 602以及ram 603通过总线604彼此相连。输入/输出(i/o)接口605也连接至总线604。
[0139]
设备600中的多个部件连接至i/o接口605，包括：输入单元606，例如键盘、鼠标等；输出单元607，例如各种类型的显示器、扬声器等；存储单元608，例如磁盘、光盘等；以及通信单元609，例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
[0140]
计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理，例如模型训练的方法。例如，在一些实施例中，模型训练的方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元608。在一些实施例中，计算机程序的部分或者全部可以经由rom 602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到ram 603并由计算单元601执行时，可以执行上文描述的模型训练的方法的一个或多个步骤。备选地，在其他实施例中，计算单元601可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行模型训练的方法。
[0141]
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、负载可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
[0142]
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来
编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
[0143]
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd
‑
rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
[0144]
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，crt(阴极射线管)或者lcd(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
[0145]
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(lan)、广域网(wan)和互联网。
[0146]
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端
‑
服务器关系的计算机程序来产生客户端和服务器的关系。
[0147]
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
[0148]
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。