基于标签到标签的多属性预测方法、装置、设备及介质

1.本技术涉及人工智能计算机视觉技术领域，特别涉及一种基于标签到标签的多属性预测方法、装置、设备及介质。


背景技术：

2.计算机视觉中的多属性预测问题要求对于给定的一个视觉数据预测其多个属性值。
3.相关技术中，常见的多属性预测的应用包括人脸属性预测，行人属性预测，衣服属性预测等。以人脸属性预测为例，对于给定的一张人脸图片，要求同时预测该人脸的多种属性值诸，如性别、是否戴眼镜、是否有胡子、是否是金发、是否涂口红等。现存的方法大多使用多任务学习的框架，也就是将每一个属性当作一个学习任务，同时地学习这些属性。
4.如图1所示，图1为相关技术的多任务学习框架示意图，该方法在使用时往往无法有效建模多个属性之间的关联关系，导致性能较差，亟待改善。


技术实现要素：

5.本技术提供一种基于标签到标签的多属性预测方法、装置、设备及介质，以解决在多任务学习的框架中无法在一个视觉样本中建模多个属性标签值之间的关联关系，导致性能较差等问题。
6.本技术第一方面实施例提供一种基于标签到标签的多属性预测方法，包括以下步骤：
7.提取图像数据的深度特征；
8.基于所述深度特征获取所述图片数据的伪标签序列；以及
9.将所述伪标签序列中的每个单词以预设概率进行掩码，获取被遮挡的句子，并由所述被遮挡的句子恢复得到完整的句子，学习多个属性之间的关联关系，生成最终多属性预测结果。
10.根据本技术的一个实施例，所述提取图像数据的深度特征，包括：
11.提取所述图像数据的深度特征的同时，通过抛弃全局池化层保留所述深度特征的空间维度。
12.根据本技术的一个实施例，所述基于所述深度特征获取所述图片数据的伪标签序列，包括：
13.基于查询向量，利用属性解码器从所述深度特征中提取属性相关的至少一个特征；
14.由所述至少一个特征生成至少一个响应向量，并利用多个独立的二元分类器预测属性值，获取所述伪标签序列。
15.根据本技术的一个实施例，所述将所述伪标签序列中的每个单词以预设概率进行掩码，获取被遮挡的句子，包括：
16.对于所述伪标签序列，基于所述预设概率进随机选取标签以掩码掉，得到所述被遮挡的句子；
17.将所述被遮挡的句子映射为多个词向量。
18.根据本技术的一个实施例，所述由所述被遮挡的句子恢复得到完整的句子，学习多个属性之间的关联关系，生成最终多属性预测结果，包括：
19.将所述多个词向量作为标签解码器的输入，预测对应的属性。
20.根据本技术实施例的基于标签到标签的多属性预测方法，通过提取图像数据的深度特征获取图片数据的伪标签序列，并将伪标签序列中的每个单词以预设概率进行掩码，获取被遮挡的句子，并由被遮挡的句子恢复得到完整的句子，学习多个属性之间的关联关系，生成最终多属性预测结果。由此，解决了多任务学习的框架中无法在一个视觉样本中建模多个属性标签值之间的关联关系，导致性能较差等问题，通过预测被遮挡的多个属性标签值来建模多个属性之间的关联关系，提升多属性预测的性能，从而有效的提升模型的准确率。
21.本技术第二方面实施例提供一种基于标签到标签的多属性预测装置，包括：
22.提取模块，用于提取图像数据的深度特征；
23.获取模块，用于基于所述深度特征获取所述图片数据的伪标签序列；以及
24.预测模块，用于将所述伪标签序列中的每个单词以预设概率进行掩码，获取被遮挡的句子，并由所述被遮挡的句子恢复得到完整的句子，学习多个属性之间的关联关系，生成最终多属性预测结果。
25.根据本技术的一个实施例，所述提取模块，用于：
26.提取所述图像数据的深度特征的同时，通过抛弃全局池化层保留所述深度特征的空间维度。
27.根据本技术的一个实施例，所述获取模块，用于：
28.基于查询向量，利用属性解码器从所述深度特征中提取属性相关的至少一个特征；
29.由所述至少一个特征生成至少一个响应向量，并利用多个独立的二元分类器预测属性值，获取所述伪标签序列。
30.根据本技术的一个实施例，所述预测模块，用于：
31.对于所述伪标签序列，基于所述预设概率进随机选取标签以掩码掉，得到所述被遮挡的句子；
32.将所述被遮挡的句子映射为多个词向量。
33.根据本技术的一个实施例，所述预测模块，用于：
34.将所述多个词向量作为标签解码器的输入，预测对应的属性。
35.根据本技术实施例的基于标签到标签的多属性预测装置，通过提取图像数据的深度特征获取图片数据的伪标签序列，并将伪标签序列中的每个单词以预设概率进行掩码，获取被遮挡的句子，并由被遮挡的句子恢复得到完整的句子，学习多个属性之间的关联关系，生成最终多属性预测结果。由此，解决了多任务学习的框架中无法在一个视觉样本中建模多个属性标签值之间的关联关系，导致性能较差等问题，通过预测被遮挡的多个属性标签值来建模多个属性之间的关联关系，提升多属性预测的性能，从而有效的提升模型的准
确率。
36.本技术第三方面实施例提供一种电子设备，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序，以实现如上述实施例所述的基于标签到标签的多属性预测方法。
37.本技术第四方面实施例提供一种计算机可读存储介质，所述计算机可读存储介质存储计算机指令，所述计算机指令用于使所述计算机执行如上述实施例所述的基于标签到标签的多属性预测方法。
38.本技术附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本技术的实践了解到。
附图说明
39.本技术上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：
40.图1为相关技术中的多任务学习框架示例图；
41.图2为根据本技术实施例提供的一种基于标签到标签的多属性预测方法的流程图；
42.图3为根据本技术一个实施例提供的标签到标签的思路示意图；
43.图4为根据本技术一个实施例提供的标签到标签方法的流程图；
44.图5为根据本技术实施例的基于标签到标签的多属性预测装置的示例图；
45.图6为根据本技术实施例提供的电子设备的结构示意图。
具体实施方式
46.下面详细描述本技术的实施例，实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本技术，而不能理解为对本技术的限制。
47.下面参考附图描述本技术实施例的基于标签到标签的多属性预测方法、装置、设备及介质。针对上述背景技术中心提到的在多任务学习的框架中无法在一个视觉样本中建模多个属性标签值之间的关联关系，导致性能较差的问题，本技术提供了一种基于标签到标签的多属性预测方法，在该方法中，通过提取图像数据的深度特征获取图片数据的伪标签序列，并将伪标签序列中的每个单词以预设概率进行掩码，获取被遮挡的句子，并由被遮挡的句子恢复得到完整的句子，学习多个属性之间的关联关系，生成最终多属性预测结果。由此，解决了多任务学习的框架中无法在一个视觉样本中建模多个属性标签值之间的关联关系，导致性能较差等问题，通过预测被遮挡的多个属性标签值来建模多个属性之间的关联关系，提升多属性预测的性能，从而有效的提升模型的准确率。
48.具体而言，图2为本技术实施例所提供的一种基于标签到标签的多属性预测方法的流程示意图。
49.在本技术实施例中，对于给定的一张输入图片x，标记其对应的属性标签为y。由于存在多属性预测问题，属性标签y包含了多个属性。首先，假设预测的属性数目为m,那么属性标签y＝{y1,y2,
…
,yj,
…
,ym}包含了对于每个属性的真实值,其中，1≤j≤m，其次，假设
每个属性都是二元属性，也就是yj∈{0,1}。事实上，标签属性可以推广为任意元的属性，为了简单起见，则考虑每个属性都是二元的情况。由此可得，属性标签就是一个长度为m的二元序列。
50.本技术实施例中提出的标签到标签方法包括了三个组成部分，分别是特征提取器，属性解码器和标签解码器。如图3所示，其中，特征提取器是使用一个深度神经网络对图片x提取深度特征v。为了给后续的属性解码器和标签解码器提供一定程度的空间信息，将深度特征v保留一定的空间维度，因此，将深度特征v记录为v∈r
hw
×d，其中，h和w分别代表了特征的长度和宽度，d则代表了每个空间点上的特征维度；属性解码器基于深度特征v首先进行第一次的属性预测，预测结果可以认为是伪标签，然后作为标签解码器的输入，并将伪标签序列中的每一个预测结果认为是一个“单词”，那么这个伪标签序列就是一个无序的“句子”；将伪标签序列的每个单词以一定的几率进行掩码，获得被遮挡的句子，然后将被遮挡的句子送入到标签解码器中，让标签解码器基于被遮挡的“句子”恢复出完整的“句子”，通过这一恢复任务，学习各个属性之间的关联关系，从而获得更准确的预测结果。基于标签到标签的多属性预测方法将在以下实施例中进行详细阐述。
51.如图2所示，该基于标签到标签的多属性预测方法包括以下步骤：
52.在步骤s201中，提取图像数据的深度特征。
53.进一步地，在一些实施例中，提取图像数据的深度特征，包括：提取图像数据的深度特征的同时，通过抛弃全局池化层保留深度特征的空间维度。
54.具体地，本技术实施例中可以通过特征提取器提取图像数据的深度特征，并通过抛弃全局池化层保留最后提取的特征的空间维度，为后续的属性解码器和标签解码器两个模块提供一定的空间信息。其中，特征提取器可以为相关技术中优选使用的深度神经网络，如resnet系列网络，即本技术实施例可以通过resnet系列网络提取图像数据的深度特征。
55.在步骤s202中，基于深度特征获取图片数据的伪标签序列。
56.进一步地，在一些实施例中，基于深度特征获取图片数据的伪标签序列，包括：基于查询向量，利用属性解码器从深度特征中提取属性相关的至少一个特征；由至少一个特征生成至少一个响应向量，并利用多个独立的二元分类器预测属性值，获取伪标签序列。
57.具体地，本技术实施例中可以通过属性解码器获取图片数据的伪标签序列，也就是说对多个属性进行第一次的初步预测。在属性解码器中，基于查询向量q＝{q1,q2,
…
,qj,
…
,qm}，利用属性解码器从深度特征v中提取属性相关的至少一个特征，每一个查询向量qj∈rd对应一个属性。其中，为了实现属性解码器，本技术实施例使用了transformer的解码器结构。transformer的解码器包含了一个自注意力层、一个交叉注意力层和一个前向层，自注意力层和交叉注意力层都由三个重要的元素所定义：query,key和value，对于自注意力层，query,key和value都是由查询向量q经过线性变换获得。因此，自注意力层建模了这些属性查询向量之间的关系。在交叉注意力层中，key和value都由视觉特征v经过线性变换获得，query则为自注意力层的输出。其中，设计逻辑是对于每个属性查询向量，可以对感兴趣的局部视觉特征赋予较高的注意力数值，从而提取到与其属性相关的视觉特征。随后交叉注意力层的输出被送给前向层，这样前向层对应的输出是一系列的响应向量r＝{r1,r2,
…
,rj,
…
,rm},每一个响应向量rj∈rd对应一个查询向量qj。
58.进一步地，对于transformer的解码器，通过形式化的语言可以用f表示，则有：
59.f(,):rm×d×rhw
×d→rm
×d；
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(1)
60.f(q,v)
→
r；
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(2)
61.在获得了响应向量后，则使用m个独立的二元分类器来预测属性值：
62.lj＝σ(w
jrj
bj)；
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(3)
63.其中，wj和bj表示第j个二元分类器中的权重和偏置。σ为sigmoid函数，lj表示属性解码器对第j个属性存在的概率预测值。根据概率预测值，则可以进一步从中读取出二元伪标签序列：
64.s＝{s1,s2,
…
,sj,
…
,sm}；
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(4)
65.sj＝i(lj＞0.5)；
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(5)
66.其中,i()为示性函数，因此，可以从属性解码器中得到属性的初步预测结果。
67.在步骤s203中，将伪标签序列中的每个单词以预设概率进行掩码，获取被遮挡的句子，并由被遮挡的句子恢复得到完整的句子，学习多个属性之间的关联关系，生成最终多属性预测结果。
68.进一步地，在一些实施例中，将伪标签序列中的每个单词以预设概率进行掩码，获取被遮挡的句子，包括：对于伪标签序列，基于预设概率进随机选取标签以掩码掉，得到被遮挡的句子；将被遮挡的句子映射为多个词向量。
69.进一步地，在一些实施例中，由被遮挡的句子恢复得到完整的句子，学习多个属性之间的关联关系，生成最终多属性预测结果，包括：将多个词向量作为标签解码器的输入，预测对应的属性。
70.具体地，如图4所示，本技术实施例中，通过标签解码器对于给定的伪标签序列进行随机掩码，然后对掩码后的标签序列进行恢复。通过这一掩码-恢复的框架，来学习各个属性之间的关联关系，从而提升模型最终的预测性能。
71.具体而言，对于已经获得的伪标签序列s，首先，将伪标签序列中的每个单词以一定的概率随机地选取一些标签掩码掉，也就是将这些选到的标签数值设置为[mask]，从而获得遮挡后的句子s
′
＝{s
′1,s
′2,
…
,s
′j,
…
,s
′m}；其次，对这些句子使用一个可学习的词向量将句子映射为对应的token向量，也就是对于任何一个s
′j，根据其具体取值，映射为一个词向量ej，则可以获得一系列的token向量e＝{e1,e2,
…
,ej,
…
,em}；最后，将这些token向量作为标签解码器的输入用来预测对应的属性。
[0072]
可选地，标签解码器采用了在属性解码器中相似的设计逻辑，也就是同样用transformer解码器来实现属性解码器。其中，该transformer解码器也包括一个自注意力层、一个交叉注意力层和一个前向层。自注意力层的query,key和value都是由e经过线性变换获得的；交叉注意力层的key和value都由视觉特征v经过线性变换获得；query则同样为自注意力层的输出。
[0073]
进一步地，通过形式化的语言，可以用g表示transformer的解码器，可以有如下表示：
[0074]
g(,):rm×d×rhw
×d→rm
×d；
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(6)
[0075]
g(e,v)
→r′
；
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(7)
[0076]
其中，r
′
＝{r
′1,r
′2,
…
,r
′j,
…
,r
′m}，表示了transformer解码器的输出。则可以通过m个二元分类器进行最终的属性预测：
[0077]
pj＝σ(w
′
jr′j b
′j)；
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(8)
[0078]
其中，w
′j和b
′j表示第j个二元分类器中的权重和偏置；σ为sigmoid函数，pj表示标签解码器对第j个属性存在的最终概率预测值。在训练过程中，通过使用二元交叉熵函数同时监督属性解码器和标签解码器从而输出lj和pj。
[0079]
根据本技术实施例提出的基于标签到标签的多属性预测方法，通过提取图像数据的深度特征获取图片数据的伪标签序列，并将伪标签序列中的每个单词以预设概率进行掩码，获取被遮挡的句子，并由被遮挡的句子恢复得到完整的句子，学习多个属性之间的关联关系，生成最终多属性预测结果。由此，解决了多任务学习的框架中无法在一个视觉样本中建模多个属性标签值之间的关联关系，导致性能较差等问题，通过预测被遮挡的多个属性标签值来建模多个属性之间的关联关系，提升多属性预测的性能，从而有效的提升模型的准确率。
[0080]
其次参照附图描述根据本技术实施例提出的基于标签到标签的多属性预测装置。
[0081]
图5是本技术实施例的基于标签到标签的多属性预测装置的方框示意图。
[0082]
如图5所示，该基于标签到标签的多属性预测装置10包括：提取模块100、获取模块200、预测模块300。
[0083]
其中，提取模块100用于提取图像数据的深度特征；
[0084]
获取模块200用于基于深度特征获取图片数据的伪标签序列；
[0085]
预测模块300用于将伪标签序列中的每个单词以预设概率进行掩码，获取被遮挡的句子，并由被遮挡的句子恢复得到完整的句子，学习多个属性之间的关联关系，生成最终多属性预测结果。
[0086]
进一步地，在一些实施例中，提取模块100，用于：
[0087]
提取图像数据的深度特征的同时，通过抛弃全局池化层保留深度特征的空间维度。
[0088]
进一步地，在一些实施例中，获取模块200，用于：
[0089]
基于查询向量，利用属性解码器从深度特征中提取属性相关的至少一个特征；
[0090]
由至少一个特征生成至少一个响应向量，并利用多个独立的二元分类器预测属性值，获取伪标签序列。
[0091]
进一步地，在一些实施例中，预测模块300，用于：
[0092]
对于伪标签序列，基于预设概率进随机选取标签以掩码掉，得到被遮挡的句子；
[0093]
将被遮挡的句子映射为多个词向量。
[0094]
进一步地，在一些实施例中，预测模块300，用于：
[0095]
将多个词向量作为标签解码器的输入，预测对应的属性。
[0096]
根据本技术实施例提出的基于标签到标签的多属性预测装置，通过提取图像数据的深度特征获取图片数据的伪标签序列，并将伪标签序列中的每个单词以预设概率进行掩码，获取被遮挡的句子，并由被遮挡的句子恢复得到完整的句子，学习多个属性之间的关联关系，生成最终多属性预测结果。由此，解决了多任务学习的框架中无法在一个视觉样本中建模多个属性标签值之间的关联关系，导致性能较差等问题，通过预测被遮挡的多个属性标签值来建模多个属性之间的关联关系，提升多属性预测的性能，从而有效的提升模型的准确率。
[0097]
图6为本技术实施例提供的电子设备的结构示意图。该电子设备可以包括：
[0098]
存储器601、处理器602及存储在存储器601上并可在处理器602上运行的计算机程序。
[0099]
处理器602执行程序时实现上述实施例中提供的基于标签到标签的多属性预测方法。
[0100]
进一步地，电子设备还包括：
[0101]
通信接口603，用于存储器601和处理器602之间的通信。
[0102]
存储器601，用于存放可在处理器602上运行的计算机程序。
[0103]
存储器601可能包含高速ram存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。
[0104]
如果存储器601、处理器602和通信接口603独立实现，则通信接口603、存储器601和处理器602可以通过总线相互连接并完成相互间的通信。总线可以是工业标准体系结构(industry standard architecture，简称为isa)总线、外部设备互连(peripheral component，简称为pci)总线或扩展工业标准体系结构(extended industry standard architecture，简称为eisa)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示，图6中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
[0105]
可选地，在具体实现上，如果存储器601、处理器602及通信接口603，集成在一块芯片上实现，则存储器601、处理器602及通信接口603可以通过内部接口完成相互间的通信。
[0106]
处理器602可能是一个中央处理器(central processing unit，简称为cpu)，或者是特定集成电路(application specific integrated circuit，简称为asic)，或者是被配置成实施本技术实施例的一个或多个集成电路。
[0107]
本实施例还提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上的基于标签到标签的多属性预测方法。
[0108]
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本技术的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或n个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
[0109]
此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本技术的描述中，“n个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
[0110]
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更n个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本技术的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本技术的实施例所属技术领域的技术人员所理解。
[0111]
在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或n个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(ram)，只读存储器(rom)，可擦除可编辑只读存储器(eprom或闪速存储器)，光纤装置，以及便携式光盘只读存储器(cdrom)。另外，计算机可读介质甚至可以是可在其上打印程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得程序，然后将其存储在计算机存储器中。
[0112]
应当理解，本技术的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，n个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(pga)，现场可编程门阵列(fpga)等。
[0113]
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。
[0114]
此外，在本技术各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。
[0115]
上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本技术的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本技术的限制，本领域的普通技术人员在本技术的范围内可以对上述实施例进行变化、修改、替换和变型。