领域泛化方法、装置和模型产品与流程

1.本公开涉及计算机视觉技术领域，特别涉及一种领域泛化方法、装置和模型产品。


背景技术：

2.领域泛化技术是计算机视觉领域的基础课题之一。它研究的问题是从若干个具有不同数据分布的数据集(源领域)中学习一个泛化能力强的模型，以便在未知的测试集(目标领域)上取得较好的预测效果。由于目标领域数据在训练过程中是不可见的，因此领域泛化是一个十分具有挑战性和实用性的场景。
3.基于数据增强的领域泛化方法，通过生成对抗网络生成一些“伪”目标域的数据，然后将这部分生成数据扩充进训练集进行训练，从而可以提升模型的泛化能力。一般地，这些“伪”目标领域数据是对源领域数据沿着领域分布变化地方向进行扰动得到的。该方法往往只能生成多个源域数据分布之间的数据或者邻近的数据，往往无法覆盖到与原领域分布差异较大的目标领域，因此泛化能力有限。
4.基于特征学习的领域泛化方法，通过对抗训练的方式尝试学习领域无关的特征，学习到的领域无关特征不能准确表示语义信息，从而不能很好地泛化到目标领域。


技术实现要素：

5.本公开实施例所要解决的一个技术问题是：提高领域泛化能力。
6.本公开实施例利用风格记忆进行领域有关的风格特征的学习，利用语义记忆进行领域无关的语义特征的学习，再进行风格特征和语义特征的解耦合，从而使模型有能力提取样本与领域无关的语义特征，提高模型对任何未知目标领域的泛化能力。
7.本公开一些实施例提出一种领域泛化方法，包括：
8.利用源领域的样本，根据风格记忆信息，进行领域有关的风格特征的学习；
9.利用源领域的样本，根据语义记忆信息，进行领域无关的语义特征的学习；
10.对风格特征和语义特征进行解耦合；
11.根据语义特征，通过分类预测源领域的样本的类别；
12.根据风格特征的学习损失、语义特征的学习损失、解耦合损失、分类损失，更新领域泛化模型的参数，学习完成后的领域泛化模型能够提取目标领域的样本的与领域无关的语义特征。
13.在一些实施例中，所述领域泛化模型包括：
14.编码器，包括：用于提取样本特征的特征编码器、与特征编码器级联的用于提取语义特征的语义编码器、与特征编码器级联的用于提取风格特征的风格编码器；
15.记忆编码器，与所述编码器的结构一致，在学习过程中，记忆编码器的参数根据编码器的参数在时间上的累积进行更新。
16.分类器，与所述编码器的语义编码器级联。
17.在一些实施例中，风格记忆信息包括每个源领域相应的风格记忆特征库，用于存
放所述每个源领域的各个样本的风格记忆特征，其中，源领域的每个样本的风格记忆特征通过记忆编码器中的特征编码器和风格编码器得到。
18.在一些实施例中，所述进行领域有关的风格特征的学习包括：进行领域有关的风格特征的对比学习，使得任一源领域的样本的风格特征与相同源领域的风格记忆特征库中的风格记忆特征具有高相似度、且与不同源领域的风格记忆特征库中的风格记忆特征具有低相似度。
19.在一些实施例中，所述进行领域有关的风格特征的对比学习包括：利用softmax函数构建对比学习损失函数，用于确定风格特征的学习损失，并利用对比学习损失函数进行领域有关的风格特征的对比学习。
20.在一些实施例中，语义记忆信息包括语义记忆特征库，用于存放各个源领域的各个样本的变体的语义记忆特征，其中，源领域的每个样本的变体的语义记忆特征通过记忆编码器中的特征编码器和语义编码器得到，每个样本的变体与所述每个样本是相似的。
21.在一些实施例中，每个样本的变体通过对所述每个样本进行数据增强得到，或者，每个样本的变体从任一源领域与所述每个样本属于相同类别的样本挑选出来。
22.在一些实施例中，所述进行领域无关的语义特征的学习包括：
23.计算源领域的每个样本的语义特征与语义记忆特征库中的各个语义记忆特征之间的第一语义相似度分布；
24.计算源领域的每个样本的变体的语义记忆特征与语义记忆特征库中的各个语义记忆特征之间的第二语义相似度分布；
25.根据第一语义相似度分布与第二语义相似度分布，构建交叉熵损失函数，用于确定语义特征的学习损失，使得第一语义相似度分布与第二语义相似度分布趋于一致。
26.在一些实施例中，所述对风格特征和语义特征进行解耦合包括：利用正交约束，对风格特征和语义特征进行解耦合。
27.在一些实施例中，所述利用正交约束，对风格特征和语义特征进行解耦合包括：
28.根据源领域的各个样本的风格特征构成风格特征矩阵；
29.根据源领域的各个样本的语义特征构成语义特征矩阵；
30.根据风格特征矩阵和语义特征矩阵中的其中一个矩阵与其中另一个矩阵的转置，构建正交约束，用于确定解耦合损失，使得风格特征矩阵与语义特征矩阵趋于正交。
31.在一些实施例中，根据语义特征，通过分类预测源领域的样本的类别包括：将源领域的样本的语义特征输入所述分类器，预测输出所述样本的类别。
32.在一些实施例中，根据各个源领域的各个样本的预测类别与类别标签，构建交叉熵损失函数，用于确定分类损失。
33.在一些实施例中，在学习过程中，编码器的参数使用梯度下降法进行更新，或者，记忆编码器当前时刻的参数根据记忆编码器前一时刻的参数和编码器前一时刻的参数联合更新。
34.在一些实施例中，还包括：在所述领域泛化模型学习完成后，利用编码器的特征编码器和语义编码器提取目标领域的样本的语义特征，并利用分类器根据目标领域的样本的语义特征进行分类，确定目标领域的样本相应的类别。
35.在一些实施例中，源领域的样本包括用作训练数据的图像样本，目标领域的样本
包括实际作业场景下的图像样本。
36.本公开一些实施例提出一种用于领域泛化的领域泛化模型产品，包括：
37.编码器，包括：用于提取样本特征的特征编码器、与特征编码器级联的用于提取语义特征的语义编码器、与特征编码器级联的用于提取风格特征的风格编码器；
38.记忆编码器，与所述编码器的结构一致，在学习过程中，记忆编码器的参数根据编码器的参数在时间上的累积进行更新。
39.分类器，与所述编码器的语义编码器级联。
40.在一些实施例中，编码器和记忆编码器中的特征编码器包括resnet，编码器和记忆编码器中的语义编码器或者风格编码器包括多层感知器，分类器包括多层感知器。
41.本公开一些实施例提出一种领域泛化装置，包括：存储器；以及耦接至所述存储器的处理器，所述处理器被配置为基于存储在所述存储器中的指令，执行各个实施例的领域泛化方法。
42.本公开一些实施例提出一种非瞬时性计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现各个实施例的领域泛化方法的步骤。
附图说明
43.下面将对实施例或相关技术描述中所需要使用的附图作简单地介绍。根据下面参照附图的详细描述，可以更加清楚地理解本公开。
44.显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
45.图1示出本公开一些实施例的基于风格记忆与语义记忆机制的领域泛化模型的结构示意图。
46.图2示出本公开一些实施例的领域泛化方法的流程示意图。
47.图3为本公开一些实施例的领域泛化装置的结构示意图。
具体实施方式
48.下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述。
49.除非特别说明，否则，本公开中的“第一”“第二”等描述用来区分不同的对象，并不用来表示大小或时序等含义。
50.如前所述，领域泛化技术是计算机视觉领域的基础课题之一。它研究的问题是从若干个具有不同数据分布的数据集(源领域)中学习一个泛化能力强的模型，以便在未知的测试集(目标领域)上取得较好的预测效果。
51.下面给出领域泛化的形式化定义，给定d个源领域数据下面给出领域泛化的形式化定义，给定d个源领域数据其中每个源领域d
d
包含n
d
个样本其中x
d,i
表示源领域d
d
中的第i个样本，y
d,i
∈{1,2,
…
,n
c
}是x
d,i
的类别标签(labels)，n
c
表示类别数。领域泛化的目标是从多个源领域数据中学习到一个好的模型，可以泛化到未知的目标领域数据d
t
上。
52.图1示出本公开一些实施例的基于风格记忆与语义记忆机制的领域泛化模型的结构示意图。
53.如图1所示，领域泛化模型包括：编码器(encoder)，记忆编码器(memory encoder)，分类器(classifier)。编码器包括：用于提取样本特征的特征编码器(feature extractor)、与特征编码器级联的用于提取语义特征的语义编码器(semantic encoder)、与特征编码器级联的用于提取风格特征的风格编码器(style encoder)。为了进行实例级别的语义特征和风格特征的学习，还引入了记忆编码器，记忆编码器与编码器的结构一致，但是，记忆编码器是编码器的时域增强版，在学习过程中，记忆编码器的参数根据编码器的参数在时间上的累积进行更新。也即，记忆编码器包含历史时刻的信息，而不仅由当前时刻的信息决定，因此是有“记忆”的。分类器与编码器的语义编码器级联。
54.编码器和记忆编码器中的特征编码器例如包括resnet，或其他能够提取样本特征的网络。编码器和记忆编码器中的语义编码器或者风格编码器例如包括多层或单层的mlp(多层感知器)，一种全连接网络。分类器例如包括多层或单层的mlp，或其他能够实现分类功能的网络。
55.下面定义一些符号。对于样本x
d,i
，经过特征编码器e
f
(x
d,i
,θ
e,f
)提取特征得到z
d,i
，然后经过语义编码器e
c
(z
d,i
,θ
e,c
)得到语义特征c
d,i
，同时经过风格编码器e
s
(z
d,i
,θ
e,s
)得到风格特征s
d,i
，其中，θ
e,f
,θ
e,c
,θ
e,s
分分别表示特征编码器参数、语义编码器参数、风格编码器参数。最后分类器根据语义特征对样本进行分类，表示分类器参数。上述特征编码器、语义编码器和风格编码器组成一个完整的编码器e
e
＝{e
f
,e
c
,e
s
}，其对应的参数为即编码器参数包括特征编码器参数、语义编码器参数、风格编码器参数。记忆编码器e
m
与编码器e
e
的结构完全一致。为了便于区分，记忆编码器e
m
＝{e
m,f
,e
m,c
,e
m,s
}，对应的参数为其中，e
m,f
,e
m,c
,e
m,s
分别表示记忆编码器中的特征编码器、语义编码器和风格编码器，θ
m,f
,θ
m,c
,θ
m,s
分别表示记忆编码器中的特征编码器参数、语义编码器参数、风格编码器参数。
56.领域泛化模型的学习主要包括三个组成部分：领域内不变的风格特征学习、领域间不变的语义特征学习和语义特征与风格特征解耦合。其中，领域内不变的风格特征学习：对每个源领域都维护一个风格记忆特征库，然后使用对比学习来拉近属于同一领域样本的风格特征，同时推远属于不同领域样本的风格特征。领域间不变的语义特征学习：维护一个语义记忆特征库，通过“陪审团制度”的新的对比学习范式，来学习样本的语义信息。语义特征与风格特征解耦合：可通过正交约束，来实现语义特征和风格特征的解耦合。
57.图2示出本公开一些实施例的领域泛化方法的流程示意图。通过领域泛化方法具体描述领域泛化模型的学习过程。
58.如图2所示，该实施例的领域泛化方法包括：步骤210～250。
59.在步骤210，利用源领域的样本，根据风格记忆信息，进行领域有关的风格特征的学习，或者说，进行领域内不变的(或者说共享的)风格特征学习。
60.风格记忆(style memory)信息包括每个源领域相应的风格记忆特征库，用于存放每个源领域的各个样本的风格记忆特征，也称风格特征序列(style feature enqueue)。其
中，源领域的每个样本的风格记忆特征通过记忆编码器中的特征编码器和风格编码器得到。
61.对于样本x
d,i
，通过记忆编码器中的特征编码器和风格编码器提取其风格记忆特征然后将其存入源领域d
d
的风格记忆特征库中，中存放着属于源领域d
d
的不同样本的风格记忆特征其中b是风格记忆特征库长度。d个源领域对应d个风格记忆特征库
62.所述进行领域有关的风格特征的学习包括：进行领域有关的风格特征的对比学习，例如，利用softmax函数构建对比学习损失函数，用于确定风格特征的学习损失，并利用对比学习损失函数进行领域有关的风格特征的对比学习。使得任一源领域的样本的风格特征与相同源领域的风格记忆特征库中的风格记忆特征具有高相似度、且与不同源领域的风格记忆特征库中的风格记忆特征具有低相似度。
63.为了学习到领域共享的风格特征，对样本x
d,i
，通过编码器中的特征编码器和风格编码器提取其风格特征s
d,i
＝e
s
(e
f
(x
d,i
,θ
e,f
),θ
e,s
)，并让s
d,i
与相同源领域的风格记忆特征库中的风格记忆特征具有高相似度、且与不同源领域的风格记忆特征库中的风格记忆特征具有低相似度，构建对比学习损失函数来实现这一目标。对比学习损失函数，用于确定风格特征的学习损失，也称，风格对比损失(style contrastive loss)。
[0064][0065]
其中，z
s
＝b
·
∑
d
n
d
，b表示风格记忆特征库长度，∑
d
n
d
表示各源领域的总样本数，z
s
表示所有源领域相应的所有风格记忆特征库的风格记忆特征总数，是一个归一化数，＝为温度因子，是一个超参数，表示x1和x2的余弦相似度，exp表示以自然常数e为底的指数函数。该对比学习损失函数是基于softmax函数构建的，将每个源领域内风格特征对和b
×
(d
‑
1)个源领域间风格特征对d
′
≠d区分开来。随着学习或者说训练的进行，风格特征s
d,i
将与本领域的风格记忆特征库中特征具有高相似度而与其他领域的风格记忆特征库中特征具有低相似度，从而能学到领域内不变的(或者说共享的)风格信息。
[0066]
在步骤220，利用源领域的样本，根据语义记忆信息，进行领域无关的语义特征的学习，或者说，进行领域间不变的(或者说共享的)语义特征学习。
[0067]
语义特征是决定样本类别的因素，是与领域无关的，是领域间不变的，是领域间共享的。
[0068]
定义样本的变体。每个样本的变体通过对所述每个样本进行数据增强得到，或者，每个样本的变体从任一源领域与所述每个样本属于相同类别的样本挑选出来。定义为x
d,i
的变体，是从任一源领域但和x
d,i
属于同一类别的样本中随机挑选出的，或者
是x
d,i
经过数据增强得到的，使得每个样本的变体与所述每个样本是相似的。希望x
d,i
与的语义特征具有高相似度，这样才能学到这一类样本的真正语义信息。为此，提出一个新的对比学习范式(“陪审团制度”)来实现这一目标。
[0069]
首先，构建一个语义记忆特征库，作为语义记忆(semantic memory)信息。语义记忆特征库，用于存放各个源领域的各个样本的变体的语义记忆特征，也称语义特征序列(semantic feature enqueue)。在语义记忆特征库长度固定的情况，可以采用先进先出的语义记忆特征的存放方式。其中，源领域的每个样本的变体的语义记忆特征通过记忆编码器中的特征编码器和语义编码器得到。例如，对于语义记忆特征逐次地将各样本变体的语义记忆特征存入语义记忆特征库，并将历史时刻的语义记忆特征移出语义记忆特征库，最后得到库长度为b的语义记忆特征库的语义记忆特征库
[0070]
接着，计算源领域的每个样本的语义特征。例如，对于x
d,i
，通过编码器中的特征编码器和语义编码器得到语义特征c
d,i
＝e
c
(e
f
(x
d,i
,θ
e,f
),θ
e,c
)。
[0071]
接着，进行领域无关的语义特征的学习，将语义记忆特征库中每个样本的语义记忆特征看成是“陪审员”去评价c
d,i
和的相似度，具体包括：计算源领域的每个样本的语义特征与语义记忆特征库中的各个语义记忆特征之间的第一语义相似度分布；计算源领域的每个样本的变体的语义记忆特征与语义记忆特征库中的各个语义记忆特征之间的第二语义相似度分布；根据第一语义相似度分布与第二语义相似度分布，构建交叉熵损失函数，用于确定语义特征的学习损失，使得第一语义相似度分布与第二语义相似度分布趋于一致。下面结合公式进行描述。
[0072]
x
d,i
与语义记忆特征库中所有样本特征的第一语义相似度分布其中定义如下：
[0073][0074]
与语义记忆特征库中所有样本特征的第二语义相似度分布其中定义如下：
[0075][0076]
如果c
d,i
和真正的只包含域间不变的语义信息，那么它们与语义记忆特征库中样本的语义相似度都接近，也就是两个分布p(x
d,i
；θ
e,c
,θ
e,f
,v
c
)与趋于一致，为此提出如下损失函数来惩罚这两个分布间的交叉
熵，即交叉熵(cross entropy)损失函数，用于确定语义特征的学习损失。
[0077][0078]
其中z
c
＝∑
d
n
d
是归一化数，表示各源领域的总样本数。需要说明的是，本实施例并未直接约束c
d,i
和的相似度，例如它们的内积而是对齐c
d,i
和与语义记忆特征库的特征的相似度分布，这与传统的对比学习直接拉近c
d,i
和有很大区别。
[0079]
在步骤230，例如利用正交约束，对风格特征和语义特征进行解耦合。
[0080]
只进行上述领域间不变的语义特征学习，还无法从领域内不变的风格特征学习中获益，因为语义特征和风格特征并未建立联系，因此本实施例提出让语义特征和风格特征在特征空间正交，这样可以使语义特征中不包含风格信息，风格特征中不包含语义信息，以实现语义和风格的解耦合。
[0081]
利用正交约束，对风格特征和语义特征进行解耦合包括：根据源领域的各个样本的风格特征构成风格特征矩阵h
s
；根据源领域的各个样本的语义特征构成语义特征矩阵h
c
；根据风格特征矩阵和语义特征矩阵中的其中一个矩阵与其中另一个矩阵的转置，构建正交约束，也称正交损失(orthogonal loss)，用于确定解耦合损失，使得风格特征矩阵与语义特征矩阵趋于正交。作为一种示例，正交约束形式如下：
[0082][0083]
其中，h
c
和h
s
是每一行分别为语义特征c
d,i
和风格特征s
d,i
组成的矩阵，为平方弗洛贝尼乌斯(frobenius)范数。
[0084]
在步骤240，根据语义特征，通过分类预测源领域的样本的类别。
[0085]
例如，将源领域的样本的语义特征输入所述分类器，预测输出所述样本的类别。
[0086]
其中，根据各个源领域的各个样本的预测类别与类别标签，构建交叉熵损失函数，用于确定分类损失(classification loss)，公式表示如下：
[0087][0088]
其中，分类器根据样本x
d,i
的语义特征c
d,i
来预测样本x
d,i
的类别，m＝∑
d
n
d
表示各源领域的总样本数，y
d,i
是样本x
d,i
相应的类别标签，表示分类器参数。
[0089]
在步骤250，根据风格特征的学习损失、语义特征的学习损失、解耦合损失、分类损失，更新领域泛化模型的参数，学习完成后的领域泛化模型能够提取目标领域的样本的与领域无关的语义特征。
[0090]
也即，所有损失函数加起来进行领域泛化模型的训练:l＝l
cls
l
s
l
c
l
o
，更新领域泛化模型的参数，领域泛化模型的参数例如包括泛化模型的参数，领域泛化模型的参数例如包括等各编码器和分类器的参数。
[0091]
在学习过程中，编码器的参数使用梯度下降法进行更新(momentum update)，记忆编码器的参数update)，记忆编码器的参数则利用编码器参数进行动态更新，更新方式如下：记忆编码器当前时刻的参数根据记忆编码器前一时刻的参数和编码器前一时刻的参数联合更新，公式表示为：其中α∈[0,1)为动量参数。
[0092]
在所述领域泛化模型学习完成后，在测试阶段或模型应用阶段，利用编码器的特征编码器e
f
和语义编码器e
c
提取目标领域的样本的语义特征，并利用分类器c根据目标领域的样本的语义特征进行分类，确定目标领域的样本相应的类别。测试通过后，模型可以开始实际应用。
[0093]
上述实施例，利用风格记忆进行领域有关的风格特征的学习，利用语义记忆进行领域无关的语义特征的学习，深入挖掘了不同领域的风格信息和不同类别的语义信息，再进行风格特征和语义特征的解耦合，从而使模型有能力提取样本与领域无关的语义特征，提高模型对任何未知目标领域的泛化能力。
[0094]
本公开所提出的领域泛化技术可以应用于计算机视觉的各种领域泛化场景，例如，应用于各种实际作业场景(真实业务场景)下的图像内容理解相关产品，此时，源领域的样本包括用作训练数据的图像样本，目标领域的样本包括实际作业场景下的图像样本，基于源领域的样本对模型进行泛化学习后，使得模型在未知的目标领域上取得较好的预测效果，从而很好地弥补训练数据(可认为是源领域)和实际作业场景下测试数据(可认为是目标领域)的差异性，增强在实际作业场景下的模型泛化能力。例如，在物流场景的暴力分拣产品中，利用这一视觉领域泛化技术可以弥补不同分拣中心所采集的暴力分拣数据的差异性，增强线上暴力分拣识别模型在不同分拣中心、不同视频采集环境下的分拣性能。
[0095]
图3为本公开一些实施例的领域泛化装置的结构示意图。如图3所示，该实施例的领域泛化装置300包括：存储器310以及耦接至该存储器310的处理器320，处理器320被配置为基于存储在存储器310中的指令，执行前述任意一些实施例中的领域泛化方法。
[0096]
例如，利用源领域的样本，根据风格记忆信息，进行领域有关的风格特征的学习；利用源领域的样本，根据语义记忆信息，进行领域无关的语义特征的学习；对风格特征和语义特征进行解耦合；根据语义特征，通过分类预测源领域的样本的类别；根据风格特征的学习损失、语义特征的学习损失、解耦合损失、分类损失，更新领域泛化模型的参数，学习完成后的领域泛化模型能够提取目标领域的样本的与领域无关的语义特征。
[0097]
其中，存储器310例如可以包括系统存储器、固定非易失性存储介质等。系统存储器例如存储有操作系统、应用程序、引导装载程序(boot loader)以及其他程序等。
[0098]
领域泛化装置300还可以包括输入输出接口330、网络接口340、存储接口350等。这些接口330，340，350以及存储器310和处理器320之间例如可以通过总线360连接。其中，输入输出接口330为显示器、鼠标、键盘、触摸屏等输入输出设备提供连接接口。网络接口340为各种联网设备提供连接接口。存储接口350为sd卡、u盘等外置存储设备提供连接接口。
[0099]
本公开一些实施例提出一种非瞬时性计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现前述任意一些实施例中的领域泛化方法的步骤。
[0100]
本领域内的技术人员应当明白，本公开的实施例可提供为方法、系统、或计算机程序产品。因此，本公开可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本公开可采用在一个或多个其中包含有计算机程序代码的非瞬时性计算机可读存储介质(包括但不限于磁盘存储器、cd
‑
rom、光学存储器等)上实施的计算机程序产品的形式。
[0101]
本公开是参照根据本公开实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解为可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
[0102]
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
[0103]
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
[0104]
以上所述仅为本公开的较佳实施例，并不用以限制本公开，凡在本公开的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本公开的保护范围之内。