模型训练、人脸图像活体检测方法、电子设备及存储介质与流程

1.本发明涉及图像识别领域，特别涉及一种模型训练、人脸图像活体检测方法、电子设备及存储介质。


背景技术：

2.人脸图像识别技术日益成熟，越来越多的行业使用它作为认证授权手段。人脸图像活体检测技术通常与人脸图像识别技术搭配使用，用于拒绝被授权人的照片、视频、头套、头模等假体道具的图像的认证。
3.目前很多人脸图像活体检测功能采用深度学习技术实现。具体来说，这类技术一般搜集大量的活体人脸图像和假体人脸图像数据，基于深度学习图像分类技术，训练出图像二分类模型，对输入的人脸图像执行二分类，判断输入图像是活体还是假体。然而，假体人脸图像千变万化，基于图像二分类技术的活体检测模型鲁棒性不高，在处理模型未见过的假体人脸图像时，容易将之误判为活体。为了提高该技术的鲁棒性，通常需要搜集尽可能多类型的假体人脸图像数据用于训练模型。但是，假体类型无穷无尽，不可能搜集到全部类型的假体人脸图像数据，因此常规的深度学习图像分类技术不能很好的完成活体检测任务。


技术实现要素：

4.本发明实施方式的目的在于提供一种模型训练、人脸图像活体检测方法、电子设备及存储介质，通过有限类型假体人脸图像数据集和活体人脸图像数据集，就可以训练出鲁棒性较高的特征提取模型，从而有效提高对假体人脸图像的检测准确性。
5.为解决上述技术问题，本发明的实施方式提供了一种模型训练方法，包括：构建用于提取人脸图像的第一特征向量的特征提取模型，以及不包含输入且输出为第二特征向量的特征生成模型；所述第一特征向量和所述第二特征向量为维度相同的一维向量；提取训练集中相同数量的第一活体人脸图像和第一假体人脸图像；在所述第一活体人脸图像上叠加与所述第一活体人脸图像对应的且形状相同的偏差张量，得到所述相同数量的第二假体人脸图像；以所述第一活体人脸图像、所述第一假体人脸图像和所述第二假体人脸图像作为同一批次的第一训练样本，输入到所述特征提取模型中，对所述特征提取模型和所述特征生成模型进行第一联合训练；其中，所述第一联合训练采用的损失函数对应的损失约束为所述第一活体人脸图像对应的所述第一特征向量与所述第二特征向量的方向相互靠近，所述第一假体人脸图像、所述第二假体人脸图像对应的所述第一特征向量与所述第二特征向量的方向相互远离。
6.本发明的实施方式还提供了一种人脸图像活体检测方法，包括：
将待检测人脸图像输入到特征提取模型，得到所述待检测人脸图像对应的第一特征向量；获取特征生成模型输出的第二特征向量；根据所述待检测人脸图像对应的第一特征向量与所述特征生成模型输出的第二特征向量的方向差量，确定所述待检测人脸图像是否为活体人脸图像；其中，所述特征提取模型和所述特征生成模型为采用如上所述的模型训练方法训练获得。
7.本发明的实施方式还提供了一种电子设备，包括：至少一个处理器；以及，与所述至少一个处理器通信本发明的实施方式还提供了一种计算机可读存储介质至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如上所述的模型训练方法，以及如上所述的人脸图像活体检测方法。
8.本发明的实施方式还提供了一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时实现如上所述的模型训练方法，以及如上所述的人脸图像活体检测方法。
9.本发明实施方式相对于现有技术而言，通过构建用于提取人脸图像的第一特征向量的特征提取模型，以及不包含输入且输出为第二特征向量的特征生成模型；第一特征向量和第二特征向量为维度相同的一维向量；提取训练集中相同数量的第一活体人脸图像和第一假体人脸图像；在第一活体人脸图像上叠加与第一活体人脸图像对应的且形状相同的偏差张量，得到上述相同数量的第二假体人脸图像；以第一活体人脸图像、第一假体人脸图像和第二假体人脸图像作为同一批次的第一训练样本，输入到特征提取模型中，对特征提取模型和特征生成模型进行第一联合训练；其中，第一联合训练采用的损失函数对应的损失约束为第一活体人脸图像对应的第一特征向量与第二特征向量的方向相互靠近，第一假体人脸图像、第二假体人脸图像对应的第一特征向量与第二特征向量的方向相互远离。本方案中，利用活体人脸图像变化单一，假体人脸图像变化万千的特点，使用易于搜集的有限类型的假体人脸图像和活体人脸图像，即可训练得到鲁棒性很高的特征提取模型。在训练过程中，通过在活体人脸图像上叠加偏差张量后形成的假体人脸图像来补充用于模型训练的有限类型假体人脸图像数据，并通过损失约束使活体人脸图像对应的第一特征向量的方向与指定方向相互靠近，假体人脸图像对应的第一特征向的方向与指定方向相互远离，以提高特征提取模型的鲁棒性，使模型能够正确处理模型未见过的类型假体人脸图像，从而有效提高对假体人脸图像的检测准确性。
附图说明
10.图1是根据本发明实施方式的模型训练方法的具体流程图；图2是根据本发明实施方式的偏差张量的获取方法的具体流程图；图3是根据本发明实施方式的人脸图像活体检测方法的具体流程图；图4是根据本发明实施方式的电子设备的结构示意图。
具体实施方式
11.为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合附图对本发明的各实施方式进行详细的阐述。然而，本领域的普通技术人员可以理解，在本发明各实施方式中，为了使读者更好地理解本技术而提出了许多技术细节。但是，即使没有这些技术细节和基于以下各实施方式的种种变化和修改，也可以实现本技术所要求保护的技术方案。
12.本发明的一实施方式涉及一种模型训练方法，如图1所示，本实施例提供的模型训练方法，包括如下步骤。
13.步骤101：构建用于提取人脸图像的第一特征向量的特征提取模型，以及不包含输入且输出为第二特征向量的特征生成模型；第一特征向量和第二特征向量为维度相同的一维向量。
14.具体的，构建常规的卷积深度学习网络net作为特征提取模型，net的输入为人脸图像，输出为nx1维的特征向量，本实施例中将该特征向量记为第一特征向量。其中n为依据经验设置的正整数超参数，例如可以取n=128。
15.同时，构建常规的深度学习网络netd作为特征生成模型，netd无输入，输出为nx1维的特征向量，本实施例中将该特征向量记为第二特征向量。
16.可见，第一特征向量和第二特征向量均为nx1维的特征向量，即维度相同的一维向量。
17.步骤102：提取训练集中相同数量的第一活体人脸图像和第一假体人脸图像。
18.其中，训练集包含常规预处理后的活体人脸图像数据和假体人脸图像数据，所述常规预处理包含但不限于将人脸图像数据归一化。
19.具体地，随机从训练集中采样b1张活体人脸图像作为第一活体人脸图像，记为x
(b)live
；和b1张假体人脸图像作为第一假体人脸图像，记为x
(b)fake
；其中，b1为正整数超参数，依据经验，可取b1=32，b=1,2,3
…
, b1。
20.需要说明的是，b1张活体人脸图像和b1张假体人脸图像，可以是针对不同人的人脸生成的活体人脸图像或是假体人脸图像，两类人脸图像之间就是否针对同一人，并无严格的一一对应关系。
21.步骤103：在第一活体人脸图像上叠加与第一活体人脸图像对应的且形状相同的偏差张量，得到相同数量的第二假体人脸图像。
22.具体地，为了扩充训练样本中假体人脸图像的类型和数量，本实施例预先针对每个第一活体人脸图像生成其对应的且形状相同的偏差张量；将该偏差张量与对应的第一活体人脸图像进行叠加并且归一化后，得到新的人脸图像。由于该新的人脸图像是通过合成得到而非活体人脸图像，因此将得到的新的人脸图像记为第二假体人脸图像。通过对每个第一活体人脸图像进行偏差张量的叠加，可得到与第一活体人脸图像的数量相同的多张第二假体人脸图像。
23.其中，上述偏差张量可以根据实际需求或应用场景采用多种方法灵活生成。例如，可以通过构建偏差模型，通过偏差模型对第一活体人脸图像进行处理，以个性化的生成每个第一活体人脸图像对应的偏差张量；也可以采用固定的偏差张量；也可以采用其他映射关系设置每个第一活体人脸图像对应的偏差张量。本实施例中对偏差张量的生成方法不做限定。
24.步骤104：以第一活体人脸图像、第一假体人脸图像和第二假体人脸图像作为同一批次的第一训练样本，输入到特征提取模型中，对特征提取模型和特征生成模型进行第一联合训练；其中，第一联合训练采用的损失函数对应的损失约束为第一活体人脸图像对应的第一特征向量与第二特征向量的方向相互靠近，第一假体人脸图像、第二假体人脸图像对应的第一特征向量与第二特征向量的方向相互远离。
25.本实施例中，特征提取模型net和特征生成模型netd可视为本方案中实现活体检测的主体网络。其基本思想为：net将输入的人脸图像降维到nx1维的特征向量。由于活体人脸图像只来源于活体，所以认为活体人脸图像的nx1维特征向量是一致的，也就是说所有的活体人脸图像对应的nx1维特征向量都在一个方向上，而这个方向同时也是需要由netd学习得到的方向，即netd输出的nx1维特征向量。并且，假体人脸图像对应的nx1维的特征向量则不在该方向上。这样，通过约束所有的活体人脸图像对应的nx1维特征向量与netd输出的nx1维特征向量相互靠近，所有的假体人脸图像对应的nx1维特征向量与netd输出的nx1维特征向量相互远离（远离情况的多样化对应了假体人脸图像变化万千的特点），以达到提高对假体人脸图像的检测准确性的效果。
26.具体地，在训练net、netd时，可采用联合训练的方式同时对net、netd进行训练；可以上述第一活体人脸图像、第一假体人脸图像和第二假体人脸图像作为同一批次的第一训练样本，即第一训练样本的批大小为3b1；将同一批次的第一训练样本依次输入到特征提取模型中，得到上述各人脸图像对应的第一特征向量；然后基于各第一特征向量与netd输出的第二特征向量在方向上的损失进行损失函数的构建。该损失函数对应的损失约束为在不断迭代训练的过程中，使得第一活体人脸图像对应的第一特征向量与第二特征向量的方向相互靠近，第一假体人脸图像、第二假体人脸图像对应的第一特征向量与第二特征向量的方向相互远离。
27.这样，当联合训练达到模型收敛条件停止后，训练好的net可以有效对活体人脸图像和假体人脸图像进行高鲁棒性的特征提取，即提取的活体人脸图像的第一特征向量与netd输出的第二特征向量在方向上比较近，而提取的假体人脸图像的第一特征向量与netd输出的第二特征向量在方向上比较远。因此，基于从待检测人脸图像提取的第一特征向量与netd输出的第二特征向量在方向上的远近，就可以针对待检测的人脸图像是否为活体进行检测了。
28.在一个例子中，构建第一联合训练采用的损失函数，包括如下步骤：步骤一：分别计算第一训练样本中第一活体人脸图像、第一假体人脸图像和第二假体人脸图像对应的第一特征向量与第二特征向量的方向夹角的平均余弦值。
29.具体地，可通过如下公式计算平均余弦值：
………………………
（1）
………………………
（2）
………………………
（3）其中，、、依次为第b个第一活体人脸图像、第一假体人脸图像和第二假体人脸图像对应的第一特征向量，为第b个第二特征向量，n为特征向量维度，为沿着n维度求*的l2范数，b2为同一批次的第一训练样本的1/3样本数。
30.步骤二：采用如下公式构建第三损失函数作为第二联合训练采用的损失函数：
………………………
（4）其中，loss3为所述第三损失函数的损失值，cos
live
、cos
fake
、cos
fx
依次为第一活体人脸图像、第一假体人脸图像和第二假体人脸图像对应的平均余弦值，、为超参数，为偶数，eps是正小数。
31.基于深度学习常规梯度下降法更新net和netd的可学习参数w
net
和w
netd
：按照常规方法判断net和netd是否已经训练收敛，例如判断是否达到指定训练次数，或者判断loss3不再有明显变化，如果是，则输出训练后的net和netd；如果否，则选择下一批次的第一训练样本继续执行训练。
32.与相关技术相比，本实施例通过构建用于提取人脸图像的第一特征向量的特征提取模型，以及不包含输入且输出为第二特征向量的特征生成模型；第一特征向量和第二特征向量为维度相同的一维向量；提取训练集中相同数量的第一活体人脸图像和第一假体人脸图像；在第一活体人脸图像上叠加与第一活体人脸图像对应的且形状相同的偏差张量，得到上述相同数量的第二假体人脸图像；以第一活体人脸图像、第一假体人脸图像和第二假体人脸图像作为同一批次的第一训练样本，输入到特征提取模型中，对特征提取模型和特征生成模型进行第一联合训练；其中，第一联合训练采用的损失函数对应的损失约束为第一活体人脸图像对应的第一特征向量与第二特征向量的方向相互靠近，第一假体人脸图像、第二假体人脸图像对应的第一特征向量与第二特征向量的方向相互远离。本方案中，利用活体人脸图像变化单一，假体人脸图像变化万千的特点，使用易于搜集的有限类型的假体人脸图像和活体人脸图像，即可训练得到鲁棒性很高的特征提取模型。在训练过程中，通过在活体人脸图像上叠加偏差张量后形成的假体人脸图像来补充用于模型训练的有限类型假体人脸图像数据，并通过损失约束使活体人脸图像对应的第一特征向量的方向与指定方向相互靠近，假体人脸图像对应的第一特征向的方向与指定方向相互远离，以提高特征提取模型的鲁棒性，使模型能够正确处理模型未见过的类型假体人脸图像，从而有效提高对假体人脸图像的检测准确性。
33.本发明的另一实施方式涉及一种偏差张量的获取方法，该方法可用于在上述实施
例中，获取与第一活体人脸图像对应的且形状相同的偏差张量。如图2所示，该偏差张量的获取方法包括如下步骤。
34.步骤201：构建用于生成与活体人脸图像对应且形状相同的偏差张量的偏差模型，以及用于识别人脸图像为活体或假体的二分类模型。
35.具体的，构建常规的卷积深度学习网络netf作为偏差模型，netf的输入为人脸图像，输出为与输入的人脸图像形状一样的张量，本实施例中将该张量记为偏差张量。
36.同时，构建常规的深度学习网络netj作为二分类模型，netj的输入为人脸图像，输出为1维标量。
37.步骤202：提取训练集中相同数量的第二活体人脸图像和第三假体人脸图像。
38.其中，训练集包含常规预处理后的活体人脸图像数据和假体人脸图像数据，所述常规预处理包含但不限于将人脸图像数据归一化。
39.具体地，随机从训练集中采样b2张活体人脸图像作为第二活体人脸图像，记为x
(b)live
；和 b2张假体人脸图像作为第三假体人脸图像，记为x
(b)fake
；其中，b2为正整数超参数，依据经验，可取b2=32，b=1,2,3
…
, b2。
40.需要说明的是，b2张活体人脸图像和b2张假体人脸图像，可以是针对不同人的人脸生成的活体人脸图像或是假体人脸图像，两类人脸图像之间就是否针对同一人，并无严格的一一对应关系。
41.另外，本方案为方便统一对活体人脸图像和假体人脸图像进行标识，均统一将活体人脸图像记为x
(b)live
、将训练集中的假体人脸图像记为x
(b)fake
、将通过对活体人脸图像叠加偏差张量后得到的假体人脸图像记为fx
(b)
。但本领域技术人员需知道的是，其中b仅是泛指人脸图像在某一人脸图像集合中的序数，其取值范围和对应的具体图像内容仅在相应的人脸图像集合范围内有效，并不作为对不同人脸图像集合之间的人脸图像的限定。例如，在上述b1张的人脸图像集合内，b的取值范围为1~b1，而在上述b2张的人脸图像集合内，b的取值范围为1~b2；在b1张人脸图像集合、b2张人脸图像集合内相同序数b的同类型人脸图像可以为同一人脸图像，也可以为不同的人脸图像，且b1和b2的大小可以相同，也可以不同。
42.步骤203：以第二活体人脸图像、第三假体人脸图像作为同一批次的第二训练样本，将第二活体人脸图像输入到偏差模型得到预测偏差张量，将第二活体人脸图像、第三假体人脸图像以及在第二活体人脸图像上叠加对应的预测偏差张量后的预测第二假体人脸图像输入到二分类模型，对偏差模型和二分类模型进行第二联合训练；其中，第二联合训练采用的损失函数，是基于各第二训练样本对应的分类损失、以及偏差张量的最小化损失构建。
43.本实施例中，netf的作用是接收输入的活体人脸图像，并负责输出一个偏差张量，这个偏差张量叠加到原活体人脸图像上，能够得到“伪假体人脸图像”，伪假体人脸图像在本技术接下来的模型训练中作为假体人脸图像使用，以丰富不易搜集的假体人脸图像数据类型。netj用于辅助训练netf，基本方法为正常训练netf形成的“伪假体人脸图像”为活体/假体人脸图像的二分类器，然后指导netf生成能够将活体人脸图像变为“伪假体人脸图像”的偏差张量。
44.具体地，在训练netf、netj时，可采用联合训练的方式同时对netf、netj进行训练；可以上述第二活体人脸图像、第三假体人脸图像作为同一批次的第二训练样本，即第二训
练样本的批大小为2b2；对同一批次的第二训练样本，将其中所有第二活体人脸图像依次输入到偏差模型netf得到预测偏差张量，然后，将第二活体人脸图像、第三假体人脸图像以及在第二活体人脸图像上叠加对应的预测偏差张量后的预测第二假体人脸图像依次输入到二分类模型netj，对偏差模型和二分类模型进行联合训练，即第二联合训练。
45.第二联合训练采用的损失函数，是基于各第二训练样本对应的分类损失、以及偏差张量的最小化损失构建。其中，第二训练样本对应的分类损失越小，表征对训练样本的活体人脸图像和假体人脸图像的判别上越准确，而偏差张量最小化则体现预测第二假体人脸图像与原第二活体人脸图像之间的特征差距较小，可以提高所训练模型的鲁棒性。
46.本实施例中，对损失函数的具体形式不做限定，只需要满足损失函数所要达到的模型训练目标即可。
47.在一个例子中，构建上述第二联合训练采用的损失函数，包括：采用如下公式构建第一损失函数（5）和第二损失函数（6）：
………………………
（5）
………………………
（6）其中，loss1为第一损失函数的损失值，为第b个第二活体人脸图像对应的预测第二假体人脸图像的分类值，dx
(b)
为第b个第二活体人脸图像对应的预测偏差张量，loss2为第二损失函数的损失值，为第b个第二活体人脸图像的分类值，为第b个第三假体人脸图像的分类值，b1为同一批次的第二训练样本的1/2样本数，、、、为超参数。
48.基于深度学习常规梯度下降法更新netf和netj的可学习参数w
netf
和w
netj
：：按照常规方法判断netf和netj是否已经训练收敛，例如判断是否达到指定训练次数，或者判断loss1和loss2不再有明显变化，如果是，则输出训练后的netf和netj；如果否，则选择下一批次的第二训练样本继续执行训练。
49.步骤204：将第一活体人脸图像输入到训练好的偏差模型中，得到与第一活体人脸图像对应的且形状相同的偏差张量。
50.具体地，在得到训练好的偏差模型netf后，可将步骤102中从训练集中提取的第一活体人脸图像输入到该偏差模型中，即可得到与第一活体人脸图像对应的且形状相同的偏差张量。
51.与相关技术相比，本实施例通过构建用于生成与活体人脸图像对应且形状相同的偏差张量的偏差模型，以及用于识别人脸图像为活体或假体的二分类模型；提取训练集中相同数量的第二活体人脸图像和第三假体人脸图像；以第二活体人脸图像、第三假体人脸
图像作为同一批次的第二训练样本，将第二活体人脸图像输入到偏差模型得到预测偏差张量，将第二活体人脸图像、第三假体人脸图像以及在第二活体人脸图像上叠加对应的预测偏差张量后的预测第二假体人脸图像输入到二分类模型，对偏差模型和二分类模型进行第二联合训练，通过基于各第二训练样本对应的分类损失、以及偏差张量的最小化损失实现对偏差模型的训练；最后，将第一活体人脸图像输入到训练好的偏差模型中，即可得到与第一活体人脸图像对应的且形状相同的偏差张量。
52.本发明的另一实施方式涉及一种人脸图像活体检测方法，该人脸图像活体检测方法基于上述的模型训练方法实现。如图3所示，该人脸图像活体检测方法包括如下步骤。
53.步骤301：将待检测人脸图像输入到特征提取模型，得到待检测人脸图像对应的第一特征向量。
54.具体地，使用上述模型训练方法训练得到的特征提取模型net，对待检测的人脸图像进行特征提取，得到待检测人脸图像对应的第一特征向量。
55.步骤302：获取特征生成模型输出的第二特征向量。
56.具体地，使用上述模型训练方法训练得到的特征生成模型netd，生成第二特征向量。第一特征向量和第二特征向量为相同维度的一维向量。
57.步骤303：根据待检测人脸图像对应的第一特征向量与特征生成模型输出的第二特征向量的方向差量，确定待检测人脸图像是否为活体人脸图像。
58.具体地，第二特征向量的方向是用于衡量所有活体人脸图像的第一特征向量所对应方向的标杆方向。通过比较待检测人脸图像对应的第一特征向量与特征生成模型输出的第二特征向量的方向差量的大小，可以快速判断出待检测人脸图像是否为活体人脸图像。即：如果方向差量小于某设定阈值，则认为待检测人脸图像是活体人脸图像；如果方向差量不小于某设定阈值，则认为待检测人脸图像是假体人脸图像。
59.在一个例子中，步骤303可通过如下步骤执行完成。
60.步骤一：计算待检测人脸图像对应的第一特征向量与特征生成模型输出的第二特征向量的方向夹角的第一余弦值。
61.具体地，可通过如下公式计算第一余弦值：
………………………
（7）其中，cos为第一余弦值，为待检测人脸图像对应的第一特征向量、为特征生成模型输出的第二特征向量，n为特征向量维度，为沿着n维度求*的l2范数。
62.步骤二：在第一余弦值大于预设阈值时，确定待检测人脸图像为活体人脸图像。
63.步骤三：在第一余弦值不大于预设阈值时，确定待检测人脸图像为假体人脸图像。
64.其中，预设阈值根据经验可取接近于1的正值，如0.7。
65.本发明实施方式相对于现有技术而言，通过上述模型训练方法联合训练得到的特征提取模型，对待检测的人脸图像进行处理，得到待检测人脸图像对应的第一特征向量；获取特征生成模型输出的第二特征向量；根据待检测人脸图像对应的第一特征向量与特征生成模型输出的第二特征向量的方向差量，确定待检测人脸图像是否为活体人脸图像，从而对待检测人脸图像是否为活体人脸图像进行检测。
66.本发明的另一实施方式涉及一种电子设备，如图4所示，包括至少一个处理器402；以及，与至少一个处理器402通信连接的存储器401；其中，存储器401存储有可被至少一个处理器402执行的指令，指令被至少一个处理器402执行，以使至少一个处理器402能够执行上述任一方法实施例。
67.其中，存储器401和处理器402采用总线方式连接，总线可以包括任意数量的互联的总线和桥，总线将一个或多个处理器402和存储器401的各种电路连接在一起。总线还可以将诸如外围设备、稳压器和功率管理电路等之类的各种其他电路连接在一起，这些都是本领域所公知的，因此，本文不再对其进行进一步描述。总线接口在总线和收发机之间提供接口。收发机可以是一个元件，也可以是多个元件，比如多个接收器和发送器，提供用于在传输介质上与各种其他装置通信的单元。经处理器402处理的数据通过天线在无线介质上进行传输，进一步，天线还接收数据并将数据传送给处理器402。
68.处理器402负责管理总线和通常的处理，还可以提供各种功能，包括定时，外围接口，电压调节、电源管理以及其他控制功能。而存储器401可以被用于存储处理器402在执行操作时所使用的数据。
69.本发明的另一实施方式涉及一种计算机可读存储介质，存储有计算机程序。计算机程序被处理器执行时实现上述任一方法实施例。
70.即，本领域技术人员可以理解，实现上述实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，该程序存储在一个存储介质中，包括若干指令用以使得一个设备（可以是单片机，芯片等）或处理器（processor）执行本技术各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：u盘、移动硬盘、只读存储器（rom，read-onlymemory）、随机存取存储器（ram，randomaccessmemory）、磁碟或者光盘等各种可以存储程序代码的介质。
71.本领域的普通技术人员可以理解，上述各实施方式是实现本发明的具体实施例，而在实际应用中，可以在形式上和细节上对其作各种改变，而不偏离本发明的精神和范围。