一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

一种人脸轻量网络模型构建方法和人脸识别方法与流程

2021-12-01 01:08:00 来源:中国专利 TAG:

技术特征:
1.一种人脸轻量网络模型构建方法,其特征在于,包括如下步骤:步骤a、获取指定数量的标记有人脸身份类别信息的人脸数字图像作为训练数据集;步骤b、基于softmax损失函数,利用所述训练数据集对一个重量的人脸识别卷积神经网络t进行训练,获取训练后的模型;步骤c、基于嵌入空间蒸馏损失函数,利用步骤b阶段所获取的训练模型和训练数据集对轻量级的人脸识别卷积神经网络s进行训练,获取训练后的基于嵌入空间蒸馏的人脸轻量网络模型。2.根据权利要求1所述的一种人脸轻量网络模型构建方法,其特征在于,所述步骤b,具体包括:步骤b1、利用所述训练数据集训练后,获取一个人脸识别卷积网络t;步骤b2、定义z
t
为所述人脸识别卷积网络t最后一个全连接层的输出;定义p
t
为所述人脸识别卷积网络t经过softmax获取的输出概率,则其中,表示所述人脸识别神经网络t输出概率p
t
的第i维输出;表示所述人脸识别卷积网络t最后一个全连接输出z
t
的第i维输出;表示所述人脸识别卷积网络t最后一个全连接输出z
t
的第j维输出;k表示所述训练数据集的总类别数;z
t
、p
t
均为k维的列向量;步骤b3、定义f
t
为所述人脸识别神经网络t的输出特征;定义为所述人脸识别卷积网络t对应第y
i
类的特征向量的中心向量,表示为其中,表示所述训练数据集第y
i
类的样本数量;表示所述人脸识别卷积网络t对应第j个样本的输出特征;均为d维的列向量;d为所述人脸识别卷积网络t特征向量的维度。3.根据权利要求1所述的一种人脸轻量网络模型构建方法,其特征在于,所述步骤c包括:步骤c1、随机初始化一轻量级人脸识别卷积网络s,定义z
s
为所述轻量级人脸识别卷积网络s最后一个全连接层的输出;定义p
s
为所述轻量级人脸识别卷积网络s经过softmax获取的输出概率;定义f
s
为所述轻量级人脸识别卷积网络s的输出特征;步骤c2、定义目标函数1,所述目标函数1为:
其中,n表示所述训练数据集样本总数;y
i
表示第i个样本对应的类别标签;表示第i个样本对应所述轻量级人脸识别卷积网络s的最后一个全连接层的第y
i
维输出;表示第i个样本对应所述轻量级人脸识别卷积网络s最后一个全连接层的第j维输出;k表示所述训练数据集的总类别数;τ和λ分别表示给定的常数;步骤c3、定义目标函数2,所述目标函数2为:其中,n表示所述训练数据集样本总数;y
i
表示第i个样本对应的类别标签;表示第i个样本对应所述轻量级人脸识别卷积网络s的输出特征;表示所述人脸识别卷积网络t对应第y
i
类的中心向量;表示表示所述人脸识别卷积网络t对应第j类的中心向量;步骤c4、根据步骤c2、步骤c3所述,该方法的目标函数表示为:l
total
=λ1l1 λ2l2其中,λ1和λ2为常数;步骤c5、将步骤c4的所述目标函数l
total
作为损失函数,利用所述训练数据集,根据基于随机梯度下降的反向传播算法,更新所述轻量级人脸识别卷积网络s中可学习的模型参数,以获取更新处理后的基于嵌入空间蒸馏的人脸轻量网络模型。4.根据权利要求3所述的一种人脸轻量网络模型构建方法,其特征在于,所述步骤c5,还包括:在使用随机梯度下降的反向传播算法优化更新网络时,由于直接固定来自所述人脸识别卷积网络t的中心向量容易造成模型收敛困难甚至不收敛,所述基于嵌入空间蒸馏的人脸轻量网络模型采用一种近似更新中心向量的策略:其中,表示第t次迭代后所述人脸识别卷积网络t对应第y
i
类的中心向量;表示当前迭代的批量下所述训练数据集中类别标签为y
i
的样本数;表示第j个样本对应
所述轻量级人脸识别卷积网络s的输出特征。5.根据权利要求3所述的一种人脸轻量网络模型构建方法,其特征在于,所述步骤c5的所述基于嵌入空间蒸馏的人脸轻量网络模型的判断方法为:获取指定数量的标记有人脸身份信息标签的人脸数字图像,并且根据人脸身份信息标签,构建测试的正样本对和负样本对,作为测试数据集;利用步骤c5所述基于嵌入空间蒸馏的人脸轻量网络模型对所有测试数据集中的人脸数字图像提取特征,并且利用提取到的特征计算测试数据集各个样本对的余弦距离;根据正负样本对的余弦距离,利用接受者操作特征曲线(receiver operating characteristic curve),评估所述基于嵌入空间蒸馏的人脸轻量网络模型。6.一种人脸识别方法,基于如权利要求1

5任一项所述的一种人脸轻量网络模型构建方法,其特征在于,包括:步骤1、获取待识别的人脸数字图像;步骤2、将所述人脸数字图像输入所述基于嵌入空间蒸馏的人脸轻量网络模型中,通过所述基于嵌入空间蒸馏的人脸轻量网络模型提取人脸特征,并与预存的人脸数字图像特征进行匹配识别。

技术总结
本发明公开了一种基于嵌入空间蒸馏的人脸识别轻量级网络模型构建方法和人脸识别方法,包括:A、获取指定数量的标记有人脸身份类别信息的人脸数字图像作为训练数据集;B、基于softmax损失函数,利用所述的训练数据集对一个重量的人脸识别卷积神经网络进行训练,获取训练后的模型;C、基于嵌入空间蒸馏损失函数,利用B阶段所获取的训练模型和训练数据集对轻量级的人脸识别卷积神经网络进行训练,获取训练后的轻量级人脸识别模型。本发明可以充分利用重量模型训练获取的先验知识,有效提升轻量级人脸识别模型的准确度,以适应计算资源有限的嵌入式平台的人脸识别任务。的嵌入式平台的人脸识别任务。的嵌入式平台的人脸识别任务。


技术研发人员:吴翔 苏晓生
受保护的技术使用者:北京深感科技有限公司
技术研发日:2021.08.18
技术公布日:2021/11/30
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献