一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

人脸图像聚类方法、装置、设备及计算机可读存储介质与流程

2021-11-15 17:25:00 来源:中国专利 TAG:


1.本发明涉及人脸图像聚类技术领域,尤其涉及一种人脸图像聚类方法、装置、设备及计算机可读存储介质。


背景技术:

2.随着信息化时代的到来,利用人体固有的生理特征和行为特征进行个人身份的识别和验证变得越来越普及化。随着人脸识别和检索系统应用的推广,系统中人脸图像数据急剧地增长,人脸聚类技术已经成为提高系统检索效率的重要基础。人脸聚类通常是将数据库中的人脸图像信息聚成一些不同的子类,使得子类之间的相似性尽量小,子类内的相似性尽量大,这样在检索时,只需在与被检索目标相似度较高的子类内逐个识别,检索出与之相似性最大的若干记录。
3.特征提取这一步骤无论在人脸识别还是人脸聚类技术上都占有重要地位。主成分分析(pca)与奇异值分解(svd)都是较为经典的特征提取方法,但是这两种方法提出的特征向量通常含有负元素,因此在原始样本为非负的数据下,这些方法不具有很好的解释性。非负矩阵分解(nmf)是一种处理非负数据的特征提取方法,它的应用非常广泛,比如高光谱数据处理、人脸图像识别等。nmf算法在原始样本非负数据矩阵分解过程中,对提取的特征具有非负性限制,即分解后的所有分量都是非负的,因而可以提取非负的稀疏特征。nmf算法的实质是将非负矩阵x近似分解为基图像矩阵w和系数矩阵h的乘积,即x≈wh,且w和h都是非负矩阵。这样矩阵x的每一列就可以表示为矩阵w列向量的非负线性组合。这也表明非负矩阵算法具有强大的可解释性,即对整体的感知是由对组成整体的部分的感知构成的(只有加法没有减法)。近年来,学者们提出了许多对nmf变形的算法,例如,加强局部限制的局部nmf算法(lnmf)、整合判别信息的判别nmf算法(dnmf)、针对对称矩阵提出的对称nmf算法(snmf)。尽管nmf算法及其变体取得了一定的成效,但该方法只考虑了数据浅层信息,对于含有丰富特征的数据,一次分解而成的单层结构却无法从多角度学习特征的表示。
4.目前,深度学习(deep learning,dl)已成为当前的研究热潮,dl通过建立了具有阶层结构的深度神经网络,为解决深层结构相关的优化难题带来希望。受dl技术成功的启发,一些研究者在单层nmf算法的基础上提出了深度非负矩阵分解(deep nmf)模型。deep nmf可以看作是通过将一个复杂的任务分解成几个简单的任务,然后在多层结构中一个接一个地处理它们。与此同时,这种深度分解方法可以探索复杂数据中的底层特征表示,从而提取到比单层学习更完整、更有辨别力的特征。
5.目前已有的deep nmf模型虽然具有深度分层结构,但这种结构一般是简单重复使用单层nmf算法来构建的,其性能达不到理想的要求,而且这些方法的计算效率不高。特别地,这些方法均不是利用深度神经网络来产生的,因而不能利用深度神经网络强大的特征表达能力和聚类能力。
6.上述内容仅用于辅助理解本发明的技术方案,并不代表承认上述内容是现有技术。


技术实现要素:

7.本发明的主要目的在于提供一种人脸图像聚类方法、装置、设备及计算机可读存储介质,旨在解决人脸图像聚类技术的聚类能力差的技术问题。
8.为实现上述目的,本发明提供一种人脸图像聚类方法,所述人脸图像聚类方法包括以下步骤:
9.从人脸数据库中获取人脸训练图像,并基于所述人脸训练图像轮番依次对全连接神经网络的基矩阵、深层系数矩阵和激活函数参数进行更新,其中,所述深层系数矩阵为所述全连接神经网络输入层的输入量;
10.在更新完成所述基矩阵、所述深层系数矩阵和所述激活函数参数后,得到bp

dgnmf模型;
11.获取待聚类人脸图像,并将所述待聚类人脸图像输入至所述bp

dgnmf模型,以基于更新完成后的基矩阵和激活函数参数确定所述待聚类人脸图像对应的深层特征集合;
12.基于所述深层特征集合,对所述待聚类人脸图像执行聚类操作,得到所述待聚类人脸图像对应的聚类结果。
13.可选地,所述基于所述人脸训练图像轮番依次对全连接神经网络的基矩阵、深层系数矩阵和激活函数参数进行更新的步骤包括:
14.在依次更新一次全连接神经网络的基矩阵、深层系数矩阵和激活函数参数时,获取深层系数矩阵,并将所述深层系数矩阵输入至全连接神经网络,以将所述深层系数矩阵作为所述全连接神经网络的输入量;
15.(1)固定所述深层系数矩阵和所述激活函数参数,并基于所述人脸训练图像,通过反向传播神经网络算法从后往前对所述全连接神经网络的基矩阵进行更新,直至迭代第一预设步数;
16.(2)迭代所述第一预设步数后,固定所述激活函数参数以及迭代所述第一预设步数后对应的基矩阵,并基于所述激活函数参数、迭代所述第一预设步数后对应的基矩阵和所述人脸训练图像,通过梯度下降法对所述深层系数矩阵进行更新,直至迭代第二预设步数;
17.(3)迭代所述第二预设步数后,固定迭代所述第一预设步数后对应的基矩阵以及迭代所述第二预设步数后对应的深层系数矩阵,并基于所述第一预设步数后对应的基矩阵、迭代所述第二预设步数后对应的深层系数矩阵以及所述人脸训练图像,通过梯度下降法对所述激活函数参数进行更新,直至迭代第三预设步数;
18.(4)迭代所述第三预设步数后,将迭代所述第一预设步数后对应的基矩阵作为所述基矩阵,将迭代所述第二预设步数后对应的深层系数矩阵作为所述深层系数矩阵,以及将迭代所述第三预设步数后对应的激活函数作为所述激活函数参数;
19.循环执行所述步骤(1)、(2)、(3)和(4),直至满足迭代停止条件。
20.可选地,所述基于所述人脸训练图像,通过反向传播神经网络算法从后往前对所述全连接神经网络的基矩阵进行更新的步骤包括:
21.基于所述深层系数矩阵、所述全连接神经网络的激活函数参数和所述人脸训练图像,通过反向传播神经网络算法从后往前对所述全连接神经网络的基矩阵进行更新,直至迭代第一预设步数。
22.可选地,所述基于所述深层系数矩阵、所述全连接神经网络的激活函数参数和所述人脸训练图像,通过反向传播神经网络算法从后往前对所述全连接神经网络的基矩阵进行更新,直至迭代第一预设步数的步骤包括:
23.基于所述深层系数矩阵、所述全连接神经网络的激活函数参数和所述人脸训练图像,通过反向传播神经网络算法从后往前确定各层基矩阵的第一梯度;
24.基于所述第一梯度,对所述全连接神经网络的基矩阵进行更新,直至迭代第一预设步数。
25.可选地,所述基于所述激活函数参数、迭代所述第一预设步数后对应的基矩阵和所述人脸训练图像,通过梯度下降法对所述深层系数矩阵进行更新,直至迭代第二预设步数的步骤包括:
26.基于所述激活函数参数、迭代所述第一预设步数后对应的基矩阵和所述人脸训练图像,确定第二损失函数对所述深层系数矩阵的第二梯度,其中,所述第二损失函数为添加了图正则约束的重构损失函数;
27.基于所述第二梯度,通过梯度下降法对所述深层系数矩阵进行更新,直至迭代第二预设步数。
28.可选地,所述迭代停止条件为循环执行的次数达到最大迭代次数。
29.可选地,所述基于所述深层特征集合,对所述待聚类人脸图像执行聚类操作,得到所述待聚类人脸图像对应的聚类结果的步骤包括:
30.利用k均值聚类算法分别对所述深层特征集合中包含的深层特征进行聚类,得到所述待聚类人脸图像对应的聚类结果。
31.此外,为实现上述目的,本发明还提供一种人脸图像聚类装置,所述人脸图像聚类装置包括:
32.获取模块,用于从人脸数据库中获取人脸训练图像,并基于所述人脸训练图像轮番依次对全连接神经网络的基矩阵、深层系数矩阵和激活函数参数进行更新,其中,所述深层系数矩阵为所述全连接神经网络输入层的输入量;
33.模型确定模块,用于在更新完成所述基矩阵、所述深层系数矩阵和所述激活函数参数后,得到bp

dgnmf模型;
34.特征提取模块,用于获取待聚类人脸图像,并将所述待聚类人脸图像输入至所述bp

dgnmf模型,以基于更新完成后的基矩阵和激活函数参数确定所述待聚类人脸图像对应的深层特征集合;
35.聚类模块,用于基于所述深层特征集合,对所述待聚类人脸图像执行聚类操作,得到所述待聚类人脸图像对应的聚类结果。
36.此外,为实现上述目的,本发明还提供一种人脸图像聚类设备,所述人脸图像聚类设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的人脸图像聚类程序,所述人脸图像聚类程序被所述处理器执行时实现如上述的人脸图像聚类方法的步骤。
37.此外,为实现上述目的,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有人脸图像聚类程序,所述人脸图像聚类程序被处理器执行时实现如上述的人脸图像聚类方法的步骤。
38.本发明通过从人脸数据库中获取人脸训练图像,并基于所述人脸训练图像轮番依次对全连接神经网络的基矩阵、深层系数矩阵和激活函数参数进行更新,其中,所述深层系数矩阵为所述全连接神经网络输入层的输入量;在更新完成所述基矩阵、所述深层系数矩阵和所述激活函数参数后,得到bp

dgnmf模型;获取待聚类人脸图像,并将所述待聚类人脸图像输入至所述bp

dgnmf模型,以基于更新完成后的基矩阵和激活函数参数确定所述待聚类人脸图像对应的深层特征集合;基于所述深层特征集合,对所述待聚类人脸图像执行聚类操作,得到所述待聚类人脸图像对应的聚类结果。本实施例中,通过轮番依次对全连接神经网络的基矩阵、深层系数矩阵和激活函数参数进行更新,构建了一个具有较高的聚类性能与较低的计算复杂度的bp

dgnmf模型,解决人脸图像聚类技术的聚类能力差的技术问题。
附图说明
39.图1是本发明实施例方案涉及的硬件运行环境的人脸图像聚类设备结构示意图;
40.图2为本发明人脸图像聚类方法第一实施例的流程示意图。
41.本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
42.应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
43.如图1所示,图1是本发明实施例方案涉及的硬件运行环境的人脸图像聚类设备结构示意图。
44.本发明实施例人脸图像聚类设备可以是pc,也可以是智能手机、平板电脑、电子书阅读器、mp3(moving picture experts group audio layer iii,动态影像专家压缩标准音频层面3)播放器、mp4(moving picture experts group audio layer iv,动态影像专家压缩标准音频层面4)播放器、便携计算机等具有显示功能的可移动式终端设备。
45.如图1所示,该人脸图像聚类设备可以包括:处理器1001,例如cpu,网络接口1004,用户接口1003,存储器1005,通信总线1002。其中,通信总线1002用于实现这些组件之间的连接通信。用户接口1003可以包括显示屏(display)、输入单元比如键盘(keyboard),可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口(如wi

fi接口)。存储器1005可以是高速ram存储器,也可以是稳定的存储器(non

volatile memory),例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储装置。
46.可选地,人脸图像聚类设备还可以包括摄像头、rf(radio frequency,射频)电路,传感器、音频电路、wifi模块等等。其中,传感器比如光传感器、运动传感器以及其他传感器。具体地,光传感器可包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示屏的亮度,接近传感器可在移动终端移动到耳边时,关闭显示屏和/或背光。作为运动传感器的一种,重力加速度传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别移动终端姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;当然,移动终端还可配置陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘
述。
47.本领域技术人员可以理解,图1中示出的人脸图像聚类设备结构并不构成对人脸图像聚类设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
48.如图1所示,作为一种计算机存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及人脸图像聚类程序。
49.在图1所示的人脸图像聚类设备中,网络接口1004主要用于连接后台服务器,与后台服务器进行数据通信;用户接口1003主要用于连接客户端(用户端),与客户端进行数据通信;而处理器1001可以用于调用存储器1005中存储的人脸图像聚类程序。
50.在本实施例中,人脸图像聚类设备包括:存储器1005、处理器1001及存储在所述存储器1005上并可在所述处理器1001上运行的人脸图像聚类程序,其中,处理器1001调用存储器1005中存储的人脸图像聚类程序时,并执行以下操作:
51.从人脸数据库中获取人脸训练图像,并基于所述人脸训练图像轮番依次对全连接神经网络的基矩阵、深层系数矩阵和激活函数参数进行更新,其中,所述深层系数矩阵为所述全连接神经网络输入层的输入量;
52.在更新完成所述基矩阵、所述深层系数矩阵和所述激活函数参数后,得到bp

dgnmf模型;
53.获取待聚类人脸图像,并将所述待聚类人脸图像输入至所述bp

dgnmf模型,以基于更新完成后的基矩阵和激活函数参数确定所述待聚类人脸图像对应的深层特征集合;
54.基于所述深层特征集合,对所述待聚类人脸图像执行聚类操作,得到所述待聚类人脸图像对应的聚类结果。
55.进一步地,处理器1001可以调用存储器1005中存储的人脸图像聚类程序,还执行以下操作:
56.在依次更新一次全连接神经网络的基矩阵、深层系数矩阵和激活函数参数时,获取深层系数矩阵,并将所述深层系数矩阵输入至全连接神经网络,以将所述深层系数矩阵作为所述全连接神经网络的输入量;
57.(1)固定所述深层系数矩阵和所述激活函数参数,并基于所述人脸训练图像,通过反向传播神经网络算法从后往前对所述全连接神经网络的基矩阵进行更新,直至迭代第一预设步数;
58.(2)迭代所述第一预设步数后,固定所述激活函数参数以及迭代所述第一预设步数后对应的基矩阵,并基于所述激活函数参数、迭代所述第一预设步数后对应的基矩阵和所述人脸训练图像,通过梯度下降法对所述深层系数矩阵进行更新,直至迭代第二预设步数;
59.(3)迭代所述第二预设步数后,固定迭代所述第一预设步数后对应的基矩阵以及迭代所述第二预设步数后对应的深层系数矩阵,并基于所述第一预设步数后对应的基矩阵、迭代所述第二预设步数后对应的深层系数矩阵以及所述人脸训练图像,通过梯度下降法对所述激活函数参数进行更新,直至迭代第三预设步数;
60.(4)迭代所述第三预设步数后,将迭代所述第一预设步数后对应的基矩阵作为所述基矩阵,将迭代所述第二预设步数后对应的深层系数矩阵作为所述深层系数矩阵,以及
将迭代所述第三预设步数后对应的激活函数作为所述激活函数参数;
61.循环执行所述步骤(1)、(2)、(3)和(4),直至满足迭代停止条件。
62.进一步地,处理器1001可以调用存储器1005中存储的人脸图像聚类程序,还执行以下操作:
63.基于所述深层系数矩阵、所述全连接神经网络的激活函数参数和所述人脸训练图像,通过反向传播神经网络算法从后往前对所述全连接神经网络的基矩阵进行更新,直至迭代第一预设步数。
64.进一步地,处理器1001可以调用存储器1005中存储的人脸图像聚类程序,还执行以下操作:
65.基于所述深层系数矩阵、所述全连接神经网络的激活函数参数和所述人脸训练图像,通过反向传播神经网络算法从后往前确定各层基矩阵的第一梯度;
66.基于所述第一梯度,对所述全连接神经网络的基矩阵进行更新,直至迭代第一预设步数。
67.进一步地,处理器1001可以调用存储器1005中存储的人脸图像聚类程序,还执行以下操作:
68.基于所述激活函数参数、迭代所述第一预设步数后对应的基矩阵和所述人脸训练图像,确定第二损失函数对所述深层系数矩阵的第二梯度,其中,所述第二损失函数为添加了图正则约束的重构损失函数;
69.基于所述第二梯度,通过梯度下降法对所述深层系数矩阵进行更新,直至迭代第二预设步数。
70.进一步地,处理器1001可以调用存储器1005中存储的人脸图像聚类程序,还执行以下操作:
71.利用k均值聚类算法分别对所述深层特征集合中包含的深层特征进行聚类,得到所述待聚类人脸图像对应的聚类结果。
72.本发明还提供一种人脸图像聚类方法,参照图2,图2为本发明人脸图像聚类方法第一实施例的流程示意图。
73.在本实施例中,该人脸图像聚类方法包括以下步骤:
74.步骤s10,从人脸数据库中获取人脸训练图像,并基于所述人脸训练图像轮番依次对全连接神经网络的基矩阵、深层系数矩阵和激活函数参数进行更新,其中,所述深层系数矩阵为所述全连接神经网络输入层的输入量;
75.在本实施例中,本发明提出的人脸图像聚类方法包括模型训练阶段和图像聚类阶段,模型训练阶段用于构建bp

dgnmf模型(全连接神经网络

深度非负矩阵分解模型),图像聚类阶段用于根据所构建出的bp

dgnmf模型进行图像聚类操作。模型训练阶段过程开始,从人脸数据库中获取人脸训练图像,其中,人脸训练图像用于构建bp

dgnmf模型;将深层系数矩阵输入至全连接神经网络的输入层,即深层系数矩阵作为全连接神经网络输入层的输入量;深层系数矩阵输入至全连接神经网络后,全连接神经网络输出层对应为图像预测量;之后,根据图像预测量和人脸数据库所获取的人脸训练图像,对各个参数进行拟合,即对全连接神经网络的各层基矩阵、深层系数矩阵和激活函数参数进行更新。其中,全连接神经网络的各层基矩阵为全连接神经网络的各层权值矩阵,激活函数参数为全连接神经网络神经
元的激活函数的系数,每一层的激活函数均为相同的线性激活函数。例如,激活函数可以是f(z)=p
1/l
*z,其中,网络层数为l层,p为激活函数参数。
76.进一步地,在更新基矩阵时固定深层系数矩阵和激活函数参数,再对全连接神经网络的基矩阵进行更新;在更新深层系数矩阵时固定基矩阵和激活函数参数,再对深层系数矩阵进行更新;在更新激活函数参数时固定基矩阵和深层系数矩阵,再对激活函数参数进行更新。且,更新基矩阵、深层系数矩阵和激活函数参数的顺序为轮番地按顺序更新,或者说是循环地按顺序更新,例如,对于参数a、b、c,先固定b、c迭代更新参数a迭代1次,再固定a、c迭代更新参数b迭代1次,最后固定a、b迭代更新参数c迭代1次,按照这种先更新a再更新b最后更新c的顺序循环更新a、b、c。按此迭代顺序完成3个参数1次的更新。重复上述过程100次,完成3个参数100次的更新。
77.步骤s20,在更新完成所述基矩阵、所述深层系数矩阵和所述激活函数参数后,得到bp

dgnmf模型;
78.在本实施例中,轮番依次对全连接神经网络的基矩阵、深层系数矩阵和激活函数参数进行更新,在检测到满足迭代停止条件时,停止训练全连接神经网络,停止更新基矩阵、深层系数矩阵和激活函数参数,此时模型训练阶段结束,基矩阵、深层系数矩阵和激活函数参数完成更新,得到bp

dgnmf模型,其中,bp

dgnmf模型为全连接神经网络

深度非负矩阵分解模型,用于提取人脸图像的深层特征。
79.步骤s30,获取待聚类人脸图像,并将所述待聚类人脸图像输入至所述bp

dgnmf模型,以基于更新完成后的基矩阵和激活函数参数确定所述待聚类人脸图像对应的深层特征集合;
80.在本实施例中,模型训练阶段结束后,进入图像聚类阶段。在图像聚类阶段,首先获取待聚类图像,将待聚类图像作为bp

dgnmf模型的输出层的输出结果,再将待聚类图像输入至构建好的bp

dgnmf模型;之后,bp

dgnmf模型根据基矩阵、激活函数参数和待聚类人脸图像,通过矩阵的逆运算计算待聚类图像对应的深层特征集合,以提取待聚类图像的深层特征。其中,全连接神经网络的模型参数(基矩阵和激活函数参数)被更新完成,说明bp

dgnmf模型构建完成。
81.假设y为待聚类图像,bp

dgnmf模型提取待聚类图像的第l层深层特征为h
l
,故y可以表示为y=p*w
l
*w
l
‑1…
w1*h
l
。因此深层系数矩阵可以用其违逆求出:
82.其中,w
l
为第第l层的权值矩阵,p为激活函数参数。
83.步骤s40,基于所述深层特征集合,对所述待聚类人脸图像执行聚类操作,得到所述待聚类人脸图像对应的聚类结果。
84.在本实施例中,当提取到待聚类图像的深层特征之后就可以用该深层特征来代表待聚类图像,待聚类图像的深层特征可以用于进行识别或者聚类任务。进一步地,可以利用k均值聚类算法分别对深层特征集合中包含的深层特征进行聚类,得到待聚类人脸图像对应的聚类结果。其中,人脸图像的聚类结果可以用于人脸识别或者检索系统,聚类操作可将数据库中的人脸图像信息聚成一些不同的子类,使得子类之间的相似性尽量小,子类内的相似性尽量大,这样在检索时,只需在与被检索目标相似度较高的子类内逐个识别,检索出与之相似性最大的若干记录。聚类结果中包含待聚类人脸图像被分类后对应的子类。
85.本实施例提出的人脸图像聚类方法,通过从人脸数据库中获取人脸训练图像,并基于所述人脸训练图像轮番依次对全连接神经网络的基矩阵、深层系数矩阵和激活函数参数进行更新,其中,所述深层系数矩阵为所述全连接神经网络输入层的输入量;在更新完成所述基矩阵、所述深层系数矩阵和所述激活函数参数后,得到bp

dgnmf模型;获取待聚类人脸图像,并将所述待聚类人脸图像输入至所述bp

dgnmf模型,以基于更新完成后的基矩阵和激活函数参数确定所述待聚类人脸图像对应的深层特征集合;基于所述深层特征集合,对所述待聚类人脸图像执行聚类操作,得到所述待聚类人脸图像对应的聚类结果。本实施例中,通过轮番依次对全连接神经网络的基矩阵、深层系数矩阵和激活函数参数进行更新,构建了一个具有较高的聚类性能与较低的计算复杂度的bp

dgnmf模型,解决人脸图像聚类技术的聚类能力差的技术问题。
86.基于第一实施例,提出本发明人脸图像聚类方法的第二实施例,在本实施例中,步骤s10包括:
87.步骤s11:在依次更新一次全连接神经网络的基矩阵、深层系数矩阵和激活函数参数时,获取深层系数矩阵,并将所述深层系数矩阵输入至全连接神经网络,以将所述深层系数矩阵作为所述全连接神经网络的输入量;
88.步骤s12:(1)固定所述深层系数矩阵和所述激活函数参数,并基于所述深层系数矩阵、所述全连接神经网络的激活函数参数和所述人脸训练图像,通过反向传播神经网络算法从后往前对所述全连接神经网络的基矩阵进行更新,直至迭代第一预设步数;
89.步骤s13:(2)迭代所述第一预设步数后,固定所述激活函数参数以及迭代所述第一预设步数后对应的基矩阵,并基于所述激活函数参数、迭代所述第一预设步数后对应的基矩阵和所述人脸训练图像,通过梯度下降法对所述深层系数矩阵进行更新,直至迭代第二预设步数;
90.步骤s14:(3)迭代所述第二预设步数后,固定迭代所述第一预设步数后对应的基矩阵以及迭代所述第二预设步数后对应的深层系数矩阵,并基于所述第一预设步数后对应的基矩阵、迭代所述第二预设步数后对应的深层系数矩阵以及所述人脸训练图像,通过梯度下降法对所述激活函数参数进行更新,直至迭代第三预设步数;
91.步骤s15:(4)迭代所述第三预设步数后,将迭代所述第一预设步数后对应的基矩阵作为所述基矩阵,将迭代所述第二预设步数后对应的深层系数矩阵作为所述深层系数矩阵,以及将迭代所述第三预设步数后对应的激活函数作为所述激活函数参数;
92.步骤s16:循环执行所述步骤(1)、(2)、(3)和(4),直至满足迭代停止条件。
93.在本实施例中,在对全连接神经网络进行训练时,轮番依次对全连接神经网络的基矩阵、深层系数矩阵和激活函数参数进行更新。以下为对基矩阵、深层系数矩阵和激活函数参数进行更新的具体过程:
94.在依次更新一次全连接神经网络的基矩阵、深层系数矩阵和激活函数参数时,获取深层系数矩阵,将深层系数矩阵作为全连接神经网络的输入量,并将深层系数矩阵输入至全连接神经网络。在模型参数更新的一次更新顺序中,先对基矩阵进行更新,再更新深层系数矩阵,最后更新激活函数矩阵。
95.(1)首先更新基矩阵,在更新基矩阵之前,固定深层系数矩阵和激活函数参数,即控制深层系数矩阵的值和激活函数参数的值不变;基于深层系数矩阵、全连接神经网络的
激活函数参数和人脸训练图像,通过反向传播神经网络算法从后往前对全连接神经网络的基矩阵进行更新,直至迭代第一预设步数才迭代下一个参数。需要说明的是,从后往前的更新过程为按照从全连接神经网络最后一层至第一层的顺序,来一层一层地对各层的基矩阵来进行更新,且除了最后一层的更新过程与后一层无关,其余各层的更新过程均与后一层相关。
96.(2)迭代第一预设步数后完成了对基矩阵的一次更新,接着对深层系数矩阵进行更新;在更新深层系数矩阵之前,固定激活函数参数以及迭代第一预设步数后对应的基矩阵,即在更新深层系数矩阵时控制激活函数的值不变以及控制基矩阵(当前基矩阵为迭代第一预设步数后对应的基矩阵)的值不变,之后基于激活函数参数、迭代第一预设步数后的基矩阵和人脸训练图像,通过梯度下降法对深层系数矩阵进行更新,直至对深层系数矩阵迭代第二预设步数才迭代下一个参数。
97.(3)迭代深层系数矩阵迭代第二预设步数完成后,接着对激活函数参数进行更新;在更新激活函数参数之前,固定基矩阵(此时的基矩阵为迭代第一预设步数后的基矩阵)以及深层系数矩阵(此时的深层系数矩阵为迭代第二预设步数后的深层系数矩阵),并基于第一预设步数后对应的基矩阵、迭代第二预设步数后对应的深层系数矩阵以及人脸训练图像,通过梯度下降法对激活函数参数进行更新,直至迭代第三预设步数;
98.(4)迭代第三预设步数后,将迭代第一预设步数后对应的基矩阵作为所述基矩阵,将迭代第二预设步数后对应的深层系数矩阵作为深层系数矩阵,以及将迭代第三预设步数后对应的激活函数作为激活函数参数。
99.循环执行所述步骤(1)、(2)、(3)和(4),以循环依次更新基矩阵、深层系数矩阵和激活函数参数,直至满足迭代停止条件。其中,迭代停止条件为达到最大迭代次数。也就是说,在训练全连接神经网络时,所迭代的次数达到最大迭代次数,则停止训练全连接神经网络,停止更新基矩阵、深层系数矩阵以及激活函数参数。
100.进一步地,所述基于所述深层系数矩阵、所述全连接神经网络的激活函数参数和所述人脸训练图像,通过反向传播神经网络算法从后往前对所述全连接神经网络的基矩阵进行更新,直至迭代第一预设步数的步骤包括:
101.步骤s121,基于所述深层系数矩阵、所述全连接神经网络的激活函数参数和所述人脸训练图像,通过反向传播神经网络算法从后往前确定各层基矩阵的第一梯度;
102.步骤s122,基于所述第一梯度,对所述全连接神经网络的基矩阵进行更新,直至迭代第一预设步数。
103.在本实施例中,对全连接神经网络的基矩阵进行反向更新,具体过程为:对于全连接神经网络的各层网络层,从后往前,逐层地向前更新;对于每一层网络层的基矩阵的更新过程,基于深层系数矩阵、全连接神经网络的激活函数参数和人脸训练图像,计算该层的基矩阵的第一梯度;再根据基矩阵的第一梯度对该网络层的基矩阵进行更新,直至迭代第一预设步数才迭代下一个参数,其中,基矩阵的第一梯度是根据第一损失函数计算的。需要说明的是,从后往前的更新过程为按照从全连接神经网络最后一层至第一层的顺序,来一层一层地对各层的基矩阵来进行更新,且除了最后一层的更新过程与后一层无关,其余各层的更新过程均与后一层相关。
104.进一步地,所述第一梯度对应的第一损失函数的公式为:
105.其中,网络层数为l层,
106.具体地,对于人脸训练图像x中的一列x
i
,对应的第一损失函数为则全连接神经网络的总体损失函数为先考虑一列。根据深层系数矩阵、激活函数参数和人脸训练图像对全连接神经网络的基矩阵进行更新的原理如下:
107.1.
108.2.
109.3.
110.4.
111.5.
112.6.
113.a
l
=p
1/l
w
l
w
l
‑1…
w1h,l=1,2,...,l
114.7.
115.然后再用乘法形式的梯度下降法对每一层基矩阵进行更新,此时已知的激活函数参数、深层系数矩阵与基矩阵均是第t步。
116.8.
[0117][0118][0119]
以上给出了每一层基矩阵从第t步到第t 1步的迭代过程,最后得到t 1步的基矩阵。
[0120]
进一步地,所述基于所述激活函数参数、迭代所述第一预设步数后对应的基矩阵和所述人脸训练图像,通过梯度下降法对所述深层系数矩阵进行更新,直至迭代第二预设步数的步骤包括:
[0121]
步骤s131,基于所述激活函数参数、迭代所述第一预设步数后对应的基矩阵和所述人脸训练图像,确定第二损失函数对所述深层系数矩阵的第二梯度,其中,所述第二损失函数为添加了图正则约束的重构损失函数;
[0122]
步骤s132,基于所述第二梯度,通过梯度下降法对所述深层系数矩阵进行更新,直至迭代第二预设步数。
[0123]
在本实施例中,迭代第一预设步数后完成了对基矩阵的一次更新,接着对深层系数矩阵进行更新;固定激活函数参数以及迭代第一预设步数后对应的基矩阵,即在更新深层系数矩阵时控制激活函数的值不变以及控制基矩阵(当前基矩阵为迭代第一预设步数后对应的基矩阵)的值不变,对深层系数矩阵进行更新。对于每一层网络层的深层系数矩阵的
更新过程,基于基矩阵、激活函数参数和人脸训练图像,计算第二损失函数对深层系数矩阵的第二梯度;再根据第二梯度对该网络层的深层系数矩阵进行更新,直至迭代第二预设步数才迭代下一个参数。
[0124]
具体地,固定t 1步的基矩阵,固定t步的激活函数参数,然后用重构损失函数对深层系数矩阵进行第t步到第t 1步的迭代。其中,为了保存人脸训练图像的局部保持结构,给深层特征加了图正则约束。定义人脸训练图像的核矩阵为k=(k(x
i
,x
j
))
n
×
n
,其中k(x
i
,x
j
)定义为:
[0125][0126]
定义邻接矩阵为s:
[0127][0128]
其中n
i
与n
j
分别是x
i
与x
j
的k

近邻集合。定义以下式子:
[0129][0130]
其中,d是一个对角矩阵,对角线元素为d
ii
=∑
j
s
ij
。本发明目的是在人脸训练样本中欧式距离近的样本分解后得到的特征向量依然离得很近,于是上述思想可以转化为最小化q,再加上总体重构误差。对深度系数矩阵的重构损失函数可以表示为:
[0131][0132]
其中,λ是超参数,λ可以调整。用重构损失函数对深层系数矩阵求第二梯度,然后用乘法形式的梯度下降法对深层系数矩阵进行更新,更新公式为:
[0133][0134]
进一步地,对激活函数参数进行更新的过程如下:
[0135]
更新激活函数参数p:固定基矩阵与深层系数矩阵,考虑参数p的更新。根据第三损失函数对激活函数参数进行更新,第三损失函数对激活函数参数p而言是一个二次函数,因此有最小值。得到激活函数参数p的迭代公式为:
[0136][0137]
截止到此,完成了从w
1(t)
,h
(t)
,p
(t)
到w
1(t 1)
,h
(t 1)
,p
(t 1)
的迭代过程。设置好迭代步骤,最终可以得到深度非负矩阵的分解结构。
[0138]
此外,本发明实施例还提出一种人脸图像聚类装置,所述人脸图像聚类装置包括:
[0139]
获取模块,用于从人脸数据库中获取人脸训练图像,并基于所述人脸训练图像轮番依次对全连接神经网络的基矩阵、深层系数矩阵和激活函数参数进行更新,其中,所述深层系数矩阵为所述全连接神经网络输入层的输入量;
[0140]
模型确定模块,用于在更新完成所述基矩阵、所述深层系数矩阵和所述激活函数参数后,得到bp

dgnmf模型;
[0141]
特征提取模块,用于获取待聚类人脸图像,并将所述待聚类人脸图像输入至所述bp

dgnmf模型,以基于更新完成后的基矩阵和激活函数参数确定所述待聚类人脸图像对应的深层特征集合;
[0142]
聚类模块,用于基于所述深层特征集合,对所述待聚类人脸图像执行聚类操作,得到所述待聚类人脸图像对应的聚类结果。
[0143]
此外,本发明实施例还提出一种计算机可读存储介质,所述计算机可读存储介质上存储有人脸图像聚类程序,所述人脸图像聚类程序被处理器执行时实现如上述中任一项所述的人脸图像聚类方法的步骤。
[0144]
本发明计算机可读存储介质具体实施例与上述人脸图像聚类方法的各实施例基本相同,在此不再详细赘述。
[0145]
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个
……”
限定的要素,并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
[0146]
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
[0147]
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在如上所述的一个存储介质(如rom/ram、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
[0148]
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献