基于局域监督的人脸三维卡通化方法、装置、设备及介质与流程

1.本技术涉及图像处理技术领域，尤其涉及一种基于局域监督的人脸三维卡通化方法、装置、设备及介质。


背景技术：

2.随着元宇宙概念的兴起，三维虚拟人物的相关应用陡增，基于图像生成技术的人脸算法也迎来了新的挑战。与二维人脸卡通化算法不同，三维人脸的色彩细腻度更高，而三维卡通化往往需要考虑景深和色彩变化等更多的立体信息。
3.现有的算法主要集中在二维动漫风格卡通化上，对于三维卡通化还处在探索阶段，已有的算法往往很难兼顾颜色准确度和细腻度。针对人脸三维卡通化主流方法通常使用生成式对抗网络(gan)完成，将人脸作为算法输入，由生成器生成对应的三维卡通化人脸结果，鉴别器则判断生成器是否是伪造的数据。但是由于三维人脸的立体性和对像素颗粒密度的高要求，现有方式难以达到三维人脸的立体性和对像素颗粒密度的高要求，从而导致现有的方式对人脸三维卡通化的精度较低。


技术实现要素：

4.本技术实施例的目的在于提出一种基于局域监督的人脸三维卡通化方法、装置、设备及介质，以提高人脸三维卡通化的精度。
5.为了解决上述技术问题，本技术实施例提供一种基于局域监督的人脸三维卡通化方法，包括：
6.获取样本人脸图像和所述样本人脸图像对应的样本人脸三维卡通化图像；
7.通过卷积神经网络模型对所述样本人脸图像进行人脸卡通化处理，得到基础人脸三维卡通化图像；
8.采用预设方式对所述基础人脸三维卡通化图像进行关键点检测，得到人脸关键点，并基于所述人脸关键点，对所述基础人脸三维卡通化图像进行分割，得到目标局部人脸三维图像，其中，所述目标局部人脸三维图像包括眼睛图像、鼻子图像以及嘴巴图像；
9.计算所述样本人脸三维卡通化图像的局部人脸三维图像与所述目标局部人脸三维图像的结构相似度，得到初始结构相似度；
10.基于所述初始结构相似度，调整所述卷积神经网络模型的预设模型参数，并通过调整后的卷积神经网络模型对所述样本人脸图像进行迭代处理，直至得到的最新结构相似度小于预设阈值，得到目标卷积神经网络模型；
11.获取待处理人脸图像，并通过所述目标卷积神经网络模型对所述待处理人脸图像进行人脸卡通化处理，得到目标人脸三维卡通化图像。
12.进一步的，所述通过卷积神经网络模型对所述样本人脸图像进行人脸卡通化处理，得到基础人脸三维卡通化图像，包括：
13.通过卷积神经网络模型的编码卷积块对所述样本人脸图像进行卷积编码处理，得
到人脸特征信息；
14.通过卷积神经网络模型的卷积层对所述人脸特征信息进行整合和压缩处理，得到目标人脸特征信息；
15.通过卷积神经网络模型的解码卷积块对所述人脸特征信息进行解码处理，得到所述基础人脸三维卡通化图像。
16.进一步的，在所述通过卷积神经网络模型的编码卷积块对所述样本人脸图像进行卷积编码处理，得到人脸特征信息之前，所述方法还包括：
17.识别所述样本人脸图像中的人脸区域；
18.基于所述人脸区域，对所述人脸图像进行二分类处理，得到遮罩图像；
19.通过对所述样本人脸图像与所述遮罩图像进行二值化处理，去除所述样本人脸图像中的背景，得到去除背景的样本人脸图像。
20.进一步的，所述通过卷积神经网络模型的编码卷积块对所述样本人脸图像进行卷积编码处理，得到人脸特征信息，包括：
21.通过卷积神经网络模型的编码卷积块对所述样本人脸图像中的特征信息进行提取，得到高维向量信息；
22.采用主成分分析算法，将所述高维向量信息转化为低维向量信息，并将所述低维向量信息作为所述人脸特征信息。
23.进一步的，所述采用预设方式对所述基础人脸三维卡通化图像进行关键点检测，得到人脸关键点，并基于所述人脸关键点，对所述基础人脸三维卡通化图像进行分割，得到目标局部人脸三维图像，包括：
24.采用预设的人脸关键点检测模型对所述基础人脸三维卡通化图像进行关键点检测，得到所述人脸关键点；
25.选取所述人脸关键点中的预设关键点，并基于所述预设关键点，生成局部区域；
26.基于所述局部区域，对所述基础人脸三维卡通化图像进行分割，得到所述目标局部人脸三维图像。
27.进一步的，所述计算所述样本人脸三维卡通化图像的局部人脸三维图像与所述目标局部人脸三维图像的结构相似度，得到初始结构相似度，包括：
28.基于所述预设关键点，将所述样本人脸三维卡通化图像进行分割，得到初始局部人脸三维图像，其中，所述初始局部人脸三维图像包括眼睛图像、鼻子图像以及嘴巴图像；
29.将所述初始局部人脸三维图像与对应的所述目标局部人脸三维图像进行分组，得到眼睛图像组合、鼻子图像组合以及嘴巴图像组合；
30.分别计算所述眼睛图像组合、所述鼻子图像组合以及所述嘴巴图像组合的结构相似度，得到所述初始结构相似度，其中，所述初始结构相似度包括眼睛相似度、鼻子相似度以及嘴巴相似度。
31.进一步的，所述基于所述初始结构相似度，调整所述卷积神经网络模型的预设模型参数，并通过调整后的卷积神经网络模型对所述样本人脸图像进行迭代处理，直至得到的最新结构相似度小于预设阈值，得到目标卷积神经网络模型，包括：
32.判断所述结构相似度是否小于所述预设阈值，得到判断结果；
33.若所述判断结果为所述结构相似度未小于所述预设阈值，则调整所述卷积神经网
络模型的预设模型参数，得到调整后的卷积神经网络模型；
34.通过所述调整后的卷积神经网络模型对所述样本人脸图像进行迭代处理，其中，每次所述迭代处理均得到所述最新结构相似度；
35.当所述最新结构相似度小于所述预设阈值，得到目标卷积神经网络模型。
36.为了解决上述技术问题，本技术实施例提供一种基于局域监督的人脸三维卡通化装置，包括：
37.样本人脸图像获取模块，用于获取样本人脸图像和所述样本人脸图像对应的样本人脸三维卡通化图像；
38.基础人脸图像生成模块，用于通过卷积神经网络模型对所述样本人脸图像进行人脸卡通化处理，得到基础人脸三维卡通化图像；
39.目标局部图像生成模块，用于采用预设方式对所述基础人脸三维卡通化图像进行关键点检测，得到人脸关键点，并基于所述人脸关键点，对所述基础人脸三维卡通化图像进行分割，得到目标局部人脸三维图像，其中，所述目标局部人脸三维图像包括眼睛图像、鼻子图像以及嘴巴图像；
40.初始结构相似度计算模块，用于计算所述样本人脸三维卡通化图像的局部人脸三维图像与所述目标局部人脸三维图像的结构相似度，得到初始结构相似度；
41.卷积神经网络模型训练模块，用于基于所述初始结构相似度，调整所述卷积神经网络模型的预设模型参数，并通过调整后的卷积神经网络模型对所述样本人脸图像进行迭代处理，直至得到的最新结构相似度小于预设阈值，得到目标卷积神经网络模型；
42.目标人脸图像生成模块，用于获取待处理人脸图像，并通过所述目标卷积神经网络模型对所述待处理人脸图像进行人脸卡通化处理，得到目标人脸三维卡通化图像。
43.为解决上述技术问题，本发明采用的一个技术方案是：提供一种计算机设备，包括，一个或多个处理器；存储器，用于存储一个或多个程序，使得一个或多个处理器实现上述任意一项所述的基于局域监督的人脸三维卡通化方法。
44.为解决上述技术问题，本发明采用的一个技术方案是：一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现上述任意一项所述的基于局域监督的人脸三维卡通化方法。
45.本发明实施例提供了一种基于局域监督的人脸三维卡通化方法、装置、设备及介质。其中，方法包括：获取样本人脸图像和样本人脸图像对应的样本人脸三维卡通化图像；通过卷积神经网络模型对样本人脸图像进行人脸卡通化处理，得到基础人脸三维卡通化图像；采用预设方式对基础人脸三维卡通化图像进行关键点检测，得到人脸关键点，并基于人脸关键点，对基础人脸三维卡通化图像进行分割，得到目标局部人脸三维图像，其中，目标局部人脸三维图像包括眼睛图像、鼻子图像以及嘴巴图像；计算样本人脸三维卡通化图像的局部人脸三维图像与目标局部人脸三维图像的结构相似度，得到初始结构相似度；基于初始结构相似度，调整卷积神经网络模型的预设模型参数，并通过调整后的卷积神经网络模型对样本人脸图像进行迭代处理，直至得到的最新结构相似度小于预设阈值，得到目标卷积神经网络模型；获取待处理人脸图像，将待处理人脸图像输入到目标卷积神经网络模型中进行人脸卡通化处理，得到目标人脸三维卡通化图像。本发明实施例通过将人脸三维卡通化图像进行分割成局部人脸三维图像，再将局部人脸三维图像与样本人脸三维卡通化
图像进行局部对比，以实现对人脸三维卡通化进行局部监督损失，然后根据局部监督损失调整模型参数，以对卷积神经网络模型进行训练，得到目标卷积神经网络模型，实现了对人脸图像的不同器官进行局部监督，有利于提高人脸三维卡通化的精度。
附图说明
46.为了更清楚地说明本技术中的方案，下面将对本技术实施例描述中所需要使用的附图作一个简单介绍，显而易见地，下面描述中的附图是本技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
47.图1是本技术实施例提供的基于局域监督的人脸三维卡通化方法中子流程的一实现流程图；
48.图2是本技术实施例提供的基于局域监督的人脸三维卡通化方法中子流程的又一实现流程图；
49.图3是本技术实施例提供的基于局域监督的人脸三维卡通化方法中子流程的又一实现流程图；
50.图4是本技术实施例提供的基于局域监督的人脸三维卡通化方法中子流程的又一实现流程图；
51.图5是本技术实施例提供的基于局域监督的人脸三维卡通化方法中子流程的又一实现流程图；
52.图6是本技术实施例提供的基于局域监督的人脸三维卡通化方法中子流程的又一实现流程图；
53.图7是本技术实施例提供的基于局域监督的人脸三维卡通化方法中子流程的又一实现流程图；
54.图8是本技术实施例提供的基于局域监督的人脸三维卡通化装置示意图；
55.图9是本技术实施例提供的计算机设备的示意图。
具体实施方式
56.除非另有定义，本文所使用的所有的技术和科学术语与属于本技术的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本技术；本技术的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本技术的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。
57.在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本技术的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。
58.为了使本技术领域的人员更好地理解本技术方案，下面将结合附图，对本技术实施例中的技术方案进行清楚、完整地描述。
59.下面结合附图和实施方式对本发明进行详细说明。
60.需要说明的是，本技术实施例所提供的基于局域监督的人脸三维卡通化方法一般由服务器执行，相应地，基于局域监督的人脸三维卡通化装置一般配置于服务器中。
61.请参阅图1，图1示出了基于局域监督的人脸三维卡通化方法的一种具体实施方式。
62.需注意的是，若有实质上相同的结果，本发明的方法并不以图1所示的流程顺序为限，该方法包括如下步骤：
63.s1：获取样本人脸图像和样本人脸图像对应的样本人脸三维卡通化图像。
64.具体的，样本人脸图像为未经过处理的原始人脸图像，样本人脸三维卡通化图像是样本人脸图像经过三维卡通化处理后的三维卡通化图像。样本人脸图像作为后续训练卷积神经网络模型的原始数据，样本人脸三维卡通化图像作为卷积神经网络模型输出结果的对比图像。
65.s2：通过卷积神经网络模型对样本人脸图像进行人脸卡通化处理，得到基础人脸三维卡通化图像。
66.请参阅图2，图2示出了步骤s2的一种具体实施方式，详叙如下：
67.s21：通过卷积神经网络模型的编码卷积块对样本人脸图像进行卷积编码处理，得到人脸特征信息。
68.s22：通过卷积神经网络模型的卷积层对人脸特征信息进行整合和压缩处理，得到目标人脸特征信息。
69.s23：通过卷积神经网络模型的解码卷积块对人脸特征信息进行解码处理，得到基础人脸三维卡通化图像。
70.具体的，卷积神经网络模型包括三块编码卷积块、单层卷积层以及三块解码卷积块，通过三块编码卷积块对样本人脸图像进行卷积编码，得到人脸特征信息，单独的卷积层用于对人脸特征信息进行整合和压缩处理，并将人脸特征信息传递到后续的解码卷积块中，三块解码卷积块对卷积层传递来的人脸特征信息进行解码处理，从而得到目标人脸特征信息。其中，人脸卡通化处理包括对样本人脸图像进行卷积编码处理、整合和压缩处理以及解码处理。
71.本实施例中，通过卷积神经网络模型的编码卷积块对样本人脸图像进行卷积编码处理，得到人脸特征信息，再通过卷积神经网络模型的卷积层对人脸特征信息进行整合和压缩处理，得到目标人脸特征信息，然后通过卷积神经网络模型的解码卷积块对人脸特征信息进行解码处理，得到基础人脸三维卡通化图像，实现将二维的人脸图像转化成三维的卡通化人脸图像，有利于对卷积神经网络模型进行训练，提高人脸三维卡通化的精度。
72.请参阅图3，图3示出了步骤s2之前的一种具体实施方式，详叙如下：
73.s2a：识别样本人脸图像中的人脸区域。
74.s2b：基于人脸区域，对人脸图像进行二分类处理，得到遮罩图像。
75.s2c：通过对样本人脸图像与遮罩图像进行二值化处理，去除样本人脸图像中的背景，得到去除背景的样本人脸图像。
76.具体的，利用全卷积神经网络模型(fully convolutional networks，fcn)可以对样本人脸图像中做背景和人体区域分割，该fcn模型可以包括13层3*3卷积核的卷积层、5层3*3的最大池化层(maxpooling)以及并行的四层膨胀系数分别为6，12，18，24的膨胀
(dilation)卷积层。样本人脸图像的每一像素点经过13层3*3卷积核的卷积层和5层3*3的最大池化层后，进入四层膨化卷积层，经过四层膨化卷积层的处理后对输出的像素数据进行加和并进行丢失(dropout)操作后，可以识别出人体区域的像素点和非人体区域(也即背景区域)的像素点，然后通过对人体区域的像素点和背景区域的像素点做像素级别的二分类(pixel-wisebinary classification)操作，即人体区域的像素点的像素取值为1，背景区域的像素点的像素取值为0，由此得到一张遮罩(mask)图像，在该mask图像中，背景区域为黑色，人体区域为白色，然后将该mask图像等比例缩放为输入图像的大小，由此输出一张和人脸图像大小相同的mask图像。
77.二值化处理过程：将mask图像的每个像素点的像素值与样本人脸图像对应像素点的像素值进行相乘，由于mask图像中的背景区域的像素点的像素值为0，因此与人脸图像的背景区域的像素点的像素值相乘后，相乘的结果仍然为零，而mask图像中的人体区域的像素点的像素值为1，因此与人脸图像1的人体区域的像素点的像素值相乘后，相乘的结果仍然为人脸图像的人体区域的像素点的像素值，由此可以将人脸图像的背景区域的图像除去，从而得到只有人体区域图像的人脸图像。
78.本实施例中，基于全卷积神经网络模型识别样本人脸图像中的人体区域，再基于人体区域，对样本人脸图像进行二分类处理，得到遮罩图像，然后通过对人脸图像与遮罩图像进行二值化处理，去除人脸图像的背景，得到人体区域的人脸图像，实现去除人脸图像的背景，有利于提高后续提取人脸特征信息的精度。
79.请参阅图4，图4示出了步骤s21的一种具体实施方式，详叙如下：
80.s211：通过卷积神经网络模型的编码卷积块对样本人脸图像中的特征信息进行提取，得到高维向量信息。
81.s212：采用主成分分析算法，将高维向量信息转化为低维向量信息，并将低维向量信息作为人脸特征信息。
82.具体的，通过卷积神经网络模型对人脸图像的特征信息提取，得到高维向量的人脸特征信息，再通过主成分分析算法，将高维向量信息转化为低维向量信息，得到人脸特征信息。其中，主成分分析(principal component analysis，pca)，是一种统计方法，其通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量，转换后的这组变量叫主成分。在本实施例中，采用主成分分析算法将卷积神经网络模型提取到的高维向量信息进行转换，使其转换为一组线性不相关的变量，转化成低维向量信息，并将低维向量信息作为人脸特征信息。整个模型分为三个阶段，第一阶段通过一个浅层的cnn网络快速产生一系列的候选窗口；第二阶段通过一个能力更强的cnn网络过滤掉绝大部分非人脸候选窗口；第三阶段通过一个能力更加强大的网络找到人脸上面的五个标记点，并输出标记点的位置信息。在本实施例中通过多任务卷积神经网络模型对人脸图像进行特征信息提取，输出其得到的高维向量信息。
83.本实施例中，通过利用卷积神经网络模型对样本人脸图像的特征提取，得到高维向量信息，再采用主成分分析算法，将高维向量信息转化为低维向量信息，并将低维向量信息作为人脸特征信息，使得从样本人脸图像中提取到人脸特征信息，有利于后续根据人脸特征信息生成对应的卡通化图像，从而有利于提高人脸三维卡通化的精度。
84.s3：采用预设方式对基础人脸三维卡通化图像进行关键点检测，得到人脸关键点，
并基于人脸关键点，对基础人脸三维卡通化图像进行分割，得到目标局部人脸三维图像。
85.请参阅图5，图5示出了步骤s3的一种具体实施方式，详叙如下：
86.s31：采用预设的人脸关键点检测模型对基础人脸三维卡通化图像进行关键点检测，得到人脸关键点。
87.s32：选取人脸关键点中的预设关键点，并基于预设关键点，生成局部区域。
88.s33：基于局部区域，对基础人脸三维卡通化图像进行分割，得到目标局部人脸三维图像。
89.具体的，采用预设方式对基础人脸三维卡通化图像进行关键点检测，得到人脸关键点，在人脸图像中先预设人脸包围框，人脸包围框中包括人脸包围框坐标，每个人脸关键点作为人脸包围框的一个人脸包围框坐标。根据预设人脸包围框获取对应的预设关键点，再根据不同区域(例如眼睛区域、嘴巴区域以及鼻子区域)的预设关键点进行相连，相连部分所形成的区域作为局部区域，然后基于局部区域，对基础人脸三维卡通化图像进行分割，得到目标局部人脸三维图像，其中，目标局部人脸三维图像包括眼睛图像、鼻子图像以及嘴巴图像。
90.需要说明的是，预设关键点的选取方式是预先在预设人脸包围框中预设区域，该预设区域内包括不同的关键点，在后续进行关键点检测后，得到人脸关键点，将落入该预设区域内的人脸关键点作为预设关键点。其中，预设区域根据人脸的不同部分进行区分，例如眼睛区域、嘴巴区域以及鼻子区域等。
91.其中，预设的人脸关键点检测模型包括pfld(全称为apractical facial landmark detector)和开源人脸关键点算法dlib库，pfld是一个精度高，速度快，模型小的人脸关键点检测模型。开源人脸关键点算法dlib库是一个包含机器学习算法的c 开源工具包。在本实施例中，优选的预设的人脸关键点检测模型为使用开源人脸关键点算法dlib库对基础人脸三维卡通化图像进行关键点检测。
92.本实施例中，通过采用预设的人脸关键点检测模型对基础人脸三维卡通化图像进行关键点检测，得到人脸关键点，并选取人脸关键点中的预设关键点，并基于预设关键点，生成局部区域，然后基于局部区域，对基础人脸三维卡通化图像进行分割，得到目标局部人脸三维图像，实现将基础人脸三维卡通化图像进行精准的局部分割，有利于对比人脸图像的各个部分，从而提高人脸三维卡通化的精度。
93.s4：计算样本人脸三维卡通化图像的局部人脸三维图像与目标局部人脸三维图像的结构相似度，得到初始结构相似度。
94.请参阅图6，图6示出了步骤s4的一种具体实施方式，详叙如下：
95.s41：将初始局部人脸三维图像与对应的目标局部人脸三维图像进行分组，得到眼睛图像组合、鼻子图像组合以及嘴巴图像组合。
96.s42：分别计算眼睛图像组合、鼻子图像组合以及嘴巴图像组合的结构相似度，得到初始结构相似度，其中，初始结构相似度包括眼睛相似度、鼻子相似度以及嘴巴相似度。
97.具体的，将需要对比的本人脸三维卡通化图像和目标局部人脸三维图像的部分进行两两组合，得到眼睛图像组合、鼻子图像组合以及嘴巴图像组合，再分别计算眼睛图像组合、鼻子图像组合以及嘴巴图像组合的结构相似度，得到初始结构相似度，也即得到眼睛相似度、鼻子相似度以及嘴巴相似度。其中，结构相似度也即ssim(structural similarity)，
其是一种衡量两幅图像相似度的指标。
98.s5：基于初始结构相似度，调整卷积神经网络模型的预设模型参数，并通过调整后的卷积神经网络模型对样本人脸图像进行迭代处理，直至得到的最新结构相似度小于预设阈值，得到目标卷积神经网络模型。
99.请参阅图7，图7示出了步骤s5的一种具体实施方式，详叙如下：
100.s51：判断结构相似度是否小于预设阈值，得到判断结果。
101.s52：若判断结果为结构相似度未小于预设阈值，则调整卷积神经网络模型的预设模型参数，得到调整后的卷积神经网络模型。
102.s53：通过调整后的卷积神经网络模型对样本人脸图像进行迭代处理，其中，每次迭代处理均得到最新结构相似度。
103.s54：当最新结构相似度小于预设阈值，得到目标卷积神经网络模型。
104.具体的，由于上述步骤得到了眼睛相似度、鼻子相似度以及嘴巴相似度，通过判断眼睛相似度、鼻子相似度以及嘴巴相似度是否均小于预设阈值，若否，则调整卷积神经网络模型的预设模型参数，得到调整后的卷积神经网络模型，通过调整后的卷积神经网络模型对样本人脸图像进行迭代处理，其中，每次迭代处理均得到最新结构相似度，当最新结构相似度小于预设阈值，得到目标卷积神经网络模型。其中，一次迭代处理过程为：调整卷积神经网络模型的预设模型参数，得到调整后的卷积神经网络模型，通过调整后的卷积神经网络模型对样本人脸图像进行卡通化处理，得到人脸三维卡通化图像，然后计算人脸三维卡通化图像与样本人脸三维卡通化的结构相似度，得到最新结构相似度，判断最新结构相似度是否大于预设阈值。
105.需要说明的是，预设阈值根据实际情况进行设定，此处不作限定。
106.本实施例中，判断结构相似度是否小于预设阈值，得到判断结果，若判断结果为结构相似度未小于预设阈值，则调整卷积神经网络模型的预设模型参数，得到调整后的卷积神经网络模型，再通过调整后的卷积神经网络模型对样本人脸图像进行迭代处理，当最新结构相似度小于预设阈值，得到目标卷积神经网络模型，实现对卷积神经网络模型进行训练，得到目标卷积神经网络模型，实现了对人脸图像的不同器官进行局部监督，有利于提高人脸三维卡通化的精度。
107.s6：获取待处理人脸图像，并通过目标卷积神经网络模型对待处理人脸图像进行人脸卡通化处理，得到目标人脸三维卡通化图像。
108.具体的，上述步骤已经得到了目标卷积神经网络模型，在需要对人脸图像进行卡通化处理时，获取待处理人脸图像，并通过目标卷积神经网络模型对待处理人脸图像进行人脸卡通化处理，从而得到目标人脸三维卡通化图像。
109.本实施例中，通过获取样本人脸图像和样本人脸图像对应的样本人脸三维卡通化图像；通过卷积神经网络模型对样本人脸图像进行人脸卡通化处理，得到基础人脸三维卡通化图像；采用预设方式对基础人脸三维卡通化图像进行关键点检测，得到人脸关键点，并基于人脸关键点，对基础人脸三维卡通化图像进行分割，得到目标局部人脸三维图像，其中，目标局部人脸三维图像包括眼睛图像、鼻子图像以及嘴巴图像；计算样本人脸三维卡通化图像的局部人脸三维图像与目标局部人脸三维图像的结构相似度，得到初始结构相似度；基于初始结构相似度，调整卷积神经网络模型的预设模型参数，并通过调整后的卷积神
经网络模型对样本人脸图像进行迭代处理，直至得到的最新结构相似度小于预设阈值，得到目标卷积神经网络模型；获取待处理人脸图像，将待处理人脸图像输入到目标卷积神经网络模型中进行人脸卡通化处理，得到目标人脸三维卡通化图像。本发明实施例通过将人脸三维卡通化图像进行分割成局部人脸三维图像，再将局部人脸三维图像与样本人脸三维卡通化图像进行局部对比，以实现对人脸三维卡通化进行局部监督损失，然后根据局部监督损失调整模型参数，以对卷积神经网络模型进行训练，得到目标卷积神经网络模型，实现了对人脸图像的不同器官进行局部监督，有利于提高人脸三维卡通化的精度。
110.本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，该计算机程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(read-only memory，rom)等非易失性存储介质，或随机存储记忆体(random access memory，ram)等。
111.请参考图8，作为对上述图1所示方法的实现，本技术提供了一种基于局域监督的人脸三维卡通化装置的一个实施例，该装置实施例与图1所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
112.如图8所示，本实施例的基于局域监督的人脸三维卡通化装置包括：样本人脸图像获取模块71、基础人脸图像生成模块72、目标局部图像生成模块73、初始结构相似度计算模块74、卷积神经网络模型训练模块75及目标人脸图像生成模块76，其中：
113.样本人脸图像获取模块71，用于获取样本人脸图像和样本人脸图像对应的样本人脸三维卡通化图像；
114.基础人脸图像生成模块72，用于通过卷积神经网络模型对样本人脸图像进行人脸卡通化处理，得到基础人脸三维卡通化图像；
115.目标局部图像生成模块73，用于采用预设方式对基础人脸三维卡通化图像进行关键点检测，得到人脸关键点，并基于人脸关键点，对基础人脸三维卡通化图像进行分割，得到目标局部人脸三维图像，其中，目标局部人脸三维图像包括眼睛图像、鼻子图像以及嘴巴图像；
116.初始结构相似度计算模块74，用于计算样本人脸三维卡通化图像的局部人脸三维图像与目标局部人脸三维图像的结构相似度，得到初始结构相似度；
117.卷积神经网络模型训练模块75，用于基于初始结构相似度，调整卷积神经网络模型的预设模型参数，并通过调整后的卷积神经网络模型对样本人脸图像进行迭代处理，直至得到的最新结构相似度小于预设阈值，得到目标卷积神经网络模型；
118.目标人脸图像生成模块76，用于获取待处理人脸图像，并通过目标卷积神经网络模型对待处理人脸图像进行人脸卡通化处理，得到目标人脸三维卡通化图像。
119.进一步的，基础人脸图像生成模块72包括：
120.人脸特征信息提取单元，用于通过卷积神经网络模型的编码卷积块对样本人脸图像进行卷积编码处理，得到人脸特征信息；
121.目标人脸特征信息生成单元，用于通过卷积神经网络模型的卷积层对人脸特征信息进行整合和压缩处理，得到目标人脸特征信息；
122.人脸特征信息解码单元，用于通过卷积神经网络模型的解码卷积块对人脸特征信
息进行解码处理，得到基础人脸三维卡通化图像。
123.进一步的，在人脸特征信息提取单元之前还包括：
124.人脸区域识别单元，用于识别样本人脸图像中的人脸区域；
125.遮罩图像生成单元，用于基于人脸区域，对人脸图像进行二分类处理，得到遮罩图像；
126.背景去除单元，用于通过对样本人脸图像与遮罩图像进行二值化处理，去除样本人脸图像中的背景，得到去除背景的样本人脸图像。
127.进一步的，人脸特征信息提取单元包括：
128.高维向量信息提取子单元，用于通过卷积神经网络模型的编码卷积块对样本人脸图像中的特征信息进行提取，得到高维向量信息；
129.向量信息转换子单元，用于采用主成分分析算法，将高维向量信息转化为低维向量信息，并将低维向量信息作为人脸特征信息。
130.进一步的，目标局部图像生成模块73包括：
131.人脸关键点检测单元，用于采用预设的人脸关键点检测模型对基础人脸三维卡通化图像进行关键点检测，得到人脸关键点；
132.局部区域生成单元，用于选取人脸关键点中的预设关键点，并基于预设关键点，生成局部区域；
133.图像分割单元，用于基于局部区域，对基础人脸三维卡通化图像进行分割，得到目标局部人脸三维图像。
134.进一步的，初始结构相似度计算模块74包括：
135.样本图像分割单元，用于基于预设关键点，将样本人脸三维卡通化图像进行分割，得到初始局部人脸三维图像，其中，初始局部人脸三维图像包括眼睛图像、鼻子图像以及嘴巴图像；
136.图像组合单元，用于将初始局部人脸三维图像与对应的目标局部人脸三维图像进行分组，得到眼睛图像组合、鼻子图像组合以及嘴巴图像组合；
137.图像组合计算单元，用于分别计算眼睛图像组合、鼻子图像组合以及嘴巴图像组合的结构相似度，得到初始结构相似度，其中，初始结构相似度包括眼睛相似度、鼻子相似度以及嘴巴相似度。
138.进一步的，卷积神经网络模型训练模块75包括：
139.判断结果获取单元，用于判断结构相似度是否小于预设阈值，得到判断结果；
140.模型参数调整单元，用于若判断结果为结构相似度未小于预设阈值，则调整卷积神经网络模型的预设模型参数，得到调整后的卷积神经网络模型；
141.迭代处理单元，用于通过调整后的卷积神经网络模型对样本人脸图像进行迭代处理，其中，每次迭代处理均得到最新结构相似度；
142.目标卷积神经网络模型生成单元，用于当最新结构相似度小于预设阈值，得到目标卷积神经网络模型。
143.为解决上述技术问题，本技术实施例还提供计算机设备。具体请参阅图9，图9为本实施例计算机设备基本结构框图。
144.计算机设备8包括通过系统总线相互通信连接存储器81、处理器82、网络接口83。
需要指出的是，图中仅示出了具有三种组件存储器81、处理器82、网络接口83的计算机设备8，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(application specific integrated circuit，asic)、可编程门阵列(field－programmable gate array，fpga)、数字处理器(digital signal processor，dsp)、嵌入式设备等。
145.计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
146.存储器81至少包括一种类型的可读存储介质，可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，sd或dx存储器等)、随机访问存储器(ram)、静态随机访问存储器(sram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、可编程只读存储器(prom)、磁性存储器、磁盘、光盘等。在一些实施例中，存储器81可以是计算机设备8的内部存储单元，例如该计算机设备8的硬盘或内存。在另一些实施例中，存储器81也可以是计算机设备8的外部存储设备，例如该计算机设备8上配备的插接式硬盘，智能存储卡(smart media card,smc)，安全数字(secure digital,sd)卡，闪存卡(flash card)等。当然，存储器81还可以既包括计算机设备8的内部存储单元也包括其外部存储设备。本实施例中，存储器81通常用于存储安装于计算机设备8的操作系统和各类应用软件，例如基于局域监督的人脸三维卡通化方法的程序代码等。此外，存储器81还可以用于暂时地存储已经输出或者将要输出的各类数据。
147.处理器82在一些实施例中可以是中央处理器(central processing unit，cpu)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器82通常用于控制计算机设备8的总体操作。本实施例中，处理器82用于运行存储器81中存储的程序代码或者处理数据，例如运行上述基于局域监督的人脸三维卡通化方法的程序代码，以实现基于局域监督的人脸三维卡通化方法的各种实施例。
148.网络接口83可包括无线网络接口或有线网络接口，该网络接口83通常用于在计算机设备8与其他电子设备之间建立通信连接。
149.本技术还提供了另一种实施方式，即提供一种计算机可读存储介质，计算机可读存储介质存储有计算机程序，计算机程序可被至少一个处理器执行，以使至少一个处理器执行如上述的一种基于局域监督的人脸三维卡通化方法的步骤。
150.通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本技术的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如rom/ram、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本技术各个实施例的方法。
151.本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验
证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
152.显然，以上所描述的实施例仅仅是本技术一部分实施例，而不是全部的实施例，附图中给出了本技术的较佳实施例，但并不限制本技术的专利范围。本技术可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本技术的公开内容的理解更加透彻全面。尽管参照前述实施例对本技术进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本技术说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本技术专利保护范围之内。