一种多任务边缘特征提取的深伪视频图像鉴定方法及系统与流程

1.本发明属于图像鉴定的技术领域，具体涉及一种多任务边缘特征提取的深伪视频图像鉴定方法及系统。


背景技术：

2.利用深度学习实现图片分类的方法中，已经有不少方法能达到较高指标的结果，如vgg、resnet、googlenet等分类网络。但这些方法通常只是通过加深网络层数、增加网络参数来提高分类性能的，这些方法通常不具有可解释性。而在一些分类任务中，需要关注图像一些特定的底层特征，如判别图像是否为生成图像可以针对边缘信息进行分类。而传统的底层特征提取需要耗费不少的时间和计算成本。在一些特定的深伪检测任务中，利用底层特征，如判别真实图像和生成图像时利用边缘特征进行分类可以提高分类的效果和可解释性。
3.然而，现有的深伪检测方案有以下缺点：深度学习的分类方法通常不具有可解释性，在特定的分类任务中不能保证网络提取出的特征是对分类有用的特征；传统的底层特征提取需要耗费不少的时间和计算成本。
4.有鉴于此，提出一种多任务边缘特征提取的深伪视频图像鉴定方法及系统是非常具有意义的。


技术实现要素：

5.为了解决现有深伪检测方案存在在特定的分类任务中不能保证网络提取出的特征是对分类有用的特征、传统的底层特征提取需要耗费不少的时间和计算成本等问题，本发明提供一种多任务边缘特征提取的深伪视频图像鉴定方法及系统，以解决上述存在的技术缺陷问题。
6.第一方面，本发明提出了一种多任务边缘特征提取的深伪视频图像鉴定方法，该方法包括如下步骤：
7.s1、构建并获取图像鉴定所需训练数据；
8.s2、搭建网络框架对图像进行图像特征提取和边缘特征提取；
9.s3、对提取的图像特征和边缘特征进行展平和拼接处理；以及
10.s4、获得图像类别的预测结果。
11.优选的，步骤s1还包括：生成真实图像和伪造图像的标签，利用canny边缘检测算子生成真实图像的边缘图像，并进一步生成边缘图像的标签。
12.进一步优选的，步骤s1还包括：利用生成的边缘图像作为后续算法计算损失时所用的标签。
13.进一步优选的，步骤s2还包括：使用残差块和下采样、上采样分别构建图像特征提取模块、边缘特征提取模块以及边缘重建模块。
14.进一步优选的，所述残差块选用在imagenet上预训练过的resnet50的卷积块。
15.进一步优选的，在步骤s3之后和步骤s4之前还包括：
16.s31、利用l2损失对生成的边缘图像和标签进行损失计算；
17.s32、对分类得到的结果利用交叉熵损失函数进行计算；
18.s33、对总的损失进行反向传播已对模型进行优化；
19.s34、当损失下降到平稳状态时结束训练。
20.优选的，步骤s4还包括：预测过程中利用边缘特征提取、图像特征提取以及后续的类别预测部分，进行类别的预测。
21.第二部分，本技术还提出一种多任务边缘特征提取的深伪视频图像鉴定系统，包括：
22.构建模块：用于构建图像鉴定所需训练数据以及网络框架；
23.训练模块：用于图像鉴定所需训练数据；
24.特征提取模块：用于对图像进行图像特征提取和边缘特征提取；
25.重建模块：用于完成对图像的边缘重建；
26.处理模块：用于对提取的图像特征和边缘特征进行展平和拼接处理；
27.计算模块：用于利用l2损失对生成的边缘图像和标签进行损失计算，对分类得到的结果利用交叉熵损失函数进行计算；
28.预测模块：用于利用边缘特征提取、图像特征提取以及后续的类别预测部分，进行类别的预测。
29.第三方面，本发明实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。
30.第四方面，本发明实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如第一方面中任一实现方式描述的方法。
31.与现有技术相比，本发明的有益成果在于：
32.(1)本发明通过添加对边缘生成的任务，能够让网络获取到边缘特征，利用这些特征进行进一步的分类，本发明能够解决传统特征提取耗时慢、计算量大的问题，让神经网络具有可解释性的同时提高网络的预测性能。
33.(2)本发明的技术方案结合图像分类和图像边缘生成两个任务，得到图像特征提取器和边缘特征提取器，对两个特征进行拼接进行类别预测。本发明的方法能够让神经网络提取特征时能够关注传统的底层特征，解决传统特征提取耗时慢、计算量大的问题，并进一步提高神经网络在深伪检测中的效果。由于在特征信息的学习过程，轮廓信息会被逐渐忽略，从而转换成语义信息，为了使得模型不忽略轮廓信息，本发明利用canny边缘检测算子生成的边缘轮廓来约束模型的训练，从而增加模型对轮廓信息的学习。
附图说明
34.包括附图以提供对实施例的进一步理解并且附图被并入本说明书中并且构成本说明书的一部分。附图图示了实施例并且与描述一起用于解释本发明的原理。将容易认识到其它实施例和实施例的很多预期优点，因为通过引用以下详细描述，它们变得被更好地理解。附图的元件不一定是相互按照比例的。同样的附图标记指代对应的类似部件。
35.图1是本发明的一个实施例可以应用于其中的示例性装置架构图；
36.图2为本发明的实施例的多任务边缘特征提取的深伪视频图像鉴定方法的流程示意图；
37.图3为本发明的实施例的多任务边缘特征提取的深伪视频图像鉴定方法的整体方案的架构图；
38.图4为本发明的实施例的多任务边缘特征提取的深伪视频图像鉴定方法的具体网络框图；
39.图5为本发明的实施例的多任务边缘特征提取的深伪视频图像鉴定系统的示意图；
40.图6是适于用来实现本发明实施例的电子设备的计算机装置的结构示意图。
具体实施方式
41.在以下详细描述中，参考附图，该附图形成详细描述的一部分，并且通过其中可实践本发明的说明性具体实施例来示出。对此，参考描述的图的取向来使用方向术语，例如“顶”、“底”、“左”、“右”、“上”、“下”等。因为实施例的部件可被定位于若干不同取向中，为了图示的目的使用方向术语并且方向术语绝非限制。应当理解的是，可以利用其他实施例或可以做出逻辑改变，而不背离本发明的范围。因此以下详细描述不应当在限制的意义上被采用，并且本发明的范围由所附权利要求来限定。
42.应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
43.图1示出了可以应用本发明实施例的用于处理信息的方法或用于处理信息的装置的示例性系统架构100。
44.如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
45.用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
46.终端设备101、102、103可以是具有通信功能的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
47.服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103发送的校验请求信息进行处理的后台信息处理服务器。后台信息处理服务器可以对接收到的校验请求信息进行分析等处理，并得到处理结果(例如用于表征校验请求为合法请求的校验成功信息)。
48.需要说明的是，本发明实施例所提供的用于处理信息的方法一般由服务器105执行，相应地，用于处理信息的装置一般设置于服务器105中。另外，本发明实施例所提供的用于发送信息的方法一般由终端设备101、102、103执行，相应地，用于发送信息的装置一般设置于终端设备101、102、103中。
49.需要说明的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以实现
成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或多个软件模块，在此不做具体限定。
50.利用深度学习实现图片分类的方法中，已经有不少方法能达到较高指标的结果，如vgg、resnet、googlenet等分类网络。但这些方法通常只是通过加深网络层数、增加网络参数来提高分类性能的，这些方法通常不具有可解释性。而在一些分类任务中，需要关注图像一些特定的底层特征，如判别图像是否为生成图像可以针对边缘信息进行分类。而传统的底层特征提取需要耗费不少的时间和计算成本。
51.因此本发明的方案提出了一种多任务边缘特征提取的深伪视频图像检测方法，通过对边缘生成任务的添加，能够让网络获取到边缘特征，利用这些特征进行进一步的分类。本发明能够解决传统特征提取耗时慢、计算量大的问题，让神经网络具有可解释性的同时提高网络的预测性能。
52.本发明结合了图像边缘生成任务实现边缘特征的提取，并和深伪视频图像分类任务中提取的特征进行结合，实现最终分类结果的预测。
53.图2示出了本发明的实施例公开了一种多任务边缘特征提取的深伪视频图像鉴定方法，如图2和图3所示，该方法包括如下步骤：
54.s1、构建并获取图像鉴定所需训练数据；
55.具体的，步骤s1还包括：生成真实图像和伪造图像的标签，利用canny边缘检测算子生成真实图像的边缘图像，并进一步生成边缘图像的标签。在此实施例中，还利用生成的边缘图像作为后续算法计算损失时所用的标签。其中，利用canny边缘检测算子生成的边缘轮廓作为标签，可以节省人工标记图像的工作量。
56.s2、搭建网络框架对图像进行图像特征提取和边缘特征提取；
57.具体的，步骤s2还包括：使用残差块和下采样、上采样分别构建图像特征提取模块、边缘特征提取模块以及边缘重建模块，其中，所述残差块选用在imagenet上预训练过的resnet50的卷积块。
58.s3、对提取的图像特征和边缘特征进行展平和拼接处理；以及
59.具体的，在步骤s3之后和步骤s4之前还包括：
60.s31、利用l2损失对生成的边缘图像和标签进行损失计算；
61.s32、对分类得到的结果利用交叉熵损失函数进行计算；
62.s33、对总的损失进行反向传播已对模型进行优化；
63.s34、当损失下降到平稳状态时结束训练。
64.进一步的，损失函数的计算公式如下：
[0065][0066][0067]
loss＝l
classification
l
edge
[0068]
s4、获得图像类别的预测结果。
[0069]
步骤s4还包括：预测过程中利用边缘特征提取、图像特征提取以及后续的类别预测部分，进行类别的预测。
[0070]
进一步的，结合图4所示，在一个具体的实施例中，本发明的技术方案的具体步骤如下：
[0071]
步骤1：整个框架的训练数据构建：除了需要真实图像和伪造图像的标签，本发明还利用canny边缘检测算子实现原始图像i的边缘e生成，利用生成的图像边缘e作为算法计算损失时所用的标签。由于伪造图像的边缘信息存在不平滑的问题，因此本发明利用canny边缘检测算子将轮廓信息先获取出来，并在最后以此来约束，防止特征信息被完全平滑化和平均化，而忽略边缘不平滑的特征信息。
[0072]
步骤2：网络框架搭建：使用残差块和下采样、上采样分别构建图像特征提取模块、边缘特征提取模块以及边缘重建模块；残差块可以选用在imagenet上预训练过的resnet50的卷积块，这个残差卷积块可以选用不同主干网络替代，即本发明提出的算法适合各种主干网络；边缘特征提取模块和边缘重建模块实现图像边缘图的预测.
[0073]
步骤3：利用步骤2提出的网络结构对图像特征提取和边缘特征提取得到的特征图进行展平和拼接，通过两个全连接层和激活层得到最终的预测结果。
[0074]
步骤4：利用l2损失对边缘生成模块输出的边缘图像e和标签e’进行损失计算，对分类得到的结果利用交叉熵损失函数进行计算，对总的损失进行反向传播实现模型优化，当损失下降到平稳状态时结束训练，即整个网络的优化不但进行分类，还能同时考虑边缘信息，两者相辅相成，使得网络不会丢失对边缘信息的学习。
[0075]
步骤5：分类结果预测：预测过程中，只需利用边缘特征提取、图像特征提取以及后续的类别预测部分，进行类别的预测。
[0076]
本发明的技术方案结合图像分类和图像边缘生成两个任务，得到图像特征提取器和边缘特征提取器，对两个特征进行拼接进行类别预测。本发明的方法能够让神经网络提取特征时能够关注传统的底层特征，解决传统特征提取耗时慢、计算量大的问题，并进一步提高神经网络在深伪检测中的效果。由于在特征信息的学习过程，轮廓信息会被逐渐忽略，从而转换成语义信息，为了使得模型不忽略轮廓信息，本发明利用canny边缘检测算子生成的边缘轮廓来约束模型的训练，从而增加模型对轮廓信息的学习。
[0077]
第二方面，本技术还提出一种多任务边缘特征提取的深伪视频图像鉴定系统，如图5所示，包括：
[0078]
构建模块51：用于构建图像鉴定所需训练数据以及网络框架；
[0079]
训练模块52：用于图像鉴定所需训练数据；
[0080]
特征提取模块53：用于对图像进行图像特征提取和边缘特征提取；
[0081]
重建模块54：用于完成对图像的边缘重建；
[0082]
处理模块55：用于对提取的图像特征和边缘特征进行展平和拼接处理；
[0083]
计算模块56：用于利用l2损失对生成的边缘图像和标签进行损失计算，对分类得到的结果利用交叉熵损失函数进行计算；
[0084]
预测模块57：用于利用边缘特征提取、图像特征提取以及后续的类别预测部分，进行类别的预测。
[0085]
下面参考图6，其示出了适于用来实现本发明实施例的电子设备(例如图1所示的
服务器或终端设备)的计算机装置600的结构示意图。图6示出的电子设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
[0086]
如图6所示，计算机装置600包括中央处理单元(cpu)601和图形处理器(gpu)602，其可以根据存储在只读存储器(rom)603中的程序或者从存储部分609加载到随机访问存储器(ram)606中的程序而执行各种适当的动作和处理。在ram 604中，还存储有装置600操作所需的各种程序和数据。cpu 601、gpu602、rom 603以及ram 604通过总线605彼此相连。输入/输出(i/o)接口606也连接至总线605。
[0087]
以下部件连接至i/o接口606：包括键盘、鼠标等的输入部分607；包括诸如、液晶显示器(lcd)等以及扬声器等的输出部分608；包括硬盘等的存储部分609；以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分610。通信部分610经由诸如因特网的网络执行通信处理。驱动器611也可以根据需要连接至i/o接口606。可拆卸介质612，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器611上，以便于从其上读出的计算机程序根据需要被安装入存储部分609。
[0088]
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分610从网络上被下载和安装，和/或从可拆卸介质612被安装。在该计算机程序被中央处理单元(cpu)601和图形处理器(gpu)602执行时，执行本发明的方法中限定的上述功能。
[0089]
需要说明的是，本发明所述的计算机可读介质可以是计算机可读信号介质或者计算机可读介质或者是上述两者的任意组合。计算机可读介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的装置、装置或器件，或者任意以上的组合。计算机可读介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行装置、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行装置、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、rf等等，或者上述的任意合适的组合。
[0090]
可以以一种或多种程序设计语言或其组合来编写用于执行本发明的操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如java、smalltalk、c ，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(lan)
或广域网(wan)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
[0091]
附图中的流程图和框图，图示了按照本发明各种实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的装置来实现，或者可以用专用硬件与计算机指令的组合来实现。
[0092]
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中。
[0093]
作为另一方面，本发明还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：执行如下方法步骤：s1、构建并获取图像鉴定所需训练数据；s2、搭建网络框架对图像进行图像特征提取和边缘特征提取；s3、对提取的图像特征和边缘特征进行展平和拼接处理；以及s4、获得图像类别的预测结果。
[0094]
以上描述仅为本发明的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本发明中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本发明中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。