一种视频处理方法及装置与流程

1.本公开涉及图像处理技术领域，尤其涉及一种视频处理方法及装置。


背景技术：

2.目前的图像处理技术开始采用视觉神经网络技术，但是，目前的视觉神经网络技术对于二维图像的处理效率较高；但是对于视频的处理方面，处理速度慢，且处理效率低下，并且，在处理视频的过程中，没有在空间维度和时间维度上引入多视野或多跨度的处理方式，导致视频处理结果的精确度较低。因此，亟需一种新的兼容视频处理效率与精度的视频处理方法。


技术实现要素：

3.有鉴于此，本公开实施例提供了一种视频处理方法、装置、计算机设备及计算机可读存储介质，以解决现有技术中视频处理速度慢、效率低下，以及视频处理结果的精确度较低的问题。
4.本公开实施例的第一方面，提供了一种视频处理方法，所述方法包括：
5.获取待处理视频，以及，对所述待处理视频进行编码压缩处理，得到所述待处理视频的信息编码特征；
6.对所述信息编码特征进行信息融合处理，得到多空间视野特征图和多时间视野特征图；
7.根据所述多空间视野特征图和所述多时间视野特征图，确定时空互适应特征图；
8.对所述时空互适应特征图进行预设类型视频处理，得到所述待处理视频对应的预设类型处理结果。
9.本公开实施例的第二方面，提供了一种视频处理方法，所述方法包括：
10.特征提取单元，用于获取待处理视频，以及，对所述待处理视频进行编码压缩处理，得到所述待处理视频的信息编码特征；
11.信息融合单元，用于对所述信息编码特征进行信息融合处理，得到多空间视野特征图和多时间视野特征图；
12.特征确定单元，用于根据所述多空间视野特征图和所述多时间视野特征图，确定时空互适应特征图；
13.结果确定单元，用于对所述时空互适应特征图进行预设类型视频处理，得到所述待处理视频对应的预设类型处理结果。
14.本公开实施例的第三方面，提供了一种计算机设备，包括存储器、处理器以及存储在存储器中并且可以在处理器上运行的计算机程序，该处理器执行计算机程序时实现上述方法的步骤。
15.本公开实施例的第四方面，提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序，该计算机程序被处理器执行时实现上述方法的步骤。
16.本公开实施例与现有技术相比存在的有益效果是：本公开实施例由于一种视频处理方法，所述方法在获取待处理视频后，可以先对所述待处理视频进行编码压缩处理，得到所述待处理视频的信息编码特征；然后，可以对所述信息编码特征进行信息融合处理，得到多空间视野特征图和多时间视野特征图；接着，可以根据所述多空间视野特征图和所述多时间视野特征图，确定时空互适应特征图；最后，可以对所述时空互适应特征图进行预设类型视频处理，得到所述待处理视频对应的预设类型处理结果。可见，在本技术中，视频的信息编码特征的提取与视频信息的处理是分开处理的，这样，在视频的信息编码特征的提取过程可以提高特征提取的速度；而在视频信息的处理过程中，可以通过提取待处理视频对应的多空间视野特征图和多时间视野特征图，确定时空互适应特征图，以及利用时空互适应特征图进行预设类型视频处理，得到所述待处理视频对应的预设类型处理结果，这样，在视频处理过程中实现了多视野、多跨度且时空信息互适应融合的信息充分挖掘，从而提高视频处理结果的精确度，进而本技术所提供的方法不仅提高了视频处理的处理速度、处理效率，还提高了视频处理结果的精确度。
附图说明
17.为了更清楚地说明本公开实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。
18.图1是本公开实施例的应用场景的场景示意图；
19.图2是本公开实施例提供的视频处理方法的流程图；
20.图3是本公开实施例提供的视频处理装置的框图；
21.图4是本公开实施例提供的计算机设备的示意图。
具体实施方式
22.以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本公开实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本公开。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本公开的描述。
23.下面将结合附图详细说明根据本公开实施例的一种视频处理方法和装置。
24.在现有技术中，目前的图像处理技术对于视频的处理方面，处理速度慢，且处理效率低下，并且，在处理视频的过程中，没有在空间维度和时间维度上引入多视野或多跨度的处理方式，导致视频处理结果的精确度较低。因此，亟需一种新的兼容视频处理效率与精度的视频处理方法。也就是说，现有方法的视频处理的效率和精度距离实际应用的要求还有较大差距，需要进一步研究和提升。
25.为了解决上述问题，本发明提供了一种视频处理方法，该方法在获取待处理视频后，可以先对该待处理视频进行编码压缩处理，得到该待处理视频的信息编码特征；然后，可以对该信息编码特征进行信息融合处理，得到多空间视野特征图和多时间视野特征图；接着，可以根据该多空间视野特征图和该多时间视野特征图，确定时空互适应特征图；最
后，可以对该时空互适应特征图进行预设类型视频处理，得到该待处理视频对应的预设类型处理结果。可见，在本技术中，视频的信息编码特征的提取与视频信息的处理是分开处理的，这样，在视频的信息编码特征的提取过程可以提高特征提取的速度；而在视频信息的处理过程中，可以通过提取待处理视频对应的多空间视野特征图和多时间视野特征图，确定时空互适应特征图，以及利用时空互适应特征图进行预设类型视频处理，得到该待处理视频对应的预设类型处理结果，这样，在视频处理过程中实现了多视野、多跨度且时空信息互适应融合的信息充分挖掘，从而提高视频处理结果的精确度，进而本技术所提供的方法不仅提高了视频处理的处理速度、处理效率，还提高了视频处理结果的精确度。
26.举例说明，本发明实施例可以应用到如图1所示的应用场景。在该场景中，可以包括终端设备1和服务器2。
27.终端设备1可以是硬件，也可以是软件。当终端设备1为硬件时，其可以是具有图像采集功能且支持与服务器2通信的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等；当终端设备1为软件时，其可以安装在如上该的电子设备中。终端设备1可以实现为多个软件或软件模块，也可以实现为单个软件或软件模块，本公开实施例对此不作限制。服务器2可以是提供各种服务的服务器，例如，对与其建立通信连接的终端设备发送的请求进行接收的后台服务器，该后台服务器可以对终端设备发送的请求进行接收和分析等处理，并生成处理结果。服务器2可以是一台服务器，也可以是由若干台服务器组成的服务器集群，或者还可以是一个云计算服务中心，本公开实施例对此不作限制。
28.需要说明的是，服务器2可以是硬件，也可以是软件。当服务器2为硬件时，其可以是为终端设备1提供各种服务的各种电子设备。当服务器2为软件时，其可以是为终端设备1提供各种服务的多个软件或软件模块，也可以是为终端设备1提供各种服务的单个软件或软件模块，本公开实施例对此不作限制。
29.终端设备1与服务器2可以通过网络进行通信连接。网络可以是采用同轴电缆、双绞线和光纤连接的有线网络，也可以是无需布线就能实现各种通信设备互联的无线网络，例如，蓝牙(bluetooth)、近场通信(near field communication，nfc)、红外(infrared)等，本公开实施例对此不作限制。
30.具体地，用户可以通过终端设备1输入两张待匹配人体图像，终端设备1将待处理视频向服务器2发送。服务器2先对该待处理视频进行编码压缩处理，得到该待处理视频的信息编码特征；然后，对该信息编码特征进行信息融合处理，得到多空间视野特征图和多时间视野特征图；接着，可以根据该多空间视野特征图和该多时间视野特征图，确定时空互适应特征图；紧接着，可以对该时空互适应特征图进行预设类型视频处理，得到该待处理视频对应的预设类型处理结果。服务器2将该待处理视频对应的预设类型处理结果向终端设备1返回，以便终端设备1可以向用户展示待处理视频对应的预设类型处理结果。这样，不仅提高了视频处理的处理速度、处理效率，还提高了视频处理结果的精确度。
31.需要说明的是，终端设备1和服务器2以及网络的具体类型、数量和组合可以根据应用场景的实际需求进行调整，本公开实施例对此不作限制。
32.需要注意的是，上述应用场景仅是为了便于理解本公开而示出，本公开的实施方式在此方面不受任何限制。相反，本公开的实施方式可以应用于适用的任何场景。
33.图2是本公开实施例提供的一种视频处理方法的流程图。图2的一种视频处理方法可以由图1的终端设备或服务器执行。如图2所示，该视频处理方法包括：
34.s201：获取待处理视频，以及，对该待处理视频进行编码压缩处理，得到该待处理视频的信息编码特征。
35.在本实施例中，待处理视频可以理解为需要进行视频处理的视频。作为一种示例，待处理视频可以是通过安装在固定位置的监控摄像头采集的，也可以是通过移动终端设备采集到的，还可以是从预先存储有图像的存储设备中读取到的。需要说明的是，在一种实现方式中，待处理视频可以是从一个视频中截取到的一段视频。需要说明的是，为了进一步减少视频处理的数据量，提高视频处理的效率，该待处理视频可以为每秒包括预设数量帧(例如8帧)视频帧的视频，若待处理视频每秒的帧数不满足预设数量帧，则可以对待处理视频的帧数进行处理，例如减少或增加视频每秒的帧数，从而可以使得待处理视频每秒的帧数满足预设数量帧，例如，待处理视频每秒中的帧数量为64帧图片，该待处理视频的视频时长为8秒，则可以减少待处理视频中的视频帧数量，使得待处理视频的每秒包括8帧。
36.在得到待处理视频后，可以对待处理视频进行特征提取，并且进行特征压缩，以便可以实现对待处理视频进行快速的特征提取以及压缩。获取待处理视频后，可以对该待处理视频进行编码压缩处理，得到该待处理视频的信息编码特征，例如，可以先提取出待处理视频的图像信息，接着，对待处理视频的图像信息进行图像特征提取，以及对所提取出的图像特征进行编码压缩，得到待处理视频的信息编码特征。需要说明的是，待处理视频的信息编码特征可以理解为能够反映与该待处理视频的时间、空间、通道、内容等信息相关的且经过压缩、编码的特征向量。
37.s202：对该信息编码特征进行信息融合处理，得到多空间视野特征图和多时间视野特征图。
38.在得到待处理视频的信息编码特征后，可以分别从时间维度和空间维度分别对信息编码特征进行融合处理。接下来，将介绍如何从时间维度和空间维度分别对信息编码特征进行融合处理，得到多空间视野特征图和多时间视野特征图。
39.具体地，可以先对信息编码特征进行时间维度上的多视野计算，得到多个不同视野大小的时间维度信息，即每个时间维度信息对应的视野大小均不相同；然后，按照空间维度对多个时间维度信息进行融合处理，得到多时间视野特征图，即按空间信息融合时间信息；这样，可以对信息编码特征进一步编码，进行时间维度下的多视野计算，得到具有多视野的时间维度信息，以及，可以有效利用空间维度上的信息，对时间维度的多尺度信息(即多个不同视野大小的时间维度信息)进行融合。
40.以及，可以先对信息编码特征进行空间维度上的多视野计算，得到多个不同视野大小的空间维度信息，即每个空间维度信息对应的视野大小均不相同；然后，按照时间维度对多个时间维度信息进行融合处理，得到多空间视野特征图，即按时间信息融合空间信息；这样，可以对信息编码特征进一步编码，进行空间维度下的多视野计算，得到具有多视野的空间维度信息，以及，可以有效利用时间维度上的信息，对空间维度的多尺度信息(即多个不同视野大小的空间维度信息)进行融合。
41.s203：根据该多空间视野特征图和该多时间视野特征图，确定时空互适应特征图。
42.在本实施例中，在确定待处理视频对应的多空间视野特征图和该多时间视野特征
图后，可以利用多空间视野特征图和多时间视野特征图，确定时空互适应特征图。其中，时空互适应特征图可以理解为能够反映待处理视频对应的时间维度信息与空间维度信息之间的关系的特征图，即时空互适应特征图可以反映待处理视频对应的各个特征之间的关系。
43.作为一种示例，在得到待处理视频的多空间视野特征图和多时间视野特征图后，可以将多空间视野特征图和多时间视野特征图进行堆叠，得到多视野融合特征图，即多个不同视野大小的融合特征图。然后，对该多视野融合特征图进行卷积计算，得到时空互适应特征图。
44.s204：对该时空互适应特征图进行预设类型视频处理，得到该待处理视频对应的预设类型处理结果。
45.由于时空互适应特征图为反映待处理视频的特征，因此，可以利用待处理视频的时空互适应特征图进行各种类型的视频处理，得到对应的视频处理结果。例如，预设类型视频处理包括以下至少一个：视频内容检测、视频内容识别、动作识别，这样，在确定待处理视频的时空互适应特征图后，可以对该时空互适应特征图进行预设类型视频处理，得到该待处理视频对应的预设类型处理结果。举例来说，假设预设类型视频处理方式为视频内容检测，且检测内容为门，则可以对该时空互适应特征图检测待处理视频中的门，得到该待处理视频对应的门检测结果；假设预设类型视频处理方式为视频内容识别，则可以对该时空互适应特征图检测待处理视频的内容，得到该待处理视频对应的内容为“一条金毛正在吃饭”；假设预设类型视频处理方式为动作识别，则可以对该时空互适应特征图检测待处理视频中的动作，得到该待处理视频对应的动作识别结果：出现关门的动作。
46.这样，本实施例所提供的方法在获取待处理视频后，可以先对该待处理视频进行编码压缩处理，得到该待处理视频的信息编码特征；然后，可以对该信息编码特征进行信息融合处理，得到多空间视野特征图和多时间视野特征图；接着，可以根据该多空间视野特征图和该多时间视野特征图，确定时空互适应特征图；最后，可以对该时空互适应特征图进行预设类型视频处理，得到该待处理视频对应的预设类型处理结果。可见，在本技术中，视频的信息编码特征的提取与视频信息的处理是分开处理的，这样，在视频的信息编码特征的提取过程可以提高特征提取的速度；而在视频信息的处理过程中，可以通过提取待处理视频对应的多空间视野特征图和多时间视野特征图，确定时空互适应特征图，以及利用时空互适应特征图进行预设类型视频处理，得到该待处理视频对应的预设类型处理结果，这样，在视频处理过程中实现了多视野、多跨度且时空信息互适应融合的信息充分挖掘(即进行深度时空信息的提取)，从而提高视频处理结果的精确度，进而本技术所提供的方法不仅提高了视频处理的处理速度、处理效率，还提高了视频处理结果的精确度。
47.接下来，将介绍s201中“对该待处理视频进行编码压缩处理，得到该待处理视频的信息编码特征”的一种实现方式。在一种实现方式中，图2对应的方法可以应用于双阶时空变换模型，该双阶时空变换模型包括初阶时空变化子模型；在本实施例中，该对该待处理视频进行编码压缩处理，得到该待处理视频的信息编码特征的步骤可以包括以下步骤：
48.将该待处理视频输入该初阶时空变化子模型，得到该待处理视频的信息编码特征。
49.其中，该初阶时空变化子模型包括若干初阶时空变换模块，且若干初阶时空变换
模块之间的连接为串联连接方式。每个初阶时空变换模块包括空间卷积层、第一残差卷积层、第二残差卷积层和第三残差卷积层。举例来说，在一种实现方式中，初阶时空变化子模型包括8个初阶时空变换模块。
50.在一种实现方式中，空间卷积层可以为1层1x3x3、通道数为32的卷积层。第一残差卷积层包括2层模块，每个模块结构包括2个1x3x3、分组数为32、通道数为32的卷积层，通道数为32的批量归一化bn层，1x1x1的通道数为64卷积，激活函数prelu层，3x1x1、通道数为32的卷积层，通道数为32的批量归一化bn层，其中，第1层模块的下采样为2；每个模块基于残差设计方式设置的；需要说明的是，第一残差卷积层输出的特征图f1维度是(32，64，224，224)。第二残差卷积层包括2层模块，每个模块结构均包括：2个1x3x3、分组数为64、通道数为64的卷积层，通道数为64的批量归一化bn层，1x1x1、通道数为128的卷积层，激活函数prelu层，3x1x1、通道数为64的卷积层，通道数为64的批量归一化bn层；其中，第1层模块的下采样为2；第二残差卷积层的每个模块基于残差设计方式设置的；需要说明的是，第二残差卷积层输出的特征图f2维度是(64，64，112，112)。第三残差卷积层包括3层模块；每个模块结构均包括：3个1x3x3、分组数为128、通道数为128的卷积层，通道数为128的批量归一化bn层，1x1x1、通道数为256的卷积层，激活函数prelu层，3x1x1、通道数为128的卷积层，通道数为128的批量归一化bn层；其中，第1层模块下采样为2；每个模块基于残差设计方式设置；第三残差卷积层输出的特征图f3维度是(128，64，56，56)。初阶时空变化子模型可以对待处理视频完成了一次时空和通道计算，因为各个视频的时间维度的变化不大，因此，初阶时空变化子模型中空间维度的计算比要多一些，时间维度的计算少一些。
51.需要说明的是，在本实施例中，1x3x3的卷积层均为空间卷积计算的卷积层，1x1x1的卷积层均为通道信息变换的卷积层，3x1x1的卷积层均为时间卷积计算的卷积层。
52.接下来，将介绍s202中“对该信息编码特征进行信息融合处理，得到多空间视野特征图和多时间视野特征图”和s203中“根据该多空间视野特征图和该多时间视野特征图，确定时空互适应特征图”的一种实现方式。在一种实现方式中，图2对应的方法可以应用于双阶时空变换模型，该该双阶时空变换模型包括进阶时空变换模型，该进阶时空变换模型包括深度时空互适应子模型，该深度时空互适应子模型均包括：空间维度融合模块、时间维度融合模块和时空融合模块。
53.在本实施例中，该对该信息编码特征进行信息融合处理，得到多空间视野特征图和多时间视野特征图的步骤可以包括以下步骤：
54.s202a：将该信息编码特征输入该空间维度融合模块，利用该空间维度融合模块对该信息编码特征进行空间维度信息融合处理，得到多空间视野特征图。
55.在本实施例中，空间维度融合模块可以包括：多个空间视野分支、时间卷积层、激活函数层。
56.具体地，可以先将该信息编码特征分别输入该多个空间视野分支，得到多个空间视野特征图。在一种实现方式中，空间维度融合模块可以包括4个空间视野分支，4个分支分别代表4种空间计算视野，分别如下：第一个空间视野分支包括1x3x3的深度可分离卷积层，批量归一化(bn)层，激活函数(relu)层，1x1x1的卷积层；第二个空间视野分支包括1x5x5的深度可分离卷积，组归一化(gn)，激活函数(prelu)，1x1x1的卷积层；第三个空间视野分支包括1x7x7的深度可分离卷积层，实例归一化(in)层，激活函数(gelu)层，1x1x1的卷积层；
第四个空间视野分支包括3个1x3x3的深度可分离卷积层，组归一化(gn)层，激活函数(mish)层，1x1x1的卷积层。假设4个空间视野分支的输入特征图均为p0，其维度为(c,t,h,w)，经过上述4个分支，分别得到空间视野特征图p1、p2、p3、p4。
57.然后，可以将该多个空间视野特征图沿着通道数进行堆叠，得到多视野融合特征图。继续上述例子，可以可以将这4个空间视野特征图p1、p2、p3、p4沿着通道数堆叠在一起，得到多视野融合特征图p5，其维度(4c,t,h,w)。
58.接着，将该多视野融合特征图输入该时间卷积层，得到时间维度特征图。其中，时间卷积层可以为3x1x1、通道数为4的卷积层。在一种实现方式中，假设多视野融合特征图p5输入该时间卷积层，该时间卷积层可以输出时间维度特征图p6，其维度为(4c,t,h,w)。
59.紧接着，可以将该时间维度特征图输入该激活函数层，该激活函数层沿着通道数维度对该时间维度特征图进行激活函数计算，得到多个特征图权重值，其中，每个特征图权重值分别与每个空间视野特征图一一对应。可以理解的是，每一个空间视野分支输出的空间视野特征图，都得到了一个自适应计算出来的特征图权重值，而这个特征图权重值是基于时间维度计算得到的。在一种实现方式中，激活函数层可以为softmax函数，softmax函数可以通过对时间维度特征图沿着第一轴(即通道数维度)进行softmax计算，得到特征图p7，接着，可以将特征图p7拆成4个维度为(1,t,h,w)的特征图权重值，分别表示为p71、p72、p73、p74，这四个特征图权重值分别与四个空间视野特征图p1、p2、p3、p4一一对应。
60.最后，可以根据该多个空间视野特征图和该多个特征图权重值，得到多空间视野特征图。在一种实现方式中，可以将每个空间视野特征图与其对应的特征图权重值的乘积之和作为多空间视野特征图；例如p8＝p1*p71 p2*p72 p3*p73 p4*p74，其中，p8为多空间视野特征图，p1、p2、p3、p4为空间视野特征图，p71、p72、p73、p74为特征图权重值。
61.s202b：将该信息编码特征输入该时间维度融合模块，利用该时间维度融合模块对该信息编码特征进行时间维度信息融合处理，得到多时间视野特征图。
62.该时间维度融合模块包括：多个时间视野分支、空间卷积层、激活函数层。
63.具体地，可以先将该信息编码特征分别输入时间维度融合模块中的多个时间视野分支，得到多个时间视野特征图。在一种实现方式中，时间维度融合模块可以包括4个时间视野分支，4个分支分别代表4种时间计算视野，分别如下：第一个时间视野分支包括3x1x1的深度可分离卷积层，批量归一化(bn)层，激活函数(relu)层，1x1x1的卷积层；第二个时间视野分支包括5x1x1的深度可分离卷积，组归一化(gn)，激活函数(prelu)，1x1x1的卷积层；第三个时间视野分支包括7x1x1的深度可分离卷积层，实例归一化(in)层，激活函数(gelu)层，1x1x1的卷积层；第四个时间视野分支包括3个3x1x1的深度可分离卷积层，组归一化(gn)层，激活函数(mish)层，1x1x1的卷积层。假设4个时间视野分支的输入特征图均为p0，其维度为(c,t,h,w)，经过上述4个分支，分别得到时间视野特征图s1、s2、s3、s4。
64.然后，可以将该多个时间视野特征图沿着通道数进行堆叠，得到多视野融合特征图。继续上述例子，可以可以将这4个时间视野特征图s1、s2、s3、s4沿着通道数堆叠在一起，得到多视野融合特征图s5，其维度(4c,t,h,w)。
65.接着，将该多视野融合特征图输入该空间卷积层，得到空间维度特征图。其中，空间卷积层可以为1x3x3、通道数为4的卷积层。在一种实现方式中，假设多视野融合特征图s5输入该空间卷积层，该空间卷积层可以输出空间维度特征图s6，其维度为(4c，t，h，w)。
66.紧接着，可以将该空间维度特征图输入该激活函数层，该激活函数层沿着通道数维度对该空间维度特征图进行激活函数计算，得到多个特征图权重值。其中，每个特征图权重值分别与每个时间视野特征图一一对应。可以理解的是，每一个时间视野分支输出的时间视野特征图，都得到了一个自适应计算出来的特征图权重值，而这个特征图权重值是基于空间维度计算得到的。在一种实现方式中，激活函数层可以为softmax函数，softmax函数可以通过对空间维度特征图沿着第一轴(即通道数维度)进行softmax计算，得到特征图s7，接着，可以将特征图s7拆成4个维度为(1，t，h，w)的特征图权重值，分别表示为s71、s72、s73、s74，这四个特征图权重值分别与四个时间视野特征图s1、s2、s3、s4一一对应。
67.最后，可以根据该多个时间视野特征图和该多个特征图权重值，得到多时间视野特征图。在一种实现方式中，可以将每个时间视野特征图与其对应的特征图权重值的乘积之和作为多时间视野特征图；例如s8＝s1*s71 s2*s72 s3*s73 s4*s74，其中，s8为多时间视野特征图，s1、s2、s3、s4为时间视野特征图，s71、s72、s73、s74为特征图权重值。
68.在本实施例中，该根据该多空间视野特征图和该多时间视野特征图，确定时空互适应特征图的步骤可以包括以下步骤：
69.将该多空间视野特征图和该多时间视野特征图输入该时空融合模块，得到该时空互适应特征图。
70.在本实施例中，该时空融合模块可以包括：空间卷积层、时间卷积层。
71.具体地，本实施例中，可以先将该多空间视野特征图和该多时间视野特征图沿着通道数进行堆叠，得到多视野融合特征图。然后，可以将该多视野融合特征图输入该空间卷积层，得到空间特征图；其中，空间卷积层可以为1x3x3、通道数为c的卷积层。接着，可以将该空间特征图输入该时间卷积层，得到该时空互适应特征图；其中，时间卷积层可以为3x1x1、通道数为c的卷积层。
72.需要说明的是，在一种实现方式中，该双阶时空变换模型可以包括多个深度时空互适应子模型。需要说明的是，多个深度时空互适应子模型之间的连接方式为串联，且每个深度时空互适应子模型的网络架构均与上述实施例所介绍的深度时空互适应子模型的网络架构相同，均包括：空间维度融合模块、时间维度融合模块和时空融合模块，在此不再一一赘述。需要说明的是，每个深度时空互适应子模型的输入均为与其相邻的上一个深度时空互适应子模型的输出。
73.例如，该双阶时空变换模型可以包括8个串联的深度时空互适应子模型以及12个串联的深度时空互适应子模型，且8个串联的深度时空互适应子模型与12个串联的深度时空互适应子模型之间通过下采样率为2的最大池化层进行连接，且12个串联的深度时空互适应子模型后接一个下采样率为2的最大池化层。其中，8个串联的深度时空互适应子模型中的每个模型的通道数设置为256，且输出的时空互适应特征图的维度为(256，64，28，28)；12个个串联的深度时空互适应子模型中的每个模型的通道数设置为512，且输出的时空互适应特征图的维度为维度(512，64，14，14)。需要说明的是，12个串联的深度时空互适应子模型后接的最大池化层后面可以通过接一个全局平均池化层，再外接2个全连接层、激活层和一个预设类型层，则可以对该时空互适应特征图进行预设类型视频处理，得到该待处理视频对应的预设类型处理结果，例如，该预设类型层为分类层时，预设类型视频处理可以为进行动作分类识别。
74.上述所有可选技术方案，可以采用任意结合形成本公开的可选实施例，在此不再一一赘述。
75.下述为本公开装置实施例，可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节，请参照本公开方法实施例。
76.图3是本公开实施例提供的视频处理装置的示意图。如图3所示，该视频处理装置包括：
77.特征提取单元301，用于获取待处理视频，以及，对该待处理视频进行编码压缩处理，得到该待处理视频的信息编码特征；
78.信息融合单元302，用于对该信息编码特征进行信息融合处理，得到多空间视野特征图和多时间视野特征图；
79.特征确定单元303，用于根据该多空间视野特征图和该多时间视野特征图，确定时空互适应特征图；
80.结果确定单元304，用于对该时空互适应特征图进行预设类型视频处理，得到该待处理视频对应的预设类型处理结果。
81.可选的，该装置应用于双阶时空变换模型，该双阶时空变换模型包括初阶时空变化子模型；该特征提取单元301，用于：
82.将该待处理视频输入该初阶时空变化子模型，得到该待处理视频的信息编码特征；
83.其中，该初阶时空变化子模型包括若干初阶时空变换模块，每个初阶时空变换模块包括空间卷积层、第一残差卷积层、第二残差卷积层和第三残差卷积层。
84.可选的，该装置应用于双阶时空变换模型，该双阶时空变换模型包括进阶时空变换模型，该进阶时空变换模型包括深度时空互适应子模型，该深度时空互适应子模型均包括：空间维度融合模块、时间维度融合模块和时空融合模块；
85.该信息融合单元302，用于：
86.将该信息编码特征输入该空间维度融合模块，利用该空间维度融合模块对该信息编码特征进行空间维度信息融合处理，得到多空间视野特征图；
87.将该信息编码特征输入该时间维度融合模块，利用该时间维度融合模块对该信息编码特征进行时间维度信息融合处理，得到多时间视野特征图；
88.该特征确定单元303，用于：
89.将该多空间视野特征图和该多时间视野特征图输入该时空融合模块，得到该时空互适应特征图。
90.可选的，该空间维度融合模块包括：多个空间视野分支、时间卷积层、激活函数层；该信息融合单元302，用于：
91.将该信息编码特征分别输入该多个空间视野分支，得到多个空间视野特征图；
92.将该多个空间视野特征图沿着通道数进行堆叠，得到多视野融合特征图；
93.将该多视野融合特征图输入该时间卷积层，得到时间维度特征图；
94.将该时间维度特征图输入该激活函数层，该激活函数层沿着通道数维度对该时间维度特征图进行激活函数计算，得到多个特征图权重值；
95.根据该多个空间视野特征图和该多个特征图权重值，得到多空间视野特征图。
96.可选的，该时间维度融合模块包括：多个时间视野分支、空间卷积层、激活函数层；该信息融合单元302，用于：
97.将该信息编码特征分别输入该多个时间视野分支，得到多个时间视野特征图；
98.将该多个时间视野特征图沿着通道数进行堆叠，得到多视野融合特征图；
99.将该多视野融合特征图输入该空间卷积层，得到空间维度特征图；
100.将该空间维度特征图输入该激活函数层，该激活函数层沿着通道数维度对该空间维度特征图进行激活函数计算，得到多个特征图权重值；
101.根据该多个时间视野特征图和该多个特征图权重值，得到多时间视野特征图。
102.可选的，该时空融合模块包括：空间卷积层、时间卷积层；该特征确定单元303，用于：
103.将该多空间视野特征图和该多时间视野特征图沿着通道数进行堆叠，得到多视野融合特征图；
104.将该多视野融合特征图输入该空间卷积层，得到空间特征图；
105.将该空间特征图输入该时间卷积层，得到该时空互适应特征图。
106.可选的，预设类型视频处理包括以下至少一个：视频内容检测、视频内容识别、动作识别。
107.本公开实施例提供的技术方案为一种视频处理装置，该装置包括：特征提取单元，用于获取待处理视频，以及，对该待处理视频进行编码压缩处理，得到该待处理视频的信息编码特征；
108.信息融合单元，用于对该信息编码特征进行信息融合处理，得到多空间视野特征图和多时间视野特征图；
109.特征确定单元，用于根据该多空间视野特征图和该多时间视野特征图，确定时空互适应特征图；
110.结果确定单元，用于对该时空互适应特征图进行预设类型视频处理，得到该待处理视频对应的预设类型处理结果。由于本实施例中，视频的信息编码特征的提取与视频信息的处理是分开处理的，这样，在视频的信息编码特征的提取过程可以提高特征提取的速度；而在视频信息的处理过程中，可以通过提取待处理视频对应的多空间视野特征图和多时间视野特征图，确定时空互适应特征图，以及利用时空互适应特征图进行预设类型视频处理，得到该待处理视频对应的预设类型处理结果，这样，在视频处理过程中实现了多视野、多跨度且时空信息互适应融合的信息充分挖掘，从而提高视频处理结果的精确度，进而本技术所提供的方法不仅提高了视频处理的处理速度、处理效率，还提高了视频处理结果的精确度。
111.应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本公开实施例的实施过程构成任何限定。
112.图4是本公开实施例提供的计算机设备4的示意图。如图4所示，该实施例的计算机设备4包括：处理器401、存储器402以及存储在该存储器402中并且可以在处理器401上运行的计算机程序403。处理器401执行计算机程序403时实现上述各个方法实施例中的步骤。或者，处理器401执行计算机程序403时实现上述各装置实施例中各模块/单元的功能。
113.示例性地，计算机程序403可以被分割成一个或多个模块/单元，一个或多个模块/单元被存储在存储器402中，并由处理器401执行，以完成本公开。一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述计算机程序403在计算机设备4中的执行过程。
114.计算机设备4可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算机设备。计算机设备4可以包括但不仅限于处理器401和存储器402。本领域技术人员可以理解，图4仅仅是计算机设备4的示例，并不构成对计算机设备4的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如，计算机设备还可以包括输入输出设备、网络接入设备、总线等。
115.处理器401可以是中央处理单元(central processing unit，cpu)，也可以是其它通用处理器、数字信号处理器(digital signal processor，dsp)、专用集成电路(application specific integrated circuit，asic)、现场可编程门阵列(field-programmable gate array，fpga)或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
116.存储器402可以是计算机设备4的内部存储单元，例如，计算机设备4的硬盘或内存。存储器402也可以是计算机设备4的外部存储设备，例如，计算机设备4上配备的插接式硬盘，智能存储卡(smart media card，smc)，安全数字(secure digital，sd)卡，闪存卡(flash card)等。进一步地，存储器402还可以既包括计算机设备4的内部存储单元也包括外部存储设备。存储器402用于存储计算机程序以及计算机设备所需的其它程序和数据。存储器402还可以用于暂时地存储已经输出或者将要输出的数据。
117.所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本公开的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
118.在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
119.本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本公开的范围。
120.在本公开所提供的实施例中，应该理解到，所揭露的装置/计算机设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/计算机设备实施例仅仅是示意性的，例如，模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，多
个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
121.作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
122.另外，在本公开各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
123.集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读存储介质中。基于这样的理解，本公开实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，计算机程序可以存储在计算机可读存储介质中，该计算机程序在被处理器执行时，可以实现上述各个方法实施例的步骤。计算机程序可以包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、u盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(read-only memory，rom)、随机存取存储器(random access memory，ram)、电载波信号、电信信号以及软件分发介质等。需要说明的是，计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如，在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
124.以上实施例仅用以说明本公开的技术方案，而非对其限制；尽管参照前述实施例对本公开进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本公开各实施例技术方案的精神和范围，均应包含在本公开的保护范围之内。