视频编解码方法和装置与流程

视频编解码方法和装置
1.引用并入
2.本技术要求于2020年3月19日提交的申请号为16/824,440的美国专利申请“视频编解码方法和装置(method and apparatus for video coding)”的权益，该美国申请要求于2019年3月22日提交的申请号为62/822,757的美国临时申请“兼容vpdu的最大变换控制(vpdu compatible max transform control)”的权益。这些先前申请的公开内容通过引用整体并入本技术中。
技术领域
3.本技术描述了总体上涉及视频编解码的实施例。


背景技术：

4.本文中提供的背景技术描述是为了大体上呈现本技术的上下文。在此背景技术部分描述的程度上，当前署名的发明人的工作，以及在本技术提交时可能不具有作为现有技术的资格的描述的各方面，既不明确认为也不隐含认为是本技术的现有技术。
5.视频的编码和解码可以使用具有运动补偿的帧间预测进行。未压缩的数字视频可包括一系列的图片，每个图片具有一定的空间维度，例如具有1920
×
1080的亮度样本和相关的色度样本。所述一系列的图片可以具有固定的或可变的图片速率(非正式地，也被称作帧率)，例如，每秒60个图片或60赫兹(hz)。未压缩的视频对比特率有着显著的要求。例如，每个样本8比特的1080p60 4:2:0视频(60hz帧率下的1920
×
1080亮度样本分辨率)需要接近1.5gbit/s的带宽。这样的视频一小时需要超过600gb的存储空间。
6.视频编码和解码的一个目的可以是通过压缩来减少输入视频信号中的冗余。压缩可有助于降低上述带宽或存储空间的要求，在一些情况下，可降低两个或更多的数量级。无损压缩和有损压缩以及其组合都可以用于视频编码和解码。无损压缩是指可以由压缩的原始信号重建原始信号的精确副本的技术。当使用有损压缩时，重建的信号可能与原始信号不完全一致，但是原始信号与重建的信号之间的失真小得足以使重建的信号可以用于预期应用。有损压缩广泛应用于视频中。有损压缩容许的失真量取决于应用；例如，与电视分发应用的用户相比，某些消费者流式传输应用的用户可以容忍较高的失真。可实现的压缩比可以反映的是：越高的可允许的/可容许的失真，可产生越高的压缩比。
7.视频编码器和解码器可以使用几大类技术，包括例如运动补偿、变换、量化和熵编码。
8.视频编解码技术可以包括帧内编码技术。在帧内编码技术中，样本值的表示不参考先前已重建的参考图片中的样本或其他数据。在一些视频编解码技术中，将图片从空间上划分为样本块。当所有的样本块都是通过帧内模式进行编码时，该图片可以是一个帧内图片。帧内图片以及他们的衍生图片，例如独立解码器刷新的图片，可以用于对解码器的状态进行重置，因此可以用作已编码视频码流和视频会话中的第一幅图片，或者作为一副静止图片。可以对帧内块的样本进行变换，并且可以在进行熵编码之前，对变换系数进行量
化。帧内预测可以是一种将样本值在预变换域最小化的技术。在一些情况下，变换后的dc值越小以及ac系数越小，给定量化步长大小的情况下，表示熵编码后的块所需的比特数目越少。
9.传统的帧内编码技术，例如已知的mpeg-2编码技术并不使用帧内预测。然而，一些较新的视频压缩技术包括尝试使用例如邻近的样本数据和/或元数据的技术，所述邻近的样本数据和/或元数据是在对空间上相邻且解码顺序上在先的数据块进行编码/解码的过程中获得的。因此，这种技术称为“帧内预测”技术。至少在一些情况下，帧内预测仅使用当前正在重建的图片中的参考数据，而不使用参考图片中的参考数据。
10.帧内预测可以有很多种形式。当给定的视频编码技术中可以使用一个以上的这种技术时，可以使用帧内预测模式对所使用的技术进行编码。在某些情况下，一些模式具有子模式和/或参数，这些可以单独进行编码，或者可以包含在模式码字中。某个给定模式/子模式/参数的组合使用何种码字，会通过帧内预测影响到编码效率增益，将码字转译为码流所用的熵编码技术同样对其也会产生影响。
11.h.264标准引入了某个模式的帧内预测，h.265标准对其进行了改进，在较新的编码技术中，例如，联合探索模型(jem)、通用视频编码(vvc)、基准集合(bms)等等，对其进一步进行了改进。预测子(predictor)块可以使用属于已经可用的样本的相邻样本值来形成。将相邻样本的样本值按照一个方向复制到预测子块中。所使用的方向的参考可以编码到码流中，或者其本身可以预测。
12.运动补偿可以是有损压缩技术，并且可以涉及如下技术：从先前已重建图片或其部分(参考图片)得到的样本数据块，在按照运动矢量(下文称为mv)指示的方向上进行空间移位后，用于预测新重建的图片或图片部分。在一些情况下，参考图片可以与当前正在重建的图片相同。mv可以具有两个维度：x维度和y维度，或者具有三个维度，第三个维度用于指示使用中的参考图片(后者间接地可以是时间维度)。
13.在一些视频压缩技术中，可应用于某一样本数据区域的mv，可以根据其它mv预测得到，例如，根据在空间上与正在重建的区域相邻的另一样本数据区域相关的、解码顺序在所述mv之前的mv预测得到。这样做可以实质上减少对所述mv进行编解码所需的数据量，从而消除冗余并增强压缩。mv预测可以有效地进行，例如，因为当对从摄像机导出的输入视频信号(称为自然视频)进行编码时，存在统计似然性，即，比单个mv可应用的区域大的多个区域，在相似方向上运动，因此，在一些情况下可以使用从相邻区域的多个mv导出的相似运动矢量进行mv预测。这导致所找到的用于给定区域的mv，与从周围的mv预测得到的mv相似或相同，并且在熵编解码之后，又可以用比直接对mv编解码所用的比特数少的比特数来表示。在一些情况下，mv预测可以是对从原始信号(即：样本流)导出的信号(即：mv)的无损压缩的示例。在其它情况下，mv预测本身可以是有损的，例如，因为当从若干周围mv计算预测子时，会有舍入误差。
14.h.265/hevc(itu-t h.265建议书，“高效视频编解码(high efficiency video coding)”，2016年12月)中描述了各种mv预测机制。在h.265提供的多种mv预测机制中，本技术描述的是下文称作“空间合并”的技术。
15.参考图1，当前块(101)包括编码器在运动搜索过程中找到的样本，这些样本可以根据与当前块大小相同的、空间移位后的先前块进行预测。不是直接对mv编码，而是可以从
与一个或多个参考图片相关联的元数据推导出mv，例如，从时间上最近的(按解码顺序)参考图片，使用与五个周围样本(表示为a0、a1、b0、b1、b2(分别为102至106))中任一样本相关联的mv推导出。在h.265中，mv预测所用的参考图片可以与相邻块所用的参考图片相同。


技术实现要素：

16.本技术的各方面提供了视频编码/解码方法和装置。在一些示例中，一种视频解码装置包括处理电路。所述处理电路被配置为：接收宽度为w像素、高度为h像素的编码块；将所述编码块划分为子处理单元(spu)，每个spu的宽度为w像素或k像素二者中的较小者，高度为h像素或k像素二者中的较小者，其中，k是面积为k
×
k个像素的虚拟流水线数据单元(vpdu)的维度；以及将每个spu划分为变换单元。每个变换单元的最大允许变换单元大小为m像素。
17.在一实施例中，可以接收码流中指示所述m像素的最大允许变换单元大小的语法元素。所述spu的变换单元是按照spu处理顺序处理的。在一示例中，用于处理所述spu的所述spu处理顺序是光栅扫描顺序、垂直扫描顺序、z字形顺序或对角扫描顺序其中之一。另外，
18.用于处理每个spu内的变换单元的顺序是光栅扫描顺序、垂直扫描顺序、z字形顺序或对角扫描顺序其中之一。在一示例中，所述spu处理顺序和用于处理每个spu内的变换单元的顺序两者均为光栅扫描顺序。此外，在一实施例中，k是64且m是32。
19.本技术的各方面提供了一种非易失性计算机可读介质，所述指令当由计算机执行以用于视频解码时，使得所述计算机执行所述视频解码方法。
附图说明
20.通过下文的详细描述和附图，本技术所公开主题的进一步特征、本质和各种优点将更加清楚，其中：
21.图1是一个示例中当前块及其周围空间合并候选的示意图。
22.图2是根据一个实施例的通信系统(200)的简化框图的示意图。
23.图3是根据一个实施例的通信系统(300)的简化框图的示意图。
24.图4是根据一个实施例的解码器的简化框图的示意图。
25.图5是根据一个实施例的编码器的简化框图的示意图。
26.图6示出了根据另一实施例的编码器的框图。
27.图7示出了根据另一实施例的解码器的框图。
28.图8a示出了用四叉树加二叉树(qtbt)结构(820)划分的ctu。
29.图8b示出了qtbt结构(820)。
30.图9a示出了水平中心侧三叉树。
31.图9b示出了垂直中心侧三叉树。
32.图10a至图10d分别示出了4点dct-2变换、8点dct-2变换、16点dct-2变换和32点dct-2变换的变换核心矩阵。
33.图11a至图11e示出了64点dct-2变换的64
×
64变换核心矩阵。
34.图12示出了自适应多变换(amt)的所选离散正弦变换(dst)/离散余弦变换(dct)
变换的变换基函数。
35.图13示出了图示mts_idx值与相应的水平变换或垂直变换之间的映射关系表(1300)。
36.图14a至图14d示出了dst-7变换的变换核心矩阵。
37.图15a至图15d示出了dct-8变换的变换核心矩阵。
38.图16示出了取决于块大小的子分区的数目。
39.图17示出了将一个块划分为两个子分区的场景。
40.图18示出了将一个块划分为四个子分区的场景。
41.图19a至图19b示出了示例语法表(1900)，示例语法表(1900)包括针对帧内子分区(isp)编解码模式发信号通知的相关语法元素。
42.图20a至图20d示出了在子块变换(sbt)中支持的子块类型、大小和位置。
43.图21a至图21i示出了当使用sbt时对视频编解码标准的规范文本的改动。
44.图22示出了在一些实施例中使用的不同的yuv格式(例如，4:4:4、4:2:2、4:1:1和4:2:0)。
45.图23示出了不允许的三叉树(tt)划分和二叉树(bt)划分的示例。
46.图24示出了大小为128
×
64个样本的编码块(2410)。
47.图25示出了大小为128
×
32个样本的编码块(2510)。
48.图26示出了大小为128
×
32个样本的编码块(2610)。
49.图27示出了概述根据本技术的实施例的变换块划分和处理方法(2700)的流程图。
50.图28是根据实施例的计算机系统的示意图。
具体实施方式
51.i.视频编解码编码器和解码器
52.图2图示了根据本技术公开的实施例的通信系统(200)的简化框图。通信系统(200)包括多个终端装置，所述终端装置可通过例如网络(250)彼此通信。举例来说，通信系统(200)包括通过网络(250)互连的第一对终端装置(210)和(220)。在图2的示例中，第一对终端装置(210)和(220)执行单向数据传输。例如，终端装置(210)可对视频数据(例如由终端装置(210)采集的视频图片流)进行编码，以通过网络(250)传输到另一终端装置(220)。已编码视频数据可以以一个或多个已编码视频码流的形式传输。终端装置(220)可从网络(250)接收已编码视频数据，对已编码视频数据进行解码以恢复视频数据，并根据恢复的视频数据显示视频图片。单向数据传输可能在媒体服务等应用中比较常见。
53.在另一示例中，通信系统(200)包括执行已编码视频数据的双向传输的第二对终端装置(230)和(240)，所述双向传输可例如在视频会议期间发生。对于双向数据传输，终端装置(230)和终端装置(240)中的每个终端装置可对视频数据(例如由终端装置采集的视频图片流)进行编码，以通过网络(250)传输到终端装置(230)和终端装置(240)中的另一终端装置。终端装置(230)和终端装置(240)中的每个终端装置还可接收由终端装置(230)和终端装置(240)中的另一终端装置传输的已编码视频数据，且可对所述已编码视频数据进行解码以恢复视频数据，且可根据恢复的视频数据在可访问的显示装置上显示视频图片。
54.在图2的示例中，终端装置(210)、终端装置(220)、终端装置(230)和终端装置
(240)可能图示为服务器、个人计算机和智能电话，但本技术公开的原理可不限于此。本技术公开的实施例适用于膝上型计算机、平板电脑、媒体播放器和/或专用视频会议设备。网络(250)表示在终端装置(210)、终端装置(220)、终端装置(230)和终端装置(240)之间传送已编码视频数据的任何数目的网络，包括例如有线(连线的)和/或无线通信网络。通信网络(250)可在电路交换和/或分组交换信道中交换数据。代表性的网络可包括电信网络、局域网、广域网和/或互联网。出于本论述的目的，除非在下文中有所解释，否则网络(250)的架构和拓扑对于本技术公开的操作来说可能是无关紧要的。
55.作为本技术所公开主题应用的示例，图3示出了视频编码器和视频解码器在流式传输环境中的放置方式。本技术所公开主题可同等地适用于其它支持视频的应用，包括例如视频会议、数字tv、在包括cd、dvd、存储棒等的数字介质上存储压缩视频等等。
56.流式传输系统可包括采集子系统(313)，所述采集子系统可包括数码相机等视频源(301)，所述视频源创建例如未压缩的视频图片流(302)。在一个示例中，视频图片流(302)包括由数码相机拍摄的样本。视频图片流(302)描绘为粗线，以强调与已编码的视频数据(304)(或已编码视频码流)相比，其具有较高的数据量相较于已编码的视频数据(304)(或已编码的视频码流)，视频图片流(302)描绘为粗线，以强调高数据量的视频图片流，视频图片流(302)可由电子装置(320)处理，所述电子装置(320)包括耦接到视频源(301)的视频编码器(303)。视频编码器(303)可包括硬件、软件或软硬件组合，以实现或实施如下文更详细地描述的所公开主题的各方面。已编码的视频数据(204)(或已编码的视频码流(204))描绘为细线，以强调与视频图片流(302)相比，其具有较低的数据量，其可存储在流式传输服务器(305)上以供将来使用。一个或多个流式传输客户端子系统，例如图3中的客户端子系统(306)和客户端子系统(308)，可访问流式传输服务器(305)，以检索已编码的视频数据(304)的副本(307)和副本(309)。客户端子系统(306)可包括例如电子装置(330)中的视频解码器(310)。视频解码器(310)对已编码的视频数据的传入副本(307)进行解码，且产生可在显示器(312)(例如显示屏)或另一呈现装置(未描绘)上呈现的输出视频图片流(311)。在一些流式传输系统中，可根据某些视频编码/压缩标准，对已编码的视频数据(304)、视频数据(307)和视频数据(309)(例如视频码流)进行编码。该些标准的实施例包括itu-t h.265建议书。在一个示例中，正在开发的视频编码标准非正式地称为多功能视频编码(versatile video coding，vvc)，本技术可用于vvc标准的上下文中。
57.应注意，电子装置(320)和电子装置(330)可包括其它组件(未示出)。举例来说，电子装置(320)可包括视频解码器(未示出)，且电子装置(330)还可包括视频编码器(未示出)。
58.图4是根据本技术公开的实施例的视频解码器(410)的框图。视频解码器(410)可设置在电子装置(430)中。电子装置(430)可包括接收器(431)(例如，接收电路)。视频解码器(410)可用于代替图3示例中的视频解码器(310)。
59.接收器(431)可接收将由视频解码器(410)解码的一个或多个已编码视频序列；在同一实施例或另一实施例中，一次接收一个已编码视频序列，其中每个已编码视频序列的解码独立于其它已编码视频序列。已编码视频序列可从信道(401)接收，所述信道可以是通向存储已编码的视频数据的存储装置的硬件/软件链路。接收器(431)可接收已编码的视频数据以及其它数据，例如，可转发到它们各自的使用实体(未标示)的已编码音频数据和/或
辅助数据流。接收器(431)可将已编码视频序列与其它数据分开。为了防止网络抖动，缓冲存储器(415)可耦接在接收器(431)与熵解码器/解析器(420)(此后称为“解析器(420)”)之间。在某些应用中，缓冲存储器(415)是视频解码器(410)的一部分。在其它情况下，所述缓冲存储器(415)可设置在视频解码器(410)外部(未标示)。而在其它情况下，视频解码器(410)的外部设置缓冲存储器(未标示)，以例如防止网络抖动，且在视频解码器(410)的内部可配置另一缓冲存储器(415)，以例如处理播出定时。而当接收器(431)从具有足够带宽和可控性的存储/转发装置，或从等时同步网络接收数据时，也可能不需要配置缓冲存储器(415)，或可以将所述缓冲存储器做得较小。为了在互联网等尽力而为业务分组网络上使用，也可能需要缓冲存储器(415)，所述缓冲存储器可相对较大且可具有自适应性大小，且可至少部分地实施于操作系统或视频解码器(410)外部的类似元件(未标示)中。
60.视频解码器(410)可包括解析器(420)，以根据已编码视频序列重建符号(421)。这些符号的类别包括用于管理视频解码器(410)的操作的信息，以及用以控制显示装置(412)(例如，显示屏)等显示装置的潜在信息，所述显示装置不是电子装置(430)的组成部分，但可耦接到电子装置(430)，如图4中所示。用于显示装置的控制信息可以是辅助增强信息(supplemental enhancement information)(sei消息)或视频可用性信息(video usability information，vui)的参数集片段(未标示)。解析器(420)可对接收到的已编码视频序列进行解析/熵解码。已编码视频序列的编码可根据视频编码技术或标准进行，且可遵循各种原理，包括可变长度编码、霍夫曼编码(huffman coding)、具有或不具有上下文灵敏度的算术编码等等。解析器(420)可基于对应于群组的至少一个参数，从已编码视频序列提取用于视频解码器中的像素的子群中的至少一个子群的子群参数集。子群可包括图片群组(group of pictures，gop)、图片、图块(tile)、切片(slice)、宏块、编码单元(coding unit，cu)、块、变换单元(transform unit，tu)、预测单元(prediction unit，pu)等等。解析器(420)还可从已编码视频序列提取信息，例如变换系数、量化器参数值、运动矢量等等。
61.解析器(420)可对从缓冲存储器(415)接收的视频序列执行熵解码/解析操作，从而创建符号(421)。
62.取决于已编码视频图片或一部分已编码视频图片(例如：帧间图片和帧内图片、帧间块和帧内块)的类型以及其它因素，符号(421)的重建可涉及多个不同单元。涉及哪些单元以及涉及方式可由解析器(420)从已编码视频序列解析的子群控制信息控制。为了简洁起见，未描述解析器(420)与下文的多个单元之间的此类子群控制信息流。
63.除已经提及的功能块以外，视频解码器(410)可在概念上细分成如下文所描述的数个功能单元。在商业约束下运行的实际实施例中，这些单元中的许多单元彼此紧密交互并且可以彼此集成。然而，出于描述所公开主题的目的，概念上细分成下文的功能单元是适当的。
64.第一单元是缩放器/逆变换单元(451)。缩放器/逆变换单元(451)从解析器(420)接收作为符号(421)的量化变换系数以及控制信息，包括使用哪种变换方式、块大小、量化因子、量化缩放矩阵等。缩放器/逆变换单元(451)可输出包括样本值的块，所述样本值可输入到聚合器(455)中。
65.在一些情况下，缩放器/逆变换单元(451)的输出样本可属于帧内编码块；即：不使用来自先前已重建图片的预测性信息，但可使用来自当前图片的先前重建部分的预测性信
息的块。此类预测性信息可由帧内预测单元(452)提供。在一些情况下，帧内预测单元(452)采用从当前图片缓冲器(458)提取的周围已重建信息，生成大小和形状与正在重建的块相同的块。举例来说，当前图片缓冲器(458)缓冲部分重建的当前图片和/或完全重建的当前图片。在一些情况下，聚合器(455)基于每个样本，将帧内预测单元(452)生成的预测信息添加到由缩放器/逆变换单元(451)提供的输出样本信息中。
66.在其它情况下，缩放器/逆变换单元(451)的输出样本可属于帧间编码和潜在运动补偿块。在此情况下，运动补偿预测单元(453)可访问参考图片存储器(457)以提取用于预测的样本。在根据属于块的符号(421)对提取的样本进行运动补偿之后，这些样本可由聚合器(455)添加到缩放器/逆变换单元(451)的输出(在这种情况下被称作残差样本或残差信号)，从而生成输出样本信息。运动补偿预测单元(453)从参考图片存储器(457)内的地址获取预测样本可受到运动矢量控制，且所述运动矢量以所述符号(421)的形式而供运动补偿预测单元(453)使用，所述符号(421)例如是包括x、y和参考图片分量。运动补偿还可包括在使用子样本精确运动矢量时，从参考图片存储器(457)提取的样本值的插值、运动矢量预测机制等等。
67.聚合器(455)的输出样本可在环路滤波器单元(456)中被各种环路滤波技术采用。视频压缩技术可包括环路内滤波器技术，所述环路内滤波器技术受控于包括在已编码视频序列(也称作已编码视频码流)中的参数，且所述参数作为来自解析器(420)的符号(421)可用于环路滤波器单元(456)，但是还可响应于在解码已编码图片或已编码视频序列的先前(按解码次序)部分期间获得的元信息，以及响应于先前重建且经过环路滤波的样本值。
68.环路滤波器单元(456)的输出可以是样本流，所述样本流可输出到显示装置(412)以及存储在参考图片存储器(457)，以用于后续的帧间图片预测。
69.一旦完全重建，某些已编码图片就可用作参考图片以用于将来预测。举例来说，一旦对应于当前图片的已编码图片被完全重建，且已编码图片(通过例如解析器(420))被识别为参考图片，则当前图片缓冲器(458)可变为参考图片存储器(457)的一部分，且可在开始重建后续已编码图片之前重新分配新的当前图片缓冲器。
70.视频解码器(410)可根据例如itu-t h.265建议书等标准中的预定视频压缩技术执行解码操作。在已编码视频序列遵循视频压缩技术或标准的语法以及视频压缩技术或标准中记录的配置文件的意义上，已编码视频序列可符合所使用的视频压缩技术或标准指定的语法。具体地说，配置文件可从视频压缩技术或标准中可用的所有工具中选择某些工具作为在所述配置文件下可供使用的仅有工具。对于合规性，还要求已编码视频序列的复杂度处于视频压缩技术或标准的层级所限定的范围内。在一些情况下，层级限制最大图片大小、最大帧率、最大重建取样率(以例如每秒兆(mega)个样本为单位进行测量)、最大参考图片大小等。在一些情况下，由层级设定的限制可通过假想参考解码器(hypothetical reference decoder，hrd)规范和在已编码视频序列中用信号表示的hrd缓冲器管理的元数据来进一步限定。
71.在实施例中，接收器(431)可连同已编码视频一起接收附加(冗余)数据。所述附加数据可以是已编码视频序列的一部分。所述附加数据可由视频解码器(410)用以对数据进行适当解码和/或较准确地重建原始视频数据。附加数据可呈例如时间、空间或信噪比(signal noise ratio，snr)增强层、冗余切片、冗余图片、前向纠错码等形式。
72.图5是根据本技术公开的实施例的视频编码器(503)的框图。视频编码器(503)设置于电子装置(520)中。电子装置(520)包括传输器(540)(例如传输电路)。视频编码器(503)可用于代替图3实施例中的视频编码器(303)。
73.视频编码器(503)可从视频源(501)(并非图5示例中的电子装置(520)的一部分)接收视频样本，所述视频源可采集将由视频编码器(503)编码的视频图像。在另一实施例中，视频源(501)是电子装置(520)的一部分。
74.视频源(501)可提供将由视频编码器(503)编码的呈数字视频样本流形式的源视频序列，所述数字视频样本流可具有任何合适位深度(例如：8位、10位、12位
……
)、任何色彩空间(例如bt.601y crcb、rgb
……
)和任何合适取样结构(例如y crcb 4:2:0、y crcb4:4:4)。在媒体服务系统中，视频源(501)可以是存储先前已准备的视频的存储装置。在视频会议系统中，视频源(501)可以是采集本地图像信息作为视频序列的相机。可将视频数据提供为多个单独的图片，当按顺序观看时，这些图片被赋予运动。图片自身可构建为空间像素阵列，其中取决于所用的取样结构、色彩空间等，每个像素可包括一个或多个样本。所属领域的技术人员可以很容易理解像素与样本之间的关系。下文侧重于描述样本。
75.根据实施例，视频编码器(503)可实时或在由应用所要求的任何其它时间约束下，将源视频序列的图片编码且压缩成已编码视频序列(543)。施行适当的编码速度是控制器(550)的一个功能。在一些实施例中，控制器(550)控制如下文所描述的其它功能单元且在功能上耦接到这些单元。为了简洁起见，图中未标示耦接。由控制器(550)设置的参数可包括速率控制相关参数(图片跳过、量化器、率失真优化技术的λ值等)、图片大小、图片群组(group of pictures，gop)布局，最大运动矢量搜索范围等。控制器(550)可用于具有其它合适的功能，这些功能涉及针对某一系统设计优化的视频编码器(503)。
76.在一些实施例中，视频编码器(503)在编码环路中进行操作。作为简单的描述，在一个示例中，编码环路可包括源编码器(530)(例如，负责基于待编码的输入图片和参考图片创建符号，例如符号流)和嵌入于视频编码器(503)中的(本地)解码器(533)。解码器(533)以类似于(远程)解码器创建样本数据的方式重建符号，以创建样本数据(因为在本技术所公开的主题所考虑的视频压缩技术中，符号与已编码视频码流之间的任何压缩是无损的)。将重建的样本流(样本数据)输入到参考图片存储器(534)。由于符号流的解码产生与解码器位置(本地或远程)无关的位精确结果，因此参考图片存储器(534)中的内容在本地编码器与远程编码器之间也是按比特位精确对应的。换句话说，编码器的预测部分“看到”的参考图片样本与解码器将在解码期间使用预测时所“看到”的样本值完全相同。这种参考图片同步性基本原理(以及在例如因信道误差而无法维持同步性的情况下产生的漂移)也用于一些相关技术。
[0077]“本地”解码器(533)的操作可与例如已在上文结合图4详细描述视频解码器(410)的“远程”解码器相同。然而，另外简要参考图4，当符号可用且熵编码器(545)和解析器(420)能够无损地将符号编码/解码到已编码视频序列时，包括缓冲存储器(415)和解析器(420)在内的视频解码器(410)的熵解码部分，可能不完全在本地解码器(533)中实施。
[0078]
此时可以观察到，除存在于解码器中的解析/熵解码之外的任何解码器技术，也必定以基本上相同的功能形式存在于对应的编码器中。出于此原因，本技术侧重于解码器操作。可简化编码器技术的描述，因为编码器技术与全面地描述的解码器技术互逆。仅在某些
区域中需要更详细的描述，并且在下文提供。
[0079]
在操作期间，在一些示例中，源编码器(530)可执行运动补偿预测编码。参考来自视频序列中被指定为“参考图片”的一个或多个先前已编码图片，所述运动补偿预测编码对输入图片进行预测性编码。以此方式，编码引擎(532)对输入图片的像素块与参考图片的像素块之间的差值进行编码，所述参考图片可被选作所述输入图片的预测参考。
[0080]
本地视频解码器(533)可基于源编码器(530)创建的符号，对可指定为参考图片的图片的已编码视频数据进行解码。编码引擎(532)的操作可为有损过程。当已编码视频数据可在视频解码器(图5中未示)处被解码时，重建的视频序列通常可以是带有一些误差的源视频序列的副本。本地视频解码器(533)复制解码过程，所述解码过程可由视频解码器对参考图片执行，且可使重建的参考图片存储在参考图片高速缓存(534)中。以此方式，视频编码器(503)可在本地存储重建的参考图片的副本，所述副本与将由远端视频解码器获得的重建参考图片具有共同内容(不存在传输误差)。
[0081]
预测器(535)可针对编码引擎(532)执行预测搜索。即，对于将要编码的新图片，预测器(535)可在参考图片存储器(534)中搜索可作为所述新图片的适当预测参考的样本数据(作为候选参考像素块)或某些元数据，例如参考图片运动矢量、块形状等。预测器(535)可基于样本块逐像素块操作，以找到合适的预测参考。在一些情况下，根据预测器(535)获得的搜索结果，可确定输入图片可具有从参考图片存储器(534)中存储的多个参考图片取得的预测参考。
[0082]
控制器(550)可管理源编码器(530)的编码操作，包括例如设置用于对视频数据进行编码的参数和子群参数。
[0083]
可在熵编码器(545)中对所有上述功能单元的输出进行熵编码。熵编码器(545)根据例如霍夫曼编码、可变长度编码、算术编码等技术对各种功能单元生成的符号进行无损压缩，从而将所述符号转换成已编码视频序列。
[0084]
传输器(540)可缓冲由熵编码器(545)创建的已编码视频序列，从而为通过通信信道(560)进行传输做准备，所述通信信道可以是通向将存储已编码的视频数据的存储装置的硬件/软件链路。传输器(540)可将来自视频编码器(503)的已编码视频数据与要传输的其它数据合并，所述其它数据例如是已编码音频数据和/或辅助数据流(未示出来源)。
[0085]
控制器(550)可管理视频编码器(503)的操作。在编码期间，控制器(550)可以为每个已编码图片分配某一已编码图片类型，但这可能影响可应用于相应的图片的编码技术。例如，通常可将图片分配为以下任一种图片类型：
[0086]
帧内图片(i图片)，其可以是不将序列中的任何其它图片用作预测源就可被编码和解码的图片。一些视频编解码器容许不同类型的帧内图片，包括例如独立解码器刷新(independent decoder refresh，“idr”)图片。所属领域的技术人员了解i图片的变体及其相应的应用和特征。
[0087]
预测性图片(p图片)，其可以是可使用帧内预测或帧间预测进行编码和解码的图片，所述帧内预测或帧间预测使用至多一个运动矢量和参考索引来预测每个块的样本值。
[0088]
双向预测性图片(b图片)，其可以是可使用帧内预测或帧间预测进行编码和解码的图片，所述帧内预测或帧间预测使用至多两个运动矢量和参考索引来预测每个块的样本值。类似地，多个预测性图片可使用多于两个参考图片和相关联元数据以用于重建单个块。
[0089]
源图片通常可在空间上细分成多个样本块(例如，每个具有4
×
4、8
×
8、4
×
8或16
×
16个样本的块)，且逐块进行编码。这些块可参考其它(已编码)块进行预测编码，根据应用于块的相应图片的编码分配来确定所述其它块。举例来说，i图片的块可进行非预测编码，或所述块可参考同一图片的已经编码的块来进行预测编码(空间预测或帧内预测)。p图片的像素块可参考一个先前编码的参考图片通过空间预测或通过时域预测进行预测编码。b图片的块可参考一个或两个先前编码的参考图片通过空间预测或通过时域预测进行预测编码。
[0090]
视频编码器(503)可根据例如itu-t h.265建议书的预定视频编码技术或标准执行编码操作。在操作中，视频编码器(503)可执行各种压缩操作，包括利用输入视频序列中的时间和空间冗余的预测编码操作。因此，已编码视频数据可符合所用视频编码技术或标准指定的语法。
[0091]
在实施例中，传输器(540)可传输附加数据和已编码的视频。源编码器(530)可以包括此类数据为已编码视频序列的一部分。附加数据可包括时间/空间/snr增强层、冗余图片和切片等其它形式的冗余数据、sei消息、vui参数集片段等。
[0092]
采集到的视频可作为呈时间序列的多个源图片(视频图片)。帧内图片预测(常常简化为帧内预测)利用给定图片中的空间相关性，而帧间图片预测则利用图片之间的(时间或其它)相关性。在实施例中，将正在编码/解码的特定图片分割成块，正在编码/解码的特定图片被称作当前图片。在当前图片中的块类似于视频中先前已编码且仍被缓冲的参考图片中的参考块时，可通过称作运动矢量的矢量对当前图片中的块进行编码。所述运动矢量指向参考图片中的参考块，且在使用多个参考图片的情况下，所述运动矢量可具有识别参考图片的第三维度。
[0093]
在一些实施例中，双向预测技术可用于帧间图片预测中。根据双向预测技术，使用两个参考图片，例如按解码次序均在视频中的当前图片之前(但按显示次序可能分别是过去和将来)第一参考图片和第二参考图片。可通过指向第一参考图片中的第一参考块的第一运动矢量和指向第二参考图片中的第二参考块的第二运动矢量对当前图片中的块进行编码。可通过第一参考块和第二参考块的组合来预测所述块。
[0094]
此外，合并模式技术可用于帧间图片预测中以改善编码效率。
[0095]
根据本技术公开的一些实施例，帧间图片预测和帧内图片预测等预测的执行以块为单位。举例来说，根据hevc标准，将视频图片序列中的图片分割成编码树单元(coding tree unit，ctu)以用于压缩，图片中的ctu具有相同大小，例如64
×
64像素、32
×
32像素或16
×
16像素。一般来说，ctu包括三个编码树块(coding tree block，ctb)，所述三个编码树块是一个亮度ctb和两个色度ctb。更进一步的，还可将每个ctu以四叉树拆分为一个或多个编码单元(coding unit，cu)。举例来说，可将64
×
64像素的ctu拆分为一个64
×
64像素的cu，或4个32
×
32像素的cu，或16个16
×
16像素的cu。在实施例中，分析每个cu以确定用于cu的预测类型，例如帧间预测类型或帧内预测类型。此外，取决于时间和/或空间可预测性，将cu拆分为一个或多个预测单元(prediction unit，pu)。通常，每个pu包括亮度预测块(prediction block，pb)和两个色度pb。在实施例中，编码(编码/解码)中的预测操作以预测块为单位来执行。以亮度预测块作为预测块为例，预测块包括像素值(例如，亮度值)的矩阵，例如8
×
8像素、16
×
16像素、8
×
16像素、16
×
8像素等等。
[0096]
图6示出了根据本技术公开的另一实施例的视频编码器(603)的图。视频编码器(603)用于接收视频图片序列中的当前视频图片内的样本值的处理块(例如预测块)，且将所述处理块编码到作为已编码视频序列的一部分的已编码图片中。在本实施例中，视频编码器(603)用于代替图3示例中的视频编码器(303)。
[0097]
在hevc示例中，视频编码器(603)接收用于处理块的样本值的矩阵，所述处理块为例如8
×
8样本的预测块等。视频编码器(603)使用例如率失真(rate-distortion，rd)优化来确定是否使用帧内模式、帧间模式或双向预测模式来编码所述处理块。当在帧内模式中编码处理块时，视频编码器(603)可使用帧内预测技术以将处理块编码到已编码图片中；且当在帧间模式或双向预测模式中编码处理块时，视频编码器(603)可分别使用帧间预测或双向预测技术将处理块编码到已编码图片中。在某些视频编码技术中，合并模式可以是帧间图片预测子模式，其中，在不借助预测值外部的已编码运动矢量分量的情况下，从一个或多个运动矢量预测值导出运动矢量。在某些其它视频编码技术中，可存在适用于主题块的运动矢量分量。在实施例中，视频编码器(603)包括其它组件，例如用于确定处理块模式的模式决策模块(未示出)。
[0098]
在图6的示例中，视频编码器(603)包括如图6所示的耦接到一起的帧间编码器(630)、帧内编码器(622)、残差计算器(623)、开关(626)、残差编码器(624)、通用控制器(621)和熵编码器(625)。
[0099]
帧间编码器(630)用于接收当前块(例如处理块)的样本、比较所述块与参考图片中的一个或多个参考块(例如先前图片和后来图片中的块)、生成帧间预测信息(例如根据帧间编码技术的冗余信息描述、运动矢量、合并模式信息)、以及基于帧间预测信息使用任何合适的技术计算帧间预测结果(例如已预测块)。在一些示例中，参考图片是基于已编码的视频信息解码的已解码参考图片。
[0100]
帧内编码器(622)用于接收当前块(例如处理块)的样本、在一些情况下比较所述块与同一图片中已编码的块、在变换之后生成量化系数、以及在一些情况下还(例如根据一个或多个帧内编码技术的帧内预测方向信息)生成帧内预测信息。在一个示例中，帧内编码器(622)还基于帧内预测信息和同一图片中的参考块计算帧内预测结果(例如已预测块)。
[0101]
通用控制器(621)用于确定通用控制数据，且基于所述通用控制数据控制视频编码器(603)的其它组件。在实施例中，通用控制器(621)确定块的模式，且基于所述模式将控制信号提供到开关(626)。举例来说，当所述模式是帧内模式时，通用控制器(621)控制开关(626)以选择供残差计算器(623)使用的帧内模式结果，且控制熵编码器(625)以选择帧内预测信息且将所述帧内预测信息添加在码流中；以及当所述模式是帧间模式时，通用控制器(621)控制开关(626)以选择供残差计算器(623)使用的帧间预测结果，且控制熵编码器(625)以选择帧间预测信息且将所述帧间预测信息添加在码流中。
[0102]
残差计算器(623)用于计算所接收的块与选自帧内编码器(622)或帧间编码器(630)的预测结果之间的差(残差数据)。残差编码器(624)用于基于残差数据操作，以对残差数据进行编码以生成变换系数。在实施例中，残差编码器(624)用于将残差数据从时域转换到频域，且生成变换系数。变换系数接着经由量化处理以获得量化的变换系数。在各种实施例中，视频编码器(603)还包括残差解码器(628)。残差解码器(628)用于执行逆变换，且生成已解码残差数据。已解码残差数据可适当地由帧内编码器(622)和帧间编码器(630)使
用。举例来说，帧间编码器(630)可基于已解码残差数据和帧间预测信息生成已解码块，且帧内编码器(622)可基于已解码残差数据和帧内预测信息生成已解码块。适当处理已解码块以生成已解码图片，且在一些实施例中，所述已解码图片可在存储器电路(未示出)中缓冲并用作参考图片。
[0103]
熵编码器(625)用于将码流格式化以产生已编码的块。熵编码器(625)根据hevc标准等合适标准产生各种信息。在实施例中，熵编码器(625)用于获得通用控制数据、所选预测信息(例如帧内预测信息或帧间预测信息)、残差信息和码流中的其它合适的信息。应注意，根据所公开的主题，当在帧间模式或双向预测模式的合并子模式中对块进行编码时，不存在残差信息。
[0104]
图7示出了根据本技术公开的另一实施例的视频解码器(710)的图。视频解码器(710)用于接收作为已编码视频序列的一部分的已编码图像，且对所述已编码图像进行解码以生成重建的图片。在一个示例中，视频解码器(710)用于代替图3示例中的视频解码器(310)。
[0105]
在图7的示例中，视频解码器(710)包括如图7中所示耦接到一起的熵解码器(771)、帧间解码器(780)、残差解码器(773)、重建模块(774)和帧内解码器(772)。
[0106]
熵解码器(771)可用于根据已编码图片来重建某些符号，这些符号表示构成所述已编码图片的语法元素。此类符号可包括例如用于对所述块进行编码的模式(例如帧内模式、帧间模式、双向预测模式、后两者的合并子模式或另一子模式)、可分别识别供帧内解码器(772)或帧间解码器(780)用以进行预测的某些样本或元数据的预测信息(例如帧内预测信息或帧间预测信息)、呈例如量化的变换系数形式的残差信息等等。在一个示例中，当预测模式是帧间预测模式或双向预测模式时，将帧间预测信息提供到帧间解码器(780)；以及当预测类型是帧内预测类型时，将帧内预测信息提供到帧内解码器(772)。残差信息可经由逆量化并提供到残差解码器(773)。
[0107]
帧间解码器(780)用于接收帧间预测信息，且基于所述帧间预测信息生成帧间预测结果。
[0108]
帧内解码器(772)用于接收帧内预测信息，且基于所述帧内预测信息生成预测结果。
[0109]
残差解码器(773)用于执行逆量化以提取解量化的变换系数，且处理所述解量化的变换系数，以将残差从频域转换到空间域。残差解码器(773)还可能需要某些控制信息(用以获得量化器参数qp)，且所述信息可由熵解码器(771)提供(未标示数据路径，因为这仅仅是低量控制信息)。
[0110]
重建模块(774)用于在空间域中组合由残差解码器(773)输出的残差与预测结果(可由帧间预测模块或帧内预测模块输出)以形成重建的块，所述重建的块可以是重建的图片的一部分，所述重建的图片继而可以是重建的视频的一部分。应注意，可执行解块操作等其它合适的操作来改善视觉质量。
[0111]
应注意，可使用任何合适的技术来实施视频编码器(303)、视频编码器(503)和视频编码器(603)以及视频解码器(310)、视频解码器(410)和视频解码器(710)。在实施例中，可使用一个或多个集成电路来实施视频编码器(303)、视频编码器(503)和视频编码器(603)以及视频解码器(310)、视频解码器(410)和视频解码器(710)。在另一实施例中，可使
用执行软件指令的一个或多个处理器来实施视频编码器(303)、视频编码器(503)和视频编码器(503)以及视频解码器(310)、视频解码器(410)和视频解码器(710)。
[0112]
ii.变换处理技术
[0113]
1、四叉树块划分结构
[0114]
块划分结构称为编码树。在一些实施例中，通过使用四叉树结构，将编码树单元(ctu)分割为编码单元(cu)，以适应各种局部特性。是使用图片间(时间)预测还是使用图片内(空间)预测对图片区域进行编码的决策，是在cu级做出的。每个cu可根据pu分割类型进一步分割成一个预测单元(pu)、两个pu或四个pu。在一个pu内，应用相同的预测过程，并且是以pu为单位将相关信息发送到解码器。
[0115]
在通过应用基于pu分割类型的预测过程获得残差块之后，可以根据另一四叉树结构将cu划分为变换单元(tu)。可以看出，存在多种分区概念，包括：cu、pu和tu。在一些实施例中，cu或tu只能是正方形形状，而pu可以是正方形形状或者矩形形状。在一些实施例中，可以将编码块进一步分割成四个正方形子块，对每个子块(即，tu)执行变换。每个tu可以使用称为残差四叉树(rqt)的四叉树结构进一步递归地分割成更小的tu。
[0116]
在一些实施例中，在图片边界处，可以采用隐式四叉树分割，使得一个块不断进行四叉树分割，直到其大小适合图片边界。
[0117]
2、四叉树加二叉树(qtbt)块划分结构
[0118]
在一些实施例中，采用四叉树加二叉树(qtbt)结构。qtbt结构去掉了多种分区类型的概念(cu概念、pu概念和tu概念)，支持cu分区形状的更大灵活性。在qtbt块结构中，cu可以或者具有正方形形状，或者具有矩形形状。
[0119]
图8a示出了ctu(810)，ctu(810)使用图8b所示的qtbt结构(820)进行划分。ctu(810)首先通过四叉树结构进行划分。四叉树叶节点进一步通过二叉树结构或四叉树结构进行划分。在二叉树分割中，可以有两种分割类型：对称水平分割和对称垂直分割。二叉树叶节点称为cu，其可用于预测和变换处理，而无需任何进一步的划分。相应地，cu、pu和tu在qtbt编码块结构中具有相同的块大小。
[0120]
在一些实施例中，cu可以包括具有不同颜色分量的编码块(cb)。例如，在p条带和b条带为4:2:0色度格式的情况下，一个cu包含一个亮度cb和两个色度cb。cu可以包括具有单个颜色分量的cb。例如，在i条带的情况下，一个cu仅包含一个亮度cb或仅包含两个色度cb。
[0121]
在一些实施例中，为qtbt划分方案定义了以下参数：
[0122]
–
ctu size：四叉树的根节点大小，例如，与hevc标准中的概念相同。
[0123]
–
minqtsize：允许的最小四叉树叶节点大小。
[0124]
–
maxbtsize：允许的最大二叉树根节点大小。
[0125]
–
maxbtdepth：允许的最大二叉树深度。
[0126]
–
minbtsize：允许的最小二叉树叶节点大小。
[0127]
在qtbt划分结构的一个示例中，将ctusize设置为是具有两个对应的64
×
64的色度样本块的128
×
128个亮度样本，将minqtsize设置为16
×
16，将maxbtsize设置为64
×
64，将minbtsize(对于宽度和高度两者)设置为4
×
4，将maxbtdepth设置为4。首先将四叉树划分应用于ctu，以生成四叉树叶节点。四叉树叶节点的大小可从16
×
16(即，minqtsize)到128
×
128(即，ctu大小)。如果叶四叉树节点是128
×
128，则不会通过二叉树对其进行进一
步分割，因为其大小超过了maxbtsize(即，64
×
64)。否则，叶四叉树节点可以通过二叉树进行进一步划分。因此，四叉树叶节点也是二叉树的根节点，其二叉树深度为0。
[0128]
当二叉树深度达到maxbtdepth(即，4)时，不考虑进一步的分割。当二叉树节点的宽度等于minbtsize(即，4)时，不考虑进一步的水平分割。类似地，当二叉树节点的高度等于minbtsize时，不考虑进一步的垂直分割。二叉树的叶节点通过预测和变换处理进行进一步处理，而无需任何进一步的划分。在实施例中，最大的ctu大小是256
×
256的亮度样本。
[0129]
在图8a和8b中，实线表示四叉树分割，虚线表示二叉树分割。在二叉树的每个分割(即，非叶)节点，发信号通知一个标志，以指示使用了哪种分割类型(即，水平分割或垂直分割)。例如，0表示水平分割，而1表示垂直分割。对于四叉树分割，不需要指示分割类型，因为四叉树分割总是对一个块进行水平分割和垂直分割，以产生具有相等大小的4个子块。
[0130]
在一些实施例中，qtbt方案支持亮度和色度的灵活性，具有单独的qtbt结构。例如，对于p条带和b条带，一个ctu中的亮度块和色度块共享相同的qtbt结构。然而，对于i条带，亮度ctb是通过一个qtbt结构划分为cu，而色度块是通过另一qtbt结构划分为cu。因此，i条带中的cu是由具有亮度分量的编码块或具有两个色度分量的编码块组成，p条带或b条带中的cu是由具有所有三个色彩分量的编码块组成。
[0131]
在一些实施例中，对用于小块的帧间预测加以约束，以减少运动补偿对存储器的访问。例如，4
×
8的块和8
×
4的块不支持双向预测，而4
×
4的块不支持帧间预测。
[0132]
3、三叉树(tt)块划分结构
[0133]
在一些实施例中，使用多类型树(mtt)结构对图片进行划分。mtt结构是比qtbt结构更灵活的树结构。在mtt中，除了四叉树和二叉树之外，还分别采用如图9a和图9b所示的水平中心侧三叉树和垂直中心侧三叉树。三叉树划分可以对四叉树划分和二叉树划分进行补充。例如，三叉树划分能够捕获位于块中心的对象，而四叉树划分和二叉树划分横穿块中心进行分割。三叉树的分区的宽度和高度是2的幂，因此不需要额外的变换分区。
[0134]
4、主变换示例
[0135]
在一些实施例中，4点dct-2变换、8点dct-2变换、16点dct-2变换和32点dct-2变换用作主变换。图10a至图10d分别示出了4点dct-2的变换核心矩阵、8点dct-2的变换核心矩阵、16点dct-2的变换核心矩阵和32点dct-2的变换核心矩阵。这些变换核心矩阵的元素可以使用8位整数表示，因此这些变换核心矩阵称为是8位变换核心。如图10a至图10d所示，较小的dct-2的变换核心矩阵是较大的dct-2的变换核心矩阵的一部分。
[0136]
dct-2核心矩阵具有对称特性/反对称特性。因此，可以支持所谓的“部分蝶式”实施方式来减少操作计数(乘法、加法/减法、移位)的数目。使用部分蝶式实施方式可以获得相同的矩阵乘法结果。
[0137]
5、附加的主变换示例
[0138]
在一些实施例中，除了上述的4点dct-2变换、8点dct-2变换、16点dct-2变换和32点dct-2变换之外，还使用附加的2点dct-2变换和64点dct-2变换。图11a至图11e示出了64点dct-2变换的64
×
64的变换核心矩阵。
[0139]
在一些实施例中，除了dct-2变换和4
×
4的dst-7变换之外，还使用自适应多变换(amt)(也称为增强型多变换(emt)或多变换选择(mts))进行帧间编码块和帧内编码块的残差编解码。除了dct-2变换之外，amt还使用离散余弦变换(dct)/离散正弦变换(dst)族的多
个所选变换，如dst-7变换的变换核心矩阵或dct-8变换的变换核心矩阵。图12示出了所选dst/dct变换的变换基函数。
[0140]
在一些实施例中，amt中使用的dst/dct变换核心矩阵是用8位的表示(representation)来表示。在一些实施例中，amt应用于宽度和高度均小于或等于32的cu。是否应用amt可以通过由mts_flag表示的标志来控制。例如，当mts_flag等于0时，仅应用dct-2对残差块进行编码。当mts_flag等于1时，可进一步使用两个二进制数(bin)对mts_idx表示的索引发信号通知，以指定将使用的水平变换和垂直变换。
[0141]
图13示出了图示mts_idx值与相应的水平变换或垂直变换之间的映射关系表(1300)。mts_idx的值为-1的行(1301)对应于mts_flag等于0的场景，使用dct-2变换。mts_idx的值为0、1、2或3的行(1302)至(1305)对应于mts_flag等于1的场景。在表(1300)的右侧两列中，0表示dct-2变换类型，1表示dst-7变换类型，2表示dct-8变换类型。
[0142]
图14a至图14d示出了dst-7变换的变换核心矩阵。图15a至图15d示出了dct-8变换的变换核心矩阵。
[0143]
6、帧内子分区(isp)编解码模式
[0144]
在一些实施例中，采用帧内子分区(isp)编解码模式。在isp编解码模式中，可将亮度帧内预测块垂直划分或水平划分为2个子分区或4个子分区。子分区的数目可以取决于块的大小。图16示出了取决于块大小的子分区的数目。图17示出了将一个块划分为两个子分区的场景。图18示出了将一个块划分为四个子分区的场景。在示例中，所有的子分区均满足具有至少16个样本的条件。在一示例中，isp不应用于色度分量。
[0145]
在一示例中，对于从编码块划分的子分区中的每一个子分区，通过对编码器发送的各个系数进行熵解码，然后进行逆量化和逆变换来生成残差信号。然后，对子分区中的第一子分区进行帧内预测，以生成预测信号。将预测信号添加到第一子分区的相应残差信号上，以获得对应的经重建的样本。在此之后，第一子分区的经重建样本的值可用于生成子分区中的第二个子分区的预测值。可以逐个子分区地重复该过程，直到编码块的所有子分区均已重建。在一示例中，所有的子分区共享同一帧内模式。
[0146]
在实施例中，仅使用作为最可能模式(mpm)列表的一部分的帧内模式来测试isp编解码模式。因此，如果一个块使用isp，则可推断mpm标志为1。此外，当isp用于某个块时，则修改相应的mpm列表，以排除dc模式，并对isp水平分割优先使用水平帧内模式，对垂直分割优先使用垂直帧内模式。
[0147]
在isp编解码模式中，每个子分区均可以看作是子tu，因为每个子分区的变换和重建是分别执行的。
[0148]
图19a至19b示出了示例性语法表(1900)，其包括针对isp编解码模式发信号通知的相关语法元素。如框(1910)所示，语法元素intra_subpartitions_mode_flag指示是否使用isp。语法元素intra_subpartitions_split_flag指示划分的方向(垂直或水平)。
[0149]
7、子块变换(sbt)
[0150]
在一些实施例中，采用子块变换(sbt)，也称为空间变化变换(svt)。sbt可以应用于帧间预测残差。例如，可以将编码块划分为子块，仅有一部分子块用作残差块。剩余部分的子块假定为零残差。因此，残差块小于编码块，并且sbt中的变换大小小于编码块大小。对于未被残差块覆盖的区域，不执行变换处理。
[0151]
图20a至20d示出了sbt中所支持的子块类型(svt-h、svt-v)(例如，垂直划分的或水平划分的)、大小和位置(例如，左半部、左四分之一部、右半部、右四分之一部、上半部、上四分之一部、下半部、下四分之一部)。由字母“a”标记的阴影区域是具有变换的残差块，而其它区域是假定为无变换的零残差。
[0152]
例如，图21a至21i示出了当使用sbt时，对联合视频专家组(jvet)开发的视频编解码标准(例如，vvc)的规范文本的改变内容。增加的文本在框(2101)至框(2113)中示出。如图21a至21i所示，发信号通知附加语法元素cu_sbt_flag、cu_sbt_quad_flag、cu_sbt_horizontal_flag和cu_sbt_pos_flag，以分别指示子块类型(水平的或垂直的)、大小(一半或四分之一)和位置(左侧或右侧，上面或下面)。
[0153]
8、yuv格式
[0154]
图22示出了在一些实施例中使用的不同的yuv格式(例如，4:4:4、4:2:2、4:1:1和4:2:0)。在一示例中，跨分量线性模型帧内预测用于4:2:0格式。六抽头插值滤波器可以用于获得与图22所示的色度样本对应的下采样亮度样本。下采样亮度样本rec’l[x,y]可以通过以下方式，按公式根据附近已重建亮度样本(由rec
l
[x,y]表示)来计算：
[0155]
rec'
l
[x,y]＝(2
×
rec
l
[2x,2y] 2
×
rec
l
[2x,2y 1]
[0156]
rec
l
[2x-1,2y] rec
l
[2x 1,2y]
[0157]
rec
l
[2x-1,2y 1] rec
l
[2x 1,2y 1] 4)＞＞3
[0158]
9、虚拟流水线数据单元(vpdu)
[0159]
虚拟流水线数据单元(vpdu)定义为图片中的非重叠单元。在硬件解码器中，连续的vpdu是由多个流水线级同时处理。在大多数流水线级，vpdu的大小大致与缓冲区的大小成比例。期望将vpdu保持在特定大小(例如，64
×
64或更小)。最大变换块(tb)大小可以在视频编解码标准中指定，以匹配一些硬件解码器所需的vpdu大小。然而，在一些示例中，当在没有特定约束条件的情况下使用三叉树(tt)划分和二叉树(bt)划分时，产生的变换块可能与预期的最大变换块大小(例如，64
×
64)或vpdu大小不对齐。
[0160]
为了将vpdu大小保持在64
×
64个亮度样本，在一些实施例中应用以下规范性划分约束条件(语法信令有修改)：
[0161]
–
对于宽度或高度或宽度和高度两者均等于128的cu，不允许进行tt分割，
[0162]
–
对于128
×
n的cu，n≤64(即，宽度等于128且高度小于128)，不允许进行水平bt分割。
[0163]
–
对于n
×
128的cu，n≤64(即，高度等于128且宽度小于128)，不允许进行垂直bt分割。
[0164]
图23示出了不允许进行的tt划分和bt划分的示例。
[0165]
iii.变换块划分和处理技术
[0166]
在一些实施例中，使用固定的最大允许变换单元(tu)大小(例如，64
×
64个像素或样本)。例如，通过执行基于树结构的划分，可以将图片或条带划分为用于帧内预测处理或帧间预测处理的编码块。对于变换处理，当编码块大于最大允许tu大小时(例如，边长大于64个样本，或者宽度和高度两者均大于64个样本)，编码块可以进一步被划分为子块，使得产生的子块的大小与最大允许tu大小一致。
[0167]
所采用的固定的最大允许tu大小可以在视频编解码标准中指定，相应地可以在硬
件编码器或解码器处确定经过多级流水线处理的vpdu的大小。根据最大允许tu大小进行的变换块划分产生的变换块的大小，与流水线编码器或解码器所需的vpdu大小相匹配。
[0168]
相反，在一些实施例中，采用可控制的最大允许tu大小或可配置的最大允许tu大小。例如，除了64
×
64个样本的大小之外，最大tu大小可以是其它大小，如32
×
32个样本、16
×
16个样本等。可以在编码器侧确定最大tu大小，并且发信号通知给解码器侧。最大允许tu大小的这种灵活性可以对实施编码器的硬件复杂性(例如，流水线中间缓冲区大小、乘法器的数目等)产生影响，潜在地提高了硬件编码器的性能，因此是可取的。
[0169]
当采用可控制的最大允许tu大小时，最大tu大小(例如，16
×
16个样本)可能小于vpdu大小(例如，64
×
64个样本)。在这种场景下，在一些实施例中，采用特定的变换块划分技术将编码块划分为变换块。这些变换块具有最大允许tu大小。同时，这些变换块的分区与vpdu大小兼容。换句话说，产生的变换块与基于vpdu大小的流水线处理的要求兼容。
[0170]
另外，在一些实施例中，根据特定顺序来处理这些变换块，使得处理后的块可以组合成适于流水线式处理的vpdu。例如，在解码器处对这些变换块的处理例如可以包括熵解码、逆量化、逆变换等。例如，流水线处理可以包括块重建、解块、样本自适应偏移(sao)处理、自适应环路滤波(alf)处理等。
[0171]
1、示例a
[0172]
在一示例中，将最大允许tu大小设置为m个样本(例如，m
×
m个样本的大小)。将vpdu大小设置为k个样本(例如，k
×
k个样本的大小)。编码块(或cu)具有的宽度为w个样本、高度为h个样本。编码块可以基于vpdu大小k和最大允许tu大小m，按以下方式进行划分。首先，可以将大小为w
×
h个样本的编码块划分为多个子块，称为子处理单元(spu)，每个spu的大小为min(w，k)
×
min(h，k)(w和k中的最小者
×
h和k中的最小者)个样本。然后，将每个spu进一步划分为大小为m
×
m个样本的变换块(或tu)。这些变换块可以称为子tu。
[0173]
另外，在一示例中，将每个spu视为一个vpdu，并且这些vpdu可以经过多级流水线处理。spu可以按照第一顺序进行处理。基于该处理spu的第一顺序，可以确定处理子tu的顺序。例如，第一spu和第二spu是连续地通过多级流水线进行处理。因此，首先处理(例如，熵解码、逆量化和逆变换)第一spu中的子tu，并将其输入到多级流水线中。随后处理第二spu中的子tu，并将其输入到多级流水线中。通过按此顺序处理子pu，可以满足基于vpdu的流水线处理要求。
[0174]
此外，在每个spu内，子tu可以按照第二顺序进行处理。
[0175]
在各种实施例中，用于处理spu的第一顺序和用于处理spu内的子tu的第二顺序可以是光栅扫描顺序、垂直扫描顺序(例如，从左到右按列扫描spu或子tu，反之亦然)、z字形顺序、对角扫描顺序等其中之一。
[0176]
在不同的实施例中，第一顺序和第二顺序可以相同或不同。例如，在一实施例中，用于处理spu的第一顺序和用于处理spu内的子tu的第二顺序两者均为光栅扫描顺序。
[0177]
2、示例b
[0178]
图24示出了大小为w
×
h个样本的编码块(或cu)(2410)，其中w＝128且h＝64。最大允许tu大小m＝32个样本是从编码器发信号通知给解码器的。vpdu大小指定为k＝64个样本。为了使变换块与vpdu对齐，首先将编码块(2410)分割成左侧的64
×
64spu(2420)和右侧的64
×
64spu(2430)。然后可以将左侧的spu(2420)和右侧spu(2430)进一步划分为子tu(标
记为0到7)，每个子tu的大小为32
×
32个样本。由0、1、2和3标记的子tu包括在第一spu(2420)中，而由4、5、6和7标记的子tu包括在第二spu(2430)中。
[0179]
按照配置的顺序或者按照默认的顺序，可以首先处理左侧的spu(2420)，然后处理右侧的spu(2430)。在spu(2420)或spu(2430)中的每个spu内，可以指定(或默认)光栅扫描顺序以用于处理产生的子tu(标记为0到7)。相应地，标记为0到7的子tu是按照箭头(2451)指示的顺序进行处理。
[0180]
3、示例c
[0181]
图25示出了大小为w
×
h个样本的编码块(2510)，其中w＝128且h＝32。最大允许tu大小m＝16个样本是从编码器发信号通知给解码器的。vpdu大小指定为k＝64个样本。w和k中较小的一个是64，而h和k中较小的一个是32。因此，为了使变换块与vpdu对齐，可以将spu的大小确定为是64
×
32个样本。将编码块(2510)划分为左侧的spu(2520)和右侧的spu(2530)，每个spu的大小为64
×
32个样本。spu(2520)和spu(2520)这两个spu可以按照从左到右的顺序进行处理。
[0182]
spu(2520)和spu(2520)这两个spu中的每个spu可以进一步被分割成子tu(标记为0到15)，每个子tu具有最大允许tu大小(16
×
16个样本)。如图25所示，左侧的spu(2520)被划分为由0到7标记的子tu，右侧的spu(2530)被划分为由8到15标记的子tu。在spu(2520)和spu(2530)中的每个spu内，子tu可以按照光栅扫描顺序进行处理。相应地，标记为0到15的子tu可以按照箭头(2551)所示的顺序执行。
[0183]
4、示例d
[0184]
图26示出了大小为w
×
h个样本的编码块(2610)，其中w＝128且h＝32。最大允许tu大小m＝16个样本是从编码器发信号通知给解码器的。vpdu大小指定为k＝64个样本。以与图25示例中类似的方式，可以将编码块(2610)划分为两个spu：(2620)和(2630)，每个spu可以进一步被划分为由0到15标记的子tu。spu(2620)和spu(2630)可以以与图25中相同的顺序，从左到右进行处理。然而，与图25示例不同的是，spu(2620)和spu(2630)中，每个spu内的子tu是按照z字形扫描顺序处理。
[0185]
5、示例e
[0186]
图27示出了概述根据本技术实施例的变换块划分和处理方法(2700)的流程图。方法(2700)可用于重建以帧内模式编码的块或以帧间模式编码的块。在各种实施例中，方法(2700)由处理电路执行，如终端设备(210)、终端设备(220)、终端设备(230)和终端设备(240)中的处理电路、执行视频解码器(310)的功能的处理电路、执行视频解码器(410)的功能的处理电路等。在一些实施例中，方法(2700)以软件指令实现，因此当处理电路执行软件指令时，处理电路执行方法(2700)。该方法开始于(s2701)并进行到(s2710)。
[0187]
在(s2710)处，可以从码流接收指示最大允许tu大小m的语法元素。例如，使用可控制的最大允许tu大小。最大允许tu大小可以在编码器处确定，并发信号通知给解码器。
[0188]
在s(2720)处，可以在解码器处接收宽度为w像素、高度为h像素的编码块。例如，可以在解码器处从码流接收指示具有所述宽度和所述高度的编码块的语法元素。
[0189]
在(s2730)处，将所述编码块划分为spu。例如，可以将k
×
k个样本(或像素)的vpdu大小，预先配置给解码器。基于该vpdu大小和所述编码块的大小，可以确定spu的大小。例如，spu的宽度可以是w像素或k像素二者中的较小者，spu的高度可以是h像素或k像素二者
中的较小者。相应地，可以将编码块划分为spu，每个spu具有所述确定的宽度和高度。
[0190]
在(s2740)处，将每个spu划分为子tu，每个子tu的最大允许tu大小为m。
[0191]
在(s2750)处，按照spu处理顺序，处理spu的子tu。例如，可以预定spu处理顺序，以例如通过多级流水线来处理spu。在每个spu内，可以按照预定的顺序处理子tu。可替换地，用于处理spu或子tu的顺序可以是可控制的，并且是从解码器发信号通知的。
[0192]
例如，按照spu处理顺序和每个spu内的子tu处理顺序，可以通过一系列解码操作(例如，变换系数熵解码、逆量化、逆变换等)来获得每个子tu的残差信号。在一示例中，可以逐个spu地组合残差信号并将其输入到多级流水线。该方法可以进行到(s2799)并在(s2799)处终止。
[0193]
iv.计算机系统
[0194]
上文所描述的技术可使用计算机可读指令实施为计算机软件且以物理方式存储在一个或多个计算机可读存储介质中。举例来说，图28示出适于实施所公开主题的某些实施例的计算机系统(2800)。
[0195]
所述计算机软件可使用任何合适的机器代码或计算机语言来编码，所述机器代码或计算机语言可经受汇编、编译、链接或类似机制以创建包括指令的代码，所述指令可直接或通过解译、微码执行等而由一个或多个计算机中央处理单元(central processing unit，cpu)、图形处理单元(graphics processing unit，gpu)等执行。
[0196]
可在各种类型的计算机或计算机组件上执行所述指令，所述计算机或计算机组件包括例如个人计算机、平板电脑、服务器、智能电话、游戏装置、物联网装置等。
[0197]
图28中所示的用于计算机系统(2800)的组件在本质上是示范性的，并非旨在暗示关于实施本技术实施例的计算机软件的使用或功能的范围的任何限制。也不应将组件的配置解释为对计算机系统(2800)的示范性实施例中所示的组件中的任一个组件或组件组合有任何依赖或需求。
[0198]
计算机系统(2800)可包括某些人机接口输入装置。此类人机接口输入装置可响应于一个或多个人类用户通过例如触觉输入(例如：按键、滑动、数据手套移动)、音频输入(例如：语音、拍击)、视觉输入(例如：手势)、嗅觉输入(未描绘)进行的输入。人机接口装置还可用于捕获未必与人的有意识输入直接相关的某些媒体，例如音频(例如：话语、音乐、环境声)、图像(例如：扫描图像、从静态图像相机获得的摄影图像)、视频(例如二维视频、包括立体视频的三维视频)。
[0199]
输入人机接口装置可包括以下一个或多个(每种仅描绘一个)：键盘(2801)、鼠标(2802)、轨迹垫(2803)、触摸屏(2810)、数据手套(未示出)、操纵杆(2805)、麦克风(2806)、扫描仪(2807)、相机(2808)。
[0200]
计算机系统(2800)还可包括某些人机接口输出装置。此类人机接口输出装置可通过例如触觉输出、声音、光和气味/味道刺激一个或多个人类用户的感觉。此类人机接口输出装置可包括触觉输出装置(例如触摸屏(2810)、数据手套(未示出)或操纵杆(2805)的触觉反馈，但还可存在不充当输入装置的触觉反馈装置)、音频输出装置(例如：扬声器(2809)、头戴式耳机(未描绘))、视觉输出装置(例如屏幕(2810)，包括crt屏幕、lcd屏幕、等离子体屏幕、oled屏幕，各自具有或不具有触摸屏输入能力，各自具有或不具有触觉反馈能力
‑‑
其中的一些能够通过例如立体平画输出的方式输出二维视觉输出或大于三维的输出；
虚拟现实眼镜(未描绘)、全息显示器和烟雾箱(未描绘))，以及打印机(未描绘)。
[0201]
计算机系统(2800)还可包括人类可访问的存储装置和存储装置的相关联介质，例如光学介质，包括具有cd/dvd等介质(2821)的cd/dvd rom/rw(2820)、拇指驱动器(2822)、可移动硬盘驱动器或固态驱动器(2823)、磁带和软盘(未描绘)等旧版磁性媒体、基于rom/asic/pld的专用装置，例如安全保护装置(未描绘)，等等。
[0202]
所属领域的技术人员还应理解，结合当前公开的主题使用的术语“计算机可读介质”并未涵盖传输介质、载波或其它瞬时信号。
[0203]
计算机系统(2800)还可包括到一个或多个通信网络的接口。网络可例如是无线的、有线的、光学的。网络还可以是本地的、广域的、城域的、车载和工业的、实时的、容忍延迟的等等。网络的实例包括例如以太网、无线lan的局域网、包括gsm、3g、4g、5g、lte等的蜂窝网络、包括有线tv、卫星tv和地面广播tv的tv有线或无线广域数字网络、包括can总线的车载网络和工业网络等。某些网络通常需要附接到某些通用数据端口或外围总线(2849)(例如，计算机系统(2800)的usb端口)的外部网络接口适配器；其它网络通常通过附接到如下文所描述的系统总线而集成到计算机系统(2800)的核心中(例如通过以太网接口集成到pc计算机系统中，或通过蜂窝网络接口集成到智能电话计算机系统中)。通过使用这些网络中的任一网络，计算机系统(2800)可与其它实体通信。此类通信可以是仅单向接收(例如广播tv)、仅单向发送(例如连到某些can总线装置的can总线)或是双向的，例如使用局域数字网络或广域数字网络连接到其它计算机系统。可在如上文所描述的那些网络和网络接口中的每一个上使用某些协议和协议栈。
[0204]
上述人机接口装置、人类可访问存储装置和网络接口可附接到计算机系统(2800)的核心(2840)。
[0205]
核心(2840)可包括一个或多个中央处理单元(cpu)(2841)、图形处理单元(gpu)(2842)、现场可编程门区域(field programmable gate areas，fpga)形式的专用可编程处理单元(2843)、用于某些任务的硬件加速器(2844)等等。这些装置连同只读存储器(read-only memory，rom)(2845)、随机存取存储器(2846)、例如内部非用户可访问的硬盘驱动器、ssd等内部大容量存储装置(2847)可通过系统总线(2848)连接。在一些计算机系统中，系统总线(2848)可通过一个或多个物理插头形式访问以实现通过额外cpu、gpu等来扩展。外围装置可直接或通过外围总线(2849)附接到核心的系统总线(2848)。用于外围总线的架构包括pci、usb等等。
[0206]
cpu(2841)、gpu(2842)、fpga(2843)和加速器(2844)可执行某些指令，所述指令组合起来可构成上述计算机代码。计算机代码可存储在rom(2845)或ram(2846)中。过渡数据也可存储在ram(2846)中，而永久性数据可例如存储在内部大容量存储装置(2847)中。可通过使用高速缓冲存储器来实现对任一存储器装置的快速存储和检索，所述高速缓冲存储器可与一个或多个cpu(2841)、gpu(2842)、大容量存储装置(2847)、rom(2845)、ram(2846)等紧密关联。
[0207]
计算机可读介质上可具有用于执行各种计算机实施的操作的计算机代码。所述介质和计算机代码可以是专为本技术的目的设计和构建的介质和计算机代码，或可属于计算机软件领域中的技术人员众所周知且可用的种类。
[0208]
举例来说但不作为限制，具有架构(2800)且尤其是核心(2840)的计算机系统可提
供因处理器(包括cpu、gpu、fpga、加速器等)执行以一个或多个有形计算机可读介质体现的软件而产生的功能。此类计算机可读介质可以是与上文所介绍的用户可访问大容量存储装置以及核心(2840)的非暂时性质的某些存储装置(例如核心内部大容量存储装置(2847)或rom(2845))相关联的介质。实施本技术的各种实施例的软件可存储在此类装置中且由核心(2840)执行。根据特定需求，计算机可读介质可包括一个或多个存储器装置或芯片。软件可使核心(2840)且具体地说使其中的处理器(包括cpu、gpu、fpga等等)执行本文中所描述的特定过程或特定过程的特定部分，包括限定存储在ram(2846)中的数据结构以及根据由软件限定的过程修改此类数据结构。另外或作为替代方案，计算机系统可提供由硬连线的或以其它方式体现于电路(例如：加速器(2844))中的逻辑所产生的功能，所述逻辑可代替或连同软件一起操作以执行本文描述的特定过程或特定过程的特定部分。适当时，对软件的引用可涵盖逻辑，且反之亦然。适当时，对计算机可读介质的引用可涵盖存储用于执行的软件的电路(例如集成电路(ic))、体现用于执行的逻辑的电路或这两种电路。本技术涵盖硬件与软件的任何合适的组合。
[0209]
附录a：缩略词
[0210]
asic:application-specific integrated circuit，专用集成电路
[0211]
bms:benchmark set，基准集合
[0212]
canbus:controller area network bus，控制器局域网络总线
[0213]
cbf:coded block flag，编码块标志
[0214]
cd:compact disc，光盘
[0215]
cpus:central processing units，中央处理单元
[0216]
crt:cathode ray tube，阴极射线管
[0217]
ctbs:coding tree blocks，编码树块
[0218]
ctus:coding tree units，编码树单元
[0219]
cu:coding unit，编码单元
[0220]
dvd:digital video disc，数字视频光盘
[0221]
fpga:field programmable gate areas，现场可编程门阵列
[0222]
gops:groups of pictures，图片群组
[0223]
gpus:graphics processing units，图形处理单元
[0224]
gsm:global system for mobile communications，全球移动通信系统
[0225]
hevc:high efficiency video coding，高效视频编码
[0226]
hrd:hypothetical reference decoder，假想参考解码器
[0227]
isp:intra sub-partitions，帧内子分区
[0228]
ic:integrated circuit，集成电路
[0229]
jem:joint exploration model，联合开发模型
[0230]
lan:local area network，局域网
[0231]
lcd:liquid-crystal display，液晶显示器
[0232]
lte:long-term evolution，长期演进
[0233]
mpm:most probable mode，最可能模式
[0234]
mv:motion vector，运动矢量
[0235]
oled:organic light-emitting diode，有机发光二极管
[0236]
pbs:prediction blocks，预测块
[0237]
pci:peripheral component interconnect，外围设备互连
[0238]
pld:programmable logic device，可编程逻辑设备
[0239]
pus:prediction units，预测单元
[0240]
ram:random access memory，随机存取存储器
[0241]
rom:read-only memory，只读存储器
[0242]
sbt:sub-block transform，子块变换
[0243]
sei:supplementary enhancement information，辅助增强信息
[0244]
snr:signal noise ratio，信噪比
[0245]
ssd:solid-state drive，固态驱动器
[0246]
tus:transform units，变换单元
[0247]
usb:universal serial bus，通用串行总线
[0248]
vpdu:virtual pipeline data unit，虚拟流水线数据单元
[0249]
vui:video usability information，视频可用性信息
[0250]
vvc:versatile video coding，多功能视频编码
[0251]
尽管本技术描述了若干示范性实施例，但在本技术的范围内，可以有各种改动、排列组合方式以及各种替代等同物。因此，应该理解，在申请的精神和范围内，本领域技术人员能够设计出各种虽未在本文明确示出或描述、但可以体现本技术的原理的系统和方法。