视频译码中的子图像布局指示的制作方法

视频译码中的子图像布局指示
1.本技术是分案申请，原申请的申请号是202080008695.1，原申请日是2020年1月9日，原申请的全部内容通过引用结合在本技术中。
技术领域
2.本发明大体上涉及视频译码，具体涉及视频译码中的子图像管理。


背景技术：

3.即使在视频较短的情况下也需要对大量视频数据进行描述，当数据要在带宽容量有限的通信网络中发送或以其它方式传输时，这样可能会造成困难。因此，视频数据通常要先压缩，然后在现代电信网络中发送。由于内存资源可能有限，当在存储设备上存储视频时，视频的尺寸也可能成为问题。视频压缩设备通常在源侧使用软件和/或硬件，以发送或存储之前对视频数据进行编码，从而减少用来表示数字视频图像所需的数据量。然后，压缩的数据在目的地侧由解码视频数据的视频解压缩设备接收。在有限的网络资源以及对更高视频质量的需求不断增长的情况下，需要改进压缩和解压缩技术，这些改进的技术能够在几乎不影响图像质量的情况下提高压缩比。


技术实现要素：

4.在一个实施例中，本发明包括在解码器中实现的方法，所述方法包括：所述解码器的接收器接收码流，所述码流包括从图像分割的子图像和序列参数集(sequenceparameterset，sps)，所述序列参数集包括所述子图像的子图像尺寸和子图像位置；所述解码器的处理器解析所述sps，获取所述子图像尺寸和所述子图像位置；所述处理器根据所述子图像尺寸和所述子图像位置对所述子图像进行解码，以创建视频序列；所述处理器发送用于显示的所述视频序列。一些系统在图像参数集(pictureparameterset，pps)中包括分块信息和子图像信息，因为分块和子图像比图像小。然而，子图像可用于支持感兴趣区域(regionofinterest，roi)应用和基于子图像的接入方案。这些应用不会根据每个图像发生改变。所公开的示例包括sps而不是pps中子图像的布局信息。子图像布局信息包括子图像位置和子图像尺寸。子图像位置是子图像左上样本与图像左上样本之间的偏移。子图像尺寸是以亮度样本为单位测量的子图像的高度和宽度。视频序列可以包括单个sps(或每个视频片段一个sps)，并且可以包括每个图像最多一个pps。在sps中包括子图像布局信息可以确保只针对序列/分段指示一次布局，而不是针对每个pps都指示。相应地，在sps中指示子图像布局提高了译码效率，因此降低了在编码器和解码器侧的网络资源利用率、内存资源利用率、和/或处理资源利用率。此外，一些系统具有由解码器推导的子图像信息。指示子图像信息丢失报文时出错的可能性，并且支持提取子图像的其它功能。因此，在sps中指示子图像布局提高了编码器和/或解码器的功能。
5.可选地，在上述任一方面中，在所述方面的另一种实现方式中，所述子图像是时间运动约束子图像，其中，所述子图像尺寸和所述子图像位置表示所述时间运动约束子图像
的布局。
6.可选地，在上述任一方面中，在所述方面的另一种实现方式中，所述方法还包括：所述处理器根据所述子图像尺寸确定所述子图像相对于显示区域(display)的尺寸。
7.可选地，在上述任一方面中，在所述方面的另一种实现方式中，所述方法还包括：所述处理器根据所述子图像位置确定所述子图像相对于所述显示区域(display)的位置。
8.可选地，在上述任一方面中，在所述方面的另一种实现方式中，所述子图像位置包括所述子图像的左上样本与所述图像的左上样本之间的偏移距离。
9.可选地，在上述任一方面中，在所述方面的另一种实现方式中，所述子图像尺寸包括以亮度样本为单位的子图像高度和以亮度样本为单位的子图像宽度。
10.可选地，在上述任一方面中，在所述方面的另一种实现方式中，所述sps还包括从所述图像分割的每个子图像的子图像标识符(identifier，id)。
11.在一个实施例中，本发明包括一种在编码器中实现的方法，所述方法包括：所述编码器的处理器将图像分割的子图像编码到码流中；所述处理器将所述子图像的子图像尺寸和子图像位置编码到所述码流中的序列参数集(sequenceparameterset，sps)中；在所述编码器的存储器中存储所述码流，所述码流用于发送到解码器。一些系统在图像参数集(pictureparameterset，pps)中包括分块信息和子图像信息，因为分块和子图像比图像小。然而，子图像可用于支持感兴趣区域(regionofinterest，roi)应用和基于子图像的接入方案。这些应用不会根据每个图像发生改变。所公开的示例包括sps而不是pps中子图像的布局信息。子图像布局信息包括子图像位置和子图像尺寸。子图像位置是子图像左上样本与图像左上样本之间的偏移。子图像尺寸是以亮度样本为单位测量的子图像的高度和宽度。视频序列可以包括单个sps(或每个视频片段一个sps)，并且可以包括每个图像最多一个pps。在sps中包括子图像的布局信息可以确保只针对序列/分段指示一次布局，而不是针对每个pps都指示。相应地，在sps中指示子图像布局提高了译码效率，因此降低了在编码器和解码器侧的网络资源利用率、内存资源利用率、和/或处理资源利用率。此外，一些系统具有由解码器推导的子图像信息。指示子图像信息丢失报文时出错的可能性，并且支持提取子图像的其它功能。因此，在sps中指示子图像布局提高了编码器和/或解码器的功能。
12.可选地，在上述任一方面中，在所述方面的另一种实现方式中，所述方法还包括：所述处理器对所述sps中的标志进行编码，以表示所述子图像是时间运动约束子图像。
13.可选地，在上述任一方面中，在所述方面的另一种实现方式中，所述子图像尺寸和所述子图像位置表示时间运动约束子图像的布局。
14.可选地，在上述任一方面中，在所述方面的另一种实现方式中，所述子图像位置包括所述子图像的左上样本与所述图像的左上样本之间的偏移距离。
15.可选地，在上述任一方面中，在所述方面的另一种实现方式中，所述子图像尺寸包括以亮度样本为单位的子图像高度和以亮度样本为单位的子图像宽度。
16.可选地，在上述任一方面中，在所述方面的另一种实现方式中，所述方法还包括：所述处理器将从所述图像分割的每个子图像的子图像id编码到sps中。
17.可选地，在上述任一方面中，在所述方面的另一种实现方式中，所述方法还包括：所述处理器将从所述图像分割的子图像的数量编码到sps中。
18.在一个实施例中，本发明包括一种视频译码设备。所述视频译码设备包括：处理
器、存储器、与所述处理器耦合的接收器和发送器，其中，所述处理器、存储器、接收器和发送器用于执行根据任一上述方面所述的方法。
19.在一个实施例中，本发明包括一种非瞬时性计算机可读介质。所述非瞬时性计算机可读介质包括视频译码设备使用的计算机程序产品；所述计算机程序产品包括存储在所述非瞬时性计算机可读介质中的计算机可执行指令；在处理器执行所述计算机可执行指令时，使得所述视频译码设备执行根据任一上述方面所述的方法。
20.在一个实施例中，本发明包括一种解码器。所述解码器包括：接收模块，用于接收码流，所述码流包括从图像分割的子图像和sps，所述序列参数集包括所述子图像的子图像尺寸和子图像位置；解析模块，用于解析所述sps，获取所述子图像尺寸和所述子图像位置；解码模块，用于根据所述子图像尺寸和所述子图像位置对所述子图像进行解码，以创建视频序列；发送模块，用于发送用于显示的所述视频序列。
21.可选地，在上述任一方面中，在所述方面的另一种实现方式中，所述解码器还用于执行根据任一上述方面所述的方法。
22.在一个实施例中，本发明包括一种编码器。所述编码器包括：编码模块，用于：将图像分割的子图像编码到码流中；将所述子图像的子图像尺寸和子图像位置编码到所述码流中的sps中；存储模块，用于存储所述码流，所述码流用于发送到解码器。
23.可选地，在上述任一方面中，所述方面的另一种实现方式提供，所述编码器还用于执行根据上述任一方面所述的方法。
24.为了清楚起见，上述任一实施例可以与上述任一其它实施例组合以创建本发明范围内的新实施例。
25.从结合附图和权利要求书的以下详细描述中，将更清楚地理解这些和其它特征。
附图说明
26.为了更完整地理解本发明，参考以下结合附图和详细描述而进行的简要描述，其中，相同的附图标记表示相同的部分。
27.图1为对视频信号进行译码的示例性方法的流程图。
28.图2为用于视频译码的示例性编码和解码(codec)系统的示意图。
29.图3为示例性视频编码器的示意图。
30.图4为示例性视频解码器的示意图。
31.图5为从码流提取的示例性码流和子码流的示意图。
32.图6为分割成子图像的示例性图像的示意图。
33.图7为用于将条带与子图像布局关联的示例性机制的示意图。
34.图8为分割成子图像的另一示例性图像的示意图。
35.图9为一种示例性视频译码设备的示意图。
36.图10为对图像码流中的子图像布局进行编码以支持子图像提取的示例性方法的流程图。
37.图11为一种根据指示的子图像布局解码子图像码流的示例性方法的流程图。
38.图12为用于通过码流指示子图像布局的示例性系统的示意图。
具体实施方式
39.首先应理解，尽管下文提供了一个或多个实施例的说明性实现方式，但所公开的系统和/或方法可以使用任何数量的技术来实现，无论该技术是当前已知的技术还是现有的技术。本发明不应限于下文所说明的说明性实现方式、附图和技术，包括本文所说明和描述的示例性设计和实现方式，而是可在所附权利要求书的范围以及其等效部分的完整范围内修改。
40.本文采用各种缩略语，例如：编码树块(codingtreeblock，ctb)，编码树单元(codingtreeunit，ctu)、编码单元(codingunit，cu)、编码视频序列(codedvideosequence，cvs)、联合视频专家组(jointvideoexpertsteam，jvet)、运动约束分块集(motionconstrainedtileset，mcts)、最大传输单元(maximumtransferunit，mtu)、网络抽象层(networkabstractionlayer，nal)、图像顺序编号(pictureordercount，poc)、原始字节序列载荷(rawbytesequencepayload，rbsp)、序列参数集(sequenceparameterset，sps)、通用视频编码(versatilevideocoding，vvc)、工作草案(workingdraft，wd)。
41.许多视频压缩技术可以用来减小视频文件的尺寸，同时尽量减少数据丢失。例如，视频压缩技术可以包括执行空间(例如帧内)预测和/或时间(例如帧间)预测以减少或去除视频序列中的数据冗余。对于基于块的视频译码，可以将视频条带(slice)(例如视频图像或视频图像的一部分)分割成视频块，视频块也可以称为树块、编码树块(codingtreeblock，ctb)、编码树单元(codingtreeunit，ctu)、编码单元(codingunit，cu)和/或编码节点。图像的帧内编码(i)条带中的视频块针对同一图像中相邻块中的参考样本(sample)、使用空间预测进行编码。图像的帧间单向预测(p)条带或双向预测(b)条带中的视频块可以针对同一图像中相邻块中的参考样本使用空间预测，或者针对其它参考图像中的参考样本使用时间预测。图像(picture/image)可以称为帧(frame)，参考图像可以称为参考帧。空间或时间预测产生表示图像块的预测块。残差数据表示原始图像块与预测块之间的像素差。因此，根据指向构成预测块的参考样本的块的运动矢量和表示经编码块与预测块之间的差的残差数据，对帧间编码的块进行编码。根据帧内编码模式和残差数据对经帧内编码块进行编码。为了进一步压缩，残差数据可以从像素域变换到变换域，从而产生残差变换系数，该残差变换系数可以量化。量化变换系数最初以二维阵列排列。可以扫描量化变换系数，以产生变换系数的一维矢量。可以应用熵编码以实现进一步压缩。下面详细描述这种视频压缩技术。
42.为了确保经编码视频能够正确解码，视频根据对应的视频编码标准进行编码和解码。视频编码标准包括国际电联电信标准化部门(internationaltelecommunicationunion(itu)standardizationsector，itu-t)h.261、国际标准化组织/国际电工委员会(internationalorganizationforstandardization/internationalelectrotechnicalcommission，iso/iec)运动图像专家组(motionpictureexpertsgroup，mpeg)-1第2部分、itu-th.262或iso/iecmpeg-2第2部分、itu-th.263、iso/iecmpeg-4第2部分、高级视频编码(advancedvideocoding，avc)，也称为itu-th.264或iso/iecmpeg-4第10部分、以及高效视频编码(highefficiencyvideocoding，hevc)，也称为itu-th.265或mpeg-h第2部分。avc包括可分级视频编码(scalablevideocoding，svc)、多视点视频编码(multiviewvideocoding，mvc)和多视点视频编码加深度
(multiviewvideocodingplusdepth，mvc d)以及三维(threedimensional，3d)avc(3d-avc)等扩展版。hevc包括可分级hevc(scalablehevc，shvc)、多视点hevc(multiviewhevc，mv-hevc)和3dhevc(3d-hevc)等扩展版。itu-t和iso/iec的联合视频专家组(jointvideoexpertsteam，jvet)已着手开发一种称为通用视频编码(versatilevideocoding，vvc)的视频编码标准。vvc包括在工作草案(workingdraft，wd)中，该wd包括jvet-l1001-v7。
43.为了对视频图像进行编码，首先对该图像进行分割，然后将得到的各分割部分编码在码流中。存在各种图像分割方案。例如，一个图像可以分割成常规条带(slice)、非独立条带、分块(tile)，和/或根据波前并行处理(wavefrontparallelprocessing，wpp)进行分割。为了简单起见，hevc限制了编码器，使得在将条带分割为用于视频译码的ctb组时，只能使用常规条带、非独立条带、分块、wpp及其组合。这种分割可以用于支持最大传输单元(maximumtransferunit，mtu)尺寸匹配、并行处理和减少端到端时延。mtu表示单个报文中能够发送的最大数据量。如果报文有效载荷超过mtu，则通过称为分割的过程将该载荷分划为两个报文。
44.常规条带还简称为条带，是分割图像后得到的部分，可以独立于同一个图像内的其它常规条带重建，但是由于存在环路滤波操作，所以还是存在相互依赖性。每个常规条带被封装在自己的网络抽象层(networkabstractionlayer，nal)单元中进行发送。进一步地，可以不使能帧内预测(帧内样本预测、运动信息预测、编码模式预测)和跨条带边界的熵编码的依赖，以支持独立重建。这种独立重建支持并行化操作。例如，基于常规条带的并行化减少了处理器间或核间通信。但是，由于每个常规条带是独立的，因此每个条带都与单独的条带头相关。由于每个条带的条带头的位成本，以及由于缺乏跨条带边界的预测，使用常规条带会造成大的译码开销。此外，可以采用常规条带来支持mtu尺寸匹配需求。具体地，由于常规条带封装在单独的nal单元中，并且可以独立译码，所以每个常规条带应小于mtu方案中的mtu，以避免将条带分成多个报文。因此，为了实现并行化和mtu尺寸匹配，图像中的条带布局会互相矛盾。
45.非独立条带与常规条带类似，但非独立条带具有缩短的条带头，并且允许在不影响帧内预测的情况下对图像树块边界进行分割。因此，非独立条带将常规条带分割为多个nal单元，这通过在整个常规条带的编码完成之前发送常规条带的一部分，降低端到端时延。
46.分块是图像中由水平和垂直边界划分的分割部分，这些边界形成了分块的列和行。分块可以按光栅扫描顺序(从右到左，从上到下)进行译码。ctb的扫描顺序在分块内部进行。因此，在进行到下一个分块中的ctb之前，第一分块中的ctb按照光栅扫描顺序进行译码。与常规条带类似，分块消除了对帧内预测以及对熵解码的依赖。但是，各个nal单元中可以不包括分块，因此，分块可以不用于mtu尺寸匹配。每个分块可以由一个处理器/核处理，用于解码相邻分块的处理单元之间的帧内预测的处理器间/核间通信可以限制用于(当相邻分块在同一条带中时)发送共享的条带头，和执行与环路滤波相关的重建样本和元数据的共享。当条带中包括多个分块时，可以在条带头中指示除条带中的第一入口点偏移之外的每个分块的入口点字节偏移。对于每个条带和分块，应至少满足以下一个条件：(1)条带中的所有经编码树块属于同一个分块；(2)条带中的所有经编码树块属于同一个条带。
47.在wpp中，将图像分割为单行ctb。熵解码和预测机制可以使用来自其它行中的ctb的数据。通过对ctb行进行并行解码，支持并行处理。例如，当前行可以与前一行并行解码。但是，对当前行的解码会比前几行的解码过程两个ctb。该延迟确保在对当前ctb进行译码前，与上述ctb和当前行中当前ctb右侧相关的数据可用。当用图形表示时，这种方法表现为波前。如果图像包含ctb行，这种交错启动支持尽可能多的处理器/核进行并行处理。由于可以在图像内相邻树块行之间进行帧内预测，因此使用处理器间/核间通信来实现帧内预测非常重要。wpp分割不考虑nal单元尺寸。因此，wpp不支持mtu尺寸匹配。但是，常规条带可以与wpp结合使用，以根据需要实现mtu尺寸匹配，这需要一定的译码开销。
48.分块也可以包括运动约束分块集。运动约束分块集(motionconstrainedtileset，mcts)是一种分块集，使得相关的运动矢量被限制为指向mcts内部的整像素位置和仅需要mcts内部的整像素位置进行插值的分数像素位置。此外，不允许将运动矢量候选用于从mcts外部的块推导的时间运动矢量预测。这样，在mcts中不包括分块的情况下，每个mcts可以独立解码。时间mcts补充增强信息(supplementalenhancementinformation，sei)消息可以用于表示码流中存在mcts并指示(signal)mcts。该mctssei消息提供补充信息，该补充信息可以用于mcts子码流提取(该补充信息表示为sei消息语义的一部分)，以生成mcts集的一致性码流。该信息包括多个提取信息集，每个提取信息集定义多个mcts，并且包括在mcts子码流提取过程所使用的替换视频参数集(videoparameterset，vps)、序列参数集(sequenceparameterset，sps)和图像参数集(pictureparameterset，pps)的原始字节序列载荷(rawbytessequencepayload，rbsp)字节。因为一个或所有条带地址相关的语法元素(包括first_slice_segment_in_pic_flag和slice_segment_address)可以在提取的子码流中采用不同的值，所以在按照mcts子码流提取过程提取子码流时，可以重写或替换参数集合(vps、sps、pps)，并更新条带头。
49.也可以将图像分割为一个或多个子图像。子图像是矩形分块组集/条带集，以分块组开头，分块组的tile_group_address等于0。每个子图像可以参考单独的pps，因此可以具有单独的分块分割方式。在解码过程中，可以像处理图像一样处理子图像。用于解码当前子图像的参考子图像是通过从解码图像缓冲器中的参考图像中提取与当前子图像并置的区域而生成的。提取的区域视为解码子图像。帧间预测发生在图像中尺寸相同和位置相同的子图像之间。分块组，也称为条带，是图像或子图像中相关分块的序列。可以推导若干项来确定子图像在图像中的位置。例如，每个当前子图像可以按照ctu光栅扫描顺序在图像中的下一个未占用位置，该位置足够大以包括图像边界内的当前子图像。
50.此外，图像分割可以基于图像级分块和序列级分块。序列级分块可以包括mcts的功能，并且可以实现为子图像。例如，图像级分块可以定义为图像中的特定分块列和特定分块行内的编码树块的矩形区域。序列级分块可以定义为包括在不同帧中的编码树块的矩形区域集合，其中每个矩形区域又包括一个或多个图像级分块，并且编码树块的矩形区域集合可独立于任何其它类似的矩形区域集合进行解码。序列级分块组集(sequenceleveltilegroupset，stgps)是一组此类序列级分块。stgps可以在非视频编码层(videocodinglayer，vcl)nal单元中用nal单元头中的关联标识(identifier，id)进行指示。
51.上述基于子图像的分割方案可能与某些问题相关。例如，当采用子图像时，可以在
子图像内进行分块(将子图像分割成分块)来支持并行处理。用于并行处理的子图像的分块分割方式可以随着图像的改变而改变(例如用于并行处理、负载均衡)，因此可以在图像级别(例如在pps中)进行管理。但是，可以使用子图像分割(将图像分割为子图像)来支持感兴趣区域(regionofinterest，roi)和基于子图像的图像访问。在这种情况下，pps中子图像或mcts的指示效率。
52.在另一示例中，当图像中的任意一个子图像译码为时间运动约束子图像时，图像中的所有子图像都可以译码为时间运动约束子图像。这种图像分割可能是限制性的。例如，将子图像译码为时间运动约束子图像可能会降低译码效率，以换取附加功能。但是，在基于感兴趣区域的应用中，通常只有一个或几个子图像为基于时间运动约束子图像。因此，在实际上没有提供任何好处的情况下降低了其余的子图像的译码效率。
53.在另一示例中，用于表示子图像的尺寸的语法元素可以以亮度ctu尺寸为单位进行表示。因此，子图像的宽度和高度都应该是ctbsizey的整数倍。这种表示子图像宽度和高度的机制可能导致各种问题。例如，子图像分割只适用于图像宽度和/或图像高度是ctbsizey的整数倍的图像。这使子图像分割不可用于包括的尺寸不是ctbsizey的整数倍的图像。如果在图像尺寸不是ctbsizey的整数倍时对图像宽度和/或高度进行了子图像分割，则对于最右方的子图像和最下方的子图像，以亮度样本为单位的子图像宽度和/或子图像高度的推导是错误的。这种错误的推导会导致一些译码工具产生错误的结果。
54.在另一示例中，可以不指示子图像在图像中的位置。相反，使用以下规则推导位置。当前子图像按照ctu光栅扫描顺序在图像中的下一个此类未占用位置，该位置足够大以包括图像边界内的子图像。在一些情况下，以这种方式推导子图像位置可能会导致错误。例如，如果一个子图像在中丢失，则将错误地推导其它子图像的位置，并且会将解码样本放置在错误的位置。当子图像按错误顺序到达时，会出现同样的问题。
55.在另一示例中，解码子图像提取参考图像中的并置子图像。这可能会增加处理器的复杂性和负载以及内存资源利用率。
56.在另一示例中，当将子图像指定为时间运动约束子图像时，禁用遍历子图像边界的环路滤波器。无论是否启用了遍历分块边界的环路滤波器，都会发生这种情况。这种约束可能过于限制，并且可能导致使用多个子图像的视频图像的视觉伪影。
57.在另一示例中，sps、stgps、pps和分块组头之间的关系如下：stgps参考sps，pps参考stgps，分块组头/条带头参考pps。但是，stgps和pps应该是数据独立的，而不是pps参考stgps。上述设置也可以不允许相同图像的所有分块组参考相同的pps。
58.在另一示例中，每个stgps可以包括子图像的四个边的id。此类id用于识别共用同一边界的子图像，以便可以定义它们的相对空间关系。然而，在一些情况下，此类信息可能不足以推导序列级分块组集合的位置和尺寸信息。在其它情况下，指示位置和尺寸信息可能是冗余的。
59.在另一示例中，stgpsid可以使用8个位在vclnal单元的nal单元头中指示。这有助于子图像提取。这种指示可能会不必要地增加nal单元头的长度。另一问题是，除非对序列级分块组集进行约束以防止重叠，否则一个分块组可以与多个序列级分块组集相关。
60.本文公开了用于解决上述问题中的一个或多个的各种机制。在第一示例中，子图像的布局信息包括在sps中而不是pps中。子图像布局信息包括子图像位置和子图像尺寸。
子图像位置是子图像左上样本与图像左上样本之间的偏移。子图像尺寸是以亮度样本为单位测量的子图像的高度和宽度。由于分块可能随着图像的改变而改变，一些系统在pps中包括分块方式信息。但是，子图像可以用于支持roi应用和基于子图像的访问。这些功能不会在每个图像的基础上改变。此外，视频序列可以包括单个sps(或每个视频分段一个sps)，并且可以包括每个图像最多一个pps。在sps中包括子图像的布局信息可以确保只针对序列/分段指示一次布局，而不是针对每个pps都指示。相应地，在sps中指示子图像布局提高了译码效率，因此降低了在编码器和解码器侧的网络资源利用率、内存资源利用率、和/或处理资源利用率。此外，一些系统具有由解码器推导的子图像信息。指示子图像信息丢失报文时出错的可能性，并且支持提取子图像的其它功能。因此，在sps中指示子图像布局提高了编码器和/或解码器的功能。
61.在第二示例中，将子图像宽度和子图像高度约束为ctu尺寸的倍数。但是，当子图像分别位于图像的右边界或图像的下边界时，去除这些约束。如上所述，一些视频系统可以将子图像包括的高度和宽度限制为ctu尺寸的倍数。这子图像在多个图像布局中操作。通过分别允许下子图像和右子图像包括的高度和宽度不是ctu尺寸的倍数，子图像可以与任何图像一起使用而不会导致解码错误。这增强了编码器和解码器的功能。此外，增强的功能使得编码器更高效地译码图像，这降低了编码器和解码器的网络资源利用率、内存资源利用率和/或处理资源利用率。
62.在第三示例中，将子图像约束为覆盖没有间隙或重叠的图像。如上所述，一些视频译码系统允许子图像形成间隙和重叠。这样可以将分块组/条带与多个子图像关联。如果编码器允许这样处理，即使解码方案很少使用，也必须构建解码器来支持这样的编码方案。通过不允许子图像间隙和重叠，可以降低解码器的复杂性，因为在确定子图像尺寸和位置时不需要解码器考虑潜在的间隙和重叠。此外，不允许子图像间隙和重叠降低了编码器中的率失真优化(ratedistortionoptimization，rdo)过程的复杂性，因为编码器在为视频序列选择编码时可以忽略考虑间隙和重叠情况。因此，避免间隙和重叠可以降低编码器和解码器的内存资源利用率和/或处理资源利用率。
63.在第四示例中，可以在sps中指示一个标志，以表示子图像何时是时间运动约束子图像。如上所述，一些系统可以将所有子图像都设置为时间运动约束子图像或完全不允许使用时间运动约束子图像。此类时间运动约束子图像以降低译码效率为代价提供了独立提取功能。然而，在基于感兴趣区域的应用中，应该对感兴趣区域进行编码以进行独立提取，而感兴趣区域之外的区域不需要采用这种功能。因此，在实际上没有提供任何好处的情况下降低了其余的子图像的译码效率。相应地，所述标志允许提供独立提取功能的时间运动约束子图像和非运动约束子图像进行组合，以便在不需要独立提取时提高译码效率。因此，该标志增强了功能和/或提高了译码效率，这降低了编码器和解码器的网络资源利用率、内存资源利用率和/或处理资源利用率。
64.在第五示例中，在sps中指示完整的子图像id集，并且条带头包括子图像id，子图像id表示包括相应条带的子图像。如上所述，一些系统指示子图像相对于其它子图像的位置。如果子图像丢失或单独提取子图像，这会导致问题。通过用id指定每个子图像，在不参考其它子图像的情况下，可以对子图像进行定位并调整尺寸。这反过来支持纠错以及仅提取部分子图像并避免其它子图像的应用。sps中可以发送完整的所有子图像id的列表，同时
发送相应的尺寸信息。每个条带头可以包括子图像id，子图像id表示包括相应条带的子图像。这样，能够提取和定位子图像及其对应的条带，而无需参考其它子图像。因此，子图像id增强了功能和/或提高了译码效率，这降低了编码器和解码器的网络资源利用率、内存资源利用率和/或处理资源利用率。
65.在第六示例中，指示每个子图像的级别。在一些视频译码系统中，指示图像的级别。级别表示解码图像所需的硬件资源。如上所述，不同的子图像在一些情况下可能具有不同的功能，因此在译码过程中可以差别处理。因此，基于图像的级别可能不利于解码一些子图像。因此，本发明包括每个子图像的级别。这样，每个子图像可以独立于其它子图像进行译码，不会因为根据不复杂的机制对子图像设置过高的解码要求而使解码器的负载过重。指示的子图像级别信息增强了功能和/或提高了译码效率，这降低了编码器和解码器的网络资源利用率、内存资源利用率和/或处理资源利用率。
66.图1为对视频信号进行译码的示例性操作方法100的流程图。具体地，在编码器侧对视频信号进行编码。编码过程通过使用各种机制对视频信号进行压缩，以减小视频文件尺寸。较小的文件尺寸有利于在减少相关的带宽开销的同时，将压缩的视频文件发送给用户。然后，解码器对压缩的视频文件进行解码，以重建原始视频信号，向终端用户显示。解码过程通常与编码过程对应，便于解码器一致地重建视频信号。
67.步骤101：将视频信号输入编码器。例如，视频信号可以是存储在存储器中的未压缩的视频文件。在另一示例中，视频文件可以由视频捕获设备(例如视频摄像机)捕获，并进行编码以支持视频的直播。视频文件可以包括音频分量和视频分量。所述视频分量包括一系列图像帧，当按顺序观看时，这些图像帧会产生运动的视觉效果。这些帧包括根据光表示的像素(本文称为亮度分量(或亮度样本))和颜色(称为色度分量(或色度样本))。在一些示例中，这些帧还可以包括深度值以支持三维观看。
68.步骤103：将视频分割为块。分割包括将每个帧中的像素细分为用于压缩的方块和/或矩形块。例如，在高效视频编码(highefficiencyvideocoding，hevc)(也称为h.265和mpeg-h第2部分)中，可以首先将帧分为单元(codingtreeunit，ctu)，这些单元是预定义尺寸(例如64
×
64个像素)的块。ctu包括亮度样本和色度样本。可以使用编码树将ctu分成块，然后递归细分这些块，直到获得支持进一步编码的配置。例如，可以对帧的亮度分量进行细分，直到各个块包括相对均匀的亮度值。此外，可以对帧的色度分量进行细分，直到各个块包括相对均匀的颜色值。因此，分割机制根据视频帧的内容而不同。
69.步骤105：采用各种压缩机制来压缩在步骤103中分割的图像块。例如，可以使用帧间预测和/或帧内预测。帧间预测旨在利用共同场景中的对象往往出现在连续帧中这一事实。因此，无需在相邻帧中对参考帧中描绘对象的块进行重复描述。具体地，一个对象(如一张桌子)可以在多个帧中保持恒定的位置。因此，只描述一次桌子，相邻帧可以重新参考参考帧。可以采用模式匹配机制来匹配多个帧中的对象。此外，由于对象移动或摄像机移动等，移动对象可以通过多个帧表示。在特定示例中，视频可以通过多个帧显示在屏幕上移动的汽车。可以采用运动矢量描述这种移动。运动矢量是一个二维矢量，提供从帧中对象的坐标到参考帧中该对象的坐标的偏移。因此，帧间预测可以将当前帧中的图像块编码为运动矢量集合，表示相对于参考帧中对应块的偏移。
70.帧内预测对公共帧中的块进行编码。帧内预测利用亮度分量和色度分量往往在帧
中聚集这一事实。例如，一棵树的一部分中的一片绿色往往与几片类似的绿色相邻。帧内预测采用多种方向预测模式(例如hevc中的33种模式)、平面模式和直流(directcurrent，dc)模式。所述方向模式表示当前块与对应方向的邻块的样本相似/相同。平面模式表示可以基于行边缘处的邻块对行/列(例如平面)上的一系列块进行内插。实际上，平面模式通过采用变化值的相对恒定的斜率来表示光/颜色在行/列上的平滑转变。dc模式用于边界平滑，表示块和与所有邻块的样本相关联的平均值相似/相同，所述邻块与方向预测模式的角方向相关联。因此，帧内预测块可以将图像块表示为各种关系预测模式值而非实际值。帧间预测块可以将图像块表示为运动矢量值而非实际值。在任一种情况下，预测块在一些情况下可能无法准确地表示图像块。所有差值都存储在残差块中。可以对残差块进行变换以进一步压缩文件。
71.步骤107：可以应用各种滤波技术。在hevc中，根据环内滤波方案应用滤波器。上文描述的基于块的预测可能使得在解码器侧创建块状图像。此外，基于块的预测方案可以对块进行编码，然后重建编码块，以供以后用作参考块。所述环内滤波方案迭代地将噪声抑制滤波器、去块效应滤波器、自适应环路滤波器和样本自适应偏移(sampleadaptiveoffset，sao)滤波器应用于块/帧。这些滤波器缓解了此类块伪影，从而可以准确地重建编码文件。此外，这些滤波器缓解了重建参考块中的伪影，使得伪影不太可能在基于重建参考块编码的后续块中产生其它的伪影。
72.步骤109：一旦对视频信号进行了分割、压缩和滤波，则在码流中对所得数据进行编码。所述码流包括上述数据以及支持在解码器侧进行适当的视频信号重建所需要的指示数据。例如，此类数据可以包括分割数据、预测数据、残差块和向解码器提供编码指令的各种标志。所述码流可以存储在存储器中，以便在请求时向解码器发送。还可以向多个解码器广播和/或组播所述码流。创建码流是一个迭代过程。因此，步骤101、103、105、107和109可以在多个帧和块中连续和/或同时执行。图1所示的顺序是为了清楚和便于描述而呈现的，并非旨在将视频译码过程限制于特定顺序。
73.步骤111：所述解码器接收所述码流并开始解码过程。具体地，所述解码器采用熵解码方案将所述码流转换为对应的语法数据和视频数据。在步骤111中，所述解码器采用所述码流中的语法数据来确定帧的分割。分割应该与步骤103中的块分割结果匹配。这里描述了步骤111中采用的熵编码/解码。所述编码器在压缩过程中进行许多选择，例如根据一个或多个输入图像中值的空间定位从多个可能选择中选择块分割方案。指示确切的选择可能会使用大量的位元。本文中使用位元是被视为变量的二进制值(例如可能根据上下文变化的比特值)。熵编码允许编码器丢弃任何明显不适合特定情况的选项，从而留下一组可使用的选项。然后，为每个可使用的选项分配码字。码字的长度取决于可使用的选项的数量(例如一个位元对应两个选项，两个位元对应三个或四个选项等)。然后，所述编码器对所选选项的码字进行编码。该方案减小了码字的尺寸，因为码字的尺寸与唯一指示从可使用的选项的小子集中的一个选项，而非唯一指示从所有可能选项的潜在大集中的选项所需要的码字一样大。然后，所述解码器通过以与所述编码器类似的方式确定可使用选项集来对所述选择进行解码。通过确定可使用选项集，所述解码器可以读取码字并确定所述编码器做出的选择。
74.步骤113：解码器执行块解码。具体地，所述解码器进行逆变换来生成残差块。然
后，所述解码器使用残差块和对应的预测块，根据分割重建图像块。所述预测块可以包括在步骤105中编码器侧生成的帧内预测块和帧间预测块。然后，根据在步骤111中确定的分割数据将重建图像块定位到重建视频信号的帧中。步骤113的语法还可以通过上文描述的熵编码在码流中指示。
75.步骤115：以类似于步骤107的方式在编码器侧对重建视频信号的帧进行滤波。例如，可以对帧应用噪声抑制滤波器、去块效应滤波器、自适应环路滤波器和sao滤波器以去除块伪影。一旦对帧进行滤波，可以在步骤117中将视频信号输出到显示器以供终端用户观看。
76.图2为用于视频译码的示例性编码和解码(codec)系统200的示意图。具体地，编解码系统200能够实现操作方法100。编解码系统200广义地描述编码器和解码器中使用的组件。编解码系统200接收视频信号并对视频信号进行分割，如操作方法100中的步骤101和103所描述，从而产生经分割的视频信号201。然后，当作为编码器时，编解码系统200将经分割的视频信号201压缩到经编码码流中，如方法100中的步骤105、107和109所描述的。当作为解码器时，编解码系统200从码流中生成输出视频信号，如操作方法100中的步骤111、113、115和117所描述的。编解码系统200包括通用编码器控制组件211、变换缩放和量化组件213、帧内估计组件215、帧内预测组件217、运动补偿组件219、运动估计组件221、缩放和逆变换组件229、滤波器控制分析组件227、环内滤波器组件225、解码图像缓冲器组件223、标头格式化和上下文自适应二进制算术编码(contextadaptivebinaryarithmeticcoding，cabac)组件231。这种组件如图所示耦合。在图2中，黑线表示待编码/解码数据的运动，而虚线表示控制其它组件操作的控制数据的运动。编解码系统200的组件都可以在编码器中使用。解码器可以包括编解码系统200的组件的子集。例如，解码器可以包括帧内预测组件217、运动补偿组件219、缩放和逆变换组件229、环内滤波器组件225和解码图像缓冲器组件223。这里对这些组件进行描述。
77.经分割的视频信号201是已通过编码树分割成像素块的捕获视频序列。编码树采用各种划分模式将像素块细分为更小的像素块。然后可以将这些块进一步细分为更小块。所述块可以称为编码树上的节点。较大的父节点被划分成较小的子节点。节点被细分的次数称为节点/编码树的深度。在某些情况下，划分的块可以包括在编码单元(codingunit，cu)中。例如，cu可以是ctu的子部分，包括亮度块、红差色度(cr)块和蓝差色度(cb)块以及cu的对应语法指令。所述划分模式可以包括二叉树(binarytree，bt)、三叉树(tripletree，tt)和四叉树(quadtree，qt)，用于根据所采用的划分模式，分别将节点分割为不同形状的两个、三个或四个子节点。将经分割的视频信号201发送到通用编码器控制组件211、变换缩放和量化组件213、帧内估计组件215、滤波器控制分析组件227和运动估计组件221进行压缩。
78.通用编码器控制组件211用于根据应用约束做出与将视频序列的图像编码到码流中相关的决策。例如，通用编码器控制组件211管理码率/码流尺寸相对于重建质量的优化。可以根据存储空间/带宽可用性和图像分辨率请求做出此类决策。通用编码器控制组件211还根据传输速度管理缓冲器利用率，以缓解缓存欠载和超载问题。为了解决这些问题，通用编码器控制组件211管理由其它组件进行的分割、预测和滤波。例如，通用编码器控制组件211可以动态地提高压缩复杂度以提高分辨率和增加带宽利用率，或者降低压缩复杂度以
降低分辨率和带宽利用率。因此，通用编码器控制组件211控制编解码系统200的其它组件来平衡视频信号重建质量与码率问题。通用编码器控制组件211创建控制数据，这些控制数据控制其它组件的操作。还将所述控制数据发送到标头格式化和cabac组件231，以在码流中进行编码，从而指示用于在解码器中解码的参数。
79.还将经分割的视频信号201发送到运动估计组件221和运动补偿组件219进行帧间预测。可以将经分割的视频信号201的帧或条带分成多个视频块。运动估计组件221和运动补偿组件219相对于一个或多个参考帧中的一个或多个块对所接收视频块进行帧间预测译码以提供时间预测。编解码系统200可以执行多个译码过程，以便为每个视频数据块选择适当的译码模式等等。
80.运动估计组件221和运动补偿组件219可以高度集成，但出于概念目的进行单独说明。运动估计组件221执行的运动估计是生成运动矢量的过程，其中，这些运动矢量用于估计视频块的运动。例如，运动矢量可以指示编码对象相对于预测块的位移。预测块是被发现在像素差异方面与待编码块高度匹配的块。预测块也可以称为参考块。此类像素差异可以通过绝对差异和(sumofabsolutedifference，sad)、平方差异和(sumofsquaredifference，ssd)或其它差异度量来确定。hevc采用若干编码对象，包括ctu、编码树块(codingtreeblock，ctb)和cu。例如，可以将ctu分成多个ctb，然后可以将ctb划分为多个cb包括在cu中。可以将cu编码为包括预测数据的预测单元(predictionunit，pu)和/或包括cu的变化残差数据的变换单元(transformunit，tu)。运动估计组件221使用率失真分析作为率失真优化过程的一部分来生成运动矢量、pu和tu。例如，运动估计组件221可以确定当前块/帧的多个参考块、多个运动矢量等，并且可以选择具有最佳率失真特性的参考块、运动矢量等。最佳率失真特性平衡视频重建的质量(例如压缩造成的数据丢失量)和译码效率(例如最终编码的尺寸)。
81.在一些示例中，编解码系统200可以计算存储在解码图像缓冲器组件223中的参考图像的子整数像素位置的值。例如，视频编解码系统200可以内插参考图像的四分之一像素位置、八分之一像素位置或其它分数像素位置的值。因此，运动估计组件221可以执行相对于全像素位置和分数像素位置的运动搜索，并输出具有分数像素精度的运动矢量。运动估计组件221通过将pu的位置与参考图像的预测块的位置进行比较来计算帧间编码条带中视频块的pu的运动矢量。运动估计组件221将计算的运动矢量作为运动数据输出到标头格式化和cabac组件231以进行编码，并将运动输出到运动补偿组件219。
82.运动补偿组件219执行的运动补偿可以涉及根据运动估计组件221所确定的运动矢量获取或生成预测块。另外，在一些示例中，运动估计组件221和运动补偿组件219可以在功能上集成。在接收当前视频块的pu的运动矢量之后，运动补偿组件219可以定位运动矢量指向的预测块。然后，从所编码的当前视频块的像素值中减去预测块的像素值，从而形成像素差值，如此形成残差视频块。通常，运动估计组件221相对于亮度分量执行运动估计，运动补偿组件219将根据亮度分量计算的运动矢量用于色度分量和亮度分量。将预测块和残差块发送到变换缩放和量化组件213。
83.还将经分割的视频信号201发送到帧内估计组件215和帧内预测组件217。如同运动估计组件221和运动补偿组件219，帧内估计组件215和帧内预测组件217可以高度集成，但出于概念目的进行单独说明。帧内估计组件215和帧内预测组件217相对于当前帧中的块
对当前块进行帧内预测，以替代如上所述的由运动估计组件221和运动补偿组件219在各帧之间执行的帧间预测。具体地，帧内估计组件215确定帧内预测模式来用于对当前块进行编码。在一些示例中，帧内估计组件215从多个测试的帧内预测模式中选择适当的帧内预测模式来对当前块进行编码。然后，将所选择的帧内预测模式发送到标头格式化和cabac组件231进行编码。
84.例如，帧内估计组件215使用对各种测试的帧内预测模式的率失真分析来计算率失真值，并在测试的模式中选择具有最佳率失真特性的帧内预测模式。率失真分析通常确定编码块与经编码以产生编码块的原始未编码块之间的失真(或误差)量，以及用于产生编码块的码率(例如比特数)。帧内估计组件215根据各种编码块的失真和速率计算比率，以确定哪种帧内预测模式表现出块的最佳率失真值。此外，帧内估计组件215可用于基于率失真优化(rate-distortionoptimization，rdo)，使用深度建模模式(depthmodelingmode，dmm)对深度图的深度块进行编码。
85.当在编码器上实现时，帧内预测组件217可以基于由帧内估计组件215确定的所选帧内预测模式从预测块生成残差块，或者当在解码器上实现时，从码流读取残差块。所述残差块包括预测块与原始块之间的值差，表示为矩阵。然后，将残差块发送到变换缩放和量化组件213。帧内估计组件215和帧内预测组件217可以对亮度分量和色度分量进行操作。
86.变换缩放和量化组件213用于进一步压缩残差块。变换缩放和量化组件213对残差块应用变换，如离散余弦变换(discretecosinetransform，dct)、离散正弦变换(discretesinetransform，dst)或概念上类似的变换，从而产生包括残差变换系数值的视频块。还可以使用小波变换、整数变换、子带变换或其它类型的变换。变换可以将残差信息从像素值域转化到变换域，如频域。变换缩放和量化组件213还用于根据频率等对变换的残差信息进行缩放。这种缩放涉及对残差信息应用缩放因子，以便在不同粒度下量化不同的频率信息，这可能会影响重建视频的最终视觉质量。变换缩放和量化组件213还用于量化变换系数以进一步降低码率。量化过程可以降低与一些或全部系数有关的位深度。可以通过调整量化参数来修改量化程度。在一些示例中，变换缩放和量化组件213随后可以对包括量化变换系数的矩阵进行扫描。将量化变换系数发送到标头格式化和cabac组件231，以在码流中编码。
87.缩放和逆变换组件229应用变换缩放和量化组件213的逆操作以支持运动估计。缩放和逆变换组件229使用逆缩放、逆变换和/或反量化以重建像素域中的残差块，例如，用于以后用作参考块，所述参考块可成为另一当前块的预测块。运动估计组件221和/或运动补偿组件219可以通过将残差块添加回对应的预测块来计算参考块，以用于后续块/帧的运动估计。将滤波器应用于重建参考块，以减少在缩放、量化和变换期间产生的伪影。当预测后续块时，此类伪影可能导致不准确的预测(并产生其它伪影)。
88.滤波器控制分析组件227和环内滤波器组件225将滤波器应用于残差块和/或重建图像块。例如，可以将缩放和逆变换组件229的变换残差块与帧内预测组件217和/或运动补偿组件219的对应预测块合并以重建原始图像块。然后，可以将滤波器应用于重建图像块。在一些示例中，滤波器可以转而应用于残差块。如同图2中的其它组件，滤波器控制分析组件227和环内滤波器组件225高度集成且可以一起实现，但出于概念的目的进行单独描述。应用于重建参考块的滤波器应用于特定空间区域，包括多个参数以调整应用此类滤波器的
方式。滤波器控制分析组件227对重建参考块进行分析，以确定应该应用此类滤波器的位置并设置对应的参数。将此类数据作为滤波器控制数据发送到标头格式化和cabac组件231进行编码。环内滤波器组件225根据滤波器控制数据应用此类滤波器。所述滤波器可以包括去块效应滤波器、噪声抑制滤波器、sao滤波器和自适应环路滤波器。此类滤波器可以根据示例应用于空间域/像素域(例如针对重建像素块)或频域中。
89.当作为编码器时，将经滤波的重建图像块、残差块和/或预测块存储在解码图像缓冲器组件223中，以供以后用于运动估计，如上所述。当作为解码器时，解码图像缓冲器组件223存储经重建和经滤波的块并将其作为输出视频信号的一部分向显示器发送。解码图像缓冲器组件223可以是能够存储预测块、残差块和/或重建图像块的任何存储器设备。
90.标头格式化和cabac组件231从编解码系统200的各组件接收数据并将此类数据编码到经编码码流中以向解码器发送。具体地，标头格式化和cabac组件231生成各种标头以对控制数据(如一般控制数据和滤波器控制数据)进行编码。此外，预测数据(包括帧内预测)和运动数据，以及量化变换系数数据形式的残差数据均在码流中进行编码。最终码流包括解码器重建原始的经分割的视频信号201所需要的所有信息。此类信息还可以包括帧内预测模式索引表(也称为码字映射表)、各种块的编码上下文的定义、最可能的帧内预测模式的指示、分割信息的指示等。此类数据可以采用熵编码进行编码。例如，可以采用上下文自适应可变长度编码(contextadaptivevariablelengthcoding，cavlc)、cabac、基于语法的上下文自适应二进制算术编码(syntax-basedcontext-adaptivebinaryarithmeticcoding，sbac)、概率区间分割熵(probabilityintervalpartitioningentropy，pipe)编码或另一种熵编码技术对信息进行编码。在熵编码之后，可以将经编码码流传输到另一设备(例如视频解码器)或存档以用于后续发送或检索。
91.图3为示例性视频编码器300的框图。视频编码器300可以用于实现编解码系统200的编码功能和/或实现操作方法100的步骤101、103、105、107、和/或109。编码器300对输入视频信号进行分割，从而产生经分割的视频信号301，其中，所述经分割的视频信号301实质上类似于经分割的视频信号201。然后，通过编码器300的组件压缩经分割的视频信号301并编码到码流中。
92.具体地，将经分割的视频信号301发送到帧内预测组件317进行帧内预测。帧内预测组件317实质上可以类似于帧内估计组件215和帧内预测组件217。还将经分割的视频信号301发送到运动补偿组件321，以根据解码图像缓冲器组件323中的参考块进行帧间预测。运动补偿组件321实质上可以类似于运动估计组件221和运动补偿组件219。将帧内预测组件317和运动补偿组件321的预测块和残差块发送到变换和量化组件313以对残差块进行变换和量化。变换和量化组件313实质上可以类似于变换缩放和量化组件213。将经变换和量化的残差块和对应的预测块(连同相关控制数据)发送到熵编码组件331以编码到码流中。熵编码组件331实质上可以类似于标头格式化和cabac组件231。
93.也将经变换和量化的残差块和/或对应的预测块从变换和量化组件313发送到逆变换和量化组件329以重建成参考块供运动补偿组件321使用。逆变换和量化组件329实质上可以类似于缩放和逆变换组件229。根据示例，也将环内滤波器组件325中的环内滤波器应用于残差块和/或重建参考块。环内滤波器组件325实质上可以类似于滤波器控制分析组件227和环内滤波器组件225。环内滤波器组件325可以包括多个滤波器，如环内滤波器组件
225所描述的。然后，将滤波块存储在解码图像缓冲器组件323中，以供运动补偿组件321用作参考块。解码图像缓冲器组件323实质上可以类似于解码图像缓冲器组件223。
94.图4为示例性视频解码器400的框图。视频解码器400可以用于实现编解码系统200的解码功能和/或实现操作方法100的步骤111、113、115、和/或117。例如，解码器400从编码器300接收码流，并根据所述码流生成重建的输出视频信号，向终端用户显示。
95.所述码流由熵解码组件433接收。熵解码组件433用于实现熵解码方案，如cavlc、cabac、sbac、pipe编码或其它熵编码技术。例如，熵解码组件433可以使用标头信息来提供上下文以解释在码流中编码为码字的其它数据。解码信息包括对视频信号进行解码所需的任何信息，如总体控制数据、滤波器控制数据、分割信息、运动数据、预测数据和残差块中的量化变换系数。将量化变换系数发送到逆变换和量化组件429以重建成残差块。逆变换和量化组件429可以类似于逆变换和量化组件329。
96.将重建残差块和/或预测块发送到帧内预测组件417，以根据帧内预测操作重建成图像块。帧内预测组件417可以类似于帧内估计组件215和帧内预测组件217。具体地，帧内预测组件417采用预测模式来定位帧中的参考块，并将残差块应用于结果以重建帧内预测图像块。重建的帧内预测图像块和/或残差块以及对应的帧间预测数据通过环内滤波器组件425发送到解码图像缓冲器组件423。解码图像缓冲器组件423和环内滤波器组件425实质上可以分别类似于解码图像缓冲器组件223和环内滤波器组件225。环内滤波器组件425对重建图像块、残差块和/或预测块进行滤波，并且将此类信息存储在解码图像缓冲器组件423中。将来自解码图像缓冲器组件423的重建图像块发送到运动补偿组件421进行帧间预测。运动补偿组件421实质上可以类似于运动估计组件221和/或运动补偿组件219。具体地，运动补偿组件421采用来自参考块的运动矢量来生成预测块，并将残差块应用于结果以重建图像块。还可以通过环内滤波器组件425将所得重建块发送到解码图像缓冲器组件423。解码图像缓冲器组件423继续存储附加重建图像块，这些重建图像块可以通过分割信息重建成帧。也可以此类帧可以位于序列中。将所述序列作为重建的视频信号向显示器输出。
97.图5为从码流500提取的示例性码流500和子码流501的示意图。例如，码流500可以由编解码系统200和/或编码器300生成，用于编解码系统200和/或解码器400进行解码。在另一示例中，码流500可以由方法100的步骤109中的编码器生成，在步骤111中由解码器使用。
98.码流500包括序列参数集(sequenceparameterset，sps)510、多个图像参数集(pictureparameterset，pps)512、多个条带头514、图像数据520和一个或多个sei消息515。sps510包括码流500所包括的视频序列中所有图像共用的序列数据。这些数据可以包括图像尺寸、位深度、译码工具参数、位速率限制等。pps512包括一个或多个相应图像的特定参数。因此，视频序列中的每个图像可以参考一个pps512。pps512可以表示可用于相应图像中的分块(tile)的译码工具、量化参数、偏移、图像特定译码工具参数(例如滤波器控制)等。条带头514包括针对图像中的一个或多个相应条带524的参数。因此，视频序列中的每个条带524可以参考条带头514。条带头514可以包括条带类型信息、图像顺序编号(pictureordercount，poc)、参考图像列表、预测权重、分块入口点、去块参数等。在一些示例中，条带524可以称为分块组。在这种情况下，条带头514可以称为分块组头。sei消息515为包括块解码不需要的元数据的可选消息，但是可以用于相关目的，例如指示图像输出定
时、显示设置、丢失检测、丢失隐藏等。
99.图像数据520包括根据帧间预测和/或帧内预测编码的视频数据以及相应的变换和量化残差数据。根据编码前用于对图像进行分割的分割，对这些图像数据520进行分类。例如，将视频序列划分为图像521。图像521可以进一步划分为子图像522，子图像522划分为条带524。可以将条带524进一步划分为分块和/或ctu。根据编码树将ctu进一步分为编码块。然后，可以根据预测机制对编码块进行编码/解码。例如，图像521可以包括一个或多个子图像522。子图像522可以包括一个或多个条带524。图像521参考pps512，条带524参考条带头514。子图像522可以在整个视频序列(也称为分段)上一致地分割，因此可以参考sps510。每个条带524可以包括一个或多个分块。每个条带524以及每个图像521和每个子图像522也可以包括多个ctu。
100.每个图像521可以包括与相应时刻的视频序列相关的整个视觉数据集。但是，在一些情况下，一些应用可以仅显示图像521的一部分。例如，虚拟现实(virtualreality，vr)系统可以显示图像521的用户选择区域，创建了出现在图像521描绘的场景中的感觉。当编码码流500时，用户可能希望观看的区域是未知的。因此，图像521可以包括用户可能观看的每个可能的区域作为子图像522，所述子图像522可以基于用户输入单独解码和显示。其它应用可以单独显示感兴趣区域。例如，为了在一个图像中显示另一个图像，电视可以在不相关视频序列的图像521上显示一个视频序列的特定区域，并因此显示子图像522。在又一示例中，电话会议系统可以显示当前正在发言的用户的全部图像521和当前未发言的用户的子图像522。因此，子图像522可以包括图像521的定义区域。暂时受运动约束的子图像522与图像521的其余部分可以分别解码。具体地，在不参考时间运动约束子图像外部的样本的情况下对时间运动约束子图像进行编码，并因此包括足够的信息以在不参考图像521的其余部分的情况下完成解码。
101.每个条带524可以是左上角的ctu和右下角的ctu界定的矩形。在一些示例中，条带524包括一系列分块和/或ctu，这些分块和/或ctu按照从左到右和从上到下的顺序进行光栅扫描。在其它示例中，条带524是矩形条带。矩形条带可能不会按照光栅扫描顺序遍历图像的整个宽度。矩形条带可以包括根据ctu和/或分块行以及ctu和/或分块列界定的图像521和/或子图像522的矩形和/或正方形区域。条带524是解码器能够单独显示的最小单元。因此，可以将图像521的条带524分配给不同的子图像522来分别描绘图像521的期望区域。
102.解码器可以显示图像521的一个或多个子图像523。子图像523是用户选择的或预定义的子图像522的子组。例如，可以将图像521分为9个子图像522，但是解码器可以仅显示该组子图像522中的单个子图像523。子图像523包含条带525，条带525是所选的或预定义的条带524的子组。为了单独显示子图像523，可以从码流500中提取(529)子码流501。提取(529)可以在编码器侧进行，使得解码器仅接收子码流501。在其它情况下，将整个码流500发送到解码器，并且解码器提取(529)子码流501用于单独解码。需要说明的是，子码流501在一些情况下也可以统称为码流。子码流501包括sps510、pps512、选择的子图像523、以及与子图像523和/或条带525相关的条带头514和sei消息515。
103.本发明中，指示各种数据，用于支持对子图像522进行高效译码以在解码器侧选择和显示子图像523。sps510包括子图像尺寸531、子图像位置532，以及与完整子图像集522集相关的子图像id533。子图像尺寸531包括对应子图像522的以亮度样本为单位的子图像高
度和以亮度样本为单位的子图像宽度。子图像位置532包括对应子图像522的左上角样本与图像521的左上角样本之间的偏移距离。子图像位置532和子图像尺寸531定义了相应子图像522的布局。子图像id533包括唯一地标识相应子图像522的数据。子图像id533可以是子图像522光栅扫描索引或其它定义值。因此，解码器可以读取sps510并确定每个子图像522的尺寸、位置和id。在一些视频译码系统中，由于子图像522是从图像521分割的，因此与子图像522相关的数据可以包括在pps512中。但是，用于创建子图像522的部分可以由应用使用，例如基于roi的应用、vr应用等，这些应用依赖于视频序列/分段上的一致的子图像522部分。因此，子图像522部分通常不在每个图像的基础上改变。在sps510中包括子图像522的布局信息可以确保只针对序列/分段指示一次布局，而不是针对每个pps512都指示(在一些情况下可以针对每个图像521进行指示)。此外，指示子图像522信息而不是依赖于解码器来推导此类信息，减少了在丢失报文的情况下出错的可能性，并且支持提取子图像523的其它功能。因此，在sps510中指示子图像522布局提高了编码器和/或解码器的功能。
104.sps510还包括与完整子图像集522相关的运动约束子图像标志534。运动约束子图像标志534表示每个子图像522是否为时间运动约束子图像。因此，解码器可以读取运动约束子图像标志534，并确定哪些子图像522可以单独提取和显示，而无需解码其它子图像522。将选择的子图像522译码为时间运动约束子图像，同时在没有这种限制的情况下对其它子图像522进行译码，以提高译码效率。
105.子图像id533也包括在条带头514中。每个条带头514包括与相应条带集524相关的数据。因此，条带头514仅包括对应于与条带头514相关的条带524的子图像id533。这样，解码器可以接收条带524，从条带头514获取子图像id533，并确定哪个子图像522包括条带524。解码器还可以使用条带头514中的子图像id533与sps510中的相关数据进行关联。这样，解码器可以通过读取sps510和非独立条带头514来确定如何定位子图像522/523和条带524/525。这样，即使一些子图像522在发送中丢失或故意省略以提高译码效率，也能够对子图像523和条带525进行解码。
106.sei消息515还可以包括子图像级别535。子图像级别535表示解码相应子图像522所需的硬件资源。这样，每个子图像522可以独立于其它子图像522进行编码。这可以确保在解码器中为每个子图像522分配正确的硬件资源量。如果没有这样的子图像级别535，则会为每个子图像522分配足够的资源以解码最复杂的子图像522。因此，如果子图像522与变化的硬件资源需求相关，则子图像级别535防止了解码器过度分配硬件资源。
107.图6为分割成子图像622的示例性图像600的示意图。例如，可以由编解码系统200、编码器300、和/或解码器400将图像600编码在码流500中和从码流500中解码。此外，可以对图像600进行分割和/或将图像600包括在子码流501中，以支持根据方法100进行编码和解码。
108.图像600实质上可以类似于图像521。此外，可以将图像600分割为子图像622，其实质上类似于子图像522。每个子图像622包括子图像尺寸631，子图像尺寸631可以作为子图像尺寸531包括在码流500中。子图像尺寸631包括子图像宽度631a和子图像高度631b。子图像宽度631a是相应子图像622的宽度，以亮度样本为单位。子图像高度631b是相应子图像622的高度，以亮度样本为单位。每个子图像622包括子图像id633，子图像id633可以作为子图像id633包括在码流500中。子图像id633可以是唯一地标识每个子图像622的任何值。在
所示示例中，子图像id633是子图像622索引。每个子图像622包括位置632，位置632可以作为子图像位置532包括在码流500中。将位置632表示为相应子图像622的左上样本与图像600的左上样本642之间的偏移。
109.此外，如图所示，一些子图像622可以是时间运动约束子图像634，而其它子图像622可以不是。在所示示例中，子图像id633为5的子图像622是时间运动约束子图像634。这表明标识为5的子图像622在没有参考任何其它子图像622的情况下进行译码，因此可以提取和单独解码而无需考虑其它子图像622的数据。可以用运动约束子图像标记534在码流500中指示表示哪些子图像622是时间运动约束子图像634。
110.如图所示，可以将子图像622约束为覆盖图像600，没有间隙或重叠。间隙是图像600中不包括在任何子图像622中的区域。重叠是图像600的包括在多个子图像622中的区域。在图6所示的示例中，从图像600分割子图像622，以防止间隙和重叠。间隙导致图像600的样本留在子图像622之外。重叠导致多个子图像622中同时包括非独立条带。因此，当子图像622以不同的方式译码时，间隙和重叠可能导致样本受到差别处理的影响。如果编码器允许这样处理，即使解码方案很少使用，解码器也必须支持这样的译码方案。通过不允许子图像622间隙和重叠，可以降低解码器的复杂性，因为在确定子图像尺寸631和位置632时不需要解码器考虑潜在的间隙和重叠。此外，不允许子图像622间隙和重叠降低了编码器中rdo过程的复杂性。这是因为编码器在为视频序列选择编码时可以忽略考虑间隙和重叠的情况。因此，避免间隙和重叠可以降低编码器和解码器的内存资源利用率和/或处理资源利用率。
111.图7为一种用于将条带724与子图像722的布局进行关联的示例性机制700的示意图。例如，机制700可以应用于图像600。此外，编解码系统200、编码器300、和/或解码器400可以根据码流500中的数据应用机制700。此外，机制700可以用于根据方法100进行编码和解码。
112.机制700可以分别应用于子图像722中的条带724，例如条带524/525和子图像522/523。在所示示例中，子图像722包括第一条带724a、第二条带724b和第三条带724c。每个条带724的条带头包括子图像722的子图像id733。解码器可以将条带头中的子图像id733与sps中的子图像id733进行匹配。然后，解码器可以根据子图像id733从sps中确定子图像722的位置732和尺寸。使用位置732，子图像722可以位于相对于图像左上角742的左上样本的位置。该尺寸可以用于设置子图像722相对于位置732的高度和宽度。然后条带724可以包括在子图像722中。因此，在不参考其它子图像的情况下，条带724可以基于子图像id733位于在正确的子图像722中。这支持纠错，因为其它丢失的子图像不会改变子图像722的解码。还支持仅提取子图像722且避免发送其它子图像的应用。因此，子图像id733增强了功能和/或提高了译码效率，这降低了编码器和解码器的网络资源利用率、内存资源利用率和/或处理资源利用率。
113.图8为分割为子图像822的另一示例性图像800的示意图。图像800实质上可以类似于图像600。此外，可以由编解码系统200、编码器300、和/或解码器400将图像800编码在码流500中和从码流500中解码。此外，可以对图像800进行分割和/或将图像800包括在子码流501中，以支持根据方法100和/或机制700进行编码和解码。
114.图像800包括子图像822，子图像822实质上可以类似于子图像522、523、622和/或
722。将子图像822分为多个ctu825。ctu825是标准化视频译码系统中的基本译码单元。通过编码树将ctu825细分为编码块，根据帧间预测或帧内预测对编码块进行译码。如图所示，将一些子图像822a包括的子图像宽度和子图像高度约束为ctu825尺寸的倍数。在所示示例中，子图像822a具有6个ctu825的高度和5个ctu825的宽度。对于位于图像右边界801上的子图像822b和位于图像下边界802上的子图像822c，需要去除这种约束。在所示示例中，子图像822b具有介于5至6个ctu825之间的宽度。但是，仍然将不位于图像下边界802上的子图像822b的子图像高度约束为ctu825尺寸的倍数。在所示示例中，子图像822c具有介于6到7个ctu825之间的高度。但是，仍然将不位于图像右边界801上的子图像822c的子图像宽度约束为ctu825尺寸的倍数。
115.如上所述，一些视频系统可以将子图像822包括的高度和宽度限制为ctu825尺寸的倍数。这使得子图像822在很多图像布局中操作不正确，例如在包括的总宽度或高度不是ctu825尺寸的倍数的图像800中。通过分别使下子图像822c和右子图像822b包括的高度和宽度不是ctu825尺寸的倍数，子图像822可以与任何图像800一起使用，而不会引起解码错误。这增强了编码器和解码器的功能。此外，增强的功能使得编码器更高效地译码图像，这降低了编码器和解码器的网络资源利用率、内存资源利用率和/或处理资源利用率。
116.如本文所述，本公开描述了视频译码中基于子图像的图像分割的设计。子图像是图像中的矩形区域，可以使用与图像相同的解码过程独立地进行解码。本发明涉及编码视频序列和/或码流中的子图像的指示以及子图像提取的过程。这些技术的描述是基于itu-t和iso/iec的jvet的vvc。但是，这些技术也适用于其它视频编解码规范。下面是本文描述的示例性实施例。这样的实施例可以单独地或组合地应用。
117.与可能出现在编码视频序列(codedvideosequence，cvs)中的子图像相关的信息可以在序列级参数集合(例如sps)中指示。此类指示可以包括以下信息.cvs的每个图像中存在的子图像的数量可以在sps中指示。在sps或cvs的上下文中，所有接入单元(accessunit，au)的并置子图像可以统称为子图像序列。sps中还可以包括循环，用于进一步表示描述每个子图像的属性的信息。该信息可以包括子图像标识、子图像的位置(例如子图像的左上角亮度样本与图像的左上角亮度样本之间的偏移距离)，以及子图像的尺寸。此外，sps可以指示每个子图像是否为运动约束子图像(包括mcts的功能)。每个子图像的配置文件、层和级别信息也可以进行指示或可在解码器中推导。此类信息可以用于确定通过从原始码流提取子图像创建的码流的配置文件、层和级别信息。每个子图像的配置文件和层可以推导为与整个码流的配置文件和层相同。可以显式指示每个子图像的级别。此类指示可以出现在sps中包括的循环中。可以在sps的视频可用性信息(videousabilityinformation，vui)部分中为每个子图像(或等效地，每个子图像序列)指示序列级假设参考解码(hypotheticalreferencedecoder，hrd)参数。
118.当没有将一个图像分割为两个或多个子图像时，可能不会在码流中存在/指示除了子图像id外的子图像的属性(例如位置、尺寸等)。在提取cvs中的图像的子图像时，新码流中的每个接入单元可以不包括子图像。在这种情况下，不会将新码流中的每个au中的图像分割为多个子图像。因此，不需要在sps中指示位置和尺寸等子图像属性，因为此类信息可以从图像属性推导。但是，仍然可以指示子图像标识，因为id可以由包括在提取的子图像中的vclnal单元/分块组参考。这样，在提取子图像时保持相同子图像id。
119.可以以亮度样本为单位指示子图像在图像中的位置(x偏移和y偏移)。该位置表示子图像的左上角亮度样本与图像的左上角亮度样本之间的距离。或者，图像中子图像的位置可以以最小编码亮度块尺寸(minimumcodinglumablocksize，mincbsizey)为单位进行指示。或者，子图像位置偏移的单位可以由参数集中的语法元素显式指示。该单位可以是ctbsizey、mincbsizey、亮度样本或其它值。
120.可以以亮度样本为单位指示子图像的尺寸(子图像宽度和子图像高度)。或者，子图像的尺寸可以以最小编码亮度块尺寸(minimumcodinglumablocksize，mincbsizey)为单位进行指示。或者，子图像尺寸值的单位可以由参数集中的语法元素显式指示。该单位可以是ctbsizey、mincbsizey、亮度样本或其它值。当子图像的右边界与图像的右边界不重合时，要求子图像的宽度为亮度ctu尺寸(ctbsizey)的整数倍。同样，当子图像的下边界与图像的下边界不重合时，要求子图像的高度为亮度ctu尺寸(ctbsizey)的整数倍。如果子图像的宽度不是亮度ctu尺寸的整数倍，则要求子图像位于图像中最右的位置。同样地，如果子图像的高度不是亮度ctu尺寸的整数倍，则要求子图像位于图像中最下的位置。在一些情况下，子图像的宽度可以以亮度ctu尺寸为单位进行指示，但是子图像的宽度不是亮度ctu尺寸的整数倍。在这种情况下，以亮度样本为单位的实际宽度可以基于子图像的偏移位置来推导。子图像宽度可以基于亮度ctu尺寸推导，图像高度可以基于亮度样本推导。同样，可以以亮度ctu尺寸为单位指示子图像的高度，但是子图像的高度不是亮度ctu尺寸的整数倍。在这种情况下，基于亮度样本的实际高度可以基于子图像的偏移位置来推导。子图像高度可以基于亮度ctu尺寸推导，图像高度可以基于亮度样本推导。
121.对于任一子图像，子图像id和子图像索引可以不同。子图像索引可以是sps中的子图像循环中指示的子图像的索引。子图像id可以是图像中子图像光栅扫描顺序中子图像的索引。当每个子图像的子图像id的值与子图像索引相同时，可以指示或推导子图像id。当每个子图像的子图像id与子图像索引不同时，显式指示子图像id。用于指示子图像id的比特数可以在包括子图像属性的同一参数集中(例如在sps中)指示。可以出于某些目的而保留子图像id的一些值。例如，当分块组头包括子图像id以指定哪个子图像包括分块组时，可以为子图像保留0值且不用于子图像，以确保分块组头的前几位不全为0，以避免意外包括防伪码。在图像的子图像没有无间隙、无重叠地覆盖图像的整个区域的可选情况下，可以为不属于任何子图像的分块组保留值(例如值1)。或者，显式地指示其余区域的子图像id。用于指示子图像id的比特数可以约束如下。该值的范围应足以唯一标识一个图像中的所有子图像，包括子图像id的保留值。例如，子图像id的最小比特数可以为ceil(log2(一个图像中的子图像数量 保留的子图像id的数量))的值。
122.子图像的结合必须覆盖整个图像，没有间隙和重叠，这可能会受到约束。当进行这种约束时，对于每个子图像，可以存在一个标志，用于表示子图像是否为运动约束子图像，这表示可以提取该子图像。或者，子图像的结合可以不覆盖整个图像，但不允许重叠。
123.子图像id可以紧接在nal单元头之后，这有助于子图像提取过程，不需要提取器解析nal单元位的其余部分。对于vclnal单元，子图像id可以在分块组头的前几位中。对于非vclnal单元，可以应用以下内容。对于sps，子图像id不需要紧接在nal单元头之后。对于pps，如果将同一图像的所有分块组都约束为参考同一个pps，则子图像id不需要紧接在nal单元头之后。如果允许同一图像的分块组参考不同的pps，则子图像id可以在pps的前几位
中(例如紧接在nal单元头之后)。在这种情况下，可以允许一个图像的任何分块组共用同一pps。或者，当允许同一个图像的分块组参考不同的pps，并且允许同一个图像的不同分块组共用相同的pps时，pps语法中也可以没有子图像id。或者，当允许同一个图像的分块组参考不同的pps，并且允许同一个图像的不同分块组共用相同的pps时，pps语法中可以存在子图像id列表。该列表表示pps应用到的子图像。对于其它非vclnal单元，如果非vcl单元适用于图像或更高级别(例如访问单元分隔符、序列结束符、码流结束符等)，则子图像id可能不会紧跟在nal单元头之后出现。否则，子图像id可以紧接在nal单元头之后。
124.利用上述sps指示，可以在pps中指示各个子图像内的分块分割方式。允许同一图像内的分块组参考不同的pps。在这种情况下，可以只在每个子图像内进行分块分组。分块分组的概念是将子图像分割为分块。
125.或者，定义用于描述各个子图像内的分块分割方式的参数集。这种参数集可以称为子图像参数集(sub-pictureparameterset，spps)。spps参考sps。spps中存在一个参考spsid的语法元素。spps可以包括子图像id。为了子图像提取，参考子图像id的语法元素是spps中的第一个语法元素。spps包括分块结构(例如列的数量、行的数量、均匀分块间距等)。spps可以包括标志，用于表示是否跨相关子图像边界启用循环滤波器。或者，每个子图像的子图像属性可以在spps中而不是在sps中指示。各个子图像内的分块分割方式仍可在pps中指示。允许同一图像中的分块组参考不同的pps。一旦激活一个spps，该spps按照解码顺序持续一系列连续的au。但是，spps可以在不是cvs的开始的一个au中去激活/激活。在某些au中，在具有多个子图像的单层码流的解码过程中的任何时刻，多个spps可以处于激活状态。au的不同子图像可以共用一个spps。或者，可以将spps和pps融合为一个参数集。在这种情况下，同一个图像的所有分块组可以不参考同一个pps。可以进行约束，使得同一子图像中的所有分块组可以参考由spps与pps融合产生的同一参数集
126.可以在nal单元头中指示用于指示子图像id的比特数。当nal单元头中存在这些信息时，可以有助于子图像提取过程在nal单元的载荷的开始处解析子图像id值(例如紧接在nal单元头之后的前几位)。对于此类指示，可以使用nal单元头中的一些保留位(例如七个保留位)以避免增加nal单元头的长度。此类指示的比特数可以覆盖sub-picture-id-bit-len的值。例如，vvcnal单元头的7个保留位中的4个位可以用于此目的。
127.当解码子图像时，可以将每个编码树块(例如xctb和yctb)的位置调整为图像中的实际亮度样本位置，而不是子图像中的亮度样本位置。这样，可以避免从每个参考图像中提取并置子图像，因为编码树块是参考图像进行解码而不是参考子图像进行解码。为了调整编码树块的位置，可以根据子图像位置(subpic_x_offset和subpic_y_offset)推导变量subpicturexoffset和subpictureyoffset。该变量的值可以分别与子图像中每个编码树块的亮度样本位置x和y坐标的值相加。
128.子图像提取过程可以定义如下。该过程的输入为待提取的目标子图像。可以是子图像id或子图像位置。当输入为子图像位置时，通过解析sps中的子图像信息，可以解析出相关子图像id。对于非vclnal单元，以下情况适用。sps中与图像尺寸和级别相关的语法元素可以更新为子图像的尺寸和级别信息。以下非vclnal单元保持不变：pps、访问单元分隔符(accessunitdelimiter，aud)、序列结束(endofsequence，eos)、(endofbitstream，eob)，以及适用于图像级或更高级的非vclnal单元。可以去除子图像id不等于目标子图像id的其
余的非vclnal单元。也可以去除子图像id不等于目标子图像id的vclnal单元。
129.序列级子图像嵌套sei消息可以用于嵌套子图像集的au级或子图像级sei消息。这可以包括缓冲周期、图像定时和非hrdsei消息。该子图像嵌套sei消息的语法和语义可以如下。对于系统操作，例如在全向媒体格式(omnidirectionalmediaformat，omaf)环境中，可以由omaf播放器请求并解码覆盖视角的子图像序列集。因此，序列级sei消息用于携带集体覆盖矩形图像区域的子图像序列集的信息。系统可以使用该信息，并且该信息表示所需的解码能力以及子图像序列集的码率。该信息表示仅包括子图像序列集的码流的级别。该信息还表示仅包括子图像序列集的码流的码率。可选地，可以为子图像序列集指定子码流提取过程。这样做的好处是，仅包括子图像序列集的码流也符合一致性要求。缺点是，在考虑不同视角尺寸的可能性时，除了已经很大数量的单个子图像序列之外，还可以存在许多这样的集。
130.在一个示例性实施例中，所公开的示例中的一个或多个可以实现如下。子图像可以定义为图像内的一个或多个分块组的矩形区域。允许的二元划分过程可以定义如下。该过程的输入为：二元划分模式btsplit、编码块宽度cbwidth、编码块高度cbheight、所考虑编码块的左上亮度样本相对于图像的左上亮度样本的位置(x0，y0)、多类型树深度mttdepth、具有偏移的最大多类型树深度maxmttdepth、最大二叉树尺寸maxbtsize、分割索引partidx。该过程的输出为变量allowbtsplit。
131.基于btsplit的parallelttsplit和cbsize规格
[0132] btsplit＝＝split_bt_verbtsplit＝＝split_bt_horparallelttsplitsplit_tt_versplit_tt_horcbsizecbwidthcbheight
[0133]
变量parallelttsplit和cbsize的推导过程如上所述。变量allowbtsplit推导如下：如果以下条件中的一个或多个为真(true)：cbsize小于等于minbtsizey、cbwidth大于maxbtsize、cbheight大于maxbtsize、以及mttdepth大于等于maxmttdepth，则allowbtsplit设置为假(false)。否则，如果以下条件都为真，则将allowbtsplit设置为false，btsplit等于split_bt_ver，y0 cbheight大于subpicbottomborderinpic。否则，如果以下条件都为真，则将allowbtsplit设置为false：btsplit等于split_bt_hor，x0 cbwidth大于subpicrightborderinpic，y0 cbheight小于等于subpicbottomborderinpic。否则，如果以下条件都为真，则将allowbtsplit设置为false：mttdepth大于0，partidx等于1，mttsplitmode[x0][y0][mttdepth－1]等于parallelttsplit。否则，如果以下条件都为真，则将allowbtsplit设置为false：btsplit等于split_bt_ver，cbwidth小于等于maxtbsizey，cbheight大于maxtbsizey。否则，如果以下条件都为真，则将allowbtsplit设置为false：等于split_bt_hor，cbwidth大于maxtbsizey，cbheight小于等于maxtbsizey。否则，将allowbtsplit设置为true。
[0134]
允许的三元划分过程可以定义如下。该过程的输入为：三元划分模式ttsplit、编码块宽度cbwidth、编码块高度cbheight、所考虑编码块的左上亮度样本相对于图像的左上亮度样本的位置(x0，y0)、多类型树深度mttdepth、具有偏移的最大多类型树深度maxmttdepth、最大二叉树尺寸maxttsize。该过程的输出是变量allowttsplit。
[0135]
基于ttsplit的cbsize规格
[0136] ttsplit＝＝split_tt_verttsplit＝＝split_tt_horcbsizecbwidthcbheight
[0137]
变量cbsize的推导过程如上所述。变量allowttsplit的推导过程如下：如果以下条件中的一个或多个为真：cbsize小于等于2*minttsizey、cbwidth大于min(maxtbsizey，maxttsize)、cbheight大于min(maxtbsizey，maxttsize)、mttdepth大于等于maxmttdepth、x0 cbwidth大于subpicrightborderinpic、以及y0 cbheight大于subpicbottomborderinpic，则allowttsplit设置为false。否则，allowttsplit设置为true。
[0138]
序列参数集rbsp语法和语义如下：
[0139][0140][0141]
pic_width_in_luma_samples表示每个经解码的图像的宽度，以亮度样本为单位。pic_width_in_luma_samples不应等于0，并且应为mincbsizey的整数倍。pic_height_in_luma_samples表示每个经解码的图像的高度，以亮度样本为单位。pic_height_in_luma_samples不应等于0，并且应为mincbsizey的整数倍。num_subpicture_minus1plus1表示属
于经编码的视频序列的经编码图像中分割的子图像的数量。subpic_id_len_minus1plus1表示sps中用于表示语法元素subpic_id[i]、参考sps的spps中的spps_subpic_id、和参考sps的分块组头中的tile_group_subpic_id的比特数。subpic_id_len_minus1的取值范围为ceil(log2(num_subpic_minus1 2)至8(包括端值)。subpic_id[i]表示参考sps的图像的第i个子图像的子图像id。subpic_id[i]的长度为subpic_id_len_minus1 1位。subpic_id[i]的值应大于0。subpic_level_idc[i]表示提取第i个子图像产生的cvs的级别满足指定资源要求。码流不应包括subpic_level_idc[i]的值，但指定的值除外。保留subpic_level_idc[i]的其它值。当subpic_level_idc[i]的值不存在，则推断subpic_level_idc[i]的值等于general_level_idc的值。
[0142]
subpic_x_offset[i]表示第i个子图像的左上角相对于图像的左上角的水平偏移。当subpic_x_offset[i]的值不存在，则推断subpic_x_offset[i]的值等于0。子图像x偏移的值推导如下：subpicturexoffset[i]＝subpic_x_offset[i]。subpic_y_offset[i]表示第i个子图像的左上角相对于图像的左上角的垂直偏移。当subpic_y_offset[i]的值不存在，则推断subpic_y_offset[i]的值等于0。子图像y偏移的值推导如下：subpictureyoffset[i]＝subpic_y_offset[i]。subpic_width_in_luma_samples[i]表示该sps为激活sps的第i个经解码的子图像的宽度。如果subpicturexoffset[i]与subpic_width_in_luma_samples[i]之和小于pic_width_in_luma_samples，subpic_width_in_luma_samples[i]的值应为ctbsizey的整数倍。当subpic_width_in_luma_samples[i]的值不存在，则推断subpic_width_in_luma_samples[i]的值等于pic_width_in_luma_samples的值。subpic_height_in_luma_samples[i]表示该sps为激活sps的第i个经解码的子图像的高度。当subpictureyoffset[i]与subpic_height_in_luma_samples[i]之和小于pic_height_in_luma_samples，subpic_height_in_luma_samples[i]的值应为ctbsizey的整数倍。当subpic_height_in_luma_samples[i]的值不存在，则推断subpic_height_in_luma_samples[i]的值等于pic_height_in_luma_samples的值。
[0143]
子图像的结合应覆盖图像的整个区域，没有重叠和间隙，这是码流一致性的要求。subpic_motion_constrained_flag[i]等于1表示第i个子图像为时间运动约束子图像。subpic_motion_constrained_flag[i]等于0表示第i个子图像可以是时间运动约束子图像，也可以不是时间运动约束子图像。如果subpic_motion_constrained_flag的值不存在，则推断subpic_motion_constrained_flag的值等于0。
[0144]
变量subpicwidthinctbsy、subpicheightinctbsy、subpicsizeinctbsy、subpicwidthinmincbsy、subpicheightinmincbsy、subpicsizeinmincbsy、subpicsizeinsamplesy、subpicwidthinsamplesc和subpicheightinsamplesc推导如下：
[0145]
subpicwidthinlumasamples[i]＝subpic_width_in_luma_samples[i]
[0146]
subpicheightinlumasamples[i]＝subpic_height_in_luma_samples[i]
[0147]
subpicrightborderinpic[i]＝subpicturexoffset[i] picwidthinlumasamples[i]
[0148]
subpicbottomborderinpic[i]＝subpictureyoffset[i] picheightinlumasamples[i]
[0149]
subpicwidthinctbsy[i]＝ceil(subpicwidthinlumasamples[i]
÷
ctbsizey)
[0150]
subpicheightinctbsy[i]＝ceil(subpicheightinlumasamples[i]
÷
ctbsizey)
[0151]
subpicsizeinctbsy[i]＝subpicwidthinctbsy[i]*subpicheightinctbsy[i]
[0152]
subpicwidthinmincbsy[i]＝subpicwidthinlumasamples[i]/mincbsizey
[0153]
subpicheightinmincbsy[i]＝subpicheightinlumasamples[i]/mincbsizey
[0154]
subpicsizeinmincbsy[i]＝subpicwidthinmincbsy[i]*subpicheightinmincbsy[i]
[0155]
subpicsizeinsamplesy[i]＝subpicwidthinlumasamples[i]*subpicheightinlumasamples[i]
[0156]
subpicwidthinsamplesc[i]＝subpicwidthinlumasamples[i]/subwidthc
[0157]
subpicheightinsamplesc[i]＝subpicheightinlumasamples[i]/subheightc
[0158]
子图像参数集rbsp语法和语义如下：
[0159][0160]
[0161]
spps_subpic_id标识spps所属的子图像。spps_subpic_id的长度为subpic_id_len_minus1 1位。spps_subpic_parameter_set_id标识spps，以供其它语法元素参考。spps_subpic_parameter_set_id的值的范围应为0到63(包括端值)。语法元素spps_seq_parameter_set_id表示激活sps的sps_seq_parameter_set_id的值。spps_seq_parameter_set_id的值应在0到15的范围内(包括端值)。single_tile_in_subpic_flag等于1，表示参考spps的每个子图像中只有一个分块。single_tile_in_subpic_flag等于0表示参考spps的每个子图像中有多个分块。num_tile_columns_minus1 1表示分割子图像的分块列的数量。num_tile_columns_minus1应在0到picwidthinctbsy[spps_subpic_id]－1的范围内(包括端值)。当不存在，则推断num_tile_columns_minus1的值等于0。num_tile_rows_minus1 1表示分割子图像的分块行的数量。num_tile_rows_minus1应在0到picheightinctbsy[spps_subpic_id]－1的范围内(包括端值)。当不存在，则推断num_tile_rows_minus1的值等于0。将变量numtilesinpic设置为(num_tile_columns_minus1 1)*(num_tile_rows_minus1 1)。
[0162]
当single_tile_in_subpic_flag等于0时，numtilesinpic应大于0。uniform_tile_spacing_flag等于1表示分块列边界以及分块行边界均匀分布在子图像上。uniform_tile_spacing_flag等于0表示分块列边界以及分块行边界不会均匀分布在子图像上，而是使用语法元素tile_column_width_minus1[i]和tile_row_height_minus1[i]显式指示。当uniform_tile_spacing_flag的值不存在，则推断uniform_tile_spacing_flag的值等于1。thetile_column_width_minus1[i] 1表示第i个分块列的宽度(以ctb为单位)。tile_row_height_minus1[i] 1表示第i个分块行的高度(以ctb为单位)。
[0163]
通过调用ctb光栅和分块扫描转换过程，推导如下变量：列表colwidth[i]，i的范围为0到num_tile_columns_minus1(包括端值)，列表colwidth[i]表示第i个分块列的宽度(以ctb为单位)；列表rowheight[j]，j的范围为0到num_tile_rows_minus1(包括端值)，列表rowheight[j]表示第j个分块行的高度(以ctb为单位)；列表colbd[i]，i的范围为0到num_tile_columns_minus1 1(包括端值)，列表colbd[i]表示第i个分块列边界的位置(以ctb为单位)；列表rowbd[j]，j的范围为0到num_tile_rows_minus1 1(包括端值)，rowbd[j]表示第j个分块行边界的位置(以ctb为单位)；列表ctbaddrrstots[ctbaddrrs]，ctbaddrrs的范围为0到picsizeinctbsy－1(包括端值)，列表ctbaddrrstots[ctbaddrrs]表示图像的ctb光栅扫描中的ctb地址到分块扫描中的ctb地址的转换；列表ctbaddrtstors[ctbaddrts]，ctbaddrts的范围为0到picsizeinctbsy－1(包括端值)，列表ctbaddrtstors[ctbaddrts]表示图像的分块扫描中的ctb地址到ctb光栅扫描中的ctb地址的转换；列表tileid[ctbaddrts]，ctbaddrts的范围为0到picsizeinctbsy－1(包括端值)，列表tileid[ctbaddrts]表示分块扫描中ctb地址到分块id的转换；列表numctusintile[tileidx]，tileidx的范围为0到picsizeinctbsy－1(包括端值)，列表numctusintile[tileidx]表示从分块索引到该分块中ctu的数量的转换；列表firstctbaddrts[tileidx]，tileidx的范围为0到numtilesinpic－1(包括端值)，列表firstctbaddrts[tileidx]表示从分块id到该分块中的第一ctb的分块扫描中的ctb地址的转换；列表columnwidthinlumasamples[i]，i的范围为0到num_tile_columns_minus1(包括端值)，列表columnwidthinlumasamples[i]表示第i个分块列的宽度(以亮度样本为单位)；列表rowheightinlumasamples[j]，j的范围为
0到num_tile_rows_minus1(包括端值)，列表rowheightinlumasamples[j]表示第j个分块行的高度(以亮度样本为单位)。columnwidthinlumasamples[i]和rowheightinlumasamples[j]的值应均大于0，i的范围为0到num_tile_columns_minus1(包括端值)，j的范围为0到num_tile_rows_minus1(包括端值)。
[0164]
loop_filter_across_tiles_enabled_flag等于1表示参考spps的子图像中可以跨分块边界执行环内滤波操作。loop_filter_across_tiles_enabled_flag等于0表示参考spps的子图像中不跨分块边界执行环内滤波操作。环内滤波操作包括去块滤波操作、样本自适应偏移滤波操作和自适应环路滤波操作。如果loop_filter_across_tiles_enabled_flag的值不存在，则推断loop_filter_across_tiles_enabled_flag的值等于1。loop_filter_across_subpic_enabled_flag等于1，表示可以在参考spps的子图像中跨子图像边界执行环内滤波操作。loop_filter_across_subpic_enabled_flag等于0，表示在参考spps的子图像中不跨子图像边界执行环内滤波操作。环内滤波操作包括去块滤波操作、样本自适应偏移滤波操作和自适应环路滤波操作。如果loop_filter_across_subpic_enabled_flag的值不存在，则推断loop_filter_across_subpic_enabled_flag的值等于loop_filter_across_tiles_enabled_flag的值。
[0165]
通用分块组头语法和语义如下：
[0166][0167]
编码图像的所有分块组头中，分块组头语法元素tile_group_pic_parameter_set_id和tile_group_pic_order_cnt_lsb的值应相同。编码子图像的所有分块组头中，分块组头语法元素tile_group_subpic_id的值应相同。tile_group_subpic_id标识分块组所属的子图像。tile_group_subpic_id的长度为subpic_id_len_minus1 1位。tile_group_subpic_parameter_set_id表示当前使用的spps的spps_subpic_parameter_set_id的值。tile_group_spps_parameter_set_id的值范围应为0到63(包括端值)。
[0168]
推导以下变量，并且用这些变量覆盖从激活sps推导的相应变量：
[0169]
picwidthinlumasamples＝subpicwidthinlumasamples[tile_group_subpic_id]
[0170]
picheightinlumasamples＝picheightinlumasamples[tile_group_subpic_id]
[0171]
subpicrightborderinpic＝subpicrightborderinpic[tile_group_subpic_id]
[0172]
subpicbottomborderinpic＝subpicbottomborderinpic[tile_group_subpic_id]
[0173]
picwidthinctbsy＝subpicwidthinctbsy[tile_group_subpic_id]
[0174]
picheightinctbsy＝subpicheightinctbsy[tile_group_subpic_id]
[0175]
picsizeinctbsy＝subpicsizeinctbsy[tile_group_subpic_id]
[0176]
picwidthinmincbsy＝subpicwidthinmincbsy[tile_group_subpic_id]
[0177]
picheightinmincbsy＝subpicheightinmincbsy[tile_group_subpic_id]
[0178]
picsizeinmincbsy＝subpicsizeinmincbsy[tile_group_subpic_id]
[0179]
picsizeinsamplesy＝subpicsizeinsamplesy[tile_group_subpic_id]
[0180]
picwidthinsamplesc＝subpicwidthinsamplesc[tile_group_subpic_id]
[0181]
picheightinsamplesc＝subpicheightinsamplesc[tile_group_subpic_id]
[0182]
编码树单元语法如下：
[0183][0184]
[0185][0186]
编码四叉树语法和语义如下：
[0187]
[0188][0189]
qt_split_cu_flag[x0][y0]表示是否将编码单元划分为水平和垂直尺寸都为原来尺寸一半的编码单元。数组索引x0，y0表示所考虑的编码块的左上角亮度样本相对于图像的左上角亮度样本的位置(x0，y0)。当qt_split_cu_flag[x0][y0]不存在，以下情况适用：如果以下条件中的一个或多个为真，则推断qt_split_cu_flag[x0][y0]的值等于1。否则，如果treetype等于dual_tree_chroma或大于maxbtsizey，则x0 (1《《log2cbsize)大于subpicrightborderinpic，且(1《《log2cbsize)大于maxbtsizec。否则，如果treetype等于dual_tree_chroma或大于maxbtsizey，则y0 (1《《log2cbsize)大于subpicbottomborderinpic，且(1《《log2cbsize)大于maxbtsizec。
[0190]
否则，如果treetype等于dual_tree_chroma或大于minqtsizey，如果以下条件都为真，则推断qt_split_cu_flag[x0][y0]的值等于1：x0 (1《《log2cbsize)大于subpicrightborderinpic，y0 (1《《log2cbsize)大于subpicbottomborderinpic，(1《《log2cbsize)大于minqtsizec。否则，推断qt_split_cu_flag[x0][y0]的值等于0。
[0191]
多类型树的语法和语义如下：
[0192]
[0193]
[0194][0195]
[0196]
mtt_split_cu_flag等于0表示不划分编码单元。mtt_split_cu_flag等于1，表示使用二元划分将编码单元划分为两个编码单元，或使用三元划分将编码单元划分为三个编码单元，如语法元素mtt_split_cu_binary_flag所表示。二元划分或三元划分可以是垂直划分也可以是水平划分，如语法元素mtt_split_cu_vertical_flag所表示。当mtt_split_cu_flag不存在，则推断mtt_split_cu_flag的值如下。如果以下条件中的一个或多个为真，则推断mtt_split_cu_flag等于1：x0 cbwidth大于subpicrightborderinpic，y0 cbheight大于subpicbottomborderinpic。否则，推断mtt_split_cu_flag的值等于0。
[0197]
时间亮度运动矢量预测的推导过程如下。该过程的输出为：1/16分数样本精度的运动矢量预测mvlxcol，以及可用性标志availableflaglxcol。变量currcb表示亮度位置(xcb，ycb)的当前亮度编码块。变量mvlxcol和availableflaglxcol推导如下。如果tile_group_temporal_mvp_enabled_flag等于0，或者如果参考图像是当前图像，则mvlxcol的两个分量都设置为0，availableflaglxcol设置为0。否则(tile_group_temporal_mvp_enabled_flag等于1，且参考图像不是当前图像)，按顺序执行以下步骤。右下并置运动矢量推导如下：
[0198]
xcolbr＝xcb cbwidth
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(8-355)
[0199]
ycolbr＝ycb cbheight
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(8-356)
[0200]
如果ycb》》ctblog2sizey等于ycolbr》》ctblog2sizey，ycolbr小于subpicbottomborderinpic，并且xcolbr小于subpicrightborderinpic，则以下情况适用。变量colcb表示亮度编码块，该亮度编码块覆盖colpic所表示的并置图像内部((xcolbr》》3)《《3,(ycolbr》》3)《《3)所给出的修改位置。将亮度位置(xcolcb，ycolcb)设置为等于colcb表示的并置亮度编码块的左上样本相对于colpic表示的并置图像的左上亮度样本。调用并置运动矢量推导过程，将currcb、colcb、(xcolcb，ycolcb)、refidxlx和sbflag设置为0作为输入，将输出分配给mvlxcol和availableflaglxcol。否则，mvlxcol的两个分量都设置为0，availableflaglxcol设置为0。
[0201]
时间三角融合候选的推导过程如下。变量mvlxcolc0、mvlxcolc1、availableflaglxcolc0和availableflaglxcolc1推导如下：如果tile_group_temporal_mvp_enabled_flag等于0，则mvlxcolc0和mvlxcolc1的分量都设置为0，availableflaglxcolc0和availableflaglxcolc1的分量都设置为0。否则(tile_group_temporal_mvp_enabled_flag等于1)，按顺序执行以下步骤。右下并置运动矢量mvlxcolc0推导如下：
[0202]
xcolbr＝xcb cbwidth
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(8-392)
[0203]
ycolbr＝ycb cbheight
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(8-393)
[0204]
如果ycb》》ctblog2sizey等于ycolbr》》ctblog2sizey，ycolbr小于subpicbottomborderinpic，并且xcolbr小于subpicrightborderinpic，则以下情况适用。变量colcb表示亮度编码块，该亮度编码块覆盖colpic所表示的并置图像内部((xcolbr》》3)《《3,(ycolbr》》3)《《3)所给出的修改位置。将亮度位置(xcolcb，ycolcb)设置为等于colcb表示的并置亮度编码块的左上样本相对于colpic表示的并置图像的左上亮度样本。调用并置运动矢量推导过程，将currcb、colcb、(xcolcb，ycolcb)、refidxlxc0和sbflag设置为0作为输入，将输出分配给mvlxcolc0和availableflaglxcolc0。否则，mvlxcolc0的两
个分量都设置为0，availableflaglxcolc0设置为0。
[0205]
构造的仿射控制点运动矢量融合候选的推导过程如下。第四(并置右下)控制点运动矢量cpmvlxcorner[3]、参考索引refidxlxcorner[3]、预测列表使用标志predflaglxcorner[3]和可用性标志availableflagcorner[3](其中x为0和1)推导如下。将时间融合候选的参考索引refidxlxcorner[3](其中x为0或1)设置为0。变量mvlxcol和availableflaglxcol(x为0或1)推导如下。如果tile_group_temporal_mvp_enabled_flag等于0，则mvlxcol的两个分量都设置为0，availableflaglxcol设置为0。否则(tile_group_temporal_mvp_enabled_flag等于1)，以下情况适用：
[0206]
xcolbr＝xcb cbwidth
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(8-566)
[0207]
ycolbr＝ycb cbheight
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(8-567)
[0208]
如果ycb》》ctblog2sizey等于ycolbr》》ctblog2sizey，ycolbr小于subpicbottomborderinpic，并且xcolbr小于subpicrightborderinpic，则以下情况适用。变量colcb表示亮度编码块，该亮度编码块覆盖colpic所表示的并置图像内部((xcolbr》》3)《《3,(ycolbr》》3)《《3)所给出的修改位置。将亮度位置(xcolcb，ycolcb)设置为等于colcb表示的并置亮度编码块的左上样本相对于colpic表示的并置图像的左上亮度样本。调用并置运动矢量推导过程，将currcb、colcb、(xcolcb，ycolcb)、refidxlx和sbflag设置为0作为输入，将输出分配给mvlxcol和availableflaglxcol。否则，mvlxcol的两个分量都设置为0，availableflaglxcol设置为0。将出现的所有pic_width_in_luma_samples替换为picwidthinlumasamples。将出现的所有pic_height_in_luma_samples替换为picheightinlumasamples。
[0209]
在第二示例性实施例中，序列参数集rbsp语法和语义如下。
[0210]
[0211][0212]
subpic_id_len_minus1 1表示用于在sps中表示语法元素subpic_id[i]的比特数，spps中的spps_subpic_id参考sps，分块组头中的tile_group_subpic_id参考用sps。subpic_id_len_minus1的取值范围为ceil(log2(num_subpic_minus1 3)至8(包括端值)。对于i从0到num_subpic_minus1(包括端值)的子图像[i]之间不应重叠，这是码流一致性的要求。每个子图像可以是时间运动约束子图像。
[0213]
通用分块组头语义如下：tile_group_subpic_id标识分块组所属的子图像。tile_group_subpic_id的长度为subpic_id_len_minus1 1位。tile_group_subpic_id等于1表示该tile组不属于任何子图像。
[0214]
在第三示例性实施例中，nal单元头语法和语义如下：
[0215][0216]
nuh_subpicture_id_len表示用于表示子图像id的语法元素的比特数。当nuh_subpicture_id_len的值大于0时，后nuh_reserved_zero_4bits中的前nuh_subpicture_id_len-th位表示nal单元的载荷所属的子图像id。当nuh_subpicture_id_len大于0时，nuh_subpicture_id_len的值应等于激活sps的subpic_id_len_minus1的值。非vclnal单元的nuh_subpicture_id_len的值约束如下：如果nal_unit_type等于sps_nut或pps_nut，则nuh_subpicture_id_len应等于0。nuh_reserved_zero_3bits应等于“000”。解码器应忽略(例如从码流中去除并丢弃)nuh_reserved_zero_3bits的值不等于“000”的nal单元。
[0217]
在第四示例性实施例中，子图像嵌套语法如下：
[0218][0219]
all_sub_pictures_flag等于1表示嵌套sei消息应用于所有子图像。all_sub_pictures_flag等于1表示应用嵌套sei消息的子图像由后续语法元素显式指示。nesting_num_sub_pictures_minus1 1表示应用嵌套sei消息的子图像的数量。nesting_sub_picture_id[i]表示应用嵌套sei消息的第i个子图像的子图像id。nesting_sub_picture_id[i]语法元素由ceil(log2(nesting_num_sub_pictures_minus1 1))位表示。sub_picture_nesting_zero_bit应等于0。
[0220]
图9为示例性视频译码设备900的示意图。如本文所述，视频译码设备900适合于实现所公开的示例/实施例。视频译码设备900包括下行端口920、上行端口950和/或收发器单元(tx/rx)910，包括用于通过网络向上游和/或下游发送数据的发送器和/或接收器。视频译码设备900还包括处理器930，处理器930包括用于处理数据的逻辑单元和/或中央处理器(centralprocessingunit，cpu)以及用于存储数据的存储器932。视频译码设备900还可包括电、光电(optical-to-electrical，oe)组件、电光(electrical-to-optical，eo)组件、和/或耦合到上行端口950和/或下行端口920的无线通信组件，用于通过电、光或无线通信网络发送数据。视频译码设备900还可以包括用于与用户发送数据的输入和/或输出(i/o)设备960。i/o设备960可以包括输出设备，例如用于显示视频数据的显示器、用于输出音频数据的扬声器等。i/o设备960还可以包括输入设备，例如键盘、鼠标、轨迹球等，和/或用于与这些输出设备交互的相应接口。
[0221]
处理器930通过硬件和软件实现。处理器930可以实现为一个或多个cpu芯片、核(例如作为多核处理器)、现场可编程门阵列(field-programmablegatearray，fpga)、专用集成电路(application-specificintegratedcircuit，asic)和数字信号处理器(digitalsignalprocessor，dsp)。处理器930与下行端口920、tx/rx910、上行端口950和存储器932通信。处理器930包括译码模块914。译码模块914实现上述公开的实施例，例如方法100、1000、1100和/或机制700，可以使用码流500、图像600和/或图像800。译码模块914还可
以实现本文所描述的任何其它方法/机制。此外，译码模块914可以实现编解码系统200、编码器300和/或解码器400。例如，译码模块914可以用于在sps中指示和/或获取子图像位置和尺寸。在另一示例中，译码模块914可以将子图像宽度和子图像高度约束为ctu尺寸的倍数，除非这些子图像分别位于图像的右边界或图像的下边界上。在另一示例中，译码模块914可以将子图像约束为没有间隙或重叠地覆盖图像。在另一示例中，译码模块914可用于指示和/或获取数据，该数据表示一些子图像是时间运动约束子图像而其它子图像不是时间运动约束子图像。在另一示例中，译码模块914可以在sps中指示完整的子图像id集，并在每个条带头中包括子图像id以表示包括相应条带的子图像。在另一示例中，译码模块914可以指示每个子图像的级别。因此，译码模块914使视频译码设备900具有其它功能，在对视频数据进行分割和译码时，避免进行某些处理，以减少处理开销和/或提高译码效率。因此，译码模块914改进了视频译码设备900的功能，并解决了视频译码领域特有的问题。此外，译码模块914可以将视频译码设备900变换到不同的状态。或者，译码模块914可以实现为存储在存储器932中并由处理器930执行的指令(例如存储在非瞬时性介质中的计算机程序产品)。
[0222]
存储器932包括一个或多个存储器类型，如磁盘、磁带机、固态驱动器、只读存储器(readonlymemory，rom)、随机存取存储器(randomaccessmemory，ram)、闪存、三元内容寻址存储器(ternarycontent-addressablememory，tcam)、静态随机存取存储器(staticrandom-accessmemory，sram)等。存储器932可以用作溢出数据存储设备，以在选择程序用于执行时存储此类程序，并存储程序执行期间读取的指令和数据。
[0223]
图10为一种用于将子图像布局编码到码流(例如码流500)以支持子图像(例如子图像522、523、622、722和/或822)提取的示例性方法1000的流程图。编码器(例如编解码系统200、编码器300和/或视频译码设备900)在执行方法100时可以使用方法1000。
[0224]
方法1000可以在编码器接收到包括多个图像的视频序列，并且例如根据用户输入确定将该视频序列编码到码流中时开始。在编码之前，将视频序列分割成图像/帧以进行进一步分割。步骤1001：将图像分割为包括当前子图像(以下表示为子图像)的多个子图像。步骤1003：将所述子图像编码到码流中。
[0225]
步骤1005：将所述子图像的子图像尺寸和子图像位置编码到码流中的sps中。其中，所述子图像位置包括所述子图像的左上样本与所述图像的左上样本之间的偏移距离。所述子图像尺寸包括以亮度样本为单位的子图像高度和以亮度样本为单位的子图像宽度。也可以在sps中编码一个标志，以表示所述子图像为运动约束子图像。在这种情况下，所述子图像尺寸和所述子图像位置表示所述运动约束子图像的布局。
[0226]
步骤1007：将从所述图像分割的每个子图像的子图像id编码到sps中。也可以将从所述图像分割的子图像的数量编码到sps中。步骤1009：存储所述码流，所述码流用于发送到解码器。然后，可以根据需要将码流发送到解码器。在一些示例中，可以从经编码的码流中提取子码流。在这种情况下，发送的码流为子码流。在其它示例中，可以发送经编码的码流，用于在解码器中进行子码流提取。在又一示例中，无需子码流提取，经编码的码流可以解码和显示。在这些示例中的任何示例中，子图像尺寸、位置、id、数量和/或运动约束子图像标志可用于高效地向解码器指示子图像布局。
[0227]
图11为一种根据指示的子图像布局对子图像(例如子图像522、523、622、722和/或822)的码流(例如码流500和/或子码流501)进行解码的示例性方法1100的流程图。解码器
(例如编解码系统200、解码器400、和/或视频译码设备900)在执行方法100时可以使用方法1100。例如，方法1100可以用于解码根据方法1000创建的码流。
[0228]
解码器开始接收包括子图像的码流时，可以启动方法1100的流程。该码流可以包括完整的视频序列，或者该码流可以是包括用于单独提取的缩减后的子图像集合的子码流。步骤1101：接收码流。所述码流包括从图像分割的子图像。所述码流还包括sps。所述sps包括子图像尺寸和子图像位置。在一些示例中，所述子图像为时间运动约束子图像。在这种情况下，所述子图像尺寸和所述子图像位置表示所述运动约束子图像的布局。在一些示例中，所述sps还可包括从所述图像分割的每个子图像的子图像id。
[0229]
步骤1103：解析sps以获取所述子图像尺寸和所述子图像位置。所述子图像尺寸可以包括以亮度样本为单位的子图像高度和以亮度样本为单位的子图像宽度。所述子图像位置包括所述子图像的左上样本与所述图像的左上样本之间的偏移距离。还可以解析所述子图像以获取其它子图像相关数据，例如时间运动约束子图像标志和/或子图像id。
[0230]
步骤1105：根据所述子图像尺寸确定所述子图像相对于显示区域的尺寸。还可以根据所述子图像位置确定所述子图像相对于所述显示区域的位置。所述解码器还可以根据所述时间运动约束子图像标志确定所述子图像是否可以独立解码。因此，所述解码器可以根据sps中的解析数据和/或与所述子图像中包括的条带相关的条带头中的相应数据来确定子图像的布局。
[0231]
步骤1107：根据所述子图像尺寸、所述子图像位置和/或从sps、pps、条带头、sei消息等获取的其它信息对所述子图像进行解码，以创建视频序列。步骤1109：发送用于显示的所述视频序列。
[0232]
图12为一种用于通过码流(例如码流500和/或子码流501)指示子图像布局(例如子图像522、523、622、722和/或822的子图像布局)的示例性系统1200的示意图。系统1200可以通过编码器和解码器(例如编解码系统200、编码器300、解码器400、和/或视频译码设备900)实现。此外，可以使用系统1200实现方法100、1000和/或1100。
[0233]
系统1200包括视频编码器1202。视频编码器1202包括分割模块1201，用于将图像分割为包括当前子图像的多个子图像。视频编码器1202还包括编码模块1203，用于将从图像分割的子图像编码到码流中，并将子图像尺寸和子图像位置编码到所述码流中的sps。视频编码器1202还包括存储模块1205，用于存储所述码流，所述码流用于发送到解码器。视频编码器1202还包括发送模块1207，用于向解码器发送包括所述子图像、所述子图像尺寸和所述子图像位置的码流。视频编码器1202还可以用于执行方法1000中的任一步骤。
[0234]
系统1200还包括视频解码器1210。视频解码器1210包括接收模块1211，用于接收码流，所述码流包括从图像分割的子图像和sps，所述sps包括所述子图像的子图像尺寸和子图像位置。视频解码器1210还包括解析模块1213，用于解析所述sps，获取所述子图像尺寸和所述子图像位置。视频解码器1210还包括解码模块1215，用于根据所述子图像尺寸和所述子图像位置对所述子图像进行解码，以创建视频序列。视频解码器1110还包括发送模块1217，用于发送用于显示的所述视频序列。视频解码器1210还可以用于执行方法1100中的任一步骤。
[0235]
当第一组件与第二组件之间除线、迹线或其它介质之外，没有中间组件时，第一组件直接耦合到第二组件。当第一组件与第二组件之间除了线、迹线或其它介质之外还有中
间组件时，第一组件与第二组件间接耦合。术语“耦合”及其同义词包括直接耦合和间接耦合。除非另有说明，否则使用术语“约”意指包括后续数字
±
10％的范围。
[0236]
还应理解，本文中阐述的示例性方法的步骤不一定需要按照所描述的顺序执行，并且这些方法的步骤的顺序应理解为仅仅是示例性的。同样地，在与本发明各种实施例相一致的方法中，这些方法可以包括其它步骤，并且某些步骤可以省略或组合。
[0237]
虽然本发明中已提供若干实施例，但可以理解，在不脱离本发明的精神或范围的情况下，所公开的系统和方法可以以许多其它特定形式来体现。本发明的示例应被视为说明性而非限制性的，且本发明并不限于本文本所给出的细节。例如，可以在另一系统中结合或集成各种元件或组件，或者可以省略或不实施某些特征。
[0238]
此外，在不脱离本发明范围的情况下，各种实施例中描述和说明为离散或单独的技术、系统、子系统和方法可以与其它系统、组件、技术或方法进行组合或集成。变化、替换和变更的其它实例可由本领域技术人员确定，并可在不脱离本文公开的精神和范围的情况下举例。