视频编码系统中使用简化的残差数据编码的视频解码方法及其设备与流程

1.本公开涉及图像编码技术，并且更具体地，涉及在使用当前块的所有最大可用上下文编码bin(位)的情况下在根据图像编码系统中当前块的tsrc来对残差数据进行编码以根据简化的残差数据编码结构对后续残差数据进行编码的图像编码方法和用于该图像编码方法的设备。


背景技术：

2.近来，在各种领域中，对诸如hd(高清)图像和uhd(超高清)图像这样的高分辨率、高质量图像的需求正在增长。因为图像数据具有高分辨率和高质量，所以相对于传统图像数据，待传输的信息或比特的量增加。因此，当使用诸如传统有线/无线宽带线路这样的介质发送图像数据或者使用现有存储介质存储图像数据时，其传输成本和存储成本增加。
3.因此，需要用于有效地发送、存储和再现高分辨率高质量图像的信息的高效图像压缩技术。


技术实现要素：

4.技术问题
5.本公开提供了一种用于提高图像编码效率的方法和装置。
6.本公开还提供了一种用于提高残差编码效率的方法和装置。
7.技术方案
8.根据本文献的实施方式，提供了一种由解码设备执行的图像解码方法。该方法包括以下步骤：获得当前块的残差信息；基于所述残差信息来推导所述当前块的残差样本；以及基于所述残差样本来生成重构图片。
9.根据本文献的另一实施方式，提供了一种执行图像解码的解码设备。所述解码设备包括：熵解码器，该熵解码器被配置为获得当前块的残差信息；残差处理器，该残差处理器被配置为基于所述残差信息来推导所述当前块的残差样本；以及加法器，该加法器被配置为基于所述残差样本来生成重构图片。
10.根据本文献的又一实施方式，提供了一种由编码设备执行的图像编码方法。该方法包括以下步骤：推导当前块的残差样本；生成所述残差样本的残差信息；以及对包括所述残差信息的图像信息进行编码。
11.根据本文献的又一实施方式，提供了一种图像编码设备。所述编码设备包括：残差处理器，该残差处理器被配置为推导当前块的残差样本；以及熵编码器，该熵编码器被配置为生成所述残差样本的残差信息，并对包括所述残差信息的图像信息进行编码。
12.根据本文献的又一实施方式，提供了一种存储比特流的非暂态计算机可读存储介质，所述比特流包括使图像解码方法被执行的图像信息。在所述非暂态计算机可读存储介质中，所述图像解码方法包括：获得当前块的残差信息；基于所述残差信息来推导所述当前
块的残差样本；以及基于所述残差样本来生成重构图片。
13.技术效果
14.根据本公开，残差编码的效率可以提高。
15.根据本公开，当在tsrc中消耗当前块的最大数目的上下文编码bin时，可以发信号通知根据简化的残差数据编码结构的语法元素，并且据此，旁路编码的语法元素的编码复杂度降低，并且整体残差编码效率可以提高。
16.根据本公开，作为旁路编码的语法元素的编码顺序，可以使用语法元素优先的顺序，并且据此，旁路编码的语法元素的编码效率可以提高，并且整体残差编码效率可以提高。
附图说明
17.图1简要图示了可应用本公开的实施方式的视频/图像编码设备的示例。
18.图2是图示了可以应用本公开的实施方式的视频/图像编码装置的配置的示意图。
19.图3是图示了可以应用本公开的实施方式的视频/图像解码装置的配置的示意图。
20.图4图示了基于帧间预测的视频/图像编码方法的示例。
21.图5图示了基于帧间预测的视频/图像解码方法的示例。
22.图6示意性地示出了帧间预测过程。
23.图7示例性地示出了用于对语法元素进行编码的上下文自适应二进制算术编码(cabac)。
24.图8是示出4
×
4块内的示例性变换系数的图。
25.图9例示了在tsrc中对语法元素进行编码的示例。
26.图10例示了在tsrc中对语法元素进行编码的另一示例。
27.图11例示了在tsrc中对语法元素进行编码的另一示例。
28.图12例示了按语法元素优先的编码顺序而不是系数位置优先的编码顺序来在tsrc中对旁路编码的语法元素进行编码的示例。
29.图13例示了按语法元素优先的编码顺序而不是系数位置优先的编码顺序来在tsrc中对旁路编码的语法元素进行编码的示例。
30.图14例示了在简化的残差数据编码结构中对语法元素进行编码的示例。
31.图15例示了按语法元素优先的编码顺序而不是系数位置优先的编码顺序来在简化的残差数据编码结构中对旁路编码的语法元素进行编码的示例。
32.图16a和图16b例示了在简化的残差数据编码结构中对语法元素进行编码的实施方式。
33.图17a和图17b例示了按语法元素优先的编码顺序而不是系数位置优先的编码顺序来在简化的残差数据编码结构中对旁路编码的语法元素进行编码的示例。
34.图18例示了在简化的残差数据编码结构中对语法元素进行编码的实施方式。
35.图19例示了按语法元素优先的编码顺序而不是系数位置优先的编码顺序来在简化的残差数据编码结构中对旁路编码的语法元素进行编码的示例。
36.图20简要例示了根据本公开的由编码设备执行的图像编码方法。
37.图21简要例示了根据本公开的执行图像编码方法的编码设备。
38.图22简要例示了根据本公开的由解码设备执行的图像解码方法。
39.图23简要例示了根据本公开的执行图像解码方法的解码设备。
40.图24例示了应用本公开的内容流传输系统的结构示图。
具体实施方式
41.本公开能够以各种形式修改，并且将在附图中描述和例示其特定实施方式。然而，实施方式并非旨在限制本公开。在以下描述中使用的术语仅用于描述特定实施方式，并非旨在限制本公开。只要清楚地以不同的方式理解，单数的表达包括复数的表达。诸如“包括”和“具有”之类的术语旨在表示存在以下描述中使用的特征、数目、步骤、操作、元件、组件或其组合，因此应理解的为不排除存在或添加一个或更多个不同的特征、数目、步骤、操作、元件、组件或其组合的可能性。
42.此外，在本公开中描述的附图中的元件是为了方便地解释不同的特定功能而独立地绘制的，并不意味着这些元件由独立的硬件或独立的软件来体现。例如，可以将元件中的两个或更多个元件组合以形成单个元件，或者可以将一个元件分割为多个元件。其中组合元件和/或分割元件的实施方式属于本公开，而没有脱离本公开的概念。
43.在下文中，将参照附图详细描述本公开的实施方式。另外，在整个附图中，相似的附图标记用于指示相似的元件，并且将省略对相似元件的相同描述。
44.图1简要例示了可应用本公开的实施方式的视频/图像编码装置的示例。
45.参照图1，视频/图像编码系统可以包括第一装置(源装置)和第二装置(接收装置)。源装置可以经由数字存储介质或网络以文件或流的形式向接收装置传递编码视频/图像信息或数据。
46.源装置可以包括视频源、编码设备和发送器。接收装置可以包括接收器、解码设备和渲染器。编码设备可以称为视频/图像编码设备，并且解码设备可以称为视频/图像解码设备。发送器可以包括在编码设备中。接收器可以包括在解码设备中。渲染器可以包括显示器，并且显示器可以被配置为单独的装置或外部组件。
47.视频源可以通过捕获、合成或生成视频/图像的处理来获取视频/图像。视频源可以包括视频/图像捕获装置和/或视频/图像生成装置。视频/图像捕获装置可以包括例如一个或更多个相机、包括先前捕获的视频/图像的视频/图像档案等。视频/图像生成装置可以包括例如计算机、平板电脑和智能电话，并且可以(电子地)生成视频/图像。例如，可以通过计算机等生成虚拟视频/图像。在这种情况下，视频/图像捕获处理可以由生成相关数据的处理代替。
48.编码设备可以对输入的视频/图像进行编码。编码设备可以执行诸如预测、变换和量化的一系列过程，以实现压缩和编码效率。编码数据(编码视频/图像信息)能够以比特流的形式输出。
49.发送器可以通过数字存储介质或网络以文件或流的形式向接收装置的接收器发送以比特流形式输出的编码后的图像/图像信息或数据。数字存储介质可以包括诸如usb、sd、cd、dvd、蓝光、hdd、ssd等的各种存储介质。发送器可以包括用于通过预定文件格式生成媒体文件的元件，并且可以包括用于通过广播/通信网络进行发送的元件。接收器可以接收/提取比特流，并向解码设备发送接收到的比特流。
50.解码设备可以通过执行与编码设备的操作相对应的诸如反量化、逆变换和预测之类的一系列过程，来对视频/图像进行解码。
51.渲染器可以渲染经解码的视频/图像。经渲染的视频/图像可以通过显示器显示。
52.本公开涉及视频/图像编码。例如，本公开中所公开的方法/实施方式可以应用于在多功能视频编码(vvc)、evc(基本视频编码)标准、aomedia video 1(av1)标准、第2代音频视频编码标准(avs2)或下一代视频/图像编码标准(例如，h.267、或h.268等)中公开的方法。
53.本公开呈现了视频/图像编码的各种实施方式，并且除非另外提及，否则实施方式可以彼此组合地执行。
54.在本公开中，视频可以是指随时间推移的一系列图像。通常，图片是指表示特定时区中的一个图像的单元，并且子图片/切片/图块(tile)是构成编码中的图片的一部分的单元。子图片/切片/图块可以包括一个或多个编码树单元(ctu)。一幅图片可以由一个或多个子图片/切片/图块构成。一幅图片可以由一个或多个图块组构成。一个图块组可以包括一个或多个图块。拼块(brick)可以表示图片中的图块内的ctu行的矩形区域。图块可以被分区为多个拼块，每个拼块由图块内的一个或多个ctu行组成。没有被分区为多个拼块的图块也可以被称为拼块。拼块扫描可以对图片进行分区的ctu的特定顺序排序，其中，在拼块中按ctu光栅扫描对ctu进行连续排序，按图块的拼块的光栅扫描对图块内的拼块进行连续排序，并且按图片的图块的光栅扫描对图片中的图块进行连续排序。另外，子图片可以表示图片内的一个或多个切片的矩形区域。即，子图片包含共同覆盖图片的矩形区域的一个或多个切片。图块是图片中的特定图块列和特定图块行内的ctu的矩形区域。图块列是ctu的矩形区域，该矩形区域的高度等于图片的高度并且宽度由图片参数集中的语法元素指定。图块行是ctu的矩形区域，该矩形区域的高度由图片参数集中的语法元素指定并且宽度等于图片的宽度。图块扫描是对图片进行分区的ctu的特定顺序排序，其中，可以在图块中按ctu光栅扫描对ctu进行连续排序，而可以按图片的图块的光栅扫描对图片中的图块进行连续排序。切片包括图片的可以被排他性地包含在单个nal单元中的整数个拼块。切片可以由多个完整图块组成或者仅由一个图块的连续序列的完整拼块组成。在本公开中，可以互换地使用图块组和切片。例如，在本公开中，图块组/图块组报头可以被称为切片/切片报头。
55.像素或像元(pel)可以表示组成一幅图片(或图像)的最小单位。另外，“样本”可以用作与像素相对应的术语。样本通常可以表示像素或像素值，并且可以仅表示亮度分量的像素/像素值或仅表示色度分量的像素/像素值。
56.单元可以表示图像处理的基本单位。单元可以包括图片的特定区域和与该区域有关的信息中的至少一个。一个单元可以包括一个亮度块和两个色度(例如，cb、cr)块。在一些情况下，单元可以与诸如块或区域之类的术语互换使用。在一般情况下，m
×
n块可以包括m列和n行的样本(或样本阵列)或变换系数的集合(或阵列)。
57.在本说明书中，“a或b”可以是指“仅a”、“仅b”或“a和b”。换言之，在本说明书中，“a或b”可以被解释为“a和/或b”。例如，“a、b或c”在本文中是指“仅a”、“仅b”、“仅c”或“a、b和c的任何一个和任何组合”。
58.本说明书中使用的斜线(/)或逗号(comma)可以是指“和/或”。例如，“a/b”可以是指“a和/或b”。因此，“a/b”可以是指“仅a”、“仅b”或“a和b”。例如，“a,b,c”可以是指“a、b或
c”。
59.在本说明书中，“a和b中的至少一个”可以是指“仅a”、“仅b”或“a和b两者”。另外，在本说明书中，表述“a或b中的至少一个”或“a和/或b中的至少一个”可以被解释为与“a和b中的至少一个”相同。
60.另外，在本说明书中，“a、b和c中的至少一个”是指“仅a”、“仅b”、“仅c”或“a、b和c的任意组合”。此外，“a、b或c中的至少一个”或“a、b和/或c中的至少一个”可以是指“a、b和c中的至少一个”。
61.此外，本说明书中使用的括号可以是指“例如”。具体地，当指示“预测(帧内预测)”时，可能将“帧内预测”作为“预测”的示例提出。换言之，本说明书中的“预测”不限于“帧内预测”，可以将“帧内预测”作为“预测”的示例提出。此外，即使当指示“预测(即，帧内预测)”时，“帧内预测”也可以作为“预测”的示例提出。
62.在本说明书中，在一幅图中单独描述的技术特征可以单独实现或可以同时实现。
63.创建以下附图以解释本说明书的具体示例。由于附图中描述的特定装置的名称或特定信号/消息/字段的名称通过示例呈现，因此本说明书的技术特征不限于在以下附图中使用的特定名称。
64.图2是例示了可以应用本公开的实施方式的视频/图像编码设备的配置的示意图。在下文中，视频编码设备可以包括图像编码设备。
65.参照图2，编码设备200包括图像分割器210、预测器220、残差处理器230和熵编码器240、加法器250、滤波器260和存储器270。预测器220可以包括帧间预测器221和帧内预测器222。残差处理器230可以包括变换器232、量化器233、反量化器234和逆变换器235。残差处理器230还可以包括减法器231。加法器250可以称为重构器或重构块生成器。根据实施方式，图像分割器210、预测器220、残差处理器230、熵编码器240、加法器250和滤波器260可以由至少一个硬件组件(例如，编码器芯片组或处理器)构成。另外，存储器270可以包括解码图片缓冲器(dpb)或者可以由数字存储介质构成。硬件组件还可以包括作为内部/外部组件的存储器270。
66.图像分割器210可以将输入到编码设备200的输入图像(或图片或帧)分割到一个或更多个处理器中。例如，处理器可以被称为编码单元(cu)。在这种情况下，可以根据四叉树二叉树三叉树(qtbttt)结构从编码树单元(ctu)或最大编码单元(lcu)来递归地分割编码单元。例如，一个编码单元可以基于四叉树结构、二叉树结构和/或三元结构而被分割为深度更深的多个编码单元。在这种情况下，例如，可以首先应用四叉树结构，随后可以应用二叉树结构和/或三元结构。可替选地，可以首先应用二叉树结构。可以基于不再分割的最终编码单元来执行根据本公开的编码过程。在这种情况下，可以根据图像特性基于编码效率将最大编码单元用作最终编码单元，或者如果需要，可以将编码单元递归地分割为深度更深的编码单元并且具有最佳大小的编码单元可以用作最终编码单元。这里，编码过程可以包括预测、变换和重构的过程，这将在后面描述。作为另一示例，处理器还可以包括预测单元(pu)或变换单元(tu)。在这种情况下，可以从上述最终编码单元来分离或分割预测单元和变换单元。预测单元可以是样本预测的单元，并且变换单元可以是用于推导变换系数的单元和/或用于从变换系数推导残差信号的单元。
67.在一些情况下，单元可以与诸如块或区域之类的术语互换使用。在一般情况下，m
×
n块可以表示由m列和n行组成的样本或变换系数的集合。样本通常可以表示像素或像素值，可以仅表示亮度分量的像素/像素值，或者仅表示色度分量的像素/像素值。样本可以用作与像素或像元的一幅图片(或图像)相对应的术语。
68.在编码设备200中，从输入图像信号(原始块、原始样本阵列)中减去从帧间预测器221或帧内预测器222输出的预测信号(预测块、预测样本阵列)，以生成残差信号(残差块、残差样本阵列)并且所生成的残差信号被发送到变换器232。在这种情况下，如图所示，在编码器200中用于从输入图像信号(原始块、原始样本阵列)减去预测信号(预测块、预测样本阵列)的单元可以称为减法器231。预测器可以对要处理的块(在下文中称为当前块)执行预测，并生成包括当前块的预测样本的预测块。预测器能够以当前块或cu为基础来确定是应用帧内预测还是应用帧间预测。如稍后在每个预测模式的描述中所述，预测器可以生成与预测有关的、诸如预测模式信息之类的各种信息，并向熵编码器240发送所生成的信息。关于预测的信息可以在熵编码器240中编码并以比特流的形式输出。
69.帧内预测器222可以通过参考当前图片中的样本来预测当前块。根据预测模式，参考的样本可以位于当前块的附近，或者可以远离当前块。在帧内预测中，预测模式可以包括多个非定向模式和多个定向模式。非定向模式可以包括例如dc模式和平面模式。根据预测方向的详细程度，定向模式可以包括例如33个定向预测模式或65个定向预测模式。然而，这仅是示例，依据设置，可以使用更多或更少的定向预测模式。帧内预测器222可以通过使用应用于相邻块的预测模式来确定应用于当前块的预测模式。
70.帧间预测器221可以基于由参考图片上的运动矢量指定的参考块(参考样本阵列)来推导当前块的预测块。这里，为了减少在帧间预测模式下发送的运动信息的量，可以基于相邻块和当前块之间的运动信息的相关性，以块、子块或样本为单位来预测运动信息。运动信息可以包括运动矢量和参考图片索引。运动信息还可包括帧间预测方向(l0预测、l1预测、bi预测等)信息。在帧间预测的情况下，相邻块可以包括存在于当前图片中的空间相邻块和存在于参考图片中的时间相邻块。包括参考块的参考图片和包括时间相邻块的参考图片可以相同或不同。时间相邻块可以称为并置参考块、共位cu(colcu)等，并且包括时间相邻块的参考图片可以称为并置图片(colpic)。例如，帧间预测器221可以基于相邻块来配置运动信息候选列表，并且生成指示使用哪个候选来推导当前块的运动矢量和/或参考图片索引的信息。可以基于各种预测模式来执行帧间预测。例如，在跳过模式和合并模式的情况下，帧间预测器221可以将相邻块的运动信息用作当前块的运动信息。在跳过模式下，与合并模式不同，可能无法发送残差信号。在运动矢量预测(mvp)模式的情况下，可以将相邻块的运动矢量用作运动矢量预测器，并且可以通过发信号通知运动矢量差来指示当前块的运动矢量。
71.预测器220可以基于以下描述的各种预测方法来生成预测信号。例如，预测器不仅可以应用帧内预测或帧间预测来预测一个块，而且可以同时应用帧内预测和帧间预测二者。这可以称为帧间帧内组合预测(ciip)。另外，预测器可以基于帧内块复制(ibc)预测模式或调色板模式来预测块。ibc预测模式或调色板模式可用于游戏等的内容图像/视频编码，例如，屏幕内容编码(scc)。ibc基本上在当前图片中执行预测，但是可以类似于帧间预测来执行ibc，因为参考块是在当前图片中推导的。即，ibc可以使用本公开中描述的帧间预测技术中的至少一种。调色板模式可以被视为帧内编码或帧内预测的示例。当应用调色板
模式时，可以基于关于调色板表和调色板索引的信息来发信号通知图片内的样本值。
72.由预测器(包括帧间预测器221和/或帧内预测器222)生成的预测信号可以用于生成重构信号或生成残差信号。变换器232可以通过向残差信号应用变换技术来生成变换系数。例如，变换技术可以包括离散余弦变换(dct)、离散正弦变换(dst)、karhunen-lo
è
ve变换(klt)、基于图的变换(gbt)或条件非线性变换(cnt)中的至少一种。这里，gbt表示当像素之间的关系信息由图表示时从图获得的变换。cnt是指基于使用所有先前重构的像素生成的预测信号而生成的变换。另外，变换处理可以应用于具有相同大小的正方形像素块，或者可以应用于具有可变大小而非正方形的块。
73.量化器233可以对变换系数进行量化，并且将它们发送给熵编码器240，并且熵编码器240可以对量化信号(关于量化变换系数的信息)进行编码并且输出比特流。关于量化变换系数的信息可以称为残差信息。量化器233可以基于系数扫描顺序将块类型量化变换系数重新布置为一维矢量形式，并且基于一维矢量形式的量化变换系数来生成关于量化变换系数的信息。可以生成关于变换系数的信息。熵编码器240可以执行各种编码方法，诸如，例如指数哥伦布(golomb)、上下文自适应变长编码(cavlc)、上下文自适应二进制算术编码(cabac)等。熵编码器240可以对除了量化变换系数以外的视频/图像重构所需的信息(例如，语法元素的值等)一起或分开地进行编码。能够以比特流的形式以nal(网络抽象层)为单位发送或存储编码信息(例如，编码视频/图像信息)。视频/图像信息还可以包括关于诸如自适应参数集(aps)、图片参数集(pps)、序列参数集(sps)或视频参数集(vps)之类的各种参数集的信息。另外，视频/图像信息还可包括一般约束信息。在本公开中，从编码设备向解码设备发送/发信号通知的信息和/或语法元素可以包括在视频/图片信息中。视频/图像信息可以通过上述编码过程被编码并且被包括在比特流中。比特流可以通过网络发送，或者可以存储在数字存储介质中。网络可以包括广播网络和/或通信网络，并且数字存储介质可以包括诸如usb、sd、cd、dvd、蓝光、hdd、ssd等的各种存储介质。可以包括发送从熵编码器240输出的信号的发送器(未示出)和/或存储该信号的存储单元(未示出)作为编码设备200的内部/外部元件，并且可替选地，发送器可以包括在熵编码器240中。
74.从量化器233输出的量化变换系数可以用于生成预测信号。例如，可以通过利用反量化器234和逆变换器235对量化变换系数应用反量化和逆变换，来重构残差信号(残差块或残差样本)。加法器250将重构的残差信号与从帧间预测器221或帧内预测器222输出的预测信号相加，以生成重构信号(重构图片、重构块、重构样本阵列)。如果要处理的块没有残差(诸如应用了跳过模式的情况)，则可以将预测块用作重构块。加法器250可以称为重构器或重构块生成器。所生成的重构信号可以用于在当前图片中要处理的下一块的帧内预测，并且可以通过如下所述的滤波用于下一图片的帧间预测。
75.此外，在图片编码和/或重构期间，可以应用亮度映射与色度缩放(lmcs)。
76.滤波器260可以通过对重构信号应用滤波来改善主观/客观图像质量。例如，滤波器260可以通过对重构图片应用各种滤波方法来生成修改后的重构图片，并将修改后的重构图片存储在存储器270(具体地，存储器270的dpb)中。各种滤波方法可包括例如去块滤波、样本自适应偏移、自适应环路滤波器、双边滤波器等。滤波器260可以生成与滤波有关的各种信息，并且将生成的信息发送给熵编码器240，如稍后在各种滤波方法的描述中所述。与滤波有关的信息可以由熵编码器240编码并且以比特流的形式输出。
77.发送给存储器270的修改后的重构图片可以用作帧间预测器221中的参考图片。当通过编码设备应用帧间预测时，可以避免编码设备200与解码设备之间的预测不匹配，并且可以提高编码效率。
78.存储器270的dpb可以存储用作帧间预测器221中的参考图片的修改后的重构图片。存储器270可以存储从中推导(或编码)当前图片中的运动信息的块的运动信息和/或图片中已重构的块的运动信息。所存储的运动信息可以发送给帧间预测器221，并且用作空间相邻块的运动信息或时间相邻块的运动信息。存储器270可以存储当前图片中的重构块的重构样本，并且可以将重构样本传送给帧内预测器222。
79.图3是例示了可以应用本公开的实施方式的视频/图像解码设备的配置的示意图。
80.参照图3，解码设备300可以包括熵解码器310、残差处理器320、预测器330、加法器340、滤波器350、存储器360。预测器330可以包括帧间预测器332和帧内预测器331。残差处理器320可以包括反量化器321和逆变换器322。根据实施方式，熵解码器310、残差处理器320、预测器330、加法器340和滤波器350可以由硬件组件(例如，解码器芯片组或处理器)构成。另外，存储器360可以包括解码图片缓冲器(dpb)，或者可以由数字存储介质构成。硬件组件还可以包括存储器360作为内部/外部组件。
81.当输入包括视频/图像信息的比特流时，解码设备300可以与在图2的编码设备中处理视频/图像信息的处理相对应地重构图像。例如，解码设备300可以基于从比特流获得的块分割相关信息来推导单元/块。解码设备300可以使用在编码设备中应用的处理器来执行解码。因此，解码的处理器可以是例如编码单元，并且可以根据四叉树结构、二叉树结构和/或三叉树结构，从编码树单元或最大编码单元对编码单元进行分割。可以从编码单元推导一个或更多个变换单元。可以通过再现设备来再现通过解码设备300解码并输出的重构图像信号。
82.解码设备300可以接收以比特流形式从图2的编码设备输出的信号，并且可以通过熵解码器310对接收到的信号进行解码。例如，熵解码器310可以解析比特流，以推导图像重构(或图片重构)所需的信息(例如，视频/图像信息)。视频/图像信息还可以包括关于诸如自适应参数集(aps)、图片参数集(pps)、序列参数集(sps)或视频参数集(vps)之类的各种参数集的信息。另外，视频/图像信息还可以包括一般约束信息。解码设备还可以基于关于参数集的信息和/或一般约束信息来对图片进行解码。本公开中稍后描述的发信号通知的/接收的信息和/或语法元素可以通过解码过程被解码，并从比特流中获取。例如，熵解码器310基于诸如指数哥伦布编码、cavlc或cabac之类的编码方法对比特流中的信息进行解码，并输出图像重构所需的语法元素和残差的变换系数的量化值。更具体地，cabac熵解码方法可以接收与比特流中的每个语法元素相对应的bin，使用解码目标语法元素信息、解码目标块的解码信息或在先前级中解码的符号/bin的信息来确定上下文模型，并通过根据所确定的上下文模型预测bin的出现概率来对该bin进行算术解码，并且生成与每个语法元素的值相对应的符号。在这种情况下，在确定上下文模型之后，cabac熵解码方法可以通过将经解码的符号/bin的信息用于下一符号/bin的上下文模型来更新上下文模型。由熵解码器310解码的信息之中与预测有关的信息可以提供给预测器(帧间预测器332和帧内预测器331)，并且在熵解码器310中对其执行了熵解码的残差值(也就是说，量化变换系数和相关参数信息)可以被输入到残差处理器320。残差处理器320可以推导残差信号(残差块、残差样本、残
差样本阵列)。另外，由熵解码器310解码的信息之中关于滤波的信息可以提供给滤波器350。此外，用于接收从编码设备输出的信号的接收器(未示出)可以进一步被配置为解码设备300的内部/外部元件，或者接收器可以是熵解码器310的组件。此外，根据本公开的解码设备可以称为视频/图像/图片解码设备，并且解码设备可以分类为信息解码器(视频/图像/图片信息解码器)和样本解码器(视频/图像/图片样本解码器)。信息解码器可以包括熵解码器310，并且样本解码器可以包括反量化器321、逆变换器322、加法器340、滤波器350、存储器360、帧间预测器332和帧内预测器331中的至少一个。
83.反量化器321可以对量化变换系数进行反量化并且输出变换系数。反量化器321能够以二维块的形式重新布置量化变换系数。在这种情况下，可以基于在编码设备中执行的系数扫描顺序来执行重新布置。反量化器321可以通过使用量化参数(例如，量化步长信息)对量化变换系数执行反量化，并且获得变换系数。
84.逆变换器322对变换系数进行逆变换以获得残差信号(残差块、残差样本阵列)。
85.预测器可以对当前块执行预测，并生成包括当前块的预测样本的预测块。预测器可以基于从熵解码器310输出的关于预测的信息来确定向当前块应用帧内预测还是帧间预测，并且可以确定具体的帧内/帧间预测模式。
86.预测器320可以基于以下描述的各种预测方法来生成预测信号。例如，预测器不仅可以应用帧内预测或帧间预测来预测一个块，而且可以同时应用帧内预测和帧间预测。这可以称为帧间和帧内组合预测(ciip)。另外，预测器可以基于帧内块复制(ibc)预测模式或调色板模式来预测块。ibc预测模式或调色板模式可以用于游戏等的内容图像/视频编码，例如，屏幕内容编码(scc)。ibc基本上在当前图片中执行预测，但是可以类似于帧间预测来执行ibc，因为在当前图片中推导参考块。即，ibc可以使用本公开中描述的帧间预测技术中的至少一种。调色板模式可以被视为帧内编码或帧内预测的示例。当应用调色板模式时，可以基于关于调色板表和调色板索引的信息来发信号通知图片内的样本值。
87.帧内预测器331可以通过参考当前图片中的样本来预测当前块。根据预测模式，参考的样本可以位于当前块的附近，或者可以远离当前块。在帧内预测中，预测模式可以包括多个非定向模式和多个定向模式。帧内预测器331可以通过使用应用于相邻块的预测模式来确定应用于当前块的预测模式。
88.帧间预测器332可以基于由参考图片上的运动矢量指定的参考块(参考样本阵列)来推导当前块的预测块。在这种情况下，为了减少在帧间预测模式中发送的运动信息的量，可以基于相邻块和当前块之间的运动信息的相关性，以块、子块或样本为单位来预测运动信息。运动信息可以包括运动矢量和参考图片索引。运动信息还可包括帧间预测方向(l0预测、l1预测、bi预测等)信息。在帧间预测的情况下，相邻块可以包括存在于当前图片中的空间相邻块和存在于参考图片中的时间相邻块。例如，帧间预测器332可以基于相邻块来配置运动信息候选列表，并基于接收到的候选选择信息来推导当前块的运动矢量和/或参考图片索引。可以基于各种预测模式来执行帧间预测，并且关于预测的信息可以包括指示针对当前块的帧间预测的模式的信息。
89.加法器340可以通过将所获得的残差信号与从预测器(包括帧间预测器332和/或帧内预测器331)输出的预测信号(预测块、预测样本阵列)相加来生成重构信号(重构图片、重构块、重构样本阵列)。如果要处理的块没有残差(例如当应用跳过模式时)，则可以将预
测块用作重构块。
90.加法器340可以称为重构器或重构块生成器。所生成的重构信号可以用于当前图片中要处理的下一块的帧内预测，可以通过如下所述的滤波输出，或者可以用于下一图片的帧间预测。
91.此外，在图片解码处理中可以应用亮度映射与色度缩放(lmcs)。
92.滤波器350可以通过向重构信号应用滤波来改善主观/客观图像质量。例如，滤波器350可以通过对重构图片应用各种滤波方法来生成修改后的重构图片，并将修改后的重构图片存储在存储器360(具体地，存储器360的dpb)中。各种滤波方法可包括例如去块滤波、样本自适应偏移、自适应环路滤波器、双边滤波器等。
93.存储器360的dpb中存储的(修改后的)重构图片可以用作帧间预测器332中的参考图片。存储器360可以存储从中推导(或解码)当前图片中的运动信息的块的运动信息和/或图片中已重构的块的运动信息。所存储的运动信息可以发送给帧间预测器260，以作为空间相邻块的运动信息或时间相邻块的运动信息来利用。存储器360可以存储当前图片中的重构块的重构样本，并且可以将重构样本传送给帧内预测器331。
94.在本公开中，在编码设备200的滤波器260、帧间预测器221和帧内预测器222中描述的实施方式可以与解码设备300的滤波器350、帧间预测器332和帧内预测器331相同或者分别被应用以对应于解码设备300的滤波器350、帧间预测器332和帧内预测器331。相同的内容也可以应用于帧间预测器332和帧内预测器331。
95.在本公开中，可以省略量化/逆量化和/或变换/逆变换中的至少一种。当省略量化/逆量化时，量化的变换系数可以被称为变换系数。当省略变换/逆变换时，变换系数可以被称为系数或残差系数，或者为了表达的统一性，仍可以被称为变换系数。
96.在本公开中，量化变换系数和变换系数可以分别被称为变换系数和缩放变换系数。在这种情况下，残差信息可以包括关于变换系数的信息，并且可以通过残差编码语法发信号通知关于变换系数的信息。可以基于残差信息(或关于变换系数的信息)推导变换系数，并且可以通过对变换系数逆变换(缩放)来推导缩放变换系数。可以基于对缩放变换系数逆变换(变换)来推导残差样本。这也可以在本公开的其他部分中应用/表达。
97.如上所述，在执行视频编码时，执行预测以提高压缩效率。通过这样，可以生成包括用于当前块的预测样本的预测块，作为待编码的块(即，编码目标块)。本文中，预测块包括空间域(或像素域)中的预测样本。在编码设备和解码设备中以相同的方式推导预测块，并且编码设备可以向解码设备发信号通知关于原始块与预测块之间的残差的信息(残差信息)，而不是原始块的原始样本值，从而提高图像编码效率。解码设备可以基于残差信息来推导包括残差样本的残差块，将残差块和预测块相加以生成包括重构样本的重构块，并且生成包括重构块的重构图片。
98.可以通过变换和量化过程来生成残差信息。例如，编码设备可以推导原始块与预测块之间的残差块，可以对包括在残差块中的残差样本(残差样本阵列)执行变换过程来推导变换系数，可以对变换系数执行量化过程来推导量化的变换系数，并且可以将相关残差信息(通过比特流)发信号通知解码设备。本文中，残差信息可以包括量化变换系数的值信息、位置信息、变换技术、变换核心和量化参数等的值信息。解码设备可以基于残差信息来执行反量化/逆变换过程并且推导残差样本(或残差块)。解码设备可以基于预测块和残差
块来生成重构图片。此外，为用于以后参考图片的帧间预测的参考，编码设备可以反量化/逆变换量化的变换系数以推导残差块，并且基于此来生成重构图片。
99.帧内预测可以是指基于当前块所属的图片(在下文中，被称为当前图片)中的参考样本，生成用于当前块的预测样本的预测。在对当前块应用帧内预测时，可以推导要用于当前块的帧内预测的相邻参考样本。当前块的相邻参考样本可以包括与大小为nwxnh的当前块的左边界相邻的样本和与当前块的左下相邻的总共2xnh个样本、与当前块的上边界相邻的样本和与右上相邻的总共2xnw个样本以及与当前块的左上相邻的样本。可替选地，当前块的相邻参考样本可以包括多列上相邻样本和多行左相邻样本。此外，当前块的相邻参考样本可以包括与大小为nwxnh的当前块的右边界相邻的总共nh个样本、与当前块的下边界相邻的总共nw个样本以及与当前块的右下相邻的样本。
100.然而，当前块的一些相邻参考样本尚未解码或可能不可用。在这种情况下，解码器可以通过用可用样本替换不可用样本来构建将用于预测的相邻参考样本。可替选地，可以通过可用样本的插值来配置将用于预测的相邻参考样本。
101.当推导相邻参考样本时，(i)可以基于当前块的相邻参考样本的平均或插值来推导预测样本，或者(ii)可以基于相对于当前块的相邻参考样本中的预测样本，存在于特定(预测)方向中的参考样本来推导预测样本。情况(i)可以被称为非定向模式或非角度模式，并且情况(ii)可以被称为定向模式或角度模式。
102.另外，可以通过相邻参考样本之中基于当前块的预测样本位于当前块的帧内预测模式的预测方向中的第一相邻样本和位于预测方向相反的方向中的第二相邻样的插值来来生成预测样本。上述情况可以被称为线性插值帧内预测(lip)。此外，可以使用线性模型(lm)，基于亮度样本生成色度预测样本。这种情况可以被称为lm模式或色度分量lm(cclm)模式。
103.另外，基于滤波的相邻参考样本推导当前块的临时预测样本，以及也可以通过将临时预测样本与现有相邻参考样本(即未滤波的相邻参考样本)中的根据帧内预测模式推导的至少一个参考样本加权求和，来推导当前块的预测样本。上述情况可以被称为位置相关帧内预测(pdpc)。
104.另外，选择当前块的相邻多个参考样本线中的具有最高预测准确度的参考样本线，并且使用所选线中的位于预测方向的参考样本推导预测样本。在这种情况下，可以通过向解码设备指示(发信号通知)所使用的参考样本线来执行帧内预测编码。上述情况可以被称为多参考线帧内预测或基于mrl的帧内预测。
105.另外，当前块被划分为垂直或水平子分区并基于相同的帧内预测模式执行帧内预测，但是能够以子分区为单位推导和使用相邻参考样本。也就是说，在这种情况下，当前块的帧内预测模式同样适用于子分区，但在一些情况下，可以通过以子分区为单位推导和使用相邻参考样本来提高帧内预测性能。这种预测方法可以被称为基于帧内子分区(isp)的帧内预测。
106.可以将上述帧内预测方法称为帧内预测类型以区别于帧内预测模式。帧内预测类型可以通过各种术语来指代，诸如帧内预测技术或附加帧内预测模式。例如，帧内预测类型(或附加帧内预测模式等)可以包括上述lip、pdpc、mrl和isp中的至少一种。排除诸如lip、pdpc、mrl和isp的特定帧内预测类型的一般帧内预测方法可以被称为正常帧内预测类型。
当不应用上述特定帧内预测类型时，一般可以应用正常帧内预测类型，并且可以基于上述帧内预测模式执行预测。同时，如果需要，可以对推导的预测样本执行后处理滤波。
107.具体地，帧内预测处理可以包括帧内预测模式/类型确定步骤、相邻参考样本推导步骤和基于帧内预测模式/类型的预测样本推导步骤。此外，如果需要，可以对推导的预测样本执行后滤波步骤。
108.当应用帧内预测时，可以使用相邻块的帧内预测模式来确定应用于当前块的帧内预测模式。例如，解码装置可以选择基于当前块的相邻块(例如，左和/或上相邻块)的帧内预测模式和附加候选模式推导的最可能模式(mpm)列表中的mpm候选之一或基于剩余帧内预测模式信息来选择未包括在mpm候选(和平面模式)中的剩余帧内预测模式之一。mpm列表可以被配置为包括或不包括平面模式作为候选。例如，当mpm列表将平面模式包括为候选时，mpm列表可以有6个候选，当mpm列表不包括平面模式作为候选时，mpm列表可以有5个候选。当mpm列表不包括平面模式作为候选时，可以发信号通知表示当前块的帧内预测模式是否不是平面模式的非平面标志(例如，intra_luma_not_planar_flag)。例如，可以首先发信号通知mpm标志，并且当mpm标志的值为1时，可以发信号通知mpm索引和非平面标志。此外，当非平面标志的值为1时，可以发信号通知mpm索引。本文中，mpm列表被配置为不包括平面模式作为候选的事实是平面模式总是被认为是mpm而不是认为平面模式不是mpm，因此，首先发信号通知标志(非平面标志)以检查它是否是平面模式。
109.例如，可以基于mpm标志(例如，intra_luma_mpm_flag)指示应用于当前块的帧内预测模式是在mpm候选(和平面模式)之中还是在剩余模式之中。值为1的mpm标志可以指示用于当前块的帧内预测模式在mpm候选(和平面模式)内，并且值为0的mpm标志可以指示当前块的帧内预测模式不在mpm候选(和平面模式)内。值为0的非平面标志(例如intra_luma_not_planar_flag)可以指示用于当前块的帧内预测模式为平面模式，值为1的非平面标志可以指示用于当前块的帧内预测模式不是平面模式。能够以mpm_idx或intra_luma_mpm_idx语法元素的形式发信号通知mpm索引，并且能够以rem_intra_luma_pred_mode或intra_luma_mpm_remainder语法元素的形式发信号通知剩余帧内预测模式信息。例如，剩余帧内预测模式信息可以通过按照预测模式编号的顺序索引来指示所有帧内预测模式之中的未包括在mpm候选(和平面模式)中的剩余帧内预测模式之一。帧内预测模式可以是亮度分量(样本)的帧内预测模式。在下文中，帧内预测模式信息可以包括以下中的至少一个：mpm标志(例如intra_luma_mpm_flag)、非平面标志(例如intra_luma_not_planar_flag)、mpm索引(例如mpm_idx或intra_luma_mpm_idx)或剩余帧内预测模式信息(rem_intra_luma_luma_mpm_mode或intra_luma_mpminder)。在本公开中，mpm列表可以通过诸如mpm候选列表和candmodelist的多种术语来指代。当将mip应用于当前块时，可以发信号通知用于mip的单独mpm标志(例如，intra_mip_mpm_flag)、mpm索引(例如，intra_mip_mpm_idx)和剩余帧内预测模式信息(例如，intra_mip_mpm_remainder)，并且可以不发信号通知非平面标志。
110.换言之，一般而言，当执行用于图像的块分割时，待编码的当前块和相邻块具有相似的图像特征。因此，当前块和相邻块具有相同或相似的帧内预测模式的可能性很高。因此，编码器可以使用相邻块的帧内预测模式来对当前块的帧内预测模式进行编码。
111.例如，编码装置/解码装置可以为当前块构建最可能模式(mpm)列表。mpm列表可以被称为mpm候选列表。本文中，mpm可以是指用于在帧内预测模式编码期间考虑当前块和相
邻块之间的相似性来提高编码效率的模式。如上所述，mpm列表可以被构造为包括平面模式，或者可以被构造为排除平面模式。例如，当mpm列表包括平面模式时，mpm列表中的候选数量可以是6。并且当mpm列表不包括平面模式时，mpm列表中的候选数量可以是5。
112.编码器/解码器可以构造包括5或6个mpm的mpm列表。
113.为了构造mpm列表，可以考虑三种模式，诸如默认帧内模式、相邻帧内模式和推导的帧内模式。
114.对于相邻帧内模式，可以考虑两个相邻块，即左相邻块和上相邻块。
115.如上所述，如果mpm列表被构造成不包括平面模式，则平面模式可以从列表中排除，并且mpm列表候选的数量可以设置为5。
116.此外，帧内预测模式中的非定向模式(或非角度模式)可以包括基于当前块的相邻参考样本的平均的dc模式或基于插值的平面模式。
117.此外，当应用帧间预测时，编码设备/解码设备的预测器可以通过以块为单位执行帧间预测来推导预测样本。在对当前块执行预测时，可以应用帧间预测。也就是说，编码/解码设备的预测器(更具体地，帧间预测器)可以通过以块为单位执行帧间预测来推导预测样本。帧间预测可以表示通过取决于除当前图片之外的(一个或多个)图片的数据元素(例如，样本值或运动信息)的方法推导的预测。当将帧间预测应用于当前块时，可以基于由参考图片索引指示的参考图片上的由运动矢量指定的参考块(参考样本阵列)来推导用于当前块的预测块(预测样本阵列)。在这种情况下，为了减少在帧间预测模式中发送的运动信息量，可以基于相邻块与当前块之间的运动信息的相关性，以块、子块或样本为单位来预测当前块的运动信息。运动信息可以包括运动矢量和参考图片索引。运动信息可以进一步包括帧间预测类型(l0预测、l1预测、bi预测等)信息。在应用帧间预测的情况下，相邻块可以包括存在于当前图片中的空间相邻块和存在于参考图片中的时间相邻块。包括参考块的参考图片和包括时间相邻块的参考图片可以彼此相同或彼此不同。时间相邻块可以被称作诸如并置参考块、并置cu(colcu)等的名称，并且包括时间相邻块的参考图片可以被称作并置图片(colpic)。例如，可以基于当前块的相邻块来配置运动信息候选列表，以及可以发信号通知指示选择(使用)哪个候选的标志或索引信息以便推导当前块的运动矢量和/或参考图片索引。可以基于各种预测模式执行帧间预测，并且例如，在跳过模式和合并模式的情况下，当前块的运动信息可以与选择的相邻块的运动信息相同。在跳过模式的情况下，与合并模式不同，可以不发送残差信号。在运动矢量预测(mvp)模式的情况下，选择的相邻块的运动矢量可以被用作运动矢量预测器，并且可以发信号通知运动矢量差。在这种情况下，可以通过使用运动矢量预测器和运动矢量差的总和来推导当前块的运动矢量。
118.根据帧间预测类型(l0预测、l1预测、bi预测等)，运动信息可以进一步包括l0运动信息和/或l1运动信息。l0方向运动矢量可以被称为l0运动矢量或mvl0，以及l1方向运动矢量可以被称为l1运动矢量或mvl1。基于l0运动矢量的预测可以被称为l0预测，基于l1运动矢量的预测可以被称为l1预测，以及基于l0运动矢量和l1运动矢量这两者的预测可以被称为双预测(bi-prediction)。本文中，l0运动矢量可以指示与参考图片列表l0相关联的运动矢量，以及l1运动矢量可以指示与参考图片列表l1相关联的运动矢量。参考图片列表l0可以包括按输出次序在当前图片之前的图片，以及参考图片列表l1可以包括按输出次序在当前图片之后的图片，作为参考图片。先前图片可以被称为前向(参考)图片，并且后续图片可
以被称为反向(参考)图片。参考图片列表l0可以进一步包括按输出次序在当前图片之后的图片作为参考图片。在这种情况下，可以首先在参考图片列表l0中对先前图片进行索引，然后可以对后续图片进行索引。参考图片列表l1可以进一步包括按输出次序在当前图片之前的图片作为参考图片。在这种情况下，可以首先在参考图片列表
119.l1中对后续图片进行索引，然后可以对先前图片进行索引。本文中，输出次序可以
120.对应于图片顺序计数(poc)次序。
121.基于帧间预测的视频/图像编码处理可以示意性地包括例如以下内容。
122.图4例示了基于帧间预测的视频/图像编码方法的示例。
123.编码设备对当前块执行帧间预测(s400)。编码设备可以推导当前块的帧间预测模式和运动信息，并且生成当前块的预测样本。本文中，可以同时执行帧间预测模式确定处理、运动信息推导处理和预测样本的生成处理，并且可以比其他处理更早地执行任何一个处理。例如，编码设备的帧间预测单元可以包括预测模式确定单元、运动信息推导单元和预测样本推导单元，并且预测模式确定单元可以确定用于当前块的预测模式，运动信息推导单元可以推导当前块的运动信息，以及预测样本推导单元可以推导当前块的预测样本。例如，编码设备的帧间预测单元可以通过运动估计在参考图片的预定区域(搜索区域)中搜索与当前块相似的块，并且推导与当前块的差最小或者等于或小于预定标准的参考块。可以基于此来推导指示参考块所处的参考图片的参考图片索引，并且可以基于参考块与当前块之间的位置差来推导运动矢量。编码设备可以确定各种预测模式之中的应用于当前块的模式。编码设备可以比较各种预测模式的rd成本，并且确定当前块的最佳预测模式。
124.例如，当跳过模式或合并模式被应用于当前块时，编码设备可以配置将在下面描述的合并候选列表，并且推导在由合并候选列表中包括的合并候选指示的参考块之中的、与当前块的差最小或者等于或小于预定标准的参考块。在这种情况下，与推导的参考块相关联的合并候选可以被选择，并且指示选择的合并候选的合并索引信息可以被生成并且被发信号通知解码设备。可以通过使用选择的合并候选的运动信息来推导当前块的运动信息。
125.作为另一示例，当(a)mvp模式被应用于当前块时，编码设备可以配置将在下文描述的(a)mvp候选列表，并且使用(a)mvp候选列表中包括的运动矢量预测器(mvp)候选之中的选择的mvp候选的运动矢量作为当前块的mvp。在这种情况下，例如，指示通过运动估计推导的参考块的运动矢量可以被用作当前块的运动矢量，并且mvp候选之中具有与当前块的运动矢量的最小差的运动矢量的mvp候选可以成为选择的mvp候选。可以推导运动矢量差(mvd)，该运动矢量差是通过从当前块的运动矢量减去mvp而获得的差。在这种情况下，关于mvd的信息可以被发信号通知解码设备。此外，当应用(a)mvp模式时，参考图片索引的值可以被配置为参考图片索引信息并且被单独地发信号通知解码设备。
126.编码设备可以基于预测样本来推导残差样本(s410)。编码设备可以通过比较当前块的原始样本和预测样本来推导残差样本。
127.编码设备对包括预测信息和残差信息的图像信息进行编码(s420)。编码设备能够以比特流的形式来输出编码的图像信息。预测信息可以包括关于预测模式信息的信息(例如，跳过标志、合并标志或模式索引等)以及关于运动信息的信息，作为与预测过程相关的信息。关于运动信息的信息可以包括候选选择信息(例如，合并索引、mvp标志或mvp索引)，
该候选选择信息是用于推导运动矢量的信息。此外，关于运动信息的信息可以包括关于mvd的信息和/或参考图片索引信息。此外，关于运动信息的信息可以包括指示是否应用l0预测、l1预测或双预测的信息。残差信息是关于残差样本的信息。残差信息可以包括关于用于残差样本的量化变换系数的信息。
128.输出比特流可以被存储在(数字)存储介质中并传送到解码设备，或者经由网络被传送到解码设备。
129.此外，如上所述，编码设备可以基于参考样本和残差样本来生成重构图片(包括重构样本和重构块)。这是为了推导与由解码设备执行的预测结果相同的预测结果，并且结果，可以提高编码效率。因此，编码设备可以将重构图片(或重构样本或重构块)存储在存储器中，并将重构图片用作参考图片。如上所述，环路滤波处理可以被进一步应用于重构图片。
130.基于帧间预测的视频/图像解码处理可以示意性地包括例如以下内容。
131.图5例示了基于帧间预测的视频/图像解码方法的示例。
132.参照图5，解码设备可以执行与由编码设备执行的操作相对应的操作。解码设备可以基于所接收的预测信息对当前块执行预测并推导预测样本。
133.具体地，解码设备可以基于所接收的预测信息来确定当前块的预测模式(s500)。解码设备可以基于预测信息中的预测模式信息来确定哪种帧间预测模式被应用于当前块。
134.例如，可以基于合并标志来确定是否合并模式或者(a)mvp模式被应用于当前块。可替选地，可以基于模式索引来选择各种帧间预测模式候选中的一种。帧间预测模式候选可以包括跳过模式、合并模式和/或(a)mvp模式，或者可以包括下文将描述的各种帧间预测模式。
135.解码设备基于所确定的帧间预测模式来推导当前块的运动信息(s510)。例如，当跳过模式或合并模式被应用于当前块时，解码设备可以配置将在下面描述的合并候选列表，并且在合并候选列表中包括的合并候选之中选择一个合并候选。本文中，可以基于选择信息(合并索引)来执行选择。可以通过使用所选择的合并候选的运动信息来推导当前块的运动信息。所选择的合并候选的运动信息可以被用作当前块的运动信息。
136.作为另一示例，当(a)mvp模式被应用于当前块时，解码设备可以配置将在下文描述的(a)mvp候选列表，并且使用(a)mvp候选列表中包括的运动矢量预测器(mvp)候选之中的选择的mvp候选的运动矢量作为当前块的mvp。本文中，可以基于选择信息(mvp标志或mvp索引)来执行选择。在这种情况下，可以基于关于mvd的信息来推导当前块的mvd，并且可以基于当前块的mvp和mvd来推导当前块的运动矢量。此外，可以基于参考图片索引信息来推导当前块的参考图片索引。由用于当前块的参考图片列表中的参考图片索引指示的图片可以被推导为当前块的帧间预测所参考的参考图片。
137.此外，如下所述，可以在没有候选列表配置的情况下推导当前块的运动信息，并且在这种情况下，可以根据预测模式中公开的过程来推导当前块的运动信息。在这种情况下，可以省略候选列表配置。
138.解码设备可以基于当前块的运动信息来生成用于当前块的预测样本(s520)。在这种情况下，可以基于当前块的参考图片索引来推导参考图片，并且可以通过使用由参考图片上的当前块的运动矢量指示的参考块的样本来推导当前块的预测样本。在这种情况下，
在一些情况下，可以进一步执行用于当前块的所有或一些预测样本的预测样本滤波过程。
139.例如，解码设备的帧间预测单元可以包括预测模式确定单元、运动信息推导单元和预测样本推导单元，并且预测模式确定单元可以基于所接收的预测模式信息来确定用于当前块的预测模式，运动信息推导单元可以基于关于所接收的运动信息的信息来推导当前块的运动信息(运动矢量和/或参考图片索引)，并且预测样本推导单元可以推导当前块的预测样本。
140.解码设备基于所接收的残差信息来生成用于当前块的残差样本(s530)。解码设备可以基于预测样本和残差样本来生成用于当前块的重构样本，并且基于所生成的重构样本来生成重构图片(s540)。此后，如上所述，环路滤波过程可以被进一步应用于重构图片。
141.图6示意性地示出了帧间预测过程。
142.参考图6，如上所述，帧间预测处理可以包括帧间预测模式确定步骤、根据所确定的预测模式的运动信息推导步骤、以及基于所推导的运动信息的预测处理(预测样本生成)步骤。帧间预测处理可以由如上所述的编码设备和解码设备执行。在本文中，编码装置可以包括编码设备和/或解码设备。
143.参照图6，编码设备确定当前块的帧间预测模式(s600)。可以将各种帧间预测模式用于图片中的当前块的预测。例如，可以使用各种模式，诸如合并模式、跳过模式、运动矢量预测(mvp)模式、仿射模式、子块合并模式、具有mvd的合并(mmvd)模式以及历史运动矢量预测(hmvp)模式。解码器侧运动矢量细化(dmvr)模式、自适应运动矢量分辨率(amvr)模式、具有cu级权重的双预测(bcw)以及双向光流(bdof)等可以进一步被用作附加模式。仿射模式也可以被称作仿射运动预测模式。mvp模式也可以被称作高级运动矢量预测(amvp)模式。在本文中，一些模式和/或由一些模式推导的运动信息候选也可以被包括在其他模式中的运动信息相关候选中的一个中。例如，可以将hmvp候选添加到合并/跳过模式的合并候选，或者添加到mvp模式的mvp候选。如果hmvp候选被用作合并模式或跳过模式的运动信息候选，则可以将hmvp候选称作hmvp合并候选。
144.指示当前块的帧间预测模式的预测模式信息可以从编码设备发信号通知解码设备。在这种情况下，预测模式信息可以被包括在比特流中并由解码设备接收。预测模式信息可以包括指示多个候选模式之一的索引信息。可替选地，可以通过标志信息的分层信令来指示帧间预测模式。在这种情况下，预测模式信息可以包括一个或多个标志。例如，可以通过发信号通知跳过标志来指示是否应用跳过模式，在不应用跳过模式时，可以通过发信号通知合并标志来指示是否应用合并模式，以及在不应用合并模式时，指示应用mvp模式或可以进一步发信号通知用于额外区分的标志。仿射模式可以被发信号通知为独立模式，或发信号通知为关于合并模式或mvp模式的从属模式。例如，仿射模式可以包括仿射合并模式和仿射mvp模式。
145.编码设备推导用于当前块的运动信息(s610)。可以基于帧间预测模式来推导运动信息推导。
146.编码设备可以使用当前块的运动信息来执行帧间预测。编码设备可以通过运动估计过程来推导用于当前块的最佳运动信息。例如，编码设备可以通过使用用于当前块的原始图片中的原始块，在参考图片中的预定搜索范围内，以分数像素为单位搜索具有高相关性的类似参考块，并且通过所搜索的参考块来推导运动信息。可以根据基于相位的样本值
的差来推导块的相似性。例如，可以基于当前块(或当前块的模板)与参考块(或参考块的模板)之间的绝对差的总和(sad)来计算块的相似性。在这种情况下，可以基于搜索区域中具有最小sad的参考块来推导运动信息。可以基于帧间预测模式，根据各种方法将推导的运动信息发信号通知解码设备。
147.编码设备基于用于当前块的运动信息来执行帧间预测(s620)。编码设备可以基于运动信息来推导用于当前块的(一个或多个)预测样本。包括预测样本的当前块可以被称作预测块。
148.此外，如上所述，编码设备可以执行各种编码方法，诸如指数哥伦布、上下文自适应可变长度编码(cavlc)和上下文自适应二进制算术编码(cabac)。另外，解码设备可以基于诸如指数哥伦布编码、cavlc或cabac的编码方法，对比特流中的信息进行解码，并且输出图像重构所需的语法元素的值和与残差相关的变换系数的量化值。
149.例如，可以如下所述执行上述编码方法。
150.图7示例性地示出了用于对语法元素进行编码的上下文自适应二进制算术编码(cabac)。例如，在cabac编码处理中，当输入信号是语法元素而不是二进制值时，编码设备可以通过将输入信号的值二值化来将输入信号转换为二进制值。另外，当输入信号已经是二进制值时(即，当输入信号的值是二进制值时)，可以不执行二值化并且可以旁路二值化。本文中，构成二进制值的每个二进制数0或1可以被称为bin。例如，如果二值化之后的二进制字符串是110，则1、1和0中的每个被称为一个bin。用于一个语法元素的bin可以指示语法元素的值。
151.此后，可以将语法元素的二值化bin输入到常规编码引擎或旁路编码引擎。编码设备的常规编码引擎可以对相应的bin分配反映概率值的上下文模型，并且可以基于所分配的上下文模型对相应的bin进行编码。在对每个bin进行编码之后，编码设备的常规编码引擎可以更新用于相应bin的上下文模型。如上所述的编码bin可以被称为上下文编码bin。
152.此外，当语法元素的二值化bin被输入到旁路编码引擎时，它们可以被如下编码。例如，编码设备的旁路编码引擎省略了估计关于输入bin的概率的过程，以及在编码后更新应用于bin的概率模型的过程。当应用旁路编时，编码设备可以通过应用均匀概率分布而不是分配上下文模型来对输入bin进行编码，从而提高编码速度。如上所述的编码bin可以被称为旁路bin。
153.熵解码可以表示以相反的顺序执行与上述熵编码相同的处理的处理。
154.例如，当基于上下文模型对语法元素进行解码时，解码设备可以通过比特流接收与语法元素对应的bin，可以使用语法元素和解码目标块或相邻块的解码信息或者上一步解码的码元/bin的信息来确定上下文模型，可以通过根据所确定的上下文模型预测所接收到的bin的出现概率并且对bin执行算术解码，来推导语法元素的值。此后，可以利用所确定的上下文模型来更新下一个解码bin的上下文模型。
155.此外，例如，当旁路解码语法元素时，解码设备可以通过比特流接收与语法元素对应的bin，并且可以通过应用均匀概率分布来对输入bin进行解码。在这种情况下，解码设备可以省略用于推导语法元素的上下文模型的过程以及用于解码之后更新应用于bin的上下文模型的过程。
156.如上所述，可以通过变换及量化处理，将残差样本推导为量化变换系数。量化变换
系数也可以被称为变换系数。在这种情况下，可以以残差信息的形式发信号通知块中的变换系数。残差信息可以包括残差编码语法。也就是说，编码设备可以利用残差信息来配置残差编码语法，对残差编码语法进行编码，并将其以比特流的形式输出，以及解码设备可以从比特流中解码残差编码语法并推导残差(量化)变换系数。残差编码语法可以包括表示是否变换被应用于相应块、块中的最后有效变换系数的位置、子块中是否存在有效变换系数、有效变换系数的大小/符号等的语法元素，如稍后所述。
157.例如，可以基于语法元素(诸如transform_skip_flag、last_sig_coeff_x_prefix、last_sig_coeff_y_prefix、last_sig_coeff_x_suffix、last_sig_coeff_y_suffix、coded_sub_block_flag、sig_coeff_flag、par_level_flag、abs_level_gt1_flag、abs_level_gt3_flag、abs_remaind、coeff_sign_flag、dec_abs_level、mts_idx)编码和/或解码(量化)变换系数(即，残差信息)。与残差数据编码/解码相关的语法元素可以如下表所示表示。
158.[表1]
[0159]
[0160]
[0161]
[0162][0163]
transform_skip_flag指示在相关联块中是否跳过变换。transform_skip_flag可以是变换跳过标志的语法元素。相关联块可以是编码块(cb)或变换块(tb)。关于变换(和量化)和残差编码过程，cb和tb可以互换使用。例如，如上所述，可以针对cb推导残差样本，并且可以通过用于残差样本的变换及量化，推导(量化)变换系数，并且通过残差编码程序，可以生成并且发信号通知有效地指示(量化)变换系数的位置、量值、符号(sign)等的信息(例如，语法元素)。量化变换系数可以简单地被称为变换系数。通常，当cb不大于最大tb时，cb的大小可以与tb的大小相同，并且在这种情况下，要变换(和量化)并且残差编码的目标块可以被称为cb或tb。同时，当cb大于最大tb时，要变换(和量化)并且残差编码的目标块可以被称为tb。在下文中，将描述以变换块(tb)为单位发信号通知与残差编码相关的语法元素，但是这是示例，并且tb可以与如上所述的编码块(cb)互换使用。
[0164]
此外，在发信号通知变换跳过标志之后发信号通知的语法元素可以与下表2中所公开的语法元素相同，并且下文描述关于语法元素的详细描述。
[0165]
[表2]
[0166]
[0167]
[0168][0169]
[表3]
[0170]
[0171]
[0172]
[0173]
[0174][0175]
[表4]
[0176]
[0177]
[0178][0179]
根据本实施方式，如表2所示，可以根据变换跳过标志的语法元素transform_skip_flag的值来划分残差编码。即，基于变换跳过标志的值(基于是否跳过变换)，不同语法元素可用于残差编码。当不应用变换跳过时(即，当应用变换时)使用的残差编码可以被称为常规残差编码(rrc)，而当应用变换跳过时(即，当不应用变换时)使用的残差编码可以被称为变换跳过残差编码(tsrc)。此外，常规残差编码可以被称为一般残差编码。此外，常规残差编码可以被称为常规残差编码语法结构，而变换跳过残差编码可以被称为变换跳过残差编码语法结构。上表3可以示出当transform_skip_flag的值为0时(即，当应用变换时)的残差编码的语法元素，而上表4可以示出当transform_skip_flag的值为1时(即，当不应用变换时)的残差编码的语法元素。
[0180]
具体地，例如，可以解析指示是否跳过变换块的变换的变换跳过标志，并且可以确定变换跳过标志是否为1。如果变换跳过标志的值为0，如表3所示，则可以解析用于变换块
的残差系数的语法元素last_sig_coeff_x_prefix、last_sig_coeff_y_prefix、last_sig_coeff_x_suffix、last_sig_coeff_y_suffix、sb_coded_flag、sig_coeff_flag、abs_level_gtx_flag、par_level_flag、abs_remainder、coeff_sign_flag和/或dec_abs_level，并且可以基于语法元素推导残差系数。在这种情况下，可以顺序地解析语法元素，并且可以改变解析顺序。另外，abs_level_gtx_flag可以表示abs_level_gt1_flag和/或abs_level_gt3_flag。例如，abs_level_gtx_flag[n][0]可以是第一变换系数级别标志(abs_level_gt1_flag)的示例，并且abs_level_gtx_flag[n][1]可以是第二变换系数级别标志(abs_level_gt3_flag)的示例。
[0181]
参考上表3，可以编码/解码last_sig_coeff_x_prefix、last_sig_coeff_y_prefix、last_sig_coeff_x_suffix、last_sig_coeff_y_suffix、sb_coded_flag、sig_coeff_flag、abs_level_gt1_flag、par_level_flag、abs_level_gt3_flag、abs_remainder、coeff_sign_flag和/或dec_abs_level。同时，sb_coded_flag可以被表示为coded_sub_block_flag。
[0182]
在实施方式中，编码设备可以基于语法元素last_sig_coeff_x_prefix、last_sig_coeff_y_prefix、last_sig_coeff_x_suffix和last_sig_coeff_y_suffix，对变换块中的最后一个非零变换系数的(x，y)位置信息进行编码。更具体地，last_sig_coeff_x_prefix表示变换块内按扫描顺序的最后有效系数的列位置的前缀，last_sig_coeff_y_prefix表示变换块内按扫描顺序的最后有效系数的行位置的前缀，last_sig_coeff_x_suffix表示变换块内按扫描顺序的最后有效系数的列位置的后缀，而last_sig_coeff_y_suffix表示变换块内按扫描顺序的最后有效系数的行位置的后缀。本文中，有效系数可以表示非零系数。另外，扫描顺序可以是右对角线扫描顺序。可替代地，扫描顺序可以是水平扫描顺序或垂直扫描顺序。可以基于是否将帧内/帧间预测应用于目标块(cb或包括tb的cb)和/或特定帧内/帧间预测模式来确定扫描顺序。
[0183]
此后，编码设备可以将变换块划分为4
×
4子块，然后针对每个4
×
4子块，使用1比特语法元素coded_sub_block_flag来指示当前子块中是否存在非零系数。
[0184]
如果coded_sub_block_flag的值为0，则不再存在要发送的信息，因此，编码设备可以终止对当前子块的编码处理。相反，如果coded_sub_block_flag的值为1，则编码设备可以对sig_coeff_flag连续地执行编码处理。由于包括最后一个非零系数的子块不需要对coded_sub_block_flag进行编码，并且包括变换块的dc信息的子块具有包括非零系数的高概率，因此可以不对coded_sub_block_flag进行编码，并且可以将其值假设为1。
[0185]
如果coded_sub_block_flag的值为1，并因此确定当前子块中存在非零系数，则编码设备可以根据反向扫描顺序对具有二进制值的sig_coeff_flag进行编码。编码设备可以根据扫描顺序，对每个变换系数的1比特语法元素sig_coeff_flag进行编码。如果当前扫描位置处的变换系数的值不是0，则sig_coeff_flag的值可以为1。本文中，在包括最后一个非零系数的子块的情况下，不需要针对最后一个非零系数对sig_coeff_flag进行编码，因此可以省略子块的编码处理。可以仅在sig_coeff_flag为1时执行级别信息编码，并且可以在级别信息编码处理中使用四个语法元素。更具体地，每个sig_coeff_flag[xc][yc]可以指示当前tb中的每个变换系数位置(xc,yc)处的相应变换系数的级别(值)是否为非零。在实施方式中，sig_coeff_flag可以对应于指示量化变换系数是否是非零有效系数的有效系数
标志的语法元素的示例。
[0186]
在编码sig_coeff_flag之后剩余的级别值可以如以下等式所示推导。也就是说，可以从以下等式推导指示待编码的级别值的语法元素remabslevel。
[0187]
[等式1]
[0188]
remabslevel＝|coeff|-1
[0189]
本文中，coeff表示实际变换系数值。
[0190]
另外，abs_level_gt1_flag可以指示相应扫描位置(n)的remabslevel是否大于1。例如，当abs_level_gt1_flag的值为0时，相应位置的变换系数的绝对值可以为1。另外，当abs_level_gt1_flag的值为1时，指示稍后待被编码的级别值的remabslevel可以如以下等式中所示被更新。
[0191]
[等式2]
[0192]
remabslevel＝remabslevel-1
[0193]
另外，上述等式2中描述的remabslevel的最低有效系数(lsb)值可以通过par_level_flag如下面的等式3中那样被编码。
[0194]
[等式3]
[0195]
par_level_flag＝|coeff|&1
[0196]
本文中，par_level_flag[n]可以指示扫描位置n处的变换系数级别(值)的奇偶性。
[0197]
在执行par_level_flag编码之后要编码的变换系数级别值remabslevel可以如下文在以下等式中所示更新。
[0198]
[等式4]
[0199]
remabslevel＝remabslevel＞＞1
[0200]
abs_level_gt3_flag可以指示相应扫描位置(n)的remabslevel是否大于3。可以仅在rem_abs_gt3_flag等于1的情况下执行对abs_remainder的编码。实际变换系数值coeff与每一语法元素之间的关系可以如下文在以下等式中所示。
[0201]
[等式5]
[0202]
|coeff|＝sig_coeff_flag abs_level_gt1_flag par_level_flag 2＊(abs_level_gt3_flag abs_remainder)
[0203]
另外，下表指示与上述等式5相关的示例。
[0204]
[表5]
[0205]
[0206]
本文中，|coeff|指示变换系数级别(值)，并且还可以被指示为用于变换系数的abslevel。另外，可以通过使用作为1比特码元的coeff_sign_flag来编码每个系数的符号。
[0207]
此外，如果变换跳过标志的值为1，如表4中所示，则可以解析用于变换块的残差系数的语法元素sb_coded_flag、sig_coeff_flag、coeff_sign_flag、abs_level_gtx_flag、par_level_flag和/或abs_remainder，并且可以基于语法元素推导残差系数。在这种情况下，可以顺序地解析语法元素，并且可以改变解析顺序。另外，abs_level_gtx_flag可以表示abs_level_gt1_flag、abs_level_gt3_flag、abs_level_gt5_flag、abs_level_gt7_flag和/或abs_level_gt9_flag。例如，abs_level_gtx_flag[n][j]可以是指示扫描位置n处的变换系数的绝对值或级别(值)是否大于(j《《1) 1的标志。条件(j《《1) 1可以可选地用诸如第一阈值、第二阈值等的特定阈值替换。
[0208]
此外，cabac提供高性能，但不利地具有不良吞吐量性能。这是由cabac的常规编码引擎引起的。常规编码(即，通过cabac的常规编码引擎进行编码)示出高数据相关性，因为其使用通过先前bin的编码而更新的概率状态及范围，并且读取概率区间和确定当前状态会花费大量时间。cabac的吞吐量问题可以通过限制上下文编码bin的数量来解决。例如，如上述表1或表3所示，用于表示sig_coeff_flag、abs_level_gt1_flag、par_level_flag和abs_level_gt3_flag的bin的总和可以限于取决于相应块的大小的bin的数量。此外，例如，如上述表4中所示，可以被用来表示sig_coeff_flag、coeff_sign_flag、abs_level_gt1_flag、par_level_flag、abs_level_gt3_flag、abs_level_gt5_flag、abs_level_gt7_flag、abs_level_gt9_flag的bin的总和可以限于取决于相应块的大小的bin的数量。例如，如果相应块是4
×
4大小的块，则用于sig_coeff_flag、abs_level_gt1_flag、par_level_flag、abs_level_gt3_flag或sig_coeff_flag、coeff_sign_flag、abs_level_gt1_flag、par_level_flag、abs_level_gt3_flag、abs_level_gt5_flag、abs_level_gt7_flag、abs_level_gt9_flag的bin的总和可以限于32(或示例的28)，并且如果相应块是2
×
2大小的块，则用于sig_coeff_flag、abs_level_gt1_flag、par_level_flag、abs_level_gt3_flag的bin的总和可以限于8(或示例的7)。可以由rembinspass1或remccbs表示bin的有限数量。或者，例如，对于较高的cabac吞吐量，可以针对包括编码目标cg的块(cb或tb)限制上下文编码bin的数量。换句话说，可以以块(cb或tb)为单位，限制上下文编码bin的数量。例如，在当前块的大小为16
×
16时，用于当前块的上下文编码bin的数量可以限于当前块的像素的数量的1.75倍，即，448，而不管当前cg如何。
[0209]
在这种情况下，如果在对上下文元素进行编码时使用数量有限的所有上下文编码bin，则编码设备可以通过如下所述的对系数进行二值化的方法来对剩余系数进行二值化，而不是使用上下文编码，并且可以执行旁路编码。换句话说，例如，如果针对4
×
4cg编码的上下文编码bin的数量为32(或示例的28)，或者如果针对2
×
2cg编码的上下文编码bin的数量为8(或示例的7)，则可以不再编码用上下文编码bin编码的sig_coeff_flag、abs_level_gt1_flag、par_level_flag、abs_level_gt3_flag，并且可以将其直接编码成dec_abs_level。或者，例如，当针对4
×
4块编码的上下文编码bin的数量为整个块的像素的数量的1.75倍时，即，当限于28时，被编码为上下文编码bin的sig_coeff_flag、abs_level_gt1_flag、par_level_flag和abs_level_gt3_flag可以不再被编码，并且可以被直接编码为dec_abs_level，如下表6中所示。
[0210]
[表6]
[0211]
|coeff[n]|dec_abs_level[n]0011223344556677889910101111......
[0212]
可以基于dec_abs_level推导值|coeff|。在这种情况下，可以如以下等式中所示推导变换系数值(即，|coeff|)。
[0213]
[等式6]
[0214]
|coeff|＝dec_abs_level
[0215]
另外，coeff_sign_flag可以指示相应扫描位置n处的变换系数级别的符号。也就是说，coeff_sign_flag可以指示相应扫描位置n处的变换系数的符号。
[0216]
图8示出4
×
4块中的变换系数的示例。
[0217]
图8的4
×
4块表示量化系数的示例。图8的块可以是4
×
4变换块，或8
×
8、16
×
16、32
×
32或64
×
64变换块的4
×
4子块。图8的4
×
4块可以表示亮度块或色度块。
[0218]
此外，如上所述，当输入信号不是二进制值而是语法元素时，编码设备可以通过对输入信号的值进行二值化来将输入信号变换为二进制值。另外，解码设备可以对语法元素进行解码以推导语法元素的二值化值(例如，二值化bin)，并且可以对二值化值进行去二值化以推导语法元素的值。二值化处理可以被执行为截断莱斯(tr)二值化处理、k阶指数哥伦布(egk)二值化处理、有限k阶指数哥伦布(有限egk)、固定长度(fl)二值化处理等。另外，去二值化处理可以表示基于tr二值化处理、egk二值化处理或fl二值化处理执行以推导语法元素的值的处理。
[0219]
例如，tr二值化处理可以如下执行。
[0220]
tr二值化处理的输入可以是用于语法元素的cmax和criceparam以及对tr二值化的请求。另外，tr二值化处理的输出可以是用于symbolval的tr二值化，symbolval是对应于bin串的值。
[0221]
具体地，例如，在存在用于语法元素的后缀bin串的情况下，用于语法元素的tr bin串可以是前缀bin串和后缀bin串的级联，并且在不存在后缀bin串的情况下，用于语法元素的tr bin串可以是前缀bin串。例如，可以如下所述推导前缀bin串。
[0222]
可以如以下等式中所示推导用于语法元素的symbolval的前缀值。
[0223]
[等式7]
[0224]
prefixval＝symbolval＞＞criceparam
[0225]
本文中，prefixval可以表示symbolval的前缀值。可以如下文所述推导语法元素的tr bin串的前缀(即，前缀bin串)。
[0226]
例如，如果prefixval小于cmax》》criceparam，则前缀bin串可以是长度为由binidx索引的prefixval 1的比特串。也就是说，如果prefixval小于cmax》》criceparam，则前缀bin串可以是由binidx指示的、比特数为prefixval 1的比特串。小于prefixval的binidx的bin可以等于1。另外，用于与prefixval相同的binidx的bin可以等于0。
[0227]
例如，通过prefixval的一元二值化推导的bin串可以如下表中所示。
[0228]
[表7]
[0229][0230]
此外，如果prefixval不小于cmax》》criceparam，则前缀bin串可以是长度为cmax》》criceparam并且所有比特均为1的比特串。
[0231]
另外，如果cmax大于symbolval并且如果criceparam大于0，则可能存在tr bin串的bin后缀bin串。例如，可以如下所述推导后缀bin串。
[0232]
用于语法元素的symbolval的后缀值可以如以下等式中所示推导。
[0233]
[等式8]
[0234]
suffixval＝symbolval-((prefixval)＜＜criceparam)
[0235]
本文中，suffixval可以表示symbolval的后缀值。
[0236]
tr bin串(即，后缀bin串)的后缀可以基于用于suffixval的fl二值化处理推导，suffixval的值cmax为(1《《criceparam)-1。
[0237]
此外，如果输入参数的值(即，criceparam)为0，则tr二值化可以是精确截断的一元二值化，并且可以始终使用与待解码的语法元素的可能最大值相同的值cmax。
[0238]
另外，例如，egk二值化处理可以如下执行。用ue(v)编码的语法元素可以是经受指数哥伦布编码的语法元素。
[0239]
例如，可以如下执行0阶指数哥伦布(eg0)二值化处理。
[0240]
用于语法元素的解析处理可以开始于读取包括在比特流的当前位置开始的第一非零比特的比特并且对等于0的前导比特的数量进行计数。该处理可以如下表所示表示。
[0241]
[表8]
[0242][0243]
另外，变量“codenum”可以如以下等式中所示推导。
[0244]
[等式9]
[0245]
codenum＝2
leadingzerobits-1 read_bits(leadingzerobits)
[0246]
本文中，从read_bits(leadingzerobits)返回的值，即，由read_bits(leadingzerobits)指示的值可以被解释为用于首先记录的最高有效比特的无符号整数的二进制表示。
[0247]
比特串被划分为“前缀”比特和“后缀”比特的指数-哥伦布码的结构可以如下表所示来表示。
[0248]
[表9]
[0249]
比特串形式codenum的范围100 1 x01..20 0 1 x
1 x03..60 0 0 1 x
2 x
1 x07..140 0 0 0 1 x
3 x
2 x
1 x015..300 0 0 0 0 1 x
4 x
3 x
2 x
1 x031..62......
[0250]“前缀”比特可以是如上所述解析以计算leadingzerobits的比特，并且可以由表9中的比特串的0或1表示。也就是说，由上表9中的0或1公开的比特串可以表示前缀比特串。“后缀”比特可以是在codenum的计算中解析的比特，并且可以由上表9中的xi表示。也就是说，在上表9中公开为xi的比特串可以表示后缀比特串。本文中，i可以是leadingzerobits-1的范围内的值。此外，每个xi可以等于0或1。
[0251]
指配给codenum的比特串可以如下表所示。
[0252]
[表10]
[0253]
比特串codenum100 1 010 1 120 0 1 0 030 0 1 0 140 0 1 1 050 0 1 1 160 0 0 1 0 0 070 0 0 1 0 0 180 0 0 1 0 1 09......
[0254]
如果语法元素的描述符为ue(v)，即，如果语法元素用ue(v)编码，则语法元素的值可以等于codenum。
[0255]
另外，例如，egk二值化处理可以如下执行。
[0256]
egk二值化处理的输入可以是对egk二值化的请求。另外，egk二值化处理的输出可
以是用于symbolval(即，对应于bin串的值)的egk二值化。
[0257]
用于symbolval的egk二值化处理的比特串可以如下推导。
[0258]
[表11]
[0259][0260]
参考上表11，可以通过put(x)的每次调用，将二进制值x添加到bin串的末尾。本文中，x可以是0或1。
[0261]
另外，例如，可以如下执行有限egk二值化处理。
[0262]
有限egk二值化处理的输入可以是对有限egk二值化的请求、莱斯(rice)参数riceparam、作为表示最大值的以2为底的对数的变量的log2transformrange，以及作为表示最大前缀扩展长度的变量的maxpreextlen。另外，有限egk二值化处理的输出可以是针对作为对应于空串的值的symbolval的有限egk二值化。
[0263]
用于symbolval的有限egk二值化处理的比特串可以如下推导。
[0264]
[表12]
[0265][0266]
另外，例如，fl二值化处理可以如下执行。
[0267]
fl二值化处理的输入可以是对用于语法元素的fl二值化及cmax的请求。另外，fl
二值化处理的输出可以是用于作为对应于bin串的值的symbolval的fl二值化。
[0268]
可以通过使用比特数具有固定长度的symbolval的比特串来配置fl二值化。本文中，固定长度比特可以是无符号整数比特串。也就是说，可以通过fl二值化推导用于作为码元值的symbolval的比特串，并且比特串的比特长度(即，比特数)可以是固定长度。
[0269]
例如，可以如以下等式所示推导固定长度。
[0270]
[等式10]
[0271]
fixedlength＝ceil(log2(cmax 1))
[0272]
用于fl二值化的bin的索引可以是使用从最高有效比特到最低有效比特有序增加的值的方法。例如，与最高有效比特相关的bin索引可以是binidx＝0。
[0273]
此外，例如，可以如下执行用于残差信息中的语法元素abs_remainder的二值化处理。
[0274]
abs_remainder的二值化处理的输入可以是对语法元素abs_remainder[n]、颜色分量cidx及亮度位置(x0,y0)的二值化的请求。亮度位置(x0,y0)可以指示基于图片的左上亮度样本的当前亮度变换块的左上样本。
[0275]
abs_remainder的二值化处理的输出可以是abs_remainder的二值化(即，abs_remainder的二值化bin串)。可以通过二值化处理推导用于abs_remainder的可用bin串。
[0276]
可以通过经由输入颜色分量cidx和亮度位置(x0,y0)、当前系数扫描位置(xc,yc)、log2tbwidth(其是变换块的宽度的以2为底的对数)和log2tbheight(其是变换块的高度的以2为底的对数)而执行的莱斯参数推导处理来推导用于abs_remainer[n]的莱斯参数criceparam。稍后将描述rice参数推导处理的详细描述。
[0277]
另外，例如，可以基于莱斯参数criceparam推导用于当前待编码的abs_remainder[n]的cmax。可以如以下等式所示推导cmax。
[0278]
[等式11]
[0279]
cmax＝6＜＜criceparam
[0280]
此外，用于abs_remainder的二值化(即，用于abs_remainder的bin串)可以是在存在后缀bin串的情况下前缀bin串和后缀bin串的级联。另外，在不存在后缀bin串的情况下，用于abs_remainder的bin串可以是前缀bin串。
[0281]
例如，可以如下所述推导前缀bin串。
[0282]
可以如以下等式所示推导abs_remainder[n]的前缀值prefixval。
[0283]
[等式12]
[0284]
prefixval＝min(cmax，abs_remainder[n])
[0285]
可以通过用于prefixval的tr二值化处理，推导abs_remainder[n]的bin串的前缀(即，前缀bin串)，其中，cmax和criceparam被用作输入。
[0286]
如果前缀bin串与所有比特均为1且比特长度为6的比特串相同，则abs_remainder[n]的bin串的后缀bin串可能存在，并且可如下所述推导。
[0287]
用于dec_abs_level[n]的莱斯参数推导处理可以如下。
[0288]
莱斯参数推导处理的输入可以是颜色分量索引cidx、亮度位置(x0,y0)、当前系数扫描位置(xc,yc)、作为变换块的宽度的以2为底的对数的log2tbwidth及作为变换块的高度的以2为底的对数的log2tbheight。亮度位置(x0,y0)可以指示基于图片的左上亮度样本
的当前亮度变换块的左上样本。此外，莱斯参数推导处理的输出可以是莱斯参数criceparam。
[0289]
例如，可以类似于下表中所公开的伪码，基于具有给定分量索引cidx及左上亮度位置(x0,y0)的变换块的阵列abslevel[x][y]，推导变量locsumabs。
[0290]
[表13]
[0291][0292]
然后，基于给定的变量locsumabs，可以如下表所示推导莱斯参数criceparam。
[0293]
[表14]
[0294]
locsumabs0123456789101112131415criceparam0000000111111122locsumabs16171819202122232425262728293031criceparam2222222222223333
[0295]
此外，例如，在用于abs_remainder[n]的莱斯参数推导处理中，可以将baselevel设置为4。
[0296]
可替代地，例如，可以基于变换跳过是否应用于当前块来确定莱斯参数criceparam。也就是说，如果不将变换应用于包括当前cg的当前tb，换句话说，如果将变换跳过应用于包括当前cg的当前tb，那么可以将莱斯参数criceparam推导为1。
[0297]
此外，可以如以下等式所示推导abs_remainder的后缀值suffixval。
[0298]
[等式13]
[0299]
suffixval＝abs_remainder[n]-cmax
[0300]
可以通过用于suffixval的有限egk二值化处理推导abs_remainder的bin串的后缀bin串，其中，k被设置为criceparam 1，riceparam被设置为criceparam，log2transformrange被设置为15，以及maxpreextlen被设置为11。
[0301]
此外，例如，可以如下执行用于残差信息中的语法元素dec_abs_level的二值化处理。
[0302]
用于dec_abs_level的二值化处理的输入可以是对语法元素dec_abs_level[n]、颜色分量cidx、亮度位置(x0，y0)、当前系数扫描位置(xc，yc)、作为变换块的宽度的以2为底的对数的log2tbwidth及作为变换块的高度的以2为底的对数的log2tbheight的二值化的请求。亮度位置(x0，y0)可以指示基于图片的左上亮度样本的当前亮度变换块的左上样
本。
[0303]
用于dec_abs_level的二值化处理的输出可以是dec_abs_level的二值化(即，dec_abs_level的二值化bin串)。可以通过二值化处理推导用于dec_abs_level的可用bin串。
[0304]
可以通过利用颜色分量cidx、亮度位置(x0，y0)、当前系数扫描位置(xc，yc)、作为变换块的宽度的以2为底的对数的log2tbwidth和作为变换块的高度的以2为底的对数的log2tbheight的输入执行的莱斯参数推导处理来推导用于dec_abs_level[n]的莱斯参数criceparam。在下文中，将详细地描述莱斯参数推导处理。
[0305]
另外，例如，可以基于莱斯参数criceparam推导用于dec_abs_level[n]的cmax。可以如下表所示推导cmax。
[0306]
[等式14]
[0307]
cmax＝6＜＜criceparam
[0308]
此外，用于dec_abs_level[n](即，用于dec_abs_level[n]的bin串)的二值化可以是在存在后缀bin串的情况下前缀bin串和后缀bin串的级联。另外，在不存在后缀bin串的情况下，用于dec_abs_level[n]的bin串可以是前缀bin串。
[0309]
例如，可以如下所述推导前缀bin串。
[0310]
可以如以下等式中所示推导dec_abs_level[n]的前缀值prefixval。
[0311]
[等式15]
[0312]
prefixval＝min(cmax，dec_abs_level[n])
[0313]
可以通过用于prefixval的tr二值化处理推导dec_abs_level[n]的bin串的前缀(即，前缀bin串)，其中，cmax和criceparam被用作输入。
[0314]
如果前缀bin串与所有比特为1且比特长度为6的比特串相同，则dec_abs_level[n]的bin串的后缀bin串可以存在，并且可以如下所述推导。
[0315]
用于dec_abs_level[n]的莱斯参数推导处理可以如下。
[0316]
莱斯参数推导处理的输入可以是颜色分量索引cidx、亮度位置(x0,y0)、当前系数扫描位置(xc,yc)、作为变换块的宽度的以2为底的对数的log2tbwidth及作为变换块的高度的以2为底的对数的log2tbheight。亮度位置(x0,y0)可以指示基于图片的左上亮度样本的当前亮度变换块的左上样本。此外，莱斯参数推导处理的输出可以是莱斯参数criceparam。
[0317]
例如，可以类似于下表中所公开的伪码，基于具有给定分量索引cidx及左上亮度位置(x0,y0)的变换块的阵列abslevel[x][y]，推导变量locsumabs。
[0318]
[表15]
[0319][0320]
然后，基于给定的变量locsumabs，可以如下表所示推导莱斯参数criceparam。
[0321]
[表16]
[0322]
locsumabs0123456789101112131415criceparam0000000111111122locsumabs16171819202122232425262728293031criceparam2222222222223333
[0323]
此外，例如，在用于dec_abs_level[n]的莱斯参数推导处理中，可以将baselevel设置为0，并且可以如下推导zeropos[n]。
[0324]
[等式16]
[0325]
zeropos[n]＝(qstate＜2？1：2)＜＜criceparam
[0326]
另外，可以如以下等式中所示推导dec_abs_level[n]的后缀值suffixval。
[0327]
[等式17]
[0328]
suffixval＝dec_abs_level[n]-cmax
[0329]
可以通过用于suffixval的有限egk二值化处理，推导dec_abs_level[n]的bin串的后缀bin串，其中，k被设置为criceparam 1，truncsuffixlen被设置为15，并且maxpreextlen被设置为11。
[0330]
此外，rrc和tsrc可以具有以下差异。
[0331]
例如，在tsrc中，可以将用于语法元素abs_remainder[]的莱斯参数推导为1。可以基于如上所述的lastabsremainder及lastriceparam推导rrc中的语法元素abs_remainder[]的莱斯参数criceparam，但是可以将tsrc中的语法元素abs_remainder[]的莱斯参数criceparam推导为1。也就是说，例如，当将变换跳过应用于当前块(例如，当前tb)时，可以将用于当前块的tsrc的abs_remainder[]的莱斯参数criceparam推导为1。
[0332]
此外，例如，参考表3和表4，在rrc中，可以发信号通知abs_level_gtx_flag[n][0]和/或abs_level_gtx_flag[n][1]，但是在tsrc中，可以发信号通知abs_level_gtx_flag[n][0]、abs_level_gtx_flag[n][1]、abs_level_gtx_flag[n][2]、abs_level_gtx_flag[n][3]和abs_level_gtx_flag[n][4]。本文中，可以将abs_level_gtx_flag[n][0]表达为abs_level_gt1_flag或第一系数级别标志，可以将abs_level_gtx_flag[n][1]表达为abs_level_gt3_flag或第二系数级别标志，可以将abs_level_gtx_flag[n][2]表达为abs_
level_gt5_flag或第三系数级别标志，可以将abs_level_gtx_flag[n][3]表达为abs_level_gt7_flag或第四系数级别标志，以及可以将abs_level_gtx_flag[n][4]表达为abs_level_gt9_flag或第五系数级别标志。具体地，第一系数级别标志可以是系数级别是否大于第一阈值(例如，1)的标志，第二系数级别标志可以是系数级别是否大于第二阈值(例如，3)的标志，第三系数级别标志可以是系数级别是否大于第三阈值(例如，5)的标志，第四系数级别标志可以是系数级别是否大于第四阈值(例如，7)的标志，第五系数等级标志可以是系数级别是否大于第五阈值(例如，9)的标志。如上所述，在tsrc中，与rrc相比，还可以包括abs_level_gtx_flag[n][0]、abs_level_gtx_flag[n][1]和abs_level_gtx_flag[n][2]、abs_level_gtx_flag[n][3]、abs_level_gtx_flag[n][4]。
[0333]-此外，例如，在rrc中，可以旁路编码语法元素coeff_sign_flag，但在tsrc中，可以旁路编码或上下文编码语法元素coeff_sign_flag。
[0334]
此外，在应用了变换跳过的块(即，变换跳过块)的残差数据编码中，在语法元素被旁路编码的情况下，本公开提出了用于通过将每个语法元素的旁路编码bin分组来对旁路编码bin进行编码的方法。
[0335]
作为所提出的实施方式，可用于一个tu中的变换跳过的残差编码(即，上述的变换跳过残差编码(tsrc))的上下文编码bin的数目可以被限制于特定的阈值，并且在消耗了所有可用于tu的上下文编码bin并稍后针对tu的语法元素被编码为旁路bin的情况下，提出了使用语法元素优先的编码顺序而不是系数位置优先的现有编码顺序的方法。
[0336]
具体地，例如，在常规tsrc中，包括语法元素sig_coeff_flag,coeff_sign_flag、abs_level_gtx_flag[n][0]、par_level_flag、abs_level_gtx_flag[n][1]、abs_level_gtx_flag[n][2]、abs_level_gtx_flag[n][3]、abs_level_gtx_flag[n][4]和/或abs_remainder的编码。上述语法元素可以按如下图所示的顺序被编码。
[0337]
图9例示了在tsrc中对语法元素进行编码的示例。
[0338]
此外，在本公开中，层可以指其中语法元素在单个重复语句中被连续编码的组/单元，并可以在下面的其它元素中以相同的含义来描述。此外，在图9中，“sig”可以表示sig_coeff_flag，“sign”可以表示coeff_sign_flag，gt0可以表示abs_level_gtx_flag[n][0]，“par”可以表示par_level_flag，gt1可以表示abs_level_gtx_flag[n][1]，gt2可以表示abs_level_gtx_flag[n][2]，gt3可以表示abs_level_gtx_flag[n][3]，gt4可以表示abs_level_gtx_flag[n][4]，并且“rem”可以表示abs_remainder。
[0339]
例如，在根据图9中示出的本实施方式的tsrc的情况下，语法元素可以在单层中按系数位置优先的顺序被编码。即，例如，参照图9，在第一层中，特定系数(例如，coeff0)的sig_coeff_flag、coeff_sign_flag、abs_level_gtx_flag[n][0]和par_level_flag可以被编码，并且下一个系数(例如，coeff1)的sig_coeff_flag、coeff_sign_flag、abs_level_gtx_flag[n][0]和par_level_flag可以被编码。随后，例如，在第二层中，特定系数(例如，coeff0)的abs_level_gtx_flag[n][1]、abs_level_gtx_flag[n][2]、abs_level_gtx_flag[n][3]和abs_level_gtx_flag[n][4]可以被编码，并且下一个系数(例如，coeff1)的abs_level_gtx_flag[n][1]、abs_level_gtx_flag[n][2]、abs_level_gtx_flag[n][3]和abs_level_gtx_flag[n][4]可以被编码。随后，在第三层中，子块中的所有系数(例如，从coeff0至coeff
n-1
)的abs_remainder可以被编码。
[0340]
此外，在vvc标准的tsrc中，如上所述，可用的上下文编码bin的最大数目被限制于用于残差数据编码的特定阈值(例如，表4中表示的remccbs或maxccbs)，并且特定阈值可以基于变换块中所包括的样本的数目或者变换块的宽度和/或高度等来推导。例如，可以如在下式中表示地推导特定阈值。
[0341]
[式18]
[0342]
maxccbs＝c
×
变换块的水平边
×
变换块的垂直边
[0343]
这里，“c”可以表示任意的实值。在本公开中，c值不限于特定值。例如，c可以具有诸如2这样的整数值或诸如1.5、1.75或1.25这样的小数值。另外，例如，还可以基于变换块是否是色度块以及变换块中所包括的样本的数目以及变换块的宽度和/或高度来推导用于限制可用的上下文编码bin的最大数目的阈值。另外，阈值(remccbs)可以以变换块为单位被初始化，并且该阈值可以与用于残差数据编码的语法元素的编码的上下文编码bin的数目一样多地减少。
[0344]
此外，在tsrc中，语法元素sig_coeff_flag、coeff_sign_flag、abs_level_gtx_flag[n][0]、par_level_flag，abs_level_gtx_flag[n][1]、abs_level_gtx_flag[n][2]、abs_level_gtx_flag[n][3]、abs_level_gtx_flag[n][4]和/或abs_remainder可以被上下文编码，但也可以被旁路编码。
[0345]
例如，可以如下表中表示地分配上述语法元素的ctxinc。
[0346]
[表17]
[0347][0348]
如表17所表示，在对语法元素sig_coeff_flag、coeff_sign_flag、abs_level_gtx_flag[n][0]、par_level_flag、abs_level_gtx_flag[n][1]、abs_level_gtx_flag[n][2]、abs_level_gtx_flag[n][3]或abs_level_gtx_flag[n][4]进行编码时，在阈值(例如，remccbs或maxccbs)大于0的情况下，语法元素可以被编码为上下文编码bin，并且在阈值小于或等于0的情况下，语法元素可以被编码为使用均匀概率分布的旁路bin。
[0349]
图10例示了在tsrc中对语法元素进行编码的另一示例。例如，图10可以例示在对变换块中的任意子块/系数组进行编码时在coeff0的coeff_sign_flag被编码为上下文编码bin之后阈值变为零的情况。在这种情况下，参照图10，由于剩余阈值为零，即，没有剩余的上下文编码bin可用，因此包括coeff0的abs_level_gtx_flag[n][0]的在coeff0的coeff_sign_flag之后编码的语法元素可以被编码为旁路bin。在图10中示出的实施方式中，上述图9中示出的实施方式的编码顺序可以保持而没有任何的改变。
[0350]
图11例示了在tsrc中对语法元素进行编码的另一示例。另外，例如，图11可以例示在对变换块中的任意子块/系数组进行编码时在coeff0的abs_level_gtx_flag[n][2]被编
码为上下文编码bin之后阈值变为零的情况。在这种情况下，参照图11，由于剩余阈值为零，即，没有剩余的上下文编码bin可用，因此包括coeff0的abs_level_gtx_flag[n][3]的coeff0的在abs_level_gtx_flag[n][2]之后编码的语法元素可以被编码为旁路bin。在图11中示出的实施方式中，上述图9中示出的实施方式的编码顺序可以保持而没有任何的改变。
[0351]
如上所述，在tsrc中对块进行tsrc编码的处理中，在使用该块的所有可用剩余上下文编码bin的情况下，后续语法元素可以被旁路编码。然而，在常规tsrc中，在使用所有可用剩余上下文编码bin并且语法元素被编码为旁路bin的情况下，如上所述，语法元素可以按系数位置优先的编码顺序被编码。因此，本公开提出了按语法元素优先的编码顺序而不是系数位置优先的现有编码顺序来对旁路编码的语法元素进行编码的实施方式。据此，具有高吞吐量的旁路编码引擎的优点可以被最大化，并且图像的残差数据编码效率可以提高。
[0352]
具体地，例如，熵编码器/熵解码器可以包括二值化单元、常规编码引擎和旁路编码引擎。例如，语法元素的值可以被输入到二值化单元。二值化单元可以将语法元素的值变换为bin串并输出bin串。这里，bin串可以意指由一个或更多个bin构成的二进制序列或二进制代码。bin可以意味着当通过二值化将符号和/或语法元素的值表示为二进制序列(或二进制代码)时构成二进制序列(或二进制代码)的每个数字的值(0或1)。
[0353]
随后，二值化的信号(bin串)可以被输入到常规编码引擎或旁路编码引擎。常规编码引擎可以分配反映相应bin的概率值的上下文，并基于所分配的上下文对相应bin进行编码。常规编码引擎可以对每个bin执行编码，然后，更新bin的概率和/或上下文。通过使用常规编码引擎来编码的bin可以被称为上下文编码bin。
[0354]
此外，旁路编码引擎可以在估计输入bin的概率并对该概率进行编码的处理之后，绕过更新应用于bin的概率的处理。在旁路模式下，不根据输入bin来分配上下文，而是简单地对输入bin进行编码，并且吞吐量可以提高。例如，在旁路模式下，可以通过应用均匀概率分布(0.5)来执行编码过程。通过使用旁路编码引擎来编码的bin可以被称为旁路编码bin或旁路bin。
[0355]
通常，旁路模式比上下文编码bin具有更好的吞吐量性能。为了对一个上下文编码bin进行编码，可能需要1个或不止1个处理周期。然而，对于旁路编码引擎，仅需要一个周期来对n个旁路编码bin进行编码。这里，n可以大于1。为了提高熵编码的吞吐量，改变编码顺序(即，分组)以使得旁路编码bin被连续编码可能是有益的。具体地，在将旁路编码bin分组的情况下，从吞吐量和硬件复杂度的角度将每个语法元素的旁路编码bin分组可能是有益的。
[0356]
图12例示了按语法元素优先的编码顺序而不是系数位置优先的编码顺序来在tsrc中对旁路编码的语法元素进行编码的示例。例如，图12可以例示在对变换块中的任意子块/系数组进行编码时在coeff0的coeff_sign_flag被编码为上下文编码bin之后阈值变为零的情况。在这种情况下，参照图12，由于剩余阈值为0，即，没有剩余的上下文编码bin可用，因此包括coeff0的abs_level_gtx_flag[n][0]的在coeff0的coeff_sign_flag之后编码的语法元素可以被编码为旁路bin。例如，参照图12，在第一层中coeff0的被上下文编码的剩余上下文元素(abs_level_gtx_flag[n][0]和par_level_flag)可以根据现有编码顺序
被旁路编码，但随后，系数coeff1至coeff
n-1
的语法元素可以按语法元素顺序被编码。换句话说，随后，系数coeff1至coeff
n-1
的sig_coeff_flag可以被连续地旁路编码，并且随后，系数coeff1至coeff
n-1
的coeff_sign_flag可以被连续地旁路编码。接下来，系数coeff1至coeff
n-1
的abs_level_gtx_flag[n][0]可以被连续地旁路编码，并且随后，系数coeff1至coeff
n-1
的par_level_flag可以被连续地旁路编码。另外，例如，参照图12，为了对第一层之后的后续层中的语法元素进行编码，可以保持所提出的语法元素优先的编码顺序。
[0357]
图13例示了按语法元素优先的编码顺序而不是系数位置优先的编码顺序来在tsrc中对旁路编码的语法元素进行编码的示例。例如，图13可以例示在对变换块中的任意子块/系数组进行编码时在coeff0的abs_level_gtx_flag[n][2]被编码为上下文编码bin之后阈值变为零的情况。在这种情况下，参照图13，由于剩余阈值为0，即，没有剩余的上下文编码bin可用，因此包括coeff0的abs_level_gtx_flag[n][3]的在coeff0的abs_level_gtx_flag[n][2]之后编码的语法元素可以被编码为旁路bin。例如，参照图13，在第二层中coeff0的被上下文编码的剩余上下文元素(abs_level_gtx_flag[n][3]和abs_level_gtx_flag[n][4])可以根据现有编码顺序被旁路编码，但随后，系数coeff1至coeff
n-1
的语法元素可以按语法元素顺序被编码。换句话说，随后，系数coeff1至coeff
n-1
的abs_level_gtx_flag[n][1]可以被连续地旁路编码，并且随后，系数coeff1至coeff
n-1
的abs_level_gtx_flag[n][2]可以被连续地旁路编码。接下来，系数coeff1至coeff
n-1
的abs_level_gtx_flag[n][3]可以被连续地旁路编码，并且随后，系数coeff1至coeff
n-1
的abs_level_gtx_flag[n][4]可以被连续地旁路编码。另外，例如，参照图13，即使为了对第二层之后的后续层中的语法元素进行编码，也可以保持所提出的语法元素优先的编码顺序。
[0358]
此外，本公开提出了在语法元素在简化的残差数据编码结构中被旁路编码的情况下的用于通过将每个语法元素的旁路编码bin分组来对旁路编码bin进行编码的方法。在特定条件下，在诸如无损编码或近无损编码这样的编码性能方面存在优势，并且可以针对单个编码块或变换块使用简化的残差编码结构。在这种情况下，通过使用本公开中提出的方法，代替系数位置优选的现有编码顺序，可以使用语法元素优先的编码顺序。
[0359]
另外，由于可用于一个tu中的残差编码的上下文编码bin的数目可以限制于特定阈值，因此在消耗了所有可用于tu的上下文编码bin并且随后针对tu的语法元素被编码为旁路bin的情况下，本公开中的一个实施方式提出了使用语法元素优先的编码顺序而不是系数位置优先的现有编码顺序的方法。此外，现有的简化的残差数据编码结构可以与以下附图和附图描述中示出的结构相同。
[0360]
图14例示了在简化的残差数据编码结构中对语法元素进行编码的示例。参照图14，现有的简化的残差数据编码可以包括语法元素sig_coeff_flag、coeff_sign_flag和abs_remainder的编码。图14可以例示针对一个子块/系数组/变换块/编码块的具有系数位置优先的现有编码顺序的简化的残差数据编码结构的语法元素编码顺序。
[0361]
例如，参照图14，在第一层中，特定系数的sig_coeff_flag和coeff_sign_flag可以被编码，特定系数之后的下一个系数的sig_coeff_flag和coeff_sign_flag可以被编码，并且直到按扫描顺序的最后一个系数位置的系数的sig_coeff_flag和coeff_sign_flag可以被编码。稍后，在第二层中，可以按扫描顺序执行对子块中的所有系数的abs_remainder的编码。这里，在位置的系数的值为零的情况下，sig_coeff_flag的值可以为零，并且在位
置的系数的值不为零的情况下，sig_coeff_flag的值可以为1。另外，coeff_sign_flag可以指示位置的系数的符号。例如，在位置的系数为零的情况下，即，在系数的sig_coeff_flag为零的情况下，系数的coeff_sign_flag可以不被编码。另外，在系数不为零且为负数的情况下，系数的coeff_sign_flag值可以为1(或零)，在系数不为零且为正数的情况下，系数的coeff_sign_flag值可以为零(或1)。另选地，在系数为负数而不考虑系数的sig_coeff_flag的情况下，系数的coeff_sign_flag值可以为1(或零)，并且在系数为正数或零的情况下，系数的coeff_sign_flag值可以为零(或1)。另选地，在系数为正数而不考虑系数的sig_coeff_flag的情况下，系数的coeff_sign_flag值可以为1(或零)，并且在系数为负数或零的情况下，系数的coeff_sign_flag值可以为零(或1)。
[0362]
此外，本公开提出了用于对每个语法元素进行编码和分组以在简化的残差数据编码结构中产生cabac吞吐量和硬件复杂度的优势的方法。
[0363]
图15例示了按语法元素优先的编码顺序而不是系数位置优先的编码顺序来在简化的残差数据编码结构中对旁路编码的语法元素进行编码的示例。例如，根据本实施方式，如图15中所示，在第一层中，可以从coeff0的sig_coeff_flag到coeff
n-1
(按扫描顺序的最后一个系数)的sig_coeff_flag地连续执行旁路编码，并且随后，从coeff0的coeff_sign_flag到coeff
n-1
(按扫描顺序的最后一个系数)的coeff_sign_flag地连续执行旁路编码。稍后，可以从coeff0的abs_remainder到coeff
n-1
(按扫描顺序的最后一个系数)的abs_remainder地连续执行旁路编码。
[0364]
此外，简化的残差数据编码结构可以具有与上述图14中示出的语法结构不同的语法结构。例如，如下图所示的简化的残差数据编码结构可以被编码。
[0365]
图16a和图16b例示了在简化的残差数据编码结构中对语法元素进行编码的实施方式。参照图16a和图16b，简化的残差数据编码可以包括语法元素dec_abs_level和coeff_sign_flag的编码。图16a和图16b可以例示针对一个子块/系数组/变换块/编码块的具有系数位置优先的现有编码顺序的简化的残差数据编码结构的语法元素编码顺序。例如，参照图16a，在层中，特定系数的dec_abs_level和coeff_sign_flag可以被编码，特定系数之后的下一个系数的dec_abs_level和coeff_sign_flag可以被编码，并且直到按扫描顺序的最后一个系数位置的系数的dec_abs_level和coeff_sign_flag可以被编码。另外，例如，参照图16b，在层中，特定系数的coeff_sign_flag和dec_abs_level可以被编码，特定系数之后的下一个系数的coeff_sign_flag和dec_abs_level可以被编码，并且直到按扫描顺序的最后一个系数位置的系数的coeff_sign_flag和dec_abs_level可以被编码。
[0366]
这里，在位置的系数的值为零的情况下，dec_abs_level的值可以为零，并且在位置的系数的值不为零的情况下，dec_abs_level的值可以为系数的绝对值。另外，coeff_sign_flag可以指示位置的系数的符号。例如，在位置的系数为零的情况下，即，在系数的dec_abs_level为零的情况下，系数的coeff_sign_flag可以不被编码。另外，在系数不为零且为负数的情况下，系数的coeff_sign_flag值可以为1(或零)，并且在系数不为零且为正数的情况下，系数的coeff_sign_flag值可以为零(或1)。另选地，在系数为负数而不考虑系数的dec_abs_level的情况下，系数的coeff_sign_flag值可以为1(或零)，并且在系数为正数或零的情况下，系数的coeff_sign_flag值可以为零(或1)。另选地，在系数为正数而不考虑系数的dec_abs_level的情况下，系数的coeff_sign_flag值可以为1(或零)，并且在系数
为负数或零的情况下，系数的coeff_sign_flag值可以为零(或1)。
[0367]
此外，在满足上述rrc或tsrc中的特定条件的情况下，可以使用简化的残差数据编码结构。例如，在当前块被无损编码或近无损编码的情况下，或者在针对当前块消耗了所有可用的上下文编码bin的情况下，可以在简化的残差数据编码结构中对残差数据进行编码。
[0368]
例如，本公开提出了在针对当前块在tsrc中消耗了当前块的所有可用的上下文编码bin的情况下在简化的残差数据编码结构中对当前块的系数的语法元素进行编码的方法。
[0369]
具体地，例如，当前块的根据tsrc的语法元素可以被解析。在这种情况下，可以推导出当前块可用的上下文编码bin的最大数目，并且在用于当前块的最大数目的上下文编码bin全部被用于按扫描顺序对当前变换系数的先前变换系数的语法元素进行编码的情况下，可以在简化的残差数据编码结构中对当前变换系数和按扫描顺序的当前变换系数的后续变换系数的语法元素进行编码。因此，当前变换系数和按扫描顺序的当前变换系数的后续变换系数的语法元素可以包括变换系数的符号标志和系数级别信息。解码设备可以基于在简化的残差数据编码结构中编码的变换系数的语法元素来推导变换系数。例如，系数级别信息可以表示变换系数的系数级别的绝对值。此外，符号标志可以表示当前变换系数的符号。解码设备可以基于系数级别信息来推导变换系数的系数级别，并基于符号标志来推导变换系数的符号。
[0370]
此外，为了产生cabac吞吐量和硬件复杂度方面的优势，本公开针对每个语法元素提出了用于在图16中示出的简化的残差数据编码结构中对旁路编码的语法元素进行编码和分组的方法。
[0371]
图17a和图17b例示了按语法元素优先的编码顺序而不是系数位置优先的编码顺序在简化的残差数据编码结构中对旁路编码的语法元素进行编码的示例。例如，根据本实施方式，如图17a中所示，在层中，可以从coeff0的dec_abs_level到coeff
n-1
(按扫描顺序的最后一个系数)的dec_abs_level地连续执行旁路编码，并且随后，从coeff0的coeff_sign_flag到coeff
n-1
(按扫描顺序的最后一个系数)的coeff_sign_flag地连续执行旁路编码。另选地，例如，根据本实施方式，如图17b中所示，在层中，可以从coeff0的coeff_sign_flag到coeff
n-1
(按扫描顺序的最后一个系数)的coeff_sign_flag地连续执行旁路编码，并且随后，从coeff0的dec_abs_level到coeff
n-1
(按扫描顺序的最后一个系数)的dec_abs_level地连续执行旁路编码。根据本实施方式，可以针对每个语法元素将旁路编码bin分组并连续编码，并且可以产生诸如熵编码的吞吐量可以提高并且硬件复杂度可以降低这样的效果。
[0372]
此外，简化的残差数据编码结构可以具有与上述图14、图16a和图16b中示出的语法结构不同的语法结构。例如，如下图所示的简化的残差数据编码结构可以被编码。
[0373]
图18例示了在简化的残差数据编码结构中对语法元素进行编码的实施方式。参照图18，简化的残差数据编码可以包括语法元素sig_coeff_flag、coeff_sign_flag、abs_level_gtx_flag[n][0]、par_level_flag和abs_remainder的编码。图18可以例示针对一个子块/系数组/变换块/编码块的具有系数位置优先的现有编码顺序的简化的残差数据编码结构的语法元素编码顺序。例如，参照图18，在第一层中，特定系数的sig_coeff_flag、coeff_sign_flag、abs_level_gtx_flag[n][0]和par_level_flag可以被编码，特定系数之后的下一个系数的sig_coeff_flag、coeff_sign_flag、abs_level_gtx_flag[n][0]和par_
level_flag可以被编码，并且直到按扫描顺序的最后一个系数位置的系数的sig_coeff_flag、coeff_sign_flag、abs_level_gtx_flag[n][0]和par_level_flag可以被编码。稍后，在第二层中，可以按扫描顺序执行对子块中的所有系数的abs_remainder的编码。
[0374]
此外，为了产生cabac吞吐量和硬件复杂度方面的优势，本公开针对每个语法元素提出了用于在图18中示出的简化的残差数据编码结构中对旁路编码的语法元素进行编码和分组的方法。
[0375]
图19例示了按语法元素优先的编码顺序而不是系数位置优先的编码顺序在简化的残差数据编码结构中对旁路编码的语法元素进行编码的示例。例如，根据本实施方式，如图19中所示，在第一层中，可以从coeff0的sig_coeff_flag到coeff
n-1
(按扫描顺序的最后一个系数)的sig_coeff_flag地连续执行旁路编码，随后，从coeff0的coeff_sign_flag到coeff
n-1
(按扫描顺序的最后一个系数)的coeff_sign_flag地连续执行旁路编码，随后，从coeff0的abs_level_gtx_flag[n][0]到coeff
n-1
(按扫描顺序的最后一个系数)的abs_level_gtx_flag[n][0]地连续执行旁路编码，并且随后，从coeff0的par_level_flag到coeff
n-1
(按扫描顺序的最后一个系数)的par_level_flag地连续执行旁路编码。稍后，在第二层中，可以从coeff0的abs_remainder到coeff
n-1
(按扫描顺序的最后一个系数)的abs_remainder地连续执行旁路编码。根据本实施方式，可以针对每个语法元素将旁路编码bin分组并连续编码，并且可以产生诸如熵编码的吞吐量可以提高并且硬件复杂度可以降低这样的效果。
[0376]
图20简要例示了根据本公开的由编码设备执行的图像编码方法。图20中提出的方法可以由图2中公开的编码设备执行。具体地，例如，步骤s2000可以由编码设备的残差处理器执行，并且步骤s2010和s2020可以由编码设备的熵编码器执行。另外，尽管未在图中示出，但推导预测样本的处理可以由编码设备的预测器执行，基于当前块的原始样本和预测样本推导当前块的残差样本的处理可以由编码设备的减法器执行，并且基于当前块的残差样本和预测样本推导当前块的重构样本的处理可以由编码设备的加法器执行。
[0377]
编码设备推导当前块的残差样本(步骤s2000)。例如，编码设备可以确定对当前块执行帧间预测还是帧内预测，并基于rd成本来确定特定帧间预测模式或特定帧内预测模式。根据所确定的模式，编码设备可以推导当前块的预测样本，并可以通过当前块的原始样本和预测样本之间的减法来推导残差样本。
[0378]
编码设备生成残差样本的残差信息(步骤s2010)。
[0379]
例如，编码设备可以基于残差样本来推导当前块的变换系数。例如，编码设备可以确定是否对当前块应用变换。即，编码设备可以确定是否对当前块的残差样本应用变换。编码设备可以考虑编码效率来确定是否对当前块应用变换。例如，编码设备可以确定不对当前块应用变换。没有应用变换的块可以被称为变换跳过块。即，例如，当前块可以是变换跳过块。
[0380]
当未对当前块应用变换时，即，当未对残差样本应用变换时，编码设备可以将推导出的残差样本推导为当前变换系数。另外，当对当前块应用变换时，即，当对残差样本应用变换时，编码设备可以通过对残差样本执行变换来推导变换系数。当前块可以包括多个子块或系数组(cg)。另外，当前块的子块的大小可以是4
×
4大小或2
×
2大小。即，当前块的子块可以包括最多16个非零变换系数或最多4个非零变换系数。
[0381]
这里，当前块可以是编码块(cb)或变换块(tb)。另外，变换系数也可以被表示为残差系数。
[0382]
稍后，例如，编码设备可以生成用于当前块的变换系数的变换跳过残差编码(tsrc)的语法元素并对其进行编码。
[0383]
例如，编码设备可以生成当前块的第一变换系数至第n变换系数的语法元素并对其进行编码。当前块的残差信息可以包括当前块的第一变换系数至第n变换系数的语法元素。
[0384]
例如，残差信息可以包括当前块的第一变换系数至第n变换系数的语法元素。这里，例如，语法元素可以是根据变换跳过残差编码(tsrc)的第一残差数据编码结构的语法元素。根据第一残差数据编码结构的语法元素可以包括变换系数的上下文编码语法元素和/或旁路编码语法元素。根据第一残差数据编码结构的语法元素可以包括诸如sig_coeff_flag、coeff_sign_flag、abs_level_gt1_flag、par_level_flag、abs_level_gtx_flag、abs_remainder和/或coeff_sign_flag这样的语法元素。
[0385]
例如，变换系数的上下文编码语法元素可以包括指示变换系数是否是非零变换系数的有效系数标志、指示变换系数的符号的符号标志、针对变换系数的系数级别是否大于第一阈值的第一系数级别标志和/或针对变换系数的系数级别的奇偶性的奇偶性级别标志。另外，例如，上下文编码语法元素可以包括针对变换系数的系数级别是否大于第二阈值的第二系数级别标志、针对变换系数的系数级别是否大于第三阈值的第三系数级别标志、针对变换系数的系数级别是否大于第四阈值的第四系数级别标志和/或针对变换系数的系数级别是否大于第五阈值的第五系数级别标志。这里，有效系数标志可以是sig_coeff_flag，符号标志可以是ceff_sign_flag，第一系数级别标志可以是abs_level_gt1_flag，并且奇偶性级别标志可以是par_level_flag。此外，第二系数级别标志可以是abs_level_gt3_flag或abs_level_gtx_flag，第三系数级别标志可以是abs_level_gt5_flag或abs_level_gtx_flag，第四系数级别标志可以是abs_level_gt7_flag或abs_level_gtx_flag，并且第五系数级别标志可以是abs_level_gt9_flag或abs_level_gtx_flag。
[0386]
另外，例如，变换系数的旁路编码语法元素可以包括变换系数的值(或系数级别)的系数级别信息和/或指示变换系数的符号的符号标志。系数级别信息可以是abs_remainder和/或dec_abs_level，并且符号标志可以是ceff_sign_flag。
[0387]
此外，第一变换系数至第n变换系数的上下文编码语法元素的数目可以与当前块的上下文编码bin的最大数目相同。即，例如，当前块的所有上下文编码bin可以被用作第一变换系数至第n变换系数的上下文编码语法元素的bin。例如，可以基于当前块的宽度和高度来推导当前块的上下文编码bin的最大数目。例如，当前块的上下文编码bin的最大数目可以被推导为当前块的样本数目乘以特定值的值。这里，样本的数目可以被推导为当前块的宽度与高度相乘的值。另外，特定值可以具有诸如2这样的整数值或诸如1.5、1.75或1.25这样的小数值。
[0388]
此外，例如，根据第一残差数据编码结构的语法元素可以按根据系数位置的编码顺序被编码。根据系数位置的编码顺序可以是变换系数的扫描顺序。例如，扫描顺序可以是光栅扫描顺序。例如，光栅扫描顺序可以表示从顶行向下依次扫描并且在每一行中从左到右扫描的顺序。例如，可以按从第一变换系数的语法元素至第n变换系数的语法元素的顺序
对根据第一残差数据编码结构的语法元素进行编码。另外，例如，当当前块包括多个子块或系数组(cg)时，可以按扫描顺序对多个子块或系数组进行编码，并且可以按扫描顺序对每个子块或系数组中的变换系数的语法元素进行编码。
[0389]
此外，例如，残差信息可以包括当前块的变换跳过标志。变换跳过标志可以指示是否对当前块应用变换。即，变换跳过标志可以指示是否对当前块的变换系数应用变换。指示变换跳过标志的语法元素可以是上述的transform_skip_flag。例如，当变换跳过标志的值为零时，变换跳过标志可以表示未对当前块应用变换，而当变换跳过标志的值为1时，变换跳过标志可以表示对当前块应用变换。例如，当当前块是变换跳过块时，当前块的变换跳过标志的值可以为1。
[0390]
另外，例如，编码设备可以生成当前块的第n 1变换系数至最后一个变换系数的语法元素并对其进行编码。
[0391]
例如，残差信息可以包括当前块的第n 1变换系数至最后一个变换系数的语法元素。这里，例如，语法元素可以是根据变换跳过残差编码(tsrc)的第二残差数据编码结构的语法元素。根据第二残差数据编码结构的语法元素可以被称为根据简化的残差数据编码结构的语法元素。例如，当当前块的所有上下文编码bin被用作第一变换系数至第n变换系数的上下文编码语法元素的bin时，即，例如，当第一变换系数至第n变换系数的上下文编码语法元素的数目等于或大于当前块的上下文编码bin的最大数目时，编码设备可以生成作为根据tsrc的第二残差数据编码结构的语法元素的当前块的第n 1变换系数至最后一个变换系数的语法元素，并对其进行编码。
[0392]
例如，根据第二残差数据编码结构的语法元素可以包括变换系数的旁路编码语法元素。例如，根据第二残差数据编码结构的语法元素可以包括变换系数的符号标志和系数级别信息。例如，根据第二残差数据编码结构的语法元素可以包括变换系数的系数级别的绝对值的系数级别信息和变换系数的符号的符号标志。可以基于旁路来对变换系数的语法元素进行编码。即，可以基于均匀概率分布来对变换系数的残差语法元素进行编码。例如，系数级别信息可以表示变换系数的系数级别的绝对值。另外，符号标志可以表示当前变换系数的符号。例如，当符号标志的值为零时，符号标志可以指示变换系数的系数级别为正值，而当符号标志的值为1时，符号标志可以指示变换系数的系数级别为负值。系数级别信息可以是上述的abs_remainder，并且符号标志可以是上述的coeff_sign_flag。
[0393]
此外，例如，根据第二残差数据编码结构的语法元素可以按根据系数位置的编码顺序被编码。根据系数位置的编码顺序可以是变换系数的扫描顺序。例如，扫描顺序可以是光栅扫描顺序。例如，光栅扫描顺序可以表示从顶行向下依次扫描并且在每一行中从左到右扫描的顺序。例如，可以按从第n 1变换系数至最后一个变换系数的语法元素的顺序对根据第二残差数据编码结构的语法元素进行编码。另外，例如，当当前块包括多个子块或系数组(cg)时，可以按扫描顺序对多个子块或系数组进行编码，并且可以按扫描顺序对每个子块或系数组中的变换系数的语法元素进行编码。
[0394]
另外，例如，根据第二残差数据编码结构的语法元素可以按根据语法元素的编码顺序被编码。即，例如，根据第二残差数据编码结构的语法元素可以按语法元素优先的编码顺序被编码。例如，可以对第n 1变换系数至最后一个变换系数的系数级别信息进行编码，并且此后，可以对第n 1变换系数至最后一个变换系数的符号标志进行编码。具体地，例如，
可以按从第n 1变换系数的系数级别信息至最后一个变换系数的系数级别信息的顺序对系数级别信息进行编码，并且稍后，可以按从第n 1变换系数的符号标志至最后一个变换系数的符号标志的顺序对符号标志进行编码。
[0395]
编码设备对包括残差信息的图像信息进行编码(s2020)。编码设备可以对包括残差信息的图像信息进行编码。例如，残差信息可以包括根据第一残差数据编码结构的语法元素和根据第二残差数据编码结构的语法元素。
[0396]
例如，编码设备可以对包括根据第一残差数据编码结构的语法元素和根据第二残差数据编码结构的语法元素的图像信息进行编码。例如，图像信息可以包括当前块的残差信息。例如，编码设备可以对包括残差信息的图像信息进行编码，并以比特流格式输出图像信息。可以通过网络或存储介质将比特流发送到解码设备。
[0397]
另外，例如，编码设备可以生成当前块的预测信息并对其进行编码。图像信息可以包括当前块的残差信息。预测信息可以包括在当前块中执行的帧间预测模式或帧内预测模式的信息。解码设备可以基于通过比特流接收到的预测信息来对当前块执行帧间预测或帧内预测，并推导出当前块的预测样本。
[0398]
此外，比特流可以通过网络或(数字)存储介质发送到解码设备。这里，网络可以包括广播网络和/或通信网络，并且数字存储介质可以包括诸如usb、sd、cd、dvd、蓝光、hdd、ssd等这样的各种存储介质。
[0399]
图21简要例示了根据本公开的执行图像编码方法的编码设备。图21中提出的方法可以由图20中公开的编码设备执行。具体地，例如，编码设备的残差处理器可以执行图20中示出的步骤s2000，并且编码设备的熵编码器可以执行步骤s2010和s2020。另外，尽管这未在图中示出，但推导预测样本的处理可以由编码设备的预测器执行，基于当前块的原始样本和预测样本推导当前块的残差样本的处理可以由编码设备的减法器执行，并且基于当前块的残差样本和预测样本推导当前块的重构样本的处理可以由编码设备的加法器执行。
[0400]
图22简要例示了根据本公开的由解码设备执行的图像解码方法。图22中提出的方法可以由图3中公开的解码设备执行。具体地，例如，图22中示出的步骤s2200可以由解码设备的熵解码器执行，图22中示出的步骤s2210可以由解码设备的残差处理器执行，并且图22中示出的步骤s2220可以由解码设备的加法器执行。另外，尽管在图中未示出，但接收当前块的预测信息的处理可以由解码设备的熵解码器执行，并且推导当前块的预测样本的处理可以由解码设备的预测器执行。
[0401]
解码设备获得当前块的残差信息(步骤s2200)。解码设备可以通过比特流获得包括当前块的残差信息的图像信息。
[0402]
残差信息可以包括当前块的变换系数的语法元素。这里，当前块可以是编码块(cb)或变换块(tb)。另外，变换系数也可以被表示为残差系数。另外，当前块可以是变换跳过块。
[0403]
例如，解码设备可以获得当前块的第一变换系数至第n变换系数的语法元素。例如，残差信息可以包括当前块的第一变换系数至第n变换系数的语法元素。这里，例如，语法元素可以是根据变换跳过残差编码(tsrc)的第一残差数据编码结构的语法元素。根据第一残差数据编码结构的语法元素可以包括变换系数的上下文编码语法元素和/或旁路编码语法元素。根据第一残差数据编码结构的语法元素可以包括诸如sig_coeff_flag、coeff_
sign_flag、abs_level_gt1_flag、par_level_flag、abs_level_gtx_flag、abs_remainder和/或coeff_sign_flag这样的语法元素。
[0404]
例如，变换系数的上下文编码语法元素可以包括指示变换系数是否是非零变换系数的有效系数标志、指示变换系数的符号的符号标志、针对变换系数的系数级别是否大于第一阈值的第一系数级别标志和/或针对变换系数的系数级别的奇偶性的奇偶性级别标志。另外，例如，上下文编码语法元素可以包括针对变换系数的系数级别是否大于第二阈值的第二系数级别标志、针对变换系数的系数级别是否大于第三阈值的第三系数级别标志、针对变换系数的系数级别是否大于第四阈值的第四系数级别标志和/或针对变换系数的系数级别是否大于第五阈值的第五系数级别标志。这里，有效系数标志可以是sig_coeff_flag，符号标志可以是ceff_sign_flag，第一系数级别标志可以是abs_level_gt1_flag，并且奇偶性级别标志可以是par_level_flag。此外，第二系数级别标志可以是abs_level_gt3_flag或abs_level_gtx_flag，第三系数级别标志可以是abs_level_gt5_flag或abs_level_gtx_flag，第四系数级别标志可以是abs_level_gt7_flag或abs_level_gtx_flag，并且第五系数级别标志可以是abs_level_gt9_flag或abs_level_gtx_flag。
[0405]
另外，例如，变换系数的旁路编码语法元素可以包括变换系数的值(或系数级别)的系数级别信息和/或指示变换系数的符号的符号标志。系数级别信息可以是abs_remainder和/或dec_abs_level，并且符号标志可以是ceff_sign_flag。
[0406]
此外，第一变换系数至第n变换系数的上下文编码语法元素的数目可以与当前块的上下文编码bin的最大数目相同。即，例如，当前块的所有上下文编码bin可以被用作第一变换系数至第n变换系数的上下文编码语法元素的bin。例如，可以基于当前块的宽度和高度来推导当前块的上下文编码bin的最大数目。例如，当前块的上下文编码bin的最大数目可以被推导为当前块的样本数目乘以特定值的值。这里，样本的数目可以被推导为当前块的宽度与高度相乘的值。另外，特定值可以具有诸如2这样的整数值或诸如1.5、1.75或1.25这样的小数值。
[0407]
此外，例如，根据第一残差数据编码结构的语法元素可以按根据系数位置的编码顺序被编码。根据系数位置的编码顺序可以是变换系数的扫描顺序。例如，扫描顺序可以是光栅扫描顺序。例如，光栅扫描顺序可以表示从顶行向下依次扫描并且在每一行中从左到右扫描的顺序。例如，可以按从第一变换系数的语法元素至第n变换系数的语法元素的顺序对根据第一残差数据编码结构的语法元素进行编码。另外，例如，当当前块包括多个子块或系数组(cg)时，可以按扫描顺序对多个子块或系数组进行编码，并且可以按扫描顺序对每个子块或系数组中的变换系数的语法元素进行编码。
[0408]
另外，例如，残差信息可以包括当前块的变换跳过标志。变换跳过标志可以指示是否对当前块应用变换。即，变换跳过标志可以指示是否对当前块的变换系数应用变换。指示变换跳过标志的语法元素可以是上述的transform_skip_flag。例如，当变换跳过标志的值为零时，变换跳过标志可以表示未对当前块应用变换，而当变换跳过标志的值为1时，变换跳过标志可以表示对当前块应用变换。例如，当当前块是变换跳过块时，当前块的变换跳过标志的值可以为1。
[0409]
另外，例如，解码设备获得当前块的第n 1变换系数至最后一个变换系数的语法元素。例如，残差信息可以包括当前块的第n 1变换系数至最后一个变换系数的语法元素。这
里，例如，语法元素可以是根据变换跳过残差编码(tsrc)的第二残差数据编码结构的语法元素。根据第二残差数据编码结构的语法元素可以被称为根据简化的残差数据编码结构的语法元素。例如，当当前块的上下文编码bin被全部用作第一变换系数至第n变换系数的上下文编码语法元素的bin时，即，例如，当第一变换系数至第n变换系数的上下文编码语法元素的数目等于或大于当前块的上下文编码bin的最大数目时，解码设备可以获得作为根据tsrc的第二残差数据编码结构的语法元素的当前块的第n 1变换系数至最后一个变换系数的语法元素。
[0410]
例如，根据第二残差数据编码结构的语法元素可以包括变换系数的旁路编码语法元素。例如，根据第二残差数据编码结构的语法元素可以包括变换系数的符号标志和系数级别信息。例如，根据第二残差数据编码结构的语法元素可以包括变换系数的系数级别的绝对值的系数级别信息和变换系数的符号的符号标志。可以基于旁路来对变换系数的语法元素进行编码。即，可以基于均匀概率分布来对变换系数的残差语法元素进行编码。例如，系数级别信息可以表示变换系数的系数级别的绝对值。另外，符号标志可以表示当前变换系数的符号。例如，当符号标志的值为零时，符号标志可以指示变换系数的系数级别为正值，而当符号标志的值为1时，符号标志可以指示变换系数的系数级别为负值。系数级别信息可以是上述的abs_remainder，并且符号标志可以是上述的coeff_sign_flag。
[0411]
此外，例如，根据第二残差数据编码结构的语法元素可以按根据系数位置的编码顺序被编码。根据系数位置的编码顺序可以是变换系数的扫描顺序。例如，扫描顺序可以是光栅扫描顺序。例如，光栅扫描顺序可以表示从顶行向下依次扫描并且在每一行中从左到右扫描的顺序。例如，可以按从第n 1变换系数至最后一个变换系数的语法元素的顺序对根据第二残差数据编码结构的语法元素进行编码。另外，例如，当当前块包括多个子块或系数组(cg)时，可以按扫描顺序对多个子块或系数组进行编码，并且可以按扫描顺序对每个子块或系数组中的变换系数的语法元素进行编码。
[0412]
另外，例如，根据第二残差数据编码结构的语法元素可以按根据语法元素的编码顺序被编码。即，例如，根据第二残差数据编码结构的语法元素可以按语法元素优先的编码顺序被编码。例如，可以对第n 1变换系数至最后一个变换系数的系数级别信息进行编码，并且此后，可以对第n 1变换系数至最后一个变换系数的符号标志进行编码。具体地，例如，可以按从第n 1变换系数的系数级别信息至最后一个变换系数的系数级别信息的顺序对系数级别信息进行编码，并且稍后，可以按从第n 1变换系数的符号标志至最后一个变换系数的符号标志的顺序对符号标志进行编码。
[0413]
解码设备基于残差信息来推导当前块的残差样本(步骤s2210)。解码设备可以基于残差信息来推导当前块的残差样本。
[0414]
例如，解码设备可以基于根据第一残差数据编码结构的语法元素和根据第二残差数据编码结构的语法元素来推导当前块的变换系数。
[0415]
例如，解码设备可以基于根据第一残差数据编码结构的语法元素来推导当前块的第一变换系数至第n变换系数。
[0416]
另外，例如，解码设备可以基于根据第二残差数据编码结构的语法元素来推导第n 1变换系数至最后一个变换系数。例如，变换系数的系数级别可以被推导为由系数级别信息表示的值，并且变换系数的符号可以被推导为由符号标志表示的符号。在这种情况下，例
如，可以在不执行级别映射的情况下推导变换系数。
[0417]
稍后，例如，解码设备可以基于变换系数来推导当前块的残差样本。在一个示例中，当基于变换跳过标志推导出不对当前块应用变换时，即，当变换跳过标志的值为1时，解码设备可以在推导当前块的残差样本时推导变换系数。另选地，例如，当基于变换跳过标志推导出不对当前块应用变换时，即，当变换跳过标志的值为1时，解码设备可以通过对变换系数进行反量化来推导当前块的残差样本。另选地，例如，当基于变换跳过标志推导出对当前块应用变换时，即，当变换跳过标志的值为零时，解码设备可以通过对变换系数进行逆变换来推导当前块的残差样本。另选地，例如，当基于变换跳过标志推导出对当前块应用变换时，即，当变换跳过标志的值为零时，解码设备可以通过对变换系数进行反量化并对反量化后的变换系数进行逆变换来推导当前块的残差样本。
[0418]
解码设备基于残差样本来生成重构图片(步骤s2220)。例如，解码设备可以基于残差样本来生成重构样本和/或重构图片。例如，解码设备可以基于通过比特流接收到的预测信息来对当前块执行帧间预测模式或帧内预测模式并推导预测样本，并可以通过将预测样本与残差样本相加来生成重构样本。
[0419]
随后，视情况需要，为了改善主观/客观图像质量，解码设备可以向如上所述的重构图片应用诸如去块滤波、sao和/或alf处理这样的环路滤波处理。
[0420]
图23简要例示了根据本公开的执行图像解码方法的解码设备。图22中提出的方法可以由图23中公开的解码设备执行。具体地，例如，解码设备的熵解码器可以执行图22中示出的步骤s2200，解码设备的残差处理器可以执行图22中示出的步骤s2210，并且解码设备的加法器可以执行图22中示出的步骤s2220。另外，尽管在图中未示出，但接收当前块的预测信息的处理可以由图23中示出的解码设备的熵解码器执行，并且推导当前块的预测样本的处理可以由图23中示出的解码设备的预测器执行。
[0421]
根据上述的本公开，残差编码的效率可以提高。
[0422]
此外，根据本公开，当在tsrc中消耗了针对当前块的最大数目的上下文编码bin时，可以发信号通知根据简化的残差数据编码结构的语法元素，并且据此，旁路编码的语法元素的编码复杂度降低，并且整体残差编码效率可以提高。
[0423]
此外，根据本公开，作为旁路编码的语法元素的编码顺序，可以使用语法元素优先的顺序，并且据此，旁路编码的语法元素的编码效率可以提高，并且整体残差编码效率可以提高。
[0424]
在以上实施方式中，基于具有一系列步骤或方框的流程图描述了方法。本公开不限于以上步骤或方框的顺序。一些步骤或方框可以以与上述的其他步骤或方框不同的顺序执行或同时执行。此外，本领域技术人员将理解，流程图中所示的步骤不是排它的，并且可以还包括其他步骤，或者可以在不影响本公开的范围的情况下删除流程图中的一个或更多个步骤。
[0425]
在本说明书中所描述的实施方式可以通过被实现在处理器、微处理器、控制器或芯片上来执行。例如，每个图中所示的功能单元可以通过被实现在计算机、处理器、微处理器、控制器或芯片上来执行。在这种情况下，用于实现的信息(例如，关于指令的信息)或算法可以存储在数字存储介质中。
[0426]
另外，应用本公开的解码设备和编码设备可以被包括在如下设备中：多媒体广播
发送/接收设备、移动通信终端、家庭影院视频设备、数字影院视频设备、监视相机、视频聊天设备、诸如视频通信的实时通信设备、移动流设备、存储介质、便携式摄像机、vod服务提供设备、过顶(ott)视频设备、互联网流服务提供设备、三维(3d)视频设备、电话会议视频设备、运输用户设备(例如，车辆用户设备、飞机用户设备和轮船用户设备)和医疗视频装置；并且应用本公开的解码设备和编码设备可以用于处理视频信号或数据信号。例如，过顶(ott)视频设备可以包括游戏机、蓝光播放器、互联网接入电视机、家庭影院系统、智能电话、平板电脑、数字视频记录仪(dvr)等。
[0427]
另外，应用本公开的处理方法可以以计算机执行的程序的形式产生，并且可以存储在计算机可读记录介质中。根据本公开的具有数据结构的多媒体数据也可以存储在计算机可读记录介质中。计算机可读记录介质包括其中存储计算机可读数据的所有类型的存储装置。计算机可读记录介质可以包括例如bd、通用串行总线(usb)、rom、prom、eprom、eeprom、ram、cd-rom、磁带、软盘和光学数据存储装置。另外，计算机可读记录介质包括以载波(例如，经由互联网的传输)形式实现的介质。另外，由编码方法生成的比特流可以存储在计算机可读记录介质中或通过有线/无线通信网络来传输。
[0428]
另外，本公开的实施方式可以根据程序代码利用计算机程序产品来实现，并且程序代码可以通过本公开的实施方式在计算机中执行。程序代码可以存储在计算机可读载体上。
[0429]
图24例示了应用了本公开的内容流传输系统的结构图。
[0430]
应用本公开的实施方式的内容流传输系统可以主要包括编码服务器、流传输服务器、网络服务器、媒体存储器、用户装置和多媒体输入装置。
[0431]
编码服务器将从诸如智能手机、相机或便携式摄像机等的多媒体输入装置输入的内容压缩为数字数据，以生成比特流并将比特流发送到流传输服务器。作为另一示例，当诸如智能手机、相机或摄像机等的多媒体输入装置直接生成比特流时，可以省略编码服务器。
[0432]
可以通过应用了本公开的实施方式的编码方法或比特流生成方法来生成比特流，并且流传输服务器可以在发送或接收比特流的过程中临时存储比特流。
[0433]
流传输服务器基于用户请求通过网络服务器向用户装置发送多媒体数据，并且网络服务器用作向用户通知服务的媒介。当用户从网络服务器请求所需的服务时，网络服务器向流传输服务器递送该请求，并且流传输服务器向用户发送多媒体数据。在这种情况下，内容流传输系统可以包括单独的控制服务器。在这种情况下，控制服务器用于控制内容流传输系统内的装置之间的命令/响应。
[0434]
流传输服务器可以从媒体存储器和/或编码服务器接收内容。例如，当从编码服务器接收内容时，可以实时接收内容。在这种情况下，为了提供平稳的流服务，流传输服务器可以将比特流存储预定时间段。
[0435]
用户装置的示例可以包括移动电话、智能电话、膝上型计算机、数字广播终端、个人数字助理(pda)、便携式多媒体播放器(pmp)、导航仪、触屏pc、平板pc、超级本、可穿戴装置(例如，智能手表、智能眼镜和头戴式显示器)、数字tv、台式计算机和数字标牌等。内容流传输系统内的每个服务器可以作为分布式服务器来操作，在这种情况下，从每个服务器接收的数据可以被分布。
[0436]
本公开中描述的权利要求可以以各种方式组合。例如，可以组合本公开的方法权
利要求的技术特征以实现为设备，以及可以组合本公开的设备权利要求的技术特征以实现为方法。此外，可以组合本公开的方法权利要求的技术特征和设备权利要求的技术特征以实施为设备，以及可以组合本公开的方法权利要求的技术特征和设备权利要求的技术特征以实现为方法。