调色板模式的量化处理的制作方法

调色板模式的量化处理
1.相关申请的交叉引用
2.根据适用专利法和/或适用于巴黎公约的规则，本技术及时要求2019年7月20日提交的国际专利申请no.pct/cn2019/096933、2019年7月23日提交的国际专利申请no.pct/cn2019/097288、以及2019年7月29日提交的国际专利申请no.pct/cn2019/098204的优先权和权益。出于法律的所有目的，上述申请的全部公开作为本技术公开的一部分通过引用并入。
技术领域
3.本文件涉及视频和图像编解码技术。


背景技术：

4.数字视频在互联网和其他数字通信网络上占最大的带宽使用量。随着能够接收和显示视频的连接用户设备的数量增加，预计数字视频使用所需的带宽将继续增长。


技术实现要素：

5.所公开的技术可以由其中使用调色板模式编解码的视频或图像解码器或编码器实施例使用。
6.在一个示例方面，公开了一种视频处理方法。该方法包括：在视频的视频区域的块与视频的比特流表示之间执行转换。根据第一格式规则以及第二格式规则来处理比特流表示，第一格式规则指定是否对块信令通知对调色板模式的使用的第一指示，第二格式规则指定第一指示相对于对块的预测模式的使用的第二指示的位置。
7.在另一个示例方面，公开了一种视频处理方法。该方法包括：对于视频中视频区域的块和视频的比特流表示之间的转换，基于一个或多个允许的至少包括块的调色板模式的预测模式来确定预测模式。根据预测模式来确定调色板模式的使用的指示。该方法还包括基于一个或多个允许的预测模式执行转换。
8.在另一个示例方面，公开了一种视频处理方法。该方法包括：执行视频的块和视频的比特流表示之间的转换。根据格式规则来处理比特流表示，该格式规则指定彼此相互依赖地信令通知的对调色板模式的使用的第一指示和对帧内块复制(ibc)模式的使用的第二指示。
9.在另一个示例方面，公开了一种视频处理方法。该方法包括：对于视频的块和视频的比特流表示之间的转换，基于块的尺寸，确定在比特流表示中对调色板模式的使用的指示的存在；以及基于确定执行转换。
10.在另一个示例方面，公开了一种视频处理方法。该方法包括：对于视频的块与视频的比特流表示之间的转换，基于块的尺寸，确定在比特流表示中对帧内块复制(ibc)模式的使用的指示的存在；以及基于确定执行转换。
11.在另一个示例方面，公开了一种视频处理方法。该方法包括：对于视频的块和视频
的比特流表示之间的转换，基于包含块的视频区域的第二指示，确定块是否允许调色板模式；以及基于确定执行转换。
12.在另一个示例方面，公开了一种视频处理方法。该方法包括：对于视频的块和视频的比特流表示之间的转换，基于包含块的视频区域的第二指示，确定块是否允许帧内块复制(ibc)模式，以及基于确定执行转换。
13.在另一个示例方面，公开了一种视频处理方法。该方法包括：对于在视频的块和视频的比特流表示之间的转换，确定与调色板模式下的调色板条目相关联的第一样点的第一比特深度。第一比特深度不同于与该块相关联的第二比特深度。该方法还包括，基于该确定来执行转换。
14.在另一个示例方面，公开了一种视频处理方法。该方法包括：对于视频的当前块和所述视频的比特流表示之间的转换，在相邻块位于所述当前块的上方和左侧的情况下，确定在所述当前块的最可能模式(mpm)候选列表的构造期间，将以调色板模式编解码的所述当前块的所述相邻块处理为具有默认模式的帧内编解码块。该方法还包括，根据所述确定执行所述转换。
15.在另一个示例方面，公开了一种视频处理方法。该方法包括：对于在视频的比特流表示中被编解码为调色板模式编解码块的视频的块，根据规则确定用于解块滤波的参数。该方法还包括，使用用于解块滤波的所述参数在所述视频的块和所述比特流表示之间执行转换。
16.在另一个示例方面，公开了一种视频处理方法。该方法包括：对于在视频的当前块和所述视频的比特流表示之间的转换，确定在所述当前块的最可能模式(mpm)候选列表的构造期间，将以调色板模式编解码的所述当前块的相邻块处理为非帧内编解码块。该方法还包括，基于所述确定执行所述转换。
17.在另一个示例方面，公开了一种视频处理方法。该方法包括：为视频的块确定与所述块相关联的量化参数，部分地基于所述量化参数的修改值，将所述视频的块编解码为所述视频的比特流表示，作为调色板编解码块，以及在所述比特流表示中信令通知与所述量化参数有关的编解码信息。
18.在另一个示例方面，公开了一种视频处理方法。该方法包括：基于视频的比特流表示导出量化参数，以及部分地基于通过修改所述量化参数确定的修改后的量化参数，来对调色板编解码块进行解码。
19.在另一个示例方面，公开了一种视频处理方法。该方法包括：对于在视频的比特流表示中被编解码为调色板编解码块的视频的块，确定所述块的逸出样点在所述比特流表示中的表示，而不管是否对所述块启用了旁路模式。该方法还包括，基于所述确定在所述块与所述比特流表示之间执行转换。
20.在另一个示例方面，公开了一种视频处理方法。该方法包括：对于在视频的比特流表示中被编解码为调色板编解码块的视频的块，确定第一量化处理。所述第一量化处理不同于适用于非调色板模式编解码块的第二量化处理。该方法还包括，基于所述确定在所述块与所述比特流表示之间执行转换。
21.在另一个示例方面，公开了一种视频处理方法。该方法包括：确定调色板模式将被用于处理变换单元、编解码块或区域，调色板模式的使用与预测模式分开被编解码，以及执
行对变换单元、编解码块或使用调色板模式的区域的进一步处理。
22.在另一个示例方面，公开了一种视频处理方法。该方法包括：对于当前视频块，确定与调色板模式的一个调色板条目相关联的样点具有不同于与当前视频块相关联的第二比特深度的第一比特深度，并且至少基于一个调色板条目，执行针对当前视频块的进一步处理。
23.在另一个示例方面，公开了另一种视频处理方法。该方法包括：在视频的图片的当前视频块与视频的比特流表示之间执行转换，其中，在该转换中，在比特流表示中信令通知或者基于当前视频块的编解码条件导出关于在该转换中是否使用帧内块复制模式的信息；其中，帧内块复制模式包括对来自图片中另一视频块的当前视频块进行编解码。
24.在又一个示例方面，公开了另一种视频处理方法。该方法包括：确定在视频的图片的当前视频块的转换期间是否将应用解块滤波器，其中，使用调色板模式编解码来对当前视频块进行编解码，其中使用少于当前视频块的总像素的代表性样点值来表示当前视频块，以及在确定要应用解块滤波器的情况下，执行转换以使得应用解块滤波器。
25.在又一个示例方面，公开了另一种视频处理方法。该方法包括：确定在视频的图片的当前视频块与视频的比特流表示之间的转换期间使用的量化或逆量化过程，其中，使用调色板模式编解码对当前视频块进行编解码，其中使用少于当前视频块的总像素的代表性样点值来表示当前视频块，以及基于确定量化或逆量化过程来执行转换。
26.在又一个示例方面，公开了另一种视频处理方法。该方法包括：对于包括多个视频块的视频的当前视频块和视频的比特流表示之间的转换，确定当前视频块是调色板编解码的块；基于该确定，通过将当前视频块视为帧内编解码的块来执行最可能的模式的列表构建过程，并基于列表构建过程的结果执行转换；其中使用调色板或表示样点值对调色板编解码的块进行编解码或解码。
27.在又一个示例方面，公开了另一种视频处理方法。该方法包括：对于包括多个视频块的视频的当前视频块和视频的比特流表示之间的转换，确定当前视频块是调色板编解码的块；基于该确定，通过将当前视频块视为非帧内编解码的块来执行最可能的模式的列表构建过程，并基于列表构建过程的结果执行转换；其中使用调色板或表示样点值对调色板编解码的块进行编解码或解码。
28.在又一个示例方面，公开了另一种视频处理方法。该方法包括：对于包括多个视频块的视频的当前视频块和视频的比特流表示之间的转换，确定当前视频块是调色板编解码的块；基于该确定，通过将当前视频块视为不可用块来执行列表构建过程，并基于列表构建过程的结果执行转换；其中使用调色板或表示样点值对调色板编解码的块进行编解码或解码。
29.在又一个示例方面，公开了另一种视频处理方法。该方法包括：在当前视频块和当前视频块的比特流表示之间的转换期间，确定当前视频块是调色板编解码的块，基于当前视频块确定是调色板编解码的块，确定用于转换的上下文编解码的位的范围；以及根据上下文编解码的位的范围执行转换。
30.在又一个示例方面，上述方法可以由包括处理器的视频编码器装置实现。
31.在又一个示例方面，这些方法可以以处理器可执行指令的形式体现并存储在计算机可读程序介质上。
32.在本文件中进一步描述了这些以及其他方面。
附图说明
33.图1示出了帧内块复制的示例。
34.图2示出了以调色板模式编解码的块的示例。
35.图3示出了使用调色板预测器来信令通知调色板条目的示例。
36.图4示出了水平和垂直遍历扫描的示例。
37.图5示出了调色板索引的编解码的示例。
38.图6是视频处理装置的示例的框图。
39.图7示出了视频编码器的示例实现方式的框图。
40.图8是用于视频处理方法的示例的流程图。
41.图9示出了涉及滤波器开/关决策和强/弱滤波器选择的像素的示例。
42.图10示出了四个模式的二值化的示例。
43.图11示出了四个模式的二值化的示例。
44.图12示出了67个帧内模式预测方向的示例。
45.图13示出了相邻视频块的示例。
46.图14示出了alf滤波器形状的示例(色度：5
×
5菱形，亮度：7
×
7菱形)。
47.图15a示出了用于垂直梯度的子样点拉普拉斯计算(laplacian calculation)的示例。
48.图15b示出了用于水平梯度的子样点拉普拉斯计算的示例。
49.图15c示出了用于对角梯度的子样点拉普拉斯计算的示例。
50.图15d示出了用于对角梯度的子样点拉普拉斯计算的示例。
51.图16示出了在虚拟边界处的修改的块分类的示例。
52.图17示出了针对虚拟边界处的亮度分量的修改的alf滤波的示例。
53.图18示出了用于eo中的像素分类的四个1-d 3像素图案的示例。
54.图19示出了四个频带被分组在一起并且由其起始频带位置表示的示例。
55.图20示出了在ciip权重推导中使用的顶部和左侧相邻块的示例。
56.图21示出了具有色度缩放架构的亮度映射的示例。
57.图22示出了4
×
4块的扫描顺序的示例。
58.图23示出了4
×
4块的扫描顺序的另一示例。
59.图24是示出其中可以实现本文所公开的各种技术的示例视频处理系统2400的框图。
60.图25是根据本技术的用于视频处理的另一种方法的流程图表示。
61.图26是根据本技术的用于视频处理的另一种方法的另一流程图表示。
62.图27是根据本技术的用于视频处理的另一种方法的另一流程图表示。
63.图28是根据本技术的用于视频处理的另一种方法的另一流程图表示。
64.图29是根据本技术的用于视频处理的另一种方法的另一流程图表示。
65.图30是根据本技术的用于视频处理的另一种方法的另一流程图表示。
66.图31是根据本技术的用于视频处理的另一种方法的另一流程图表示。
67.图32是根据本技术的用于视频处理的另一种方法的另一流程图表示。
68.图33是根据本技术的用于视频处理的另一种方法的另一流程图表示。
69.图34是根据本技术的用于视频处理的另一种方法的另一流程图表示。
70.图35是根据本技术的用于视频处理的另一种方法的另一流程图表示。
71.图36a是根据本技术的用于视频处理的另一种方法的另一流程图表示。
72.图36b是根据本技术的用于视频处理的另一种方法的另一流程图表示。
73.图37是根据本技术的用于视频处理的另一种方法的另一流程图表示。
74.图38是根据本技术的用于视频处理的另一种方法的又一流程图表示。
具体实施方式
75.本文件提供了可由图像或视频比特流的解码器用来改善解压缩或解码的数字视频或图像的质量的各种技术。为了简洁起见，术语“视频”在本文中用于包括图片序列(传统上称为视频)和单个图像。此外，视频编码器还可在编码过程期间实现这些技术，以便重建用于进一步编码的解码帧。
76.在本文件中使用章节标题是为了易于理解，并且不将实施例和技术限于相应的章节。这样，一个部分的实施例可以与其他部分的实施例组合。
77.1.综述
78.该文件涉及视频编解码技术。具体地，它涉及运动矢量调色板编解码，其中在视频编解码中采用基于基色的表示。它可以应用于现有的视频编解码标准(例如hevc)，或者最终确定的标准(通用视频编解码)。它也可能适用于未来的视频编解码标准或视频编码器。
79.2.初步讨论
80.视频编解码标准主要通过公知的itu-t和iso/iec标准的发展而发展。itu-t制作了h.261和h.263，iso/iec制作了mpeg-1和mpeg-4 visual，这两个组织共同制作了h.262/mpeg-2视频和h.264/mpeg-4增强视频编解码(avc)和h.265/hevc标准。从h.262开始，视频编解码标准基于混合视频编解码结构，其中利用了时域预测和变换编解码。为了探索hevc之外的未来视频编解码技术，vceg和mpeg于2015年联合成立了联合视频探索小组(jvet)。此后，jvet采纳了许多新方法并将其引入到名为“联合探索模型”(jem)的参考软件中。2018年4月，vceg(q6/16)和iso/iec jtc1 sc29/wg11(mpeg)之间的联合视频专家团队(jvet)成立，以致力于vvc标准，其目标是与hevc相比降低50％比特率。
81.图7是视频编码器的示例实现方式的框图。图7示出了编码器实现方式具有内置的反馈路径，视频编码器还在其中执行视频解码功能(重构视频数据的压缩表示以用于下一个视频数据的编码)
82.2.1帧内块复制
83.hevc屏幕内容编解码扩展(hevc-scc)和当前vvc测试模型(vtm-4.0)已采用了帧内块复制(ibc)，又称当前图片参考。ibc将运动补偿的概念从帧间编解码扩展到了帧内编解码。如图1所示，当应用ibc时，当前块由同一图片中的参考块预测。在对当前块进行编解码或解码之前，必须已经重构了参考块中的样点。尽管ibc对于大多数相机捕获的序列而言效率不高，但它示出了屏幕内容的显着编解码增益。原因是屏幕内容图片中有很多重复的模式，诸如图标和文本字符。ibc可以有效地消除这些重复模式之间的冗余。在hevc-scc中，
如果选择当前图片作为其参考图片，则帧间编解码的编解码单元(cu)可以应用ibc。在这种情况下，mv被重命名为块矢量(bv)，并且bv始终具有整数像素精度。为了与主配置文件hevc兼容，当前图片在解码图片缓冲器(decoded picture buffer，dpb)中被标记为“长期”参考图片。应当注意，类似地，在多视图/3d视频编解码标准中，视图间参考图片也被标记为“长期”参考图片。
84.在bv找到其参考块之后，可以通过复制参考块来生成预测。可以通过从原始信号中减去参考像素来获得残差。然后，可以像在其他编解码模式中一样应用变换和量化。
85.然而，当参考块在图片之外、或与当前块重叠、或在重构区域之外、或在受某些约束限制的有效区域之外时，未定义部分或全部像素值。基本上，有两种解决此问题的解决方案。一种是禁止这种情况，例如在比特流一致性中。另一种是对那些未定义的像素值应用填充。以下子章节详细描述了解决方案。
86.2.2 hevc屏幕内容编解码扩展中的ibc
87.在hevc的屏幕内容编解码扩展中，当块使用当前图片作为参考时，应确保整个参考块在可用的重构区域内，如说明书中的以下文本所示：
88.变量offsetx和offsety的推导如下：
89.offsetx＝(chromaarraytype＝＝0)？0:(mvclx[0]&0x7？2:0)
[0090]
(8-106)
[0091]
offsety＝(chromaarraytype＝＝0)？0:(mvclx[1]&0x7？2:0)
[0092]
(8-107)
[0093]
比特流一致性的要求为，当参考图片是当前图片时，亮度运动矢量mvlx应当遵循以下限制：
[0094]-当以将设置为(xcb，ycb)的(xcurr,ycurr)、将设置为等于(xpb (mvlx[0]》》2)-offsetx,ypb (mvlx[1]》》2)-offsety)的相邻亮度位置(xnby,ynby)作为输入调用第6.4.1节中规定的z扫描顺序块可用性的推导过程时，输出应当为真(true)。
[0095]-当以将设置为(xcb，ycb)的(xcurr,ycurr)、将设置为等于(xpb (mvlx[0]》》2) npbw-1 offsetx,ypb (mvlx[1]》》2) npbh-1 offsety)的相邻亮度位置(xnby,ynby)作为输入调用第6.4.1节中规定的z扫描顺序块可用性的推导过程时，输出应当为真(true)
[0096]-以下条件中的一个或两者应当为真：
[0097]-(mvlx[0]》》2) npbw xb1 offsetx的值小于或等于0。
[0098]-(mvlx[1]》》2) npbh yb1 offsety的值小于或等于0。
[0099]-以下条件应当为真：
[0100]
(xpb (mvlx[0]》》2) npbsw-1 offsetx)/ctbsizey-xcurr/ctbsizey《＝ycurr/ctbsizey-(ypb (mvlx[1]》》2) npbsh-1 offsety)/ctbsizey(8-108)
[0101]
2.3.vvc测试模型中的ibc
[0102]
在当前的vvc测试模型(例如vtm-4.0设计)中，整个参考块应与当前的编解码树单元(ctu)重叠，且不与当前块重叠。因此，不需要填充参考或预测块。ibc标志被编解码为当前cu的预测模式。因此，每个cu总共存在三种预测模式：mode_intra\mode_inter和mode_ibc。
[0103]
2.3.1.ibc merge模式
[0104]
在ibc merge模式中，从比特流中解析指向ibc merge候选列表中的条目的索引。ibc merge列表的构造可以根据以下步骤顺序进行总结：
[0105]
·
步骤1：推导空域候选
[0106]
·
步骤2：插入hmvp候选
[0107]
·
步骤3：插入成对平均候选
[0108]
在空域merge候选的推导中，在位于附图描绘的位置的候选当中选择最多四个merge候选。推导的顺序是a1、b1、b0、a0和b2。仅当位置a1、b1、b0、a0的任何预测单元(pu)不可用(例如，因为它属于另一条带或区块)或者没有用ibc模式进行编解码时，才考虑位置b2。在添加位置a1处的候选之后，对剩余候选的插入进行冗余校验，其确保具有相同运动信息的候选被排除在列表之外，使得编解码效率提高。为了降低计算复杂度，在所提到的冗余校验中并未考虑所有可能的候选对。相反，仅考虑附图中描绘的用箭头连接的对，并且仅在用于冗余校验的对应候选具有不一样的运动信息时，才将候选添加到列表。
[0109]
在插入空域候选之后，如果ibc merge列表尺寸仍小于最大ibc merge列表尺寸，则可以插入来自hmvp表的ibc候选。插入hmvp候选时执行冗余检查。
[0110]
最后，将成对平均候选插入ibc merge列表。
[0111]
当由merge候选标识的参考块在图片之外、或者与当前块重叠、或者在重构区域之外、或者在受某些约束限制的有效区域之外时，merge候选被称为无效merge候选。
[0112]
注意，可以将无效的merge候选插入到ibc merge列表中。
[0113]
2.3.2 ibc amvp模式
[0114]
在ibc amvp模式下，指向ibc amvp列表中条目的amvp索引是从比特流中解析出来的。ibc amvp列表的构造可以根据以下步骤顺序进行总结：
[0115]
·
步骤1：推导空域候选
[0116]
o检查a0、a1，直到找到可用的候选。
[0117]
o检查b0、b1、b2，直到找到可用的候选。
[0118]
·
步骤2：插入hmvp候选
[0119]
·
步骤3：插入零候选
[0120]
在插入空域候选之后，如果ibc amvp列表尺寸仍然小于最大ibc amvp列表尺寸，则可以插入来自hmvp表的ibc候选。
[0121]
最后，将零候选插入到ibc amvp列表中。
[0122]
2.4调色板模式(palette mode)
[0123]
调色板模式背后的基本思想是cu中的样点由一小组代表性颜色值表示。该组称为调色板。也可以通过信令通知在其后跟随(可能是量化的)分量值的逸出符号(escape symbol)来指示在调色板之外的样点。这在图2中示出。
[0124]
2.5 hevc屏幕内容编解码扩展(hevc-scc)中的调色板模式
[0125]
在hevc-scc的调色板模式中，预测方式用于编解码调色板和索引图。
[0126]
2.5.1调色板条目的编解码
[0127]
为了对调色板条目进行编解码，维护了调色板预测器。在sps中信令通知调色板预测器以及调色板的最大尺寸。在hevc-scc中，在序列参数集(pps)中引入了palette_predictor_initializer_present_flag。当此标志为1时，在比特流中信令通知用于初始化
调色板预测器的条目。在每个ctu行、每个条带和每个片的开始处初始化调色板预测器。根据palette_predictor_initializer_present_flag的值，将调色板预测器重置为0或使用pps中信令通知的调色板预测器初始化器条目进行初始化。在hevc-scc中，启用了尺寸为0的调色板预测器初始化器，以允许在pps级别上显式禁用调色板预测器初始化。
[0128]
对于调色板预测器中的每个条目，信令通知重用标志以指示其是否是当前调色板的一部分。这在图3中示出。使用零的游程长度(run-length)编解码发送重用标志。此后，使用零阶的指数golomb代码信令通知新调色板的数量。最后，信令通知新调色板条目的分量值(component value)。
[0129]
2.5.2调色板索引的编解码
[0130]
如图4所示，使用水平和垂直遍历扫描来对调色板索引进行编解码。使用palette_transpose_flag在比特流中显式地信令通知扫描顺序。对于本小节的其余部分，假定扫描是水平的。
[0131]
使用两个主调色板样点模式(“index”和“copy_above”)对调色板索引进行编解码。如前所述，逸出符号也信令通知为“index”模式，并被分配了等于最大调色板尺寸的索引。使用除顶部行以外的标志或在前一个模式为“copy_above”时信令通知该模式。在“copy_above”模式下，将复制上一行中样点的调色板索引。在“index”模式下，显式地信令通知调色板索引。对于“index”和“copy_above”模式两者，都会信令通知运行值，该值指定了也使用相同模式进行编解码的后续样点数。当“index”或“copy_above”模式下逸出符号是运行的一部分时，将为每个逸出符号信令通知逸出分量值。调色板索引的编解码在图5中示出。
[0132]
该语法顺序如下完成。首先，信令通知cu的索引值的数量。这之后是使用截断的二进制编解码来信令通知整个cu的实际索引值。索引数和索引值均以旁路模式进行编解码。这会将与索引相关的旁路二进制数组合在一起。然后以交错方式信令通知调色板样点模式(如果需要)和运行。最后，将与整个cu的逸出样点相对应的分量逸出值组合在一起，并以旁路模式进行编解码。
[0133]
在信令通知索引值之后，信令通知了另外的语法元素last_run_type_flag。该语法元素与索引数量一起，消除了信令通知与块中最后一次运行相对应的运行值的需要。
[0134]
在hevc-scc中，还为4：2：2、4：2：0和单色色度格式启用了调色板模式。对于所有色度格式，调色板条目和调色板索引的信令几乎相同。如果是非单色格式，则每个调色板条目均由3个分量组成。对于单色格式，每个调色板条目均由单个分量组成。对于子样点的色度方向，色度样点与可被2整除的亮度样点索引相关联。在为cu重建调色板索引之后，如果样点仅具有与其相关联的单个分量，则仅使用调色板条目的第一个分量。信令的唯一区别在于逸出分量值。对于每个逸出样点，信令通知的逸出分量值的数量可能会有所不同，具体取决于与该样点相关联的分量的数量。
[0135]
在vvc中，双树编解码结构用于对帧内条带进行编解码，因此亮度分量和两个色度分量可能具有不同的调色板和调色板索引。另外，两个色度分量共享相同的调色板和调色板索引。
[0136]
2.6 vvc中的解块方案
[0137]
注意，在以下描述中，pnm表示相对于垂直边缘的第m行中的左侧第n个样点、或相
对于水平边缘的第m列中的顶侧第n个样点，qnm表示相对于垂直边缘的第m行的右侧第n个样点、或相对于水平边缘的第m列的底侧第n个样点。pnm和qnm的示例在图9中示出。
[0138]
注意，在以下描述中，pn表示相对于垂直边缘的行中的左侧第n个样点、或相对于水平边缘的列中的顶侧第n个样点，qn表示相对于垂直边缘的行中的右侧第n个样点、或者相对于水平边缘的行中的底侧第n个样点。
[0139]
滤波器开/关决策以四行为单元进行。图9示出了涉及滤波器开/关决策的像素。前四行的两个红色框中的6个像素用于确定4行的滤波器开/关。后四行的两个红色框中的6个像素用于确定后四行的滤波器开/关。
[0140]
在一些实施例中，首先对图片中的垂直边缘进行滤波。然后，将图片中的水平边缘与通过垂直边缘滤波过程修改的样点作为输入进行滤波。每个ctu的ctb中的垂直边缘和水平边缘分别以编解码单元为基础进行处理。从编解码块左手侧的边缘开始以其几何顺序穿过边缘朝向编解码块的右手侧对编解码单元中的编解码块的垂直边缘进行滤波。从编解码块顶部的边缘开始以其几何顺序穿过边缘朝向编解码块的底部开始对编解码单元中的编解码块的水平边缘进行滤波。
[0141]
2.6.1边界决策
[0142]
滤波被应用于8x8的块边界。另外，它必须是变换块边界或编解码子块边界(例如，由于使用仿射运动预测(affine motion prediction，atmvp))。对于那些没有这种边界的将禁用滤波器。
[0143]
2.6.2边界强度计算
[0144]
对于变换块边界/编解码子块边界，如果其位于8x8网格中，则可以对其进行滤波并且将对该边缘的bs[xdi][ydj](其中[xdi][ydj]表示坐标)的设置定义如下：
[0145]
–
如果样点p0或q0在以帧内预测模式进行编解码的编解码单元的编解码块中，则将bs[xdi][ydj]设置为等于2。
[0146]
–
否则，如果块边缘也是变换块边缘，并且样点p0或q0在包含一个或多个非零变换系数级别的变换块中，则将bs[xdi][ydj]设置为等于1。
[0147]
–
否则，如果包含样点p0的编解码子块的预测模式与包含样点q0的编解码子块的预测模式不同，则将bs[xdi][ydj]设置为等于1。
[0148]
–
否则，如果以下一个或多个条件为真，则将bs[xdi][ydj]设置为等于1：
[0149]
–
包含样点p0的编解码子块和包含样点q0的编解码子块均以ibc预测模式进行编解码，并且用于两个编解码子块的预测的运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一亮度样点为单位)。
[0150]
–
对于包含样点p0的编解码子块的预测，使用与包含样点q0的编解码子块的预测不同的参考图片或不同数量的运动矢量。
[0151]
注1
–
确定用于两个编解码子块的参考图片是相同还是不同，仅取决于参考了哪些图片，而与使用参考图片列表0的索引还是使用参考图片列表1的索引来形成预测无关，并且也与参考图片列表中的索引位置是否不同无关。
[0152]
注2
–
用于使用覆盖(xsb，ysb)的左上角样点预测编解码子块的运动矢量的数量等于predflagl0[xsb][ysb] predflagl1[xsb][ysb]。
[0153]
–
使用一个运动矢量来预测包含样点p0的编解码子块，并且使用一个运动矢量来
预测包含样点q0的编解码子块，并且所使用运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一亮度样点为单位)。
[0154]
–
使用两个运动矢量和两个不同的参考图片来预测包含样点p0的编解码子块，使用相同的两个参考图片的两个运动矢量来预测包含样点q0的编解码子块，并且对相同参考图片，用于两个编解码子块的预测的运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一亮度样点为单位)。
[0155]
–
使用相同参考图片的两个运动矢量来预测包含样点p0的编解码子块，使用相同参考图片的两个运动矢量来预测包含样点q0的编解码子块，并且以下两个条件均为真：
[0156]
–
用于两个编解码子块的预测中的列表0运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一亮度样点为单位)，或者用于两个编解码子块的预测中的列表1的运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一亮度样点为单位)。
[0157]
–
用于预测包含样点p0的编解码子块的列表0运动矢量与用于预测包含样点q0的编解码子块的列表1运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一亮度样点为单位)，或者，用于预测包含样点p0的编解码子块的列表1运动矢量与用于预测包含样点q0的编解码子块的列表0运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一亮度样点为单位)。
[0158]
–
否则，将变量bs[xdi][ydj]设置为等于0。
[0159]
表2-1和2-2总结了bs计算规则。
[0160]
表2-1.边界强度(当禁用sps ibc时)
[0161][0162]
表2-2.边界强度(当启用sps ibc时)
[0163][0164]
2.6.3用于亮度分量的解块决策
[0165]
在本小节中描述了解块(deblocking)决策过程。
[0166]
更宽更强的亮度滤波器是仅当条件1、条件2和条件3都为true(真)时才使用的滤波器。
[0167]
条件1是“大块条件”。该条件检测p边(p side)和q边(q side)的样点是否属于大块，分别由变量bsidepislargeblk和bsideqislargeblk表示。bsidepislargeblk和bsideqislargeblk定义如下。
[0168]
bsidepislargeblk＝((边缘类型为垂直并且p0属于宽度》＝32的cu)
[0169]
||(边缘类型为水平并且p0属于高度》＝32的cu))？true:false
[0170]
bsideqislargeblk＝((边缘类型为垂直并且q0属于宽度》＝32的cu)
[0171]
||(边缘类型为水平并且q0属于高度》＝32的cu))？true:false
[0172]
基于bsidepislargeblk和bsideqislargeblk，条件1定义如下。
[0173]
条件1＝(bsidepislargeblk||bsidepislargeblk)？true:false
[0174]
接下来，如果条件1为真，则将进一步检查条件2。首先，推导以下变量：
[0175]
–
如在hevc中一样首先推导dp0、dp3、dq0、dq3
[0176]
–
如果p边大于或等于32
[0177]
dp0＝(dp0 abs(p5
0-2*p40 p30) 1)》》1
[0178]
dp3＝(dp3 abs(p5
3-2*p43 p33) 1)》》1
[0179]
–
如果q边大于或等于32
[0180]
dq0＝(dq0 abs(q5
0-2*q40 q30) 1)》》1
[0181]
dq3＝(dq3 abs(q5
3-2*q43 q33) 1)》》1
[0182]
条件2＝(d《β)？true:false
[0183]
其中d＝dp0 dq0 dp3 dq3，如第2.2.4节所示。
[0184]
如果condition1和condition2有效，则进一步检查是否有任何块使用了子块：
[0185][0186][0187]
最后，如果条件1和条件2均有效，则所提出的解块方法将检查条件3(大块强滤波条件)，其定义如下。
[0188]
在条件3strongfiltercondition中，推导以下变量：
[0189]
如在hevc中一样推导dpq。
[0190]
sp3＝abs(p
3-p0)，如在hevc中一样推导
[0191]
如果p边大于或等于32
[0192][0193]
sq3＝abs(q
0-q3)，如在hevc中一样推导
[0194]
如果q边大于或等于32
[0195][0196]
如在hevc中一样，strongfiltercondition＝(dpq小于(β》》2),sp3 sq3小于(3*β》》5),且abs(p
0-q0)小于(5*tc 1)》》1)？true:false。
[0197]
2.6.4用于亮度的更强的解块滤波器(为更大的块设计)
[0198]
当边界任一边的样点属于大块时，使用双线性滤波器。属于大块的样点定义为：垂直边缘的宽度》＝32，并且水平边缘的高度》＝32。
[0199]
双线性滤波器在下面列出。
[0200]
在上述hevc解块中，对于i＝0到sp-1的块边界样点pi和对于j＝0到sq-1的块边界样点qj(pi和qi是用于对垂直边缘进行滤波的行中的第i个样点，或者是用于对水平边缘进行滤波的列中的第i个样点)由如下线性插值替代：
[0201]
—pi′
＝(fi*middle
s,t
(64-fi)*ps 32)＞＞6),裁剪为pi±
tcpdi[0202]
—qj′
＝(gj*middle
s,t
(64-gj)*qs 32)＞＞6),裁剪为qj±
tcpdj[0203]
其中tcpdi和tcpdj项是第2.3.6节中描述的与位置有关的裁剪，表2-3中给出了gj、fi、middle
s,t
、ps和qs：
[0204]
表2-3.长抽头解块滤波器
[0205][0206][0207]
2.6.5用于色度的解块控制
[0208]
在块边界的两边都使用了色度强滤波器。此处，当色度边缘的两边都大于或等于8(色度位置)时，选择色度滤波器，并满足以下具有三个条件的决策：第一个条件用于边界强度以及大块的决策。当在色度样点域中正交于块边缘的块宽度或高度等于或大于8时，可以应用所提出的滤波器。第二个和第三个条件基本上与hevc亮度解块决策相同，分别是开/关决策和强滤波器决策。
[0209]
在第一决策中，对于色度滤波，如表2-2中所示修改边界强度(bs)。依次检查表2-2中的条件。如果满足条件，则跳过优先级较低的剩余条件。
[0210]
当检测到大块边界时，当bs等于2或bs等于1时，执行色度解块。
[0211]
第二个和第三个条件基本上与hevc亮度强滤波器决策相同，如下。
[0212]
在第二个条件中：
[0213]
然后如在hevc亮度解块中一样推导d。
[0214]
当d小于β时，第二个条件为true。
[0215]
在第三个条件中，strongfiltercondition推导如下：
[0216]
如在hevc中一样推导dpq。
[0217]
sp3＝abs(p
3-p0)，如在hevc中一样推导
[0218]
sq3＝abs(q
0-q3)，如在hevc中一样推导
[0219]
如在hevc设计中一样，strongfiltercondition＝(dpq小于(β》》2),sp3 sq3小于(β》》3),且abs(p
0-q0)小于(5*tc 1)》》1)
[0220]
2.6.6用于色度的强解块滤波器
[0221]
定义了以下用于色度的强解块滤波器：
[0222]
p2′
＝(3*p3 2*p2 p1 p0 q0 4)》》3
[0223]
p1′
＝(2*p3 p2 2*p1 p0 q0 q1 4)》》3
[0224]
p0′
＝(p3 p2 p1 2*p0 q0 q1 q2 4)》》3
[0225]
所提出的色度滤波器对4x4色度样点网格执行解块。
[0226]
2.6.7位置相关的裁剪
[0227]
将位置相关的裁剪tcpd应用于涉及强滤波器和长滤波器的亮度滤波过程的输出样点，该强滤波器和长滤波器在边界处修改7、5和3个样点。假设量化误差分布，建议对期望具有更高量化噪声的样点增加裁剪值，从而期望具有更大的相对于真实样点值的重建样点值的偏差。
[0228]
对于用非对称滤波器进行滤波的每个p或q边界，取决于2.3.3节中的决策过程的结果，从作为辅信息为解码器提供的两个表(即，下面列出的tc7和tc3)中选择位置相关的阈值表：
[0229]
tc7＝{6,5,4,3,2,1,1}；
[0230]
tc3＝{6,4,2}；
[0231]
tcpd＝(sp＝＝3)？tc3:tc7；
[0232]
tcqd＝(sq＝＝3)？tc3:tc7；
[0233]
对于用短对称滤波器进行滤波的p或q边界，应用较低幅度的位置相关的阈值：
[0234]
tc3＝{3,2,1}；
[0235]
在定义阈值之后，根据tcp和tcq裁剪值对滤波的p’i
和q’i
样点值进行裁剪：
[0236]
p”i
＝clip3(p’i
tcpi,p’i
–
tcpi,p’i
)；
[0237]
q”j
＝clip3(q’j
tcqj,q’j
–
tcq j
,q’j
)；
[0238]
其中，p’i
和q’i
是滤波后的样点值，p”i
和q”j
是裁剪之后的输出样点值，tcp
i tcpi是从vvc tc参数以及tcpd和tcqd推导的裁剪阈值。函数clip3是如在vvc中指定的裁剪函数。
[0239]
2.6.8子块解块调整
[0240]
为了启用使用长滤波器和子块解块二者的并行友好解块(friendly deblocking)，如在对长滤波器的亮度控制中所示，将长滤波器限制为在使用子块解块(affine或atmvp或dmvr)的边最多修改5个样点。另外，调整子块解块，使得在8x8网格上接近cu或隐式tu边界的子块边界被限制为在每边最多修改两个样点。
[0241]
以下适用于与cu边界不对齐的子块边界。
[0242][0243]
其中等于0的边缘对应于cu边界，等于2或等于orthogonallength-2的边对应于来自cu边界等的子块边界8个样点等。如果使用tu的隐式划分，则隐式tu为真。
[0244]
2.6.9对亮度/色度的4ctu/2ctu行缓冲器的限制
[0245]
当水平边缘与ctu边界对齐时，对于亮度，水平边缘的滤波限制sp＝3，对于色度，水平边缘的滤波限制sp＝1且sq＝1。
[0246]
2.7 vvc中的帧内模式编解码
[0247]
为了捕获自然视频中呈现的任意边缘方向，将vtm5中的定向帧内模式的数量从如在hevc中使用的33扩展到65。在图12中用红色虚线箭头表示hevc中不存在的新定向模式，而平面模式和dc模式保持相同。这些更密集的定向帧内预测模式适用于所有块尺寸并适用于亮度和色度帧内预测。
[0248]
在vtm5中，对于非正方形块，将几种传统的角度帧内预测模式自适应地替换为的广角帧内预测模式。广角帧内预测在第3.3.1.2节中描述。
[0249]
在hevc中，每个帧内编解码块具有正方形形状，并且其每边的长度是2的幂。因此，不需要除法运算即可使用dc模式生成帧内预测器。在vtm5中，块可以具有矩形形状，在通常情况下，必须对每个块使用除法运算。为避免对dc预测进行除法运算，仅将较长的边用于对非正方形块计算平均值。
[0250]
为了保持较低的最可能的模式(mpm)列表生成的复杂度，通过考虑两个可用的相邻帧内模式，使用具有6mpm的帧内模式编解码方法。考虑以下三个方面来构造mpm列表：
[0251]
i.默认帧内模式
[0252]
ii.相邻帧内模式
[0253]
iii.推导的帧内模式
[0254]
不论是否应用mrl和isp编解码工具，都将统一的6-mpm列表用于帧内块。基于左侧和上方相邻块的帧内模式来构造mpm列表。假设将左侧块的模式表示为left，并将上方块的模式表示为above，则统一的mpm列表的构造如下(图13示出了左侧和上方块)
[0255]
–
当相邻块不可用时，默认将其帧内模式设置为“平面”。
[0256]
–
如果模式left和above均为非角度模式：
[0257]
o mpm list
→
{平面,dc,v,h,v-4,v 4}
[0258]
–
如果模式left和above中的一个是角度模式，而另一个是非角度模式：
[0259]
o将模式max设置为left和above中的较大模式
[0260]
o mpm列表
→
{平面,max,dc,max-1,max 1,max-2}
[0261]
–
如果left和above均为角度模式，并且它们是不同的：
[0262]
o将模式max设置为left和above中的较大模式
[0263]
o如果模式left和above的差在2到62之间(包括2和62)，
[0264]
■
mpm列表
→
{平面,left,above,dc,max-1,max 1}
[0265]
o否则
[0266]
■
mpm列表
→
{平面,left,above,dc,max-2,max 2}
[0267]
–
如果left和above均为角度模式，并且它们相同：
[0268]
o mpm列表
→
{平面,left,left-1,left 1,dc,left-2}
[0269]
此外，mpm索引码字的第一二进制数是cabac上下文编解码的。总共使用三个上下文，对应于当前帧内块是否启用mrl，是否启用isp或是否是正常帧内块。
[0270]
在6个mpm列表生成过程中，将修剪用于删除重复的模式，使得仅唯一的模式可以包括在mpm列表中。对于61个非mpm模式的熵编解码，使用截断二进制码(tbc)。
[0271]
对于色度帧内模式编解码，总共允许8个帧内模式用于色度帧内模式编解码。这些模式包括五个传统的帧内模式和三个跨分量线性模型模式(cclm，lm_a和lm_l)。色度模式信令和推导过程在表2-4中示出。色度模式编解码直接取决于对应的亮度块的帧内预测模式。由于在i条带中对亮度和色度分量启用了单独的块分割结构，因此一个色度块可以对应于多个亮度块。因此，对于色度dm模式，覆盖当前色度块的中心位置的对应的亮度块的帧内预测模式被直接继承。
[0272]
表2 4
–
启用cclm_时从亮度模式推导色度预测模式
[0273][0274]
2.8量化残差块差分脉冲编解码调制(qr-bdpcm)
[0275]
在一些实施例中，提出了一种量化残差块差分脉冲编解码调制(qr-bdpcm)来有效地对屏幕内容进行编解码。
[0276]
qr-bdpcm中使用的预测方向可以是垂直和水平预测模式。通过在类似于帧内预测的预测方向(水平或垂直预测)上进行样点复制来对整个块进行帧内预测。对残差进行量化，并对量化后的残差及其预测器(水平或垂直)量化值之间的增量(delta)进行编解码。这可以由以下进行描述：对于尺寸为m(行)
×
n(列)的块，令r
i,j
,0≤i≤m-1,0≤j≤n-1为使用来自上方或左侧块边界样点的未经滤波的样点水平地(逐行复制整个预测块的左侧相邻像素值)或垂直地(将顶部近邻行复制到预测块中的每一行)进行帧内预测之后的预测残差。令q(r
i,j
),0≤i≤m-1,0≤j≤n-1表示残差r
i,j
的量化版本，其中残差是原始块与预测块值之间的差。然后，将块dpcm应用于量化后的残差样点，得到具有元素的修改后的m
×
n阵列当信令通知垂直bdpcm时：
[0277][0278]
对于水平预测，适用类似的规则，并且通过以下获得残差量化样点
[0279][0280]
将残差量化样点发送到解码器。
[0281]
在解码器侧，将上述计算取反以产生q(r
i,j
),0≤i≤m-1,0≤j≤n-1。对于垂直预测的情况，
[0282][0283]
对于水平情况，
[0284][0285]
将逆量化残差q-1
(q(r
i,j
))添加到块内预测值以产生重建样点值。
[0286]
该方案的主要优点在于，逆dpcm可以在系数解析期间动态完成，只需简单地在解析系数时添加预测器即可，或者可以在解析之后执行。
[0287]
2.9自适应环路滤波器
[0288]
在vtm5中，应用具有基于块的滤波器自适应的自适应环路滤波器(alf)。对于亮度分量，基于局部梯度的方向和活动，为每个4
×
4块选择25个滤波器中的一个。
[0289]
2.9.1滤波器形状
[0290]
在vtm5中，使用两个菱形滤波器形状(如图14所示)。7
×
7菱形适用于亮度分量，而5
×
5菱形适用于色度分量。
[0291]
2.9.2块分类
[0292]
对于亮度分量，将每个4
×
4块分类为25个类中的一个。分类索引c基于其方向性d和活动的量化值进行推导，如下：
[0293][0294]
为了计算d和首先使用一维拉普拉斯变换计算水平、垂直和两个对角线方向的梯度：
[0295][0296][0297][0298][0299]
其中索引i和j指代4
×
4块内左上样点的坐标，并且r(i,j)指示在坐标(i,j)处的重建样点。
[0300]
为了降低块分类的复杂度，应用了子样点的一维拉普拉斯计算。如图15a-d中所示，将相同的子样点位置用于所有方向的梯度计算。
[0301]
然后将水平和垂直方向的梯度的d个最大值和最小值设置为：
[0302][0303]
将两个对角线方向的梯度的最大值和最小值设置为：
[0304][0305]
为了推导方向性d的值，使用两个阈值t1和t2将这些值相互比较：
[0306]
步骤1.如果且为真，则将d设置为0。
[0307]
步骤2.如果则从步骤3继续；否则从步骤4继续。
[0308]
步骤3.如果则将d设置为2；否则将d设＝设置为1。
[0309]
步骤4.如果则将d设置为4；否则将d设置为3。
[0310]
将活动值a计算为：
[0311][0312]
将a进一步量化到0到4的范围(包括0和4)，并且将量化值表示为
[0313]
对于图片中的色度分量，不应用分类方法，即，对每个色度分量应用单个alf系数集。
[0314]
2.9.3滤波器系数和裁剪值的几何变换
[0315]
在对每个4
×
4亮度块进行滤波之前，取决于为该块计算的梯度值，将诸如旋转或对角线和垂直翻转的几何变换应用于滤波器系数f(k,l)和对应的滤波器裁剪值c(k,l)。这等效于将这些变换应用于滤波器支持区域中的样点。想法是通过对齐它们的方向性来使应用了alf的不同块更加相似。
[0316]
引入了三种几何变换，包括对角线、垂直翻转和旋转：
[0317]
对角线:fd(k,l)＝f(l,k),cd(k,l)＝c(l,k),
ꢀꢀꢀꢀꢀ
(2-9-9)
[0318]
垂直翻转:fv(k,l)＝f(k,k-l-1),cv(k,l)＝c(k,k-l-1)
ꢀꢀ
(2-9-10)
[0319]
旋转:fr(k,l)＝f(k-l-1,k),cr(k,l)＝c(k-l-1,k)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(2-9-11)
[0320]
其中k是滤波器的尺寸，并且0≤k,l≤k-1是系数坐标，使得位置(0,0)在左上角，并且位置(k-1,k-1)在右下角。取决于为该块计算的梯度值，将变换应用于滤波器系数f(k,l)和裁剪值c(k,l)。下表总结了变换与四个方向的四个梯度之间的关系。
[0321]
表2-5-为一个块计算的梯度和变换之间的映射
[0322]
梯度值变换g
d2
《g
d1
and gh《gv无变换g
d2
《g
d1
and gv《gh对角线g
d1
《g
d2
and gh《gv垂直翻转g
d1
《g
d2
and gv《gh旋转
[0323]
2.9.4滤波器参数信令
[0324]
在vtm5中，在自适应参数集(aps)中信令通知alf滤波器参数。在一个aps中，可以信令通知最多25个亮度滤波器系数和裁剪值索引的集合，以及最多一个色度滤波器系数和裁剪值索引的集合。为了减少比特开销，可以合并不同类别的滤波器系数。在条带标头中，信令通知用于当前条带的aps的索引。
[0325]
从aps解码的裁剪值索引允许使用裁剪值的亮度表和裁剪值的色度表确定裁剪值。这些裁剪值取决于内部比特深度。更精确地，裁剪值的亮度表和裁剪值的色度表通过以下公式获得：
[0326][0327][0328]
其中b等于内部比特深度，并且n等于4是vtm5.0中所允许的裁剪值的数量。
[0329]
可以在ctb级别上控制滤波过程。始终信令通知标志以指示是否将alf应用于亮度ctb。亮度ctb可以从16个固定滤波器集和来自aps的滤波器集中选择滤波器集。对于亮度ctb，信令通知滤波器集索引，以指示应用了哪个滤波器集。16个固定滤波器集都是预定义的且在编码器和解码器中硬编解码。
[0330]
滤波器系数以等于128的规范进行量化。为了限制乘法复杂度，应用了比特流一致性，使得非中心位置的系数值应在-27到27–
1的范围内(包括-27和27–
1)。中心位置系数未在比特流中信令通知，并且被认为等于128。
[0331]
2.9.5滤波过程
[0332]
在解码器侧，当对ctb启用alf时，对cu中的每个样点r(i,j)进行滤波，得到如下所示的样点值r
′
(i,j)，
[0333]r′
(i,j)＝r(i,j) ((∑
k≠0
∑
l≠0
f(k,l)
×
k(r(i k,j l)-r(i,j),c(k,l)) 64)＞＞7)
ꢀꢀꢀ
(2-9-14)
[0334]
其中f(k,l)表示解码的滤波器系数，k(x,y)是裁剪函数，并且c(k,l)表示解码的裁剪参数。变量k和l在和之间变化，其中l表示滤波器长度。裁剪函数k(x,y)＝min(y,max(-y,x))，其对应于函数clip3(-y,y,x)。
[0335]
2.9.6减少行缓冲器的虚拟边界滤波过程
[0336]
在vtm5中，为减少alf的行缓冲器需求，对水平ctu边界附近的样点采用修改的块分类和滤波。为了这个目的，将虚拟边界定义为通过将水平ctu边界移位“n”个样点的行,如图16所示，其中，对于亮度分量，n等于4，对于色度分量，n等于2。
[0337]
如图2-11所示，将修改的块分类应用于亮度分量。对于虚拟边界上方4x4块的一维拉普拉斯梯度计算，仅使用虚拟边界上方的样点。类似地，对于虚拟边界下方的4x4块的一维拉普拉斯梯度计算，仅使用虚拟边界下方的样点。因此，通过考虑一维拉普拉斯梯度计算中使用的减少的样点数量，可以对活动值a的量化进行缩放。
[0338]
对于滤波处理，将在虚拟边界处的对称填充操作用于亮度和色度分量。如图17所示，当要滤波的样点位于虚拟边界下方时，对位于虚拟边界上方的相邻样点进行填充。同时，也对其他边的对应样点称地进行填充。
[0339]
2.10样点自适应偏移(sao)
[0340]
通过使用编码器为每个ctb指定的偏移，将样点自适应偏移(sao)应用于解块滤波器之后的重建信号。hm编码器首先决定是否将sao过程应用于当前条带。如果将sao应用于条带，则将每个ctb分类为五个sao类型中的一个，如表2-6所示。sao的概念是将像素分类，并通过向每个类别的像素添加偏移来减少失真。sao操作包括边缘偏移(eo)和带偏移(bo)，在sao类型1-4中，边缘偏移(eo)使用边缘属性进行像素分类，在sao类型5中，带偏移(bo)使用像素强度进行像素分类。每个适用的ctb具有sao参数，包括sao_merge_left_flag、sao_
merge_up_flag、sao类型和四个偏移。如果sao_merge_left_flag等于1，则当前的ctb将重用左侧ctb的sao类型和偏移。如果sao_merge_up_flag等于1，则当前ctb将重用上方ctb的sao类型和偏移。
[0341]
表2-6
–
sao类型的规范
[0342][0343]
2.10.1每个sao类型的操作
[0344]
通过考虑边缘定向信息，边缘偏移对当前像素p的分类使用四个1-d 3像素模式，如图18所示。这些从左到右是：0度、90度、135度和45度。
[0345]
根据表2-7，将每个ctb分类为五个类别中的一个。
[0346]
表2-7
–
eo的像素分类规则
[0347]
类别条件含义0以下都不是大部分单调1p《2个近邻局部最小2p《1个近邻&&p＝＝1个近邻边缘3p》1个近邻&&p＝＝1个近邻边缘4p》2个近邻局部最大
[0348]
带偏移(bo)通过将像素值的五个最高有效位用作带索引，将一个ctb区域中的所有像素分类为32个均匀带。换句话说，像素强度范围被分为从零到最大强度值(例如，对于8位像素为255)的32个相等的段。将四个相邻的带分组在一起，并且每组由其最左侧位置指示，如图19所示。编码器搜索所有位置，以通过补偿每个频带的偏移来获得失真减少最大的组。
[0349]
2.11组合的帧间和帧内预测(ciip)
[0350]
在vtm5中，当cu以merge模式进行编解码时，如果cu包含至少64个亮度样点(即cu宽度乘以cu高度等于或大于64)，并且如果cu宽度和cu高度均小于128个亮度样点，则信令通知附加标志以指示是否将组合的帧间/帧内预测(ciip)模式应用于当前cu。顾名思义，ciip预测将帧间预测信号与帧内预测信号进行组合。ciip模式中的帧间预测信号p
inter
是使用与常规merge模式相同的帧间预测过程来推导。并且，帧内预测信号p
intra
按照平面模式的常规帧内预测过程来导出。然后，使用加权平均来组合帧内和帧间预测信号，其中，根据顶
部和左侧相邻块(在图20中描绘)的编解码模式来计算权重值，如下所示：
[0351]
–
如果顶部近邻可用并且已是帧内编解码的，则将isintratop设置为1，否则将isintratop设置为0；
[0352]
–
如果左侧近邻可用并且是帧内编解码的，则将isintraleft设置为1，否则将isintraleft设置为0；
[0353]
–
如果(isintraleft isintraleft)等于2，则将wt设置为3；
[0354]
–
否则，如果(isintraleft isintraleft)等于1，则将wt设置为2；
[0355]
–
否则，将wt设置为1。
[0356]
ciip预测形成如下：
[0357]
p
ciip
＝((4-wt)*p
inter
wt*p
intra
2)＞＞2
[0358]
(3-1)
[0359]
2.12具有色度缩放(lmcs)的亮度映射
[0360]
在vtm5中，在环路滤波器之前，添加了一种称为具有色度缩放的亮度映射(lmcs)的编解码工具，作为新的处理块。lmcs具有两个主要分量：1)基于自适应分段线性模型的亮度分量的环路映射；2)对于色度分量，应用与亮度相关的色度残留缩放。图21从解码器的角度示出了lmcs架构。图21中的浅蓝色阴影块指示在映射域中的何处应用处理；并且这些包括逆量化、逆变换、亮度帧内预测以及亮度预测与亮度残差的相加。图21中的非阴影块指示在原始(即非映射)域中的何处应用处理；并且这些包括诸如解块、alf和sao的环路滤波器、运动补偿预测、色度帧内预测、色度预测与色度残差的相加，以及将解码后的图片存储为参考图片。图21中的浅黄色阴影块是新的lmcs功能块，包括亮度信号的正向和反向映射以及与亮度相关的色度缩放过程。与vvc中的大多数其他工具一样，可以使用sps标志在序列级别启用/禁用lmcs。
[0361]
3.实施例解决的问题的示例
[0362]
通常使用一个调色板标志来指示在当前cu上是否采用了调色板模式，这可以对其熵编解码具有不同的限制和差异。然而，在先前的视频编解码标准中尚未对如何更好地编解码调色板标志进行充分研究。
[0363]
如果调色板样点由后回路滤波过程进行处理，则它们可以具有视觉伪影。
[0364]
对于非正方形块，可以改进调色板扫描顺序。
[0365]
4.实施例的示例
[0366]
下面的详细发明应被认为是解释一般概念的示例。这些发明不应被狭义地解释。此外，这些发明可以以任何方式组合。
[0367]
1.对用于变换单元/预测单元/编解码块/区域的调色板模式的使用指示可以与预测模式分开编解码。
[0368]
a.在一个示例中，可以在对调色板的使用的指示之前对预测模式进行编解码。
[0369]
i.可替代地，此外，可以基于预测模式有条件地信令通知对调色板的使用的指示。
[0370]
1.在一个示例中，当预测模式是帧内块复制模式(即，mode_ibc)时，可以跳过信令通知对调色板模式的使用的指示。可替代地，此外，当当前预测模式是mode_ibc时，可以将对调色板的使用的指示推断为假。
[0371]
2.在一个示例中，当预测模式是帧间模式(即，mode_inter)时，可以跳过信令通知
对调色板模式的使用的指示。可替代地，此外，当当前预测模式是mode_inter时，可以将对调色板模式的使用的指示推断为假。
[0372]
3.在一个示例中，当预测模式是帧内模式(即，mode_intra)时，可以跳过信令通知对调色板模式的使用的指示。可替代地，此外，当当前预测模式是mode_intra时，可以将对调色板模式的使用的指示推断为假。
[0373]
4.在一个示例中，当预测模式是跳过模式(即，跳过标志等于1)时，可以跳过信令通知对调色板模式的使用的指示。可替代地，此外，当在当前cu上采用跳过模式时，可以将对调色板模式的使用的指示推断为假。
[0374]
5.在一个示例中，当预测模式是帧内模式(即，mode_intra)时，可以信令通知对调色板模式的使用的指示。可替代地，此外，当预测模式是帧间模式或帧内块复制模式时，可以跳过信令通知对调色板模式的使用的指示。
[0375]
a)可替代地，此外，当预测模式是帧内模式且不是脉冲编解码调制(pcm)模式时，可以信令通知对调色板模式的使用的指示。
[0376]
b)可替代地，此外，当预测模式是帧内模式时，可以在对pcm模式的使用的指示之前信令通知对调色板模式的使用的指示。在一个示例中，当应用调色板模式时，可以跳过信令通知pcm模式的使用。
[0377]
c)可替代地，此外，当预测模式是帧间模式或帧内块复制模式时，可以跳过信令通知调色板模式的使用的指示。
[0378]
6.在一个示例中，当预测模式是帧间模式(即，mode_inter)时，可以信令通知调色板模式的使用的指示。
[0379]
a)可替代地，此外，当预测模式是帧内模式时，可以跳过信令通知调色板模式的使用的指示。
[0380]
7.在一个示例中，当预测模式是帧内块复制模式时，可以信令通知对调色板模式的使用的指示。可替代地，此外，当预测模式是帧间模式或帧内模式时，可以跳过信令通知对调色板模式的使用的指示。
[0381]
ii.可替代地，此外，可以基于图片/条带/片组类型有条件地信令通知对调色板模式的使用的指示。
[0382]
b.在一个示例中，可以在对调色板模式的使用的指示之后对预测模式进行编解码。
[0383]
c.在一个示例中，当预测模式是intra模式或inter_mode时，可以信令通知对调色板模式的使用的指示。
[0384]
i.在一个示例中，可以在跳过标志、预测模式和pcm模式的标志之后对调色板模式的使用的指示进行编解码。
[0385]
ii.在一个示例中，可以在跳过标志、预测模式之后，在pcm模式的标志之前对调色板模式的使用的指示进行编解码。
[0386]
iii.在一个示例中，当当前块以帧内模式进行编解码时，可以进一步信令通知对调色板和ibc模式的指示。
[0387]
1.在一个示例中，可以信令通知一个比特标志以指示是否信令通知调色板或ibc模式。
[0388]
2.在一个示例中，在某些条件下，诸如块尺寸、是否对一个片/片组/条带/图片/序列启用ibc或调色板模式，可以跳过信令通知比特标志。
[0389]
d.在一个示例中，可以首先对预测模式(诸如，其是帧内还是帧间模式)进行编解码，然后是对其是否是调色板模式的条件信令进行编解码。
[0390]
i.在一个示例中，当预测模式是帧内模式时，还可以信令通知另一标志以指示其是否是调色板模式。
[0391]
1.在一个示例中，当对一个视频数据单元(例如，序列/图片/片组/片)启用调色板模式时，可以信令通知“另一标志”。
[0392]
2.在一个示例中，在块尺寸的条件下，可以信令通知“另一标志”。
[0393]
3.可替代地，此外，如果其不是调色板模式，则还可以信令通知一个标志以指示其是否是pcm模式。
[0394]
4.在一个示例中，可以根据相邻块的信息来对“另一标志”进行上下文编解码。可替代地，也可以仅用一个上下文来对“另一标志”进行上下文编解码。可替代地，也可以对“另一标志”进行旁路编解码，即没有上下文。
[0395]
ii.可替代地，当预测模式是帧间模式时，还可以信令通知另一标志以指示其是否是ibc模式。
[0396]
1.在一个示例中，当对一个视频数据单元(例如，序列/图片/片组/片)启用ibc模式时，可以信令通知“另一标志”。
[0397]
2.在一个示例中，在块尺寸的条件下，可以信令通知“另一个标志”。
[0398]
2.建议将调色板模式添加为预测模式的附加候选。因此，不需要与预测模式分开信令通知对调色板模式的使用指示。
[0399]
a.在一个示例中，预测模式可以包括用于帧内条带/i图片/帧内片组的帧内模式、帧内块复制模式和调色板模式。
[0400]
b.可替代地，预测模式可以包括用于帧内条带/i图片/帧内片组的帧内模式、调色板模式。
[0401]
c.在一个示例中，预测模式可以包括用于4
×
4块的帧内模式、帧内块复制模式和调色板模式。
[0402]
d.在一个示例中，预测模式可包括用于帧间条带/p和/或b图片/帧间片组的帧内模式、帧间模式、帧内块复制模式和调色板模式。
[0403]
e.在一个示例中，预测模式可以包括用于帧间条带/p和/或b图片/帧间片组的帧内模式、帧间模式、帧内块复制模式。
[0404]
f.可替代地，预测模式可以包括帧内模式、帧间模式、帧内块复制模式和调色板模式中的至少两个。
[0405]
g.在一个示例中，对于4
×
4块。可以不将帧间模式包括在预测模式中。
[0406]
h.在一个示例中，当未按照跳过模式对块进行编解码时(这是帧间模式的特殊情况)，可以信令通知预测模式索引。
[0407]
i.在一个示例中，将四个模式的二进制化定义为：帧内(1)、帧间(00)、ibc(010)和调色板(011)。
[0408]
ii.在一个示例中，将四个模式的二进制化定义为：帧内(10)、帧间(00)、ibc(01)
和调色板(11)，如图10所示。
[0409]
iii.在一个示例中，如果当前条带是帧内条带并且在sps中未启用ibc，则将调色板模式和帧内模式的二进制化定义为：调色板(1)和帧内(0)。
[0410]
iv.在一个示例中，如果当前条带不是帧内条带并且未在sps中启用ibc，则将调色板模式、帧间模式和帧内模式的二进制化定义为：帧内(1)、帧间(00)和调色板(01)。
[0411]
v.在一个示例中，如果当前条带是帧内条带并且在sps中启用了ibc，则将调色板模式和帧内模式的二进制化定义为：ibc(1)、调色板(01)和帧内(00)。
[0412]
vi.在一个示例中，将四个模式的二进制化定义为：帧间(1)、帧内(01)、ibc(001)和调色板(000)。
[0413]
vii.在一个示例中，将四个模式的二进制化定义为：帧内(1)、帧间(01)、ibc(001)和调色板(000)。
[0414]
viii.在一个示例中，将四个模式的二进制化定义为：帧间(0)、帧内(10)、ibc(111)和调色板(110)，如图11所示。
[0415]
3.信令通知对调色板/ibc模式的使用的指示可以取决于其他模式的信息。
[0416]
a.在一个示例中，当当前预测模式是帧内模式并且不是ibc模式时，可以信令通知对调色板模式的使用的指示。
[0417]
b.在一个示例中，当当前预测模式是帧内模式并且不是调色板模式时，可以信令通知对ibc模式的使用的指示。
[0418]
4.如何信令通知模式信息可以取决于条带/图片/片组类型。
[0419]
a.在一个示例中，当其是i条带/帧内片组时，可以信令通知一个标志以指示其是否是ibc模式。如果不是ibc模式，则还可以信令通知另一标志以指示其是调色板模式还是帧内模式。
[0420]
b.在一个示例中，当其是i条带/帧内片组时，可以信令通知一个标志以指示其是否是帧内模式。如果不是帧内模式，则还可以信令通知另一标志以指示其是调色板模式还是ibc模式。
[0421]
5.可以基于以下条件来信令通知和/或推导对调色板模式的使用的指示。
[0422]
a.当前块的块尺寸
[0423]
i.在一个示例中，可以仅对宽度*高度小于或等于阈值(诸如64*64)的块信令通知对调色板模式的使用的指示。
[0424]
ii.在一个示例中，可以仅对宽度和高度均大于或等于阈值(诸如64)的块信令通知对调色板模式的使用的指示。
[0425]
iii.在一个示例中，可以仅对所有以下条件都为真的块信令通知对调色板模式的使用的指示：
[0426]
1.宽度和/或高度大于或等于阈值，诸如16；
[0427]
2.宽度和/或高度小于或等于阈值，诸如32或64
[0428]
iv.在一个示例中，可以仅针对宽度等于高度的块(即，正方形块)
[0429]
信令通知对调色板模式的使用的指示。
[0430]
b.当前块的预测模式
[0431]
c.当前块的当前量化参数
[0432]
d.相邻块的调色板标志
[0433]
e.相邻块的帧内块复制标志
[0434]
f.颜色格式指示(诸如4:2:0、4:4:4)
[0435]
g.分离/双重编解码树结构
[0436]
h.条带/片组类型和/或图片类型
[0437]
6.可以基于以下条件来信令通知和/或推导对ibc模式的使用的指示。
[0438]
a.当前块的块尺寸
[0439]
i.在一个示例中，可以仅对宽度或高度均小于128的块信令通知对ibc模式的使用的指示。
[0440]
b.当前块的预测模式
[0441]
c.当前块的当前量化参数
[0442]
d.相邻块的调色板标志
[0443]
e.相邻块的帧内块复制标志
[0444]
f.颜色格式指示(诸如4:2:0、4:4:4)
[0445]
g.分离/双重编解码树结构
[0446]
h.条带/片组类型和/或图片类型
[0447]
7.在解块决策过程中，可以将调色板模式视为帧内模式(例如，mode_intra)。
[0448]
a.在一个示例中，如果用调色板模式对p侧或q侧的样点进行编解码，则将边界强度设置为2。
[0449]
b.在一个示例中，如果用调色板模式对p侧和q侧的样点进行编解码，则将边界强度设置为2。
[0450]
c.可替代地，在解块决策过程中,可以将调色板模式视为帧间模式(例如，mode_inter)。
[0451]
8.在解块决策过程中，可以将调色板模式视为单独的模式(例如mode_plt)。
[0452]
a.在一个示例中，如果用调色板模式对p侧和q侧的样点进行编解码，则将边界强度设置为0。
[0453]
i..可替代地，如果用调色板模式对一侧的样点进行编解码，则将边界强度设置为0。
[0454]
b.在一个示例中，如果用ibc模式对p侧的样点进行编解码，并且用调色板模式对q侧的样点进行编解码，则将边界强度设置为1，反之亦然。
[0455]
c.在一个示例中，如果用帧内模式对p侧的样点进行编解码，并且用调色板模式对q侧的样点进行编解码，则将边界强度将设置为2，反之亦然。
[0456]
9.在解块过程中，可以将调色板模式视为变换-跳过(transform-skip)块a.可替代地，在解块过程中，可以将调色板模式视为bdpcm块。
[0457]
10.可以基于条带/片组/图片级别标志来信令通知和/或推导对块的调色板模式的指示。
[0458]
a.在一个示例中，标志指示在与运动矢量差(mmvd，又称为umve)和/或自适应运动矢量分辨率(amvr)模式的合并中是否允许分数运动矢量差(mvd)，(例如，slice_fracmmvd_flag)。可替代地，此外，如果slice_fracmmvd_flag指示启用了分数mvd，则跳过信令通知对
调色板模式的使用的指示，并且将调色板模式推断为禁用。
[0459]
b.在一个示例中，标志指示是否对条带/片组/图片启用调色板模式。可替代地，此外，当这样的标志指示禁用调色板模式时，跳过信令通知块的调色板模式的使用，并且将调色板模式推断为禁用。
[0460]
11.可以基于条带/片组/图片水平标志来信令通知和/推导对块的块内块复制模式(ibc)的使用的指示。
[0461]
a.在一个示例中，标志指示在与运动矢量差(mmvd，又称为umve)和/或自适应运动矢量分辨率(amvr)模式的合并中是否允许分数运动矢量差(mvd)，(例如，slice_fracmmvd_flag)。可替代地，此外，如果slice_fracmmvd_flag指示启用了分数mvd，则跳过信令通知对ibc模式的指示，并且将ibc模式推断为禁用。
[0462]
b.在一个示例中，标志指示是否对条带/片组/图片启用ibc模式。可替代地，此外，当这样的标志指示禁用ibc模式时，跳过信令通知块的ibc模式的使用，并且将ibc模式推断为禁用。
[0463]
12.与一个调色板条目相关联的样点可以具有与内部比特深度和/或原始/重建样点的比特深度不同的比特深度。
[0464]
a.在一个示例中，表示与一个相关联的样点的比特深度可以等于n，以下可以适用：
[0465]
i.在一个示例中，n可以是整数(例如8)。
[0466]
ii.在一个示例中，n可以大于内部比特深度和/或原始/重建样点的比特深度。
[0467]
iii.在一个示例中，n可以小于内部比特深度和/或原始/重建样点的比特深度。
[0468]
iv.在一个示例中，n可取决于
[0469]
1.当前块的块尺寸
[0470]
2.当前块的当前量化参数
[0471]
3.颜色格式的指示(诸如4:2:0、4:4:4)
[0472]
4.分离/双重编解码树结构
[0473]
5.条带/片组类型和/或图片类型
[0474]
6.调色板条目数
[0475]
7.预测调色板条目数
[0476]
8.颜色分量的索引
[0477]
b.在一个示例中，与多个调色板条目相关联的样点可以具有不同的比特深度。
[0478]
i.在一个示例中，令c0、c1为当前调色板中的两个调色板条目，并且它们可以分别具有等于b0和b1的比特深度。b0可以不等于b1
[0479]
1.在一个示例中，b0可以大于/小于内部比特深度和/或原始/重建样点的内部比特深度，和/或b1可以大于/小于内部比特深度和/或原始/重建样点的内部比特深度。
[0480]
c.在一个示例中，在调色板模式中，可以根据与调色板条目相关联的样点的移位值来重建样点。
[0481]
i.在一个示例中，可通过将调色板条目中的样点左移m位来重建样点。
[0482]
ii.在一个示例中，重建值可以是(c《《m) (1《《(m-1))，其中c是调色板条目。
[0483]
iii.在一个示例中，可通过将调色板条目中的样点右移m位来重建样点。
[0484]
iv.在一个示例中，重建值可以是clip((c (1《《(m-1)))》》m,0,(1《《n)-1)，其中c是调色板条目，并且n是重建的比特深度。
[0485]
v.可替代地，此外，在一个示例中，m可以取决于与调色板条目相关联的样点以及重建样点/原始样点的内部比特深度之间的比特深度差。
[0486]
1.在一个示例中，m可以等于内部比特深度减去调色板条目中样点的比特深度
[0487]
2.在一个示例中，m可以等于调色板条目中样点的比特深度减去内部比特深度
[0488]
3.在一个示例中，m可以等于原始样点的比特深度减去调色板条目中样点的比特深度
[0489]
4.在一个示例中，m可以等于调色板条目中的样点的比特深度减去原始样点的比特深度。
[0490]
5.在一个示例中，m可以等于重建样点的比特深度减去调色板条目中样点的比特深度。
[0491]
6.在一个示例中，m可以等于调色板条目中样点的比特深度减去重建样点的比特深度。
[0492]
vi.在一个示例中，m可以是整数(例如2)。
[0493]
vii.可替代地，此外，在一个示例中，m可以取决于
[0494]
1.当前块的块尺寸
[0495]
2.当前块的当前量化参数
[0496]
3.颜色格式的指示(诸如4:2:0、4:4:4)
[0497]
4.分离/双重编解码树结构
[0498]
5.条带/片组类型和/或图片类型
[0499]
6.调色板条目数
[0500]
7.预测调色板条目数
[0501]
8.块/图片/条带/片中的样点位置
[0502]
9.颜色分量的索引
[0503]
viii.在一个示例中，在样点的重建期间可以使用基于调色板条目中的样点的查找操作。
[0504]
1.在一个示例中，可以在序列参数集(sps)/视频参数集(vps)/图片参数集(pps)/图片标头/条带标头/片组标头/lcu行/lcu组中信令通知查找表中的值。
[0505]
2.在一个示例中，可以在sps/vps/pps/图片标头/条带标头/片组标头/lcu行/lcu组中推断查找表中的值。
[0506]
13.在被用于推导逸出像素/样点(诸如被裁剪)之前，可以首先修改信令通知的/推导的调色板编解码块的量化参数(qp)。
[0507]
a.在一个示例中，可以以与变换跳过模式和/或bdpcm模式相同的方式来对应用于调色板编解码块的qp范围进行处理。
[0508]
b.在一个示例中，可以将应用于调色板编解码块的qp修改为max(qp,4 t)，其中，t是整数值，并且qp是对该块信令通知的或推导的量化参数。
[0509]
i.在一个示例中，t可以是预定阈值。
[0510]
ii.在一个示例中，t可以等于(4 min_qp_prime_ts_minus4)，其中可以信令通知
min_qp_prime_ts_minus4。
[0511]
14.无论是否启用了变换量化(transquant)旁路，如何编解码逸出样点/符号都可以统一。
[0512]
a.在一个示例中，可以以固定长度信令通知逸出样点。
[0513]
b.在一个示例中，可以使用n比特以固定长度信令通知逸出样点。
[0514]
i.在一个示例中，n可以是整数(例如8或10)并且可以取决于
[0515]
1.在sps/vps/pps/图片标头/条带标头/片组标头/lcu行/lcu组中信令通知的消息。
[0516]
2.内部比特深度
[0517]
3.输入比特深度
[0518]
4.当前块的块尺寸
[0519]
5.当前块的当前量化参数
[0520]
6.颜色格式的指示(诸如4:2:0、4:4:4)
[0521]
7.分离/双重编解码树结构
[0522]
8.条带/片组类型和/或图片类型
[0523]
c.在一个示例中，用以信令通知逸出像素/样点的编解码长度可以取决于内部比特深度。
[0524]
i.可替代地，用以信令通知逸出像素/样点的编解码长度可以取决于输入比特深度。
[0525]
d.在一个示例中，用以信令通知逸出像素/样点的编解码长度可以取决于量化参数。
[0526]
i.在一个示例中，用以信令通知逸出像素/样点的编解码长度可以是f(qp)
[0527]
1.在一个示例中，可以将函数f定义为(内部比特深度-(qp-4)/6)。
[0528]
15.可以以不同的方式定义调色板编解码块和非调色板编解码块的量化和/或逆量化过程。
[0529]
a.在一个示例中，可以使用右移位来对逸出样点进行量化，而不是对变换系数或残差使用量化过程。
[0530]
b.在一个示例中，可以使用左移位来对逸出样点进行逆量化，而不是对变换系数或残差使用逆量化过程。
[0531]
c.在编码器侧，以下可以适用：
[0532]
i.在一个示例中，可以将逸出像素/样点值信令通知为f(p,qp)，其中p是像素/样点值。
[0533]
ii.在一个示例中，可以将函数f定义为p》》((qp-4)/6)，其中p是像素/样点值，并且qp是量化参数。
[0534]
iii.在一个示例中，可以将逸出像素/样点值信令通知为p》》n，其中p是像素/样点值。
[0535]
1.在一个示例中，n可以是整数(例如2)，并且可以取决于
[0536]
a)在sps/vps/pps/图片标头/条带标头/片组标头/lcu行/lcu组中信令通知的消息。
[0537]
b)内部比特深度
[0538]
c)输入比特深度
[0539]
d)当前块的块尺寸
[0540]
e)当前块的当前量化参数
[0541]
f)颜色格式的指示(诸如4:2:0、4:4:4)
[0542]
g)分离/双重编解码树结构
[0543]
h)条带/片组类型和/或图片类型
[0544]
d.在解码器端，以下可以适用：
[0545]
i.在一个示例中，可以将逸出像素/样点值信令通知为f(bd,p,qp)
[0546]
1.在一个示例中，可以将函数f定义为clip(0,(1《《(bd-(qp-4)/6))-1,(p (1《《(bd-1)))》》((qp-4)/6))。
[0547]
ii.在一个示例中，可以将逸出像素/样点值重建为f(p,qp)，其中p是解码的逸出像素/样点值。
[0548]
1.在一个示例中，可以将f定义为p《《((qp-4)/6)
[0549]
iii.在一个示例中，可以将逸出像素/样点值重建为f(bd,p,qp)，其中p是解码的逸出像素/样点值。
[0550]
1.在一个示例中，可以将函数裁剪定义为clip(0,(1《《bd)-1,p《《((qp-4)/6))
[0551]
iv.在以上示例中，可以将裁剪函数clip(a，i，b)定义为(i《a？a:(i》b？b:i))。
[0552]
v.在以上示例中，可以将裁剪函数clip(a，i，b)定义为(i《＝a？a:(i》＝b？b:i))。
[0553]
vi.在以上示例中，p可以是像素/样点值，bd可以是内部比特深度或输入比特深度，并且qp是量化参数。
[0554]
16.在最可能的模式(mpm)的列表构建过程期间，可以将调色板编解码块视为帧内块(例如，mode_intra)。
[0555]
a.在一个示例中，当在mpm列表的构造期间获取相邻(相邻或不相邻)块的帧内模式时，如果相邻块(例如，左侧和/或上方)以调色板模式进行编解码，则可以将其视为具有默认模式的传统帧内编解码块(例如mode_intra)。
[0556]
i.在一个示例中，默认模式可以是dc/planar/ver/hor模式。
[0557]
ii.在一个示例中，默认模式可以是任何一种帧内预测模式。
[0558]
iii.在一个示例中，默认模式可以在依赖性参数集(dps)/sps/vps/pps/aps/图片标头/条带标头/片组标头/最大编解码单元(lcu)/编解码单元(cu)/lcu行/lcu组/tu/pu块/视频编解码单元中信令通知。
[0559]
17.在最可能的模式(mpm)的列表构建过程期间，可以将调色板编解码块视为非帧内块(例如，视为预测模式等于mode_plt的块)。
[0560]
a.在一个示例中，当在mpm列表的构造期间获取相邻块的帧内模式时，如果相邻块(例如，左侧和/或上方)以调色板模式进行编解码，则可以以与用帧间模式进行编解码的块相同或相似的方式对其进行处理。
[0561]
b.在一个示例中，当在mpm列表的构造期间获取相邻块的帧内模式时，如果相邻块(例如，左侧和/或上方)以调色板模式编解码，则可以以用ibc模式进行编解码的块相同或相似的方式对其进行处理。
[0562]
18.用调色板模式进行编解码的亮度块对应于用dm模式进行编解码的色度块，可以解释为具有默认帧内预测模式。
[0563]
a.在一个示例中，当色度块用dm模式编解码时，可以将用调色板模式进行编解码的对应亮度块视为帧内块(例如，mode_intra)或调色板块(例如，mode_plt)。
[0564]
b.在一个示例中，默认预测模式可以是dc/planar/ver/hor模式。
[0565]
c.在一个示例中，默认预测模式可以是任何一种帧内预测模式。
[0566]
d.在一个示例中，可以在dps/sps/vps/pps/aps/图片标头/条带标头/片组标头/最大编解码单元(lcu)/编解码单元(cu)/lcu行/lcu组/tu/pu块/视频编解码单元中信令通知默认预测模式。
[0567]
19.在基于历史的运动矢量预测(hmvp)、merge(merge)和/或高级运动矢量预测(amvp)模式的列表构建期间，可以将调色板编解码块视为不可用块。
[0568]
a.在一个示例中，不可用块可以表示不具有任何运动信息或者其运动信息不能用作对其他块的预测的块。
[0569]
b.在一个示例中，在hmvp、merge和/或amvp模式中的列表构建过程中，可以将用调色板模式进行编解码的块视为帧内块(例如，mode_intra)或调色板块(例如，mode_plt)。
[0570]
i.可替代地，在一个示例中，当在hmvp、merge和/或amvp列表的构造期间获取相邻块的运动信息时，可以将用调色板模式进行编解码的相邻块视为具有无效参考索引的块。
[0571]
ii.可替代地，在一个示例中，当在hmvp、merge和/或amvp列表的构造期间获取相邻块的运动信息时，可以将用调色板模式进行编解码的相邻块视为参考索引等于0的帧间块。
[0572]
iii.可替代地，在一个示例中，当在hmvp、merge和/或amvp模式的列表构建期间获取相邻块的运动信息时，可以将用调色板模式进行编解码的相邻块视为具有零运动矢量的帧间块。
[0573]
20.如何处理用调色板模式进行编解码的块(例如，是否应用和/或如何应用上述方法)可以基于：
[0574]
a.视频内容(例如屏幕内容或自然内容)
[0575]
b.在dps/sps/vps/pps/aps/图片标头/条带标头/片组标头/最大编解码单元(lcu)/编解码单元(cu)/lcu行/lcu组/tu/pu块/视频编解码单元中信令通知的消息
[0576]
c.cu/pu/tu/块/视频编解码单元的位置
[0577]
d.当前块和/或其相邻块的块尺寸
[0578]
e.当前块和/或其相邻块的块形状
[0579]
f.颜色格式的指示(诸如4:2:0、4:4:4、rgb或yuv)
[0580]
g.编解码树结构(诸如双树或单树)
[0581]
h.条带/片组类型和/或图片类型
[0582]
i.颜色分量(例如可以仅应用于亮度分量和/或色度分量)
[0583]
j.时域层id
[0584]
k.标准的配置文件/级别/层级
[0585]
21.可以将调色板编解码块的上下文编解码二进制位限制在一定范围内。
[0586]
a.在一个示例中，将计数器分配给块以记录已经对多少个二进制位进行了上下文
编解码。当计数器超过阈值时，将应用旁路编解码，而不使用上下文编解码。
[0587]
i.可替代地，可以分配numcolorcomp计数器以记录已为每个颜色分量对多少个二进制位进行了上下文编解码。numcolorcomp是要在一个块中进行编解码的颜色分量数(例如，对于一个yuv格式的cu，将numcolorcomp设置为3)。
[0588]
ii.可替代地，可以将计数器初始化为零，并且在利用上下文对一个二进制位进行编解码之后，将该计数器增加1。
[0589]
b.可替代地，可以用大于零的某个值(例如，w*h*k)来初始化计数器，并且在利用上下文对一个二进制位进行编解码之后，将该计数器减一。当计数器小于或等于t时，将应用旁路编解码，而不使用上下文编解码。
[0590]
i.在一个示例中，将t设置为0或1。
[0591]
ii.在一个示例中，根据解码信息或旁路编解码次数等来设置t。
[0592]
c.在一个示例中，就上下文编解码的二进制位而言，调色板编解码块与ts编解码块或非ts编解码块相比可以具有相同或不同的阈值。
[0593]
i.在一个示例中，可以将调色板编解码块的上下文编解码位的数量设置为(w*h*t)，其中，w和h分别是一个块的宽度和高度，并且t是整数。在一个示例中，将t设置为与用于ts编解码块的t相同，诸如1.75或2。
[0594]
ii.在一个示例中，可以将调色板编解码块的上下文编解码位的数量设置为(w*h*numcolorcomp*t)，其中，w和h分别是一个块的宽度和高度。numcolorcomp是要在一个块中进行编解码的颜色分量的数量(例如，对于一个yuv格式的cu，将numcolorcomp设置为3)，并且t是整数。在一个示例中，将t设置为与用于ts编解码块的t相同，诸如1.75或2。
[0595]
d.在一个示例中，就上下文编解码的二进制位而言，调色板编解码块的阈值可小于ts编解码块或非ts编解码块。
[0596]
e.在一个示例中，就上下文编解码的二进制位而言，调色板编解码块的阈值可大于ts编解码块或非ts编解码块。
[0597]
22.在对ciip模式中的相邻帧内块进行计数的过程期间，可以将调色板编解码块视为非帧内块(例如，视为预测模式等于mode_plt的块)。
[0598]
a.在一个示例中，当在ciip模式中对相邻的帧内块进行计数期间获取相邻块的帧内模式时，如果相邻块(例如，左侧和/或上方)以调色板模式进行编解码，则可以以与用帧间模式进行编解码的块相同或相似的方式进行处理。
[0599]
b.在一个示例中，当在ciip模式中对相邻的帧内块进行计数期间获取相邻块的帧内模式时，如果相邻块(例如，左侧和/或上方)以调色板模式进行编解码，则可以以与用ibc模式进行编解码的块相同或相似的方式进行处理。
[0600]
c.可替代地，在ciip模式中对相邻帧内块进行计数的过程期间，可以将调色板编解码块视为帧内块。
[0601]
23.建议跳过调色板编解码样点的预滤波和/或后滤波过程。
[0602]
a.在一个示例中，可以不对调色板编解码样点进行解块。
[0603]
b.在一个示例中，可以不对调色板编解码样点在sao过程中补偿偏移。
[0604]
c.在一个示例中，可以不在alf过程中对调色板编解码样点进行滤波。
[0605]
i.在一个示例中，alf过程中的分类可跳过调色板编解码样点。
[0606]
d.在一个示例中，可对调色板编解码样点禁用lmcs。
[0607]
24.建议在调色板模式中添加更多扫描顺序。
[0608]
a.在一个示例中，可以使用如下定义的反向水平遍历扫描顺序。
[0609]
i.在一个示例中，奇数行的扫描方向可以是从左到右。
[0610]
ii.在一个示例中，偶数行的扫描方向可以是从右到左。
[0611]
iii.在一个示例中，4
×
4块的扫描顺序可以如图22所示。
[0612]
b.在一个示例中，可以使用如下定义的反向垂直遍历扫描顺序。
[0613]
i.在一个示例中，奇数行的扫描方向可以是从顶部到底部。
[0614]
ii.在一个示例中，偶数行的扫描方向可以是从底部到顶部。
[0615]
iii.在一个示例中，4
×
4块的扫描顺序可以如图23所示。
[0616]
25.允许的扫描顺序的组合可以取决于块形状。
[0617]
a.在一个示例中，当块的宽度与高度之间的比率大于阈值时，可以仅应用水平遍历和反向水平遍历扫描顺序。
[0618]
i.在一个示例中，阈值等于1。
[0619]
ii.在一个示例中，阈值等于4。
[0620]
b.在一个示例中，当块的高度与宽度之间的比率大于阈值时，可以仅应用垂直遍历和反向垂直遍历扫描顺序。
[0621]
i.在一个示例中，阈值等于1。
[0622]
ii.在一个示例中，阈值等于4。
[0623]
26.建议在qr-bdpcm过程中仅允许一个帧内预测方向和/或一个扫描方向。
[0624]
a.在一个示例中，在宽度大于高度的块上仅允许垂直方向。
[0625]
b.在一个示例中，在宽度小于高度的块上仅允许水平方向。
[0626]
c.在一个示例中，可以对非正方形块推断qr-bdpcm的方向的指示。
[0627]
i.此外，在一个示例中，对于宽度大于高度的块，可以将qr-bdpcm的方向的指示推断为垂直方向。
[0628]
ii.此外，在一个示例中，对于宽度小于高度的块，可以将qr-bdpcm的方向的指示推断为水平方向。
[0629]
27.项目符号24,25和26中的方法可以仅应用于w*th》＝h或h*th》＝w的块，其中w和h分别是块的宽度和高度，并且th是阈值。
[0630]
a.在一个示例中，th是整数(例如4或8)并且可以基于
[0631]
i.视频内容(例如屏幕内容或自然内容)
[0632]
ii.在dps/sps/vps/pps/aps/图片标头/条带标头/片组标头/最大编解码单元(lcu)/编解码单元(cu)/lcu行/lcu组/tu/pu块/视频编解码单元中信令通知的消息
[0633]
iii.cu/pu/tu/块/视频编解码单元的位置
[0634]
iv.当前块和/或其相邻块的块尺寸
[0635]
v.当前块和/或其相邻块的块形状
[0636]
vi.颜色格式的指示(例如4:2:0、4:4:4、rgb或yuv)
[0637]
vii.编解码树结构(诸如双树或单树)
[0638]
viii.条带/片组类型和/或图片类型
[0639]
ix.颜色分量(例如可以仅应用于亮度分量和/或色度分量)
[0640]
x.时域层id
[0641]
xi.标准的配置文件/级别/层级
[0642]
5.附加实施例
[0643]
5.1实施例1
[0644]
在以下实施例中，新添加的文本以粗体斜体显示，并且删除的文本用“[[]]”标记。该部分示出了示例实施例，其中与基准比特流语法相比，视频的比特流表示可以改变。
[0645][0646]
[0647][0648]
[0649][0650]
[0651][0652]
[0653][0654][0655]
[0656][0657][0658]
[0659][0660][0661]
[0662][0663]
[0664][0665]
[0666][0667]
[0668][0669][0670][0671][0672]
5.2实施例#2
[0673]
该实施例描述了modetype。
[0674]
变量modetype指定对于编解码树节点内的编解码单元是否可以使用帧内、ibc，和帧间编解码模式(mode_type_all)，或者是否仅可以使用帧内、和ibc编解码模式(mode_type_intra)，或者是否仅可以使用帧间编解码模式(mode_type_inter)。
[0675]
5.3实施例#3
[0676]
该实施例描述了编解码单元语法。在该实施例中，在pred_mode_ibc_flag之后信令通知pred_mode_plt_flag。
[0677]
7.3.7.5编解码单元语法
[0678]
[0679]
[0680][0681]
5.4实施例#4
[0682]
该实施例描述了编解码单元语法。在该实施例中，在pred_mode_ibc_flag之后信令通知pred_mode_plt_flag，并且仅在当前预测模式是mode_intra时，信令通知pred_mode_plt_flag。
[0683]
7.3.7.5编解码单元语法
[0684]
[0685]
[0686][0687]
5.5实施例#5
[0688]
该实施例描述了编解码单元语法。在该实施例中，在pred_mode_plt_flag之后信令通知pred_mode_ibc_flag。
[0689]
7.3.7.5编解码单元语法
[0690]
[0691]
[0692][0693]
5.6实施例#6
[0694]
该实施例描述了编解码单元语法。在该实施例中，在pred_mode_plt_flag之后信令通知pred_mode_ibc_flag，并且仅在当前预测模式为mode_intra时，信令通知pred_mode_plt_flag。
[0695]
7.3.7.5编解码单元语法
[0696]
[0697][0698]
5.7实施例#7
[0699]
该实施例描述了编解码单元语法。在该实施例中，当预测模式是mode_intra时，信令通知pred_mode_plt_flag和pred_mode_ibc_flag。
[0700]
7.3.7.5编解码单元语法
[0701]
[0702]
[0703][0704]
5.8实施例#8
[0705]
该实施例描述了编解码单元语法。在该实施例中，当预测模式不是mode_intra时，信令通知pred_mode_plt_flag和pred_mode_ibc_flag。
[0706]
7.3.7.5编解码单元语法
[0707]
[0708]
[0709][0710]
5.9实施例#9
[0711]
该实施例描述了编解码单元语法。在该实施例中，当预测模式是mode_inter时，信令通知pred_mode_plt_flag和pred_mode_ibc_flag。
[0712]
7.3.7.5编解码单元语法
[0713]
[0714][0715]
5.10实施例#10
[0716]
该实施例描述了pred_mode_plt_flag的语义。
[0717][0718]
5.11实施方案#11
[0719]
该实施例描述了pred_mode_plt_flag的语义。
[0720][0721]
5.12实施例#12
[0722]
该实施例描述了边界强度的推导。
[0723]
8.8.3.5边界滤波强度的推导过程
[0724]
该过程的输入是：
[0725]
图片样点阵列recpicture，
[0726]
指定当前编解码块的左上样点相对于当前图片的左上样点的位置(xcb,ycb)，
[0727]
指定当前编解码块的宽度的变量ncbw，
[0728]
指定当前编解码块的高度的变量ncbh，
[0729]
指定是对垂直(edge_ver)还是水平(edge_hor)边缘进行滤波的变量edgetype，
[0730]
指定当前编解码块的颜色分量的变量cidx，
[0731]
二维(ncbw)x(ncbh)阵列edgeflags。
[0732]
该过程的输出是指定边界滤波强度的二维(ncbw)x(ncbh)阵列bs。
[0733]
…
[0734]
变量bs[xdi][ydj]推导如下：
[0735]
如果cidx等于0，并且样点p0和q0都在intra_bdpcm_flag等于1的编解码块中，则将bs[xdi][ydj]设置为等于0。
[0736]
否则，如果样点p0或q0在以帧内预测模式进行编解码的编解码单元的编解码块中，则将bs[xdi][ydj]设置为等于2。
[0737]
否则，如果块边缘也是变换块边缘，并且样点p0或q0在ciip_flag等于1的编解码块中，则将bs[xdi][ydj]设置为等于2。
[0738]
否则，如果块边缘也是变换块边缘，并且样点p0或q0在包含一个或多个非零变换系数级别的变换块中，则将bs[xdi][ydj]设置为等于1。
[0739][0740]
否则，如果包含样点p0的编解码子块的预测模式与包含样点q0的编解码子块的预
测模式不同，则将bs[xdi][ydj]设置为等于1。
[0741]
否则，如果cidx等于0并且以下一个或多个条件为真，则将bs[xdi][ydj]设置为等于1：
[0742]
包含样点p0的编解码子块和包含样点q0的编解码子块均以ibc预测模式进行编解码，并且用于两个编解码子块的预测中的运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一亮度样点为单位)。
[0743]
对于包含样点p0的编解码子块的预测，使用与对于包含样点q0的编解码子块不同的参考图片或不同数量的运动矢量。
[0744]
注1
–
仅基于参考了哪些图片来确定用于两个编解码子块的参考图片是相同还是不同，不论使用参考图片列表0的索引还是使用参考图片列表1的索引来形成预测，也不论参考图片列表中的索引位置是否不同。
[0745]
注2
–
用于左上样点覆盖(xsb，ysb)的编解码子块的预测的运动矢量的数量等于predflagl0[xsb][ysb] predflagl1[xsb][ysb]。
[0746]
一个运动矢量用于预测包含样点p0的编解码子块，一个运动矢量用于预测包含样点q0的编解码子块，并且所使用的运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一亮度样点为单位)。
[0747]
将两个运动矢量和两个不同的参考图片用于预测包含样点p0的编解码子块，将两个相同的参考图片的两个运动矢量用于预测包含样点q0的编解码子块，并且对于相同的参考图片，用于两个编解码子块的预测的运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一亮度样点为单位)。
[0748]
将相同参考图片的两个运动矢量用于预测包含样点p0的编解码子块，将相同参考图片的两个运动矢量用于预测包含样点q0的编解码子块，并且以下条件二者为真：
[0749]
用于两个编解码子块的预测的列表0运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一的亮度样点为单位)，用于两个编解码子块的预测的列表1运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一的亮度样点为单位)。
[0750]
用于包含样点p0的编解码子块的预测的列表0运动矢量以及用于包含样点q0的编解码子块的预测的列表1运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一亮度样点为单位)，或者用于包含样点p0的编解码子块的预测的列表1运动矢量以及用于包含样点q0的编解码子块的预测的列表0运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一亮度样点为单位)。
[0751]
否则，将变量bs[xdi][ydj]设置为等于0。
[0752]
5.13a实施方案#13a
[0753]
该实施例描述了边界强度的推导。
[0754]
8.8.3.5边界滤波强度的推导过程
[0755]
该过程的输入是：
[0756]
图片样点阵列recpicture，
[0757]
指定当前编解码块的左上样点相对于当前图片的左上样点的位置(xcb，ycb)
[0758]
指定当前编解码块的宽度的变量ncbw，
[0759]
指定当前编解码块的高度的变量ncbh，
[0760]
指定是对垂直(edge_ver)还是水平(edge_hor)边缘进行滤波的变量edgetype，
[0761]
指定当前编解码块的颜色分量的变量cidx，
[0762]
二维(ncbw)x(ncbh)阵列edgeflags。
[0763]
该过程的输出是指定边界滤波强度的二维(ncbw)x(ncbh)阵列bs。
[0764]
…
[0765]
变量bs[xdi][ydj]推导如下：
[0766]
如果cidx等于0，并且样点p0和q0都在intra_bdpcm_flag等于1的编解码块中，将则bs[xdi][ydj]设置为等于0。
[0767]
否则，如果样点p0或q0在以帧内预测模式进行编解码的编解码单元的编解码块中，则将bs[xdi][ydj]设置为等于2。
[0768]
否则，如果块边缘也是变换块边缘，并且样点p0或q0在ciip_flag等于1的编解码块中，则将bs[xdi][ydj]设置为等于2。
[0769]
否则，如果块边缘也是变换块边缘，并且样点p0或q0在包含一个或多个非零变换系数级别的变换块中，则将bs[xdi][ydj]设置为等于1。
[0770][0771]
否则，如果包含样点p0的编解码子块的预测模式与包含样点q0的编解码子块的预测模式不同，则将bs[xdi][ydj]设置为等于1。
[0772]
否则，如果cidx等于0，并且以下一个或多个条件为真，则将bs[xdi][ydj]设置为等于1：
[0773]
包含样点p0的编解码子块和包含样点q0的编解码子块均以ibc预测模式进行编解码，并且用于两个编解码子块的预测的运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一亮度样点为单位)。
[0774]
对于包含样点p0的编解码子块的预测，使用与对于包含样点q0的编解码子块不同的参考图片或不同数量的运动矢量。
[0775]
注1
–
仅基于参考了哪些图片来确定用于两个编解码子块的参考图片是相同还是不同，不论使用参考图片列表0的索引还是使用参考图片列表1的索引来形成预测，也不论参考图片列表中的索引位置是否不同。
[0776]
注2
–
用于左上样点覆盖(xsb，ysb)的编解码子块的预测的运动矢量的数量等于predflagl0[xsb][ysb] predflagl1[xsb][ysb]。
[0777]
一个运动矢量用于预测包含样点p0的编解码子块，一个运动矢量用于预测包含样点q0的编解码子块，并且所使用的运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一亮度样点为单位)。
[0778]
将两个运动矢量和两个不同的参考图片用于预测包含样点p0的编解码子块，将两个相同的参考图片的两个运动矢量用于预测包含样点q0的编解码子块，并且对于相同的参考图片，用于两个编解码子块的预测的运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一亮度样点为单位)。
[0779]
将相同参考图片的两个运动矢量用于预测包含样点p0的编解码子块，将相同参考图片的两个运动矢量用于预测包含样点q0的编解码子块，并且以下条件二者为真：
[0780]
用于两个编解码子块的预测的列表0运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一的亮度样点为单位)，用于两个编解码子块的预测的列表1运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一的亮度样点为单位)。
[0781]
用于包含样点p0的编解码子块的预测的列表0运动矢量以及用于包含样点q0的编解码子块的预测的列表1运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一亮度样点为单位)，或者用于包含样点p0的编解码子块的预测的列表1运动矢量以及用于包含样点q0的编解码子块的预测的列表0运动矢量的水平或垂直分量之间的绝对差大于或等于4(以四分之一亮度样点为单位)。
[0782]
否则，将变量bs[xdi][ydj]设置为等于0。
[0783]
5.13b实施方案#13b
[0784]
该实施例描述了逸出样点编解码和重建。
[0785]
[0786][0787]
[0788][0789]
[[列表levelscale[]被指定为levelscale[k]＝{40，45，51，57，64，72}，其中k＝0..5。]]
[0790]
适用以下内容：
[0791]
[[tmpval＝(paletteescapeval[cidx][xcb xl][ycb yl]*
[0792]
levelscale[qp％6])《《(qp/6) 32)》》 6(8-77)
[0793]
recsamples[x][y]＝clip3(0,(1《《bitdepth)-1,tmpval)(8-78)]]
[0794]
[0795][0796]
5.14实施例#14
[0797]
8.4.5.3调色板模式的解码过程
[0798]
该过程的输入是：
[0799]
–
指定相对于当前图片的左上亮度样点的当前块的左上亮度样点的位置(xcb，ycb)，
[0800]
–
指定调色板表中的第一颜色分量的变量startcomp，
[0801]
–
指定当前块的颜色分量的变量cidx，
[0802]
–
分别指定当前块的宽度和高度的两个变量ncbw和ncbh。
[0803]
该过程的输出是指定该块的重建样点值的阵列recsamples[x][y]，其中x＝0..ncbw-1，y＝0..ncbh-1。
[0804]
取决于cidx的值，变量nsubwidth和nsubheight推导如下：
[0805]
–
如果cidx等于0，则将nsubwidth设置为1，并且将nsubheight设置为1。
[0806]
–
否则，将nsubwidth设置为subwidthc，并且将nsubheight设置为subheightc。
[0807]
位置(xcb，ycb)处的重建样点阵列recsamples的(ncbw x ncbh)块由recsamples[x][y]表示，其中x＝0..nctbw-1且y＝0..ncbh-1，并且对于在范围0到ncbw-1(包括0和ncbw-1)中每个x，以及在范围0到ncbh-1(包括0和ncbh-1)中每个y，recsamples[x][y]的值推导如下：
[0808]
–
变量xl和yl推导如下：
[0809]
xl＝palette_transpose_flag？x*nsubheight:x*
[0810]
nsubwidth
ꢀꢀꢀꢀ
(8-234)
[0811]
yl＝palette_transpose_flag？y*nsubwidth:y*
[0812]
nsubheight
ꢀꢀꢀꢀ
(8-235)
[0813]
–
变量bisescapesample推导如下：
[0814]
–
如果paletteindexmap[xcb xl][ycb yl]等于maxpaletteindex，且palette_escape_val_present_flag等于1，则将bisescapesample设置为等于1。
[0815]
–
否则，将bisescapesample设置为等于0。
[0816]
–
如果bisescapesample等于0，则适用以下内容：
[0817]
recsamples[x][y]＝
[0818]
currentpaletteentries[cidx][paletteindexmap[xcb xl][ycb yl]]
[0819]
(8-236)
[0820]
–
否则，如果cu_transquant_bypass_flag等于1，则适用以下内容：
[0821]
recsamples[x][y]＝paletteescapeval[cidx][xcb xl][ycb yl]
[0822]
(8-237)
[0823]
–
否则(bisescapesample等于1且cu_transquant_bypass_flag等于0)，适用以下有序步骤：
[0824]
1.用指定当前块的左上样点相对于当前图片的左上样点的位置(xcb，ycb)调用第8.7.1节中指定的量化参数推导过程，。
[0825]
[ed.(bb)：qp在帧内cu解码过程开始时就已经被推导，因此无需在此子条款中再次对其进行推导。尽管类似于hevc v4scc，但我认为可以删除此冗余。请确认。]
[0826]
[0827]
qpprimetsmin＝4 min_qp_prime_ts_minus4
[0828]
3.变量bitdepth推导如下：
[0829]
bitdepth＝(cidx＝＝0)？bitdepthy:bitdepthcꢀꢀ
(8-241)
[0830]
4.列表levelscale[]被指定为levelscale[k]＝{40，45，51，57，64，72}，其中k＝0..5。
[0831]
[ed.(bb)：对于非调色板cu，levelscale取决于rectnontsflag，这也应在此应用吗？]
[0832]
5.适用以下内容：
[0833]
tmpval＝(paletteescapeval[cidx][xcb xl][ycb yl]*
[0834]
levelscale[qp％6])《《(qp/6) 32)》》 6(8-242)
[0835]
recsamples[x][y]＝clip3(0,(1《《bitdepth)-1,tmpval)
[0836]
(8-243)
[0837]
当以下条件中的一个为真时：
[0838]
–
cidx等于0，且numcomps等于1；
[0839]
–
cidx等于3；
[0840]
变量predictorpalettesize[startcomp]和阵列predictorpaletteentries推导或修改如下：
[0841][0842]
比特流一致性的要求是predictorpalettesize[startcomp]的值应在0到palettemaxpredictorsize(包括0和palettemaxpredictorsize)的范围内。
[0843]
5.15实施例15
[0844]
8.4.2亮度帧内预测模式的推导过程
[0845]
…
[0846]
–
否则(skip_intra_flag[xpb][ypb]和dimflag[xpb][ypb]都等于0)，通过以下有序步骤来推导intrapredmodey[xpb][ypb]：
[0847]
1.分别将相邻位置(xnba，ynba)和(xnbb，ynbb)置为等于(xpb-1，ypb)和(xpb，ypb-1)。
[0848]
2.对于由a或b替换的x，变量candintrapredmodex推导如下：
[0849]
■–
将设置为等于(xpb，ypb)的位置(xcurr，ycurr)、设置为相等于(xnbx，ynbx)的相邻位置(xnby，ynby)作为输入来调用第6.4.1节中指定的按z扫描顺序的块的可用性推导过程，并且将输出赋值配给availablex。
[0850]
■–
候选帧内预测模式candintrapredmodex推导如下：
[0851]
■–
如果availablex等于false，则将candintrapredmodex设置为等于intra_dc。
[0852]
■
[[
–
否则，如果cupredmode[xnbx][ynbx]不等于mode_intra或pcm_flag[xnbx][ynbx]等于1或，则将candintrapredmodex设置为等于intra_dc，]]
[0853]
■–■–
[0854]
■–
否则，如果x等于b并且ypb-1小于((ypb》》ctblog2sizey)《《ctblog2sizey)，则将candintrapredmodeb设置为等于intra_dc。
[0855]
■–
否则，如果intrapredmodey[xnbx][ynbx]大于34，则将candintrapredmodex设置为等于intra_dc。
[0856]
5.16实施例#16
[0857]
8.4.2亮度帧内预测模式的推导过程
[0858]
该过程的输入是：
[0859]
–
指定当前亮度编解码块的左上样点相对于当前图片的左上亮度样点的亮度位置(xcb，ycb)，
[0860]
–
指定亮度样点中当前编解码块的宽度的变量cbwidth，，
[0861]
–
指定亮度样点中当前编解码块的高度的变量cbheight。
[0862]
在该过程中，推导了亮度帧内预测模式intrapredmodey[xcb][ycb]。
[0863]
1.对于由a或b替换的x，变量candintrapredmodex推导如下：
[0864]
–
将设置为等于(xcb，ycb)的位置(xcurr，ycurr)和设置为等于(xnbx，ynbx)的相邻位置(xnby，ynby)作为输入来调用第6.4.x节[ed.(bb)：相邻块可用性检查过程有待确定]中指定的可用性推导过程，并将输出赋值给availablex。
[0865]
–
候选帧内预测模式candintrapredmodex推导如下：
[0866]
–
如果以下一个或多个条件为真，则将candintrapredmodex设置为等于intra_planar。
[0867]
–
变量availablex等于false。
[0868]
–
cupredmode[xnbx][ynbx]不等于mode_intra。
[0869]
–
[0870]
–
intra_mip_flag[xnbx][ynbx]等于1。
[0871]
–
x等于b且ycb-1小于
[0872]
((ycb》》ctblog2sizey)《《ctblog2sizey)。
[0873]
–
否则，将candintrapredmodex设置为等于intrapredmodey
[0874]
[xnbx][ynbx]。
[0875]
…
[0876]
将变量intrapredmodey[x][y](其中x＝xcb..xcb cbwidth-1且y＝ycb..ycb cbheight
–
1)设置为等于intrapredmodey[xcb][ycb]。
[0877]
5.17实施例#17
[0878]
8.4.3亮度帧内预测模式的推导过程
[0879]
该过程的输入是：
[0880]
–
指定当前亮度编解码块的左上样点相对于当前图片的左上亮度样点的亮度位置(xcb，ycb)，
[0881]
–
指定亮度样点中当前编解码块的宽度的变量cbwidth，
[0882]
–
指定亮度样点中当前编解码块的高度的变量cbheight。
[0883]
在该过程中，推导了亮度帧内预测模式intrapredmodey[xcb][ycb]。
[0884]
2.对于由a或b替换的x，变量candintrapredmodex推导如下：
[0885]
–
将设置为(xcb，ycb)的位置(xcurr，ycurr)和设置为等于(xnbx，ynbx)的相邻位置(xnby，ynby)作为输入来调用第6.4.x节[ed.(bb)：相邻块可用性检查过程待定]中指定的可用性推导过程，并且将输出赋值给availablex。
[0886]
–
候选帧内预测模式candintrapredmodex推导如下：
[0887]
–
如果以下一个或多个条件为真，则将candintrapredmodex设置为等于[[intra_planar]]
[0888]
–
变量availablex等于false。
[0889]
–
cupredmode[xnbx][ynbx]不等于mode_intra。
[0890]
–
intra_mip_flag[xnbx][ynbx]等于1。
[0891]
–
x等于b且ycb-1小于((ycb》》ctblog2sizey)《《ctblog2sizey)。
[0892]
–
否则，将candintrapredmodex设置为等于intrapredmodey[xnbx][ynbx]。
[0893]
…
[0894]
将变量intrapredmodey[x][y](其中x＝xcb..xcb cbwidth-1且y＝ycb..ycb cbheight
–
1)设置为等于intrapredmodey[xcb][ycb]。
[0895]
5.18实施例#18
[0896]
8.4.3亮度帧内预测模式的推导过程
[0897]
该过程的输入是：
[0898]
–
指定当前亮度编解码块的左上样点相对于当前图片的左上亮度样点的亮度位置(xcb，ycb)，
[0899]
–
指定亮度样点中当前编解码块的宽度的变量cbwidth，
[0900]
–
指定亮度样点中当前编解码块的高度的变量cbheight。
[0901]
在该过程中，推导了亮度帧内预测模式intrapredmodey[xcb][ycb]。
[0902]
3.对于由a或b替换的x，变量candintrapredmodex推导如下：
[0903]
–
将设置为等于(xcb，ycb)的位置(xcurr，ycurr)和设置为等于(xnbx，ynbx)的相邻位置(xnby，ynby)作为输入来调用第6.4.x节[ed.(bb)：相邻块可用性检查过程待定]中指定的可用性推导过程，并且将输出赋值给availablex。
[0904]
–
候选帧内预测模式candintrapredmodex推导如下：
[0905]
–
如果以下一个或多个条件为真，则将candintrapredmodex设置为等于[[intra_planar]]
[0906]
–
变量availablex等于false。
[0907]
–
cupredmode[xnbx][ynbx]不等于mode_intra。
[0908]
–
intra_mip_flag[xnbx][ynbx]等于1。
[0909]
–
[0910]
–
x等于b且ycb-1小于((ycb》》ctblog2sizey)《《ctblog2sizey)。
[0911]
–
否则，将candintrapredmodex设置为等于intrapredmodey[xnbx][ynbx]。
[0912]
…
[0913]
将变量intrapredmodey[x][y](其中x＝xcb..xcb cbwidth-1且y＝ycb..ycb cbheight
–
1)设置为等于intrapredmodey[xcb][ycb]。
[0914]
5.19实施例#19
[0915]
[0916][0917]
5.20实施例#20
[0918]
[0919][0920]
5.21实施例#21
[0921]
[0922]
[0923][0924]
5.22实施例#22
[0925]
该实施例描述了编解码单元语法。在该实施例中，在pred_mode_ibc_flag之后信令通知pred_mode_plt_flag。
[0926]
7.3.7.5编解码单元语法
[0927]
[0928]
[0929][0930]
5.23实施例#23
[0931]
[0932][0933]
5.24实施例#24
[0934]
该实施例描述了编解码单元语法。该实施例中，在pred_mode_ibc_flag之后信令通知pred_mode_plt_flag。
[0935]
7.3.7.5编解码单元语法
[0936]
[0937][0938]
5.25实施例#25
[0939]
该实施例描述了编解码单元语法。在该实施例中，如果当前预测模式是mode_plt，则信令通知调色板语法。
[0940]
7.3.7.5编解码单元语法
[0941]
[0942][0943]
5.26实施例#26该实施例描述了色度帧内预测模式的推导过程。
[0944]
色度帧内预测模式的推导过程
[0945]
该过程的输入是：
[0946]
–
指定当前色度编解码块的左上样点相对于当前图片的左上亮度样点的亮度位置(xcb，ycb)，
[0947]
–
指定亮度样点中当前编解码块的宽度的变量cbwidth，
[0948]
–
指定亮度样点中当前编解码块的高度的变量cbheight。
[0949]
在该过程中，推导了色度帧内预测模式intrapredmodec[xcb][ycb]。
[0950]
对应的亮度帧内预测模式lumaintrapredmode推导得出：
[0951]
–
如果intra_mip_flag[xcb][ycb]等于1，则将lumaintrapredmode设置为等于intra_planar。
[0952]
–
否则，如果cupredmode[0][xcb][ycb]等于mode_ibc否则，如果cupredmode[0][xcb][ycb]等于mode_ibc则lumaintrapredmode设置为等于intra_dc。
[0953]
–
否则，将lumaintrapredmode设置为等于intrapredmodey[xcb cbwidth/2][ycb cbheight/2]。
[0954]
…
[0955]
5.27实施例#27
[0956]
该实施例描述具有亮度样点映射过程的图片重建过程。
[0957]
具有亮度样点映射过程的图片重建。该过程的输入是：
[0958]
–
当前块的左上样点相对于当前图片的左上样点的位置(xcurr，ycurr)，
[0959]
–
指定块的宽度的变量ncurrsw，
[0960]
–
指定块的高度的变量ncurrsh，
[0961]
–
指定当前块的亮度预测样点的(ncurrsw)x(ncurrsh)阵列predsamples，
[0962]
–
指定当前块的亮度残差样点的(ncurrsw)x(ncurrsh)阵列ressamples。
[0963]
该过程的输出是重建的亮度图像样点阵列recsamples。
[0964]
映射的预测亮度样点predmapsamples的(ncurrsw)x(ncurrsh)阵列推导如下：
[0965]
–
如果以下条件中的一个为真，则对于i＝0..ncurrsw-1，j＝
[0966]
0..ncurrsh-1，将predmapsamples[i][j]设置为等于predsamples[i][j]。
[0967]
–
cupredmode[0][xcurr][ycurr]等于mode_intra。
[0968]
–
cupredmode[0][xcurr][ycurr]等于mode_ibc。
[0969]
–
[0970]
–
cupredmode[0][xcurr][ycurr]等于mode_inter，ciip_flag[xcurr][ycurr]等于1。
[0971]
–
否则(cupredmode[0][xcurr][ycurr]等于mode_inter且ciip_flag[xcurr][ycurr]等于0)，适用以下内容：
[0972]
…
[0973]
5.28实施例#28
[0974]
该实施例描述了与第4节中的示例24对应的示例扫描顺序。
[0975]
该过程的输入是块宽度blkwidth和块高度blkheight。
[0976]
该过程的输出是阵列hreverscan[spos][scomp]和vreverscan[spos][scomp]。阵列hreverscan代表水平反向扫描顺序，并且阵列vreverscan代表垂直反向扫描顺序。阵列索引spos指定扫描位置，范围从0到(blkwidth*blkheight)-1(包含0和(blkwidth*blkheight)-1)。阵列索引scomp等于0指定水平分量，并且阵列索引scomp等于1指定垂直分量。取决于blkwidth和blkheight的值，阵列htravscan和vtravscan推导如下：
[0977]
[0978][0979]
图6是视频处理装置600的框图。装置600可用于实现这里描述的一个或多个方法。装置600可以体现在智能手机、平板电脑、计算机、物联网(iot)接收器等中。装置600可以包括一个或多个处理器602、一个或多个存储器604和视频处理硬件606。处理器602可以被配置为实现在本文中描述的一种或多种方法。可以将(一个或多个)存储器604用于存储用于实现这里描述的方法和技术的数据和代码。视频处理硬件606可用于在硬件电路中实现本
文件中描述的一些技术。
[0980]
图8是用于处理视频的方法800的流程图。方法800包括确定(805)调色板模式将被用于处理变换单元、编解码块或区域，调色板模式的使用与预测模式分开被编解码，以及执行(810)对使用调色板模式的变换单元、编解码块或区域的进一步处理。
[0981]
参考方法800，在本文件的第4节中描述了调色板模式编解码及其使用的一些示例。
[0982]
参考方法800，可以在视频比特流中对视频块进行编码，其中可以通过使用与调色板模式编解码有关的比特流生成规则来实现比特效率。
[0983]
该方法可以包括，其中，在指示调色板模式的使用之前对预测模式进行编解码。
[0984]
该方法可以包括，其中，基于预测模式有条件地信令通知调色板模式的使用。
[0985]
该方法可以包括，其中，预测模式是帧内块复制模式，并且跳过对调色板模式的使用的指示的信令。
[0986]
该方法可以包括，其中，基于当前预测模式是帧内块复制模式，将调色板模式的使用的指示确定为假(false)。
[0987]
该方法可以包括，其中，预测模式是帧间模式，并且跳过调色板模式的使用的指示的信令。
[0988]
该方法可以包括，其中，基于当前的预测模式是帧间模式，将调色板模式的使用的指示确定为假。
[0989]
该方法可以包括，其中，预测模式是帧内模式，并且跳过调色板模式的使用的指示的信令。
[0990]
该方法可以包括，其中，基于当前预测模式是帧内模式，将调色板模式的使用的指示确定为假。
[0991]
该方法可以包括，其中，预测模式是帧内模式，并且跳过调色板模式的使用的指示的信令。
[0992]
该方法可以包括，其中，预测模式是帧内块复制模式，并且执行调色板模式的使用的指示的信令。
[0993]
该方法可以包括，其中，基于图片、条带或片组类型来信令通知调色板模式的使用的指示。
[0994]
该方法可以包括，其中，将调色板模式添加为预测模式的候选。
[0995]
该方法可以包括，其中，预测模式包括以下一种或多种：帧内模式、帧内块复制模式或用于帧内条带、帧间条带、i图片、p图片、b图片或帧内片组的调色板模式。
[0996]
该方法可以包括，其中，预测模式包括以下两种或多种：帧内模式、帧间模式、帧内块复制模式或调色板模式。
[0997]
该方法可以包括，其中，调色板模式的使用经由信令通知指示或基于条件导出。
[0998]
该方法可以包括，其中，该条件包括以下一项或多项：当前块的块尺寸、当前块的预测模式、当前块的量化参数(qp)、相邻块的调色板标志、相邻块的帧内块复制标志、颜色格式的指示、单独或双重编解码树结构或条带类型或组类型或图片类型。
[0999]
该方法可以包括，其中，基于条带级别标志、片组级别标志或图片级别标志来信令通知或推导调色板模式的使用。
[1000]
该方法可以包括，其中，基于条带级别标志、片组级别标志或图片级别标志来信令通知或推导对帧内块复制模式的使用的指示。
[1001]
参考先前部分中公开的第6至9项，一些实施例可以优选地使用以下解决方案。
[1002]
一种解决方案可以包括视频处理的方法，该方法包括：在视频的图片的当前视频块与视频的比特流表示之间执行转换，其中，在该转换中，在比特流表示中信令通知或者基于当前视频块的编解码条件导出关于在该转换中是否使用帧内块复制模式的信息；其中，帧内块复制模式包括对来自图片中另一视频块的当前视频块进行编解码。可以在各种实施例中实现以下特征：
[1003]-其中，编解码条件包括当前视频块的块尺寸。
[1004]-其中，编解码条件包括当前视频块的预测模式或在当前视频块的转换中使用的量化参数。
[1005]
参考在先前部分中公开的第13至15项，一些实施例可以优选地实现以下解决方案。
[1006]
解决方案可以包括用于确定在视频的图片的当前视频块的转换期间是否将应用解块滤波器的方法，其中，使用调色板模式编解码来对当前视频块进行编解码，其中使用少于当前视频块的总像素的代表性样点值来表示当前视频块；以及在确定要应用解块滤波器的情况下，执行转换以使得应用解块滤波器。
[1007]
另一解决方案可以包括视频处理的方法，包括确定在视频的图片的当前视频块与视频的比特流表示之间的转换期间使用量化或逆量化过程，其中，使用调色板模式编解码对当前视频块进行编解码，其中使用少于当前视频块的总像素的代表性样点值来表示当前视频块；以及基于确定量化或逆量化过程来执行转换。其他特征可能包括：
[1008]-其中，为当前视频块确定的量化或逆量化过程不同于应用于与调色板编解码模式不同地编解码的另一视频块的另一量化或逆量化过程。
[1009]-其中，转换包括将当前视频块编码为比特流表示。
[1010]-其中，转换包括对比特流表示进行解码以生成视频的当前视频块。
[1011]-其中，该确定使用与用于帧内编解码的另一视频块的转换的另一决策过程相同的决策过程。
[1012]
将会理解，所公开的技术可以体现在视频编码器或解码器中，以使用增强的编解码树结构来提高压缩效率。
[1013]
参照先前部分的第16至21项，一些解决方案可以如下：
[1014]
一种视频处理方法，包括：对于包括多个视频块的视频的当前视频块和视频的比特流表示之间的转换，确定当前视频块是调色板编解码的块；基于该确定，通过将当前视频块视为帧内编解码的块来执行最可能的模式的列表构建过程，并基于列表构建过程的结果执行转换；其中使用调色板或表示样点值对调色板编解码的块进行编解码或解码。
[1015]
以上方法，其中列表构建过程将相邻的调色板编解码的块视为具有默认模式的帧内块。
[1016]
一种视频处理方法，包括：对于包括多个视频块的视频的当前视频块和视频的比特流表示之间的转换，确定当前视频块是调色板编解码的块；基于该确定，通过将当前视频块视为非帧内编解码的块来执行最可能的模式的列表构建过程，并基于列表构建过程的结
果执行转换；其中使用调色板或表示样点值对调色板编解码的块进行编解码或解码。
[1017]
以上方法，其中当获取相邻的调色板编解码的块的帧内模式时，列表构建处理将相邻的调色板编解码的块视为帧间编解码的块。
[1018]
一种视频处理方法，包括：对于包括多个视频块的视频的当前视频块和视频的比特流表示之间的转换，确定当前视频块是调色板编解码的块；基于该确定，通过将当前视频块视为不可用块来执行列表构建过程，并基于列表构建过程的结果执行转换；其中使用调色板或表示样点值对调色板编解码的块进行编解码或解码。
[1019]
以上方法，其中，列表构建过程用于基于历史的运动矢量预测。
[1020]
以上方法，其中，列表构建过程是用于merge或高级运动矢量预测模式的。
[1021]
以上方法，其中，该确定还包括基于视频的内容来确定。
[1022]
以上方法，其中，该确定对应于比特流表示中的字段。
[1023]
一种视频处理的方法，包括：在当前视频块和当前视频块的比特流表示之间的转换期间，确定当前视频块是调色板编解码的块，基于当前视频块确定是调色板编解码的块，确定用于转换的上下文编解码的位的范围；以及根据上下文编解码的位的范围执行转换。
[1024]
以上方法，其中，在转换期间，使用旁路编解码技术对落在该范围之外的当前视频块的位进行编解码或使用旁路解码技术对落在该范围之外的当前视频块的位进行解码。
[1025]
以上方法，其中，转换包括将视频编码为比特流表示。
[1026]
以上方法，其中，转换包括解码比特流表示以生成视频。
[1027]
图24是示出其中可实现本文中所公开的各种技术的示例视频处理系统2400的框图。各种实现方式可以包括系统2400的一些或全部组件。系统2400可以包括用于接收视频内容的输入2402。视频内容可以以原始或未压缩的格式(例如8或10位多分量像素值)接收，或者可以以压缩或编码的格式接收。输入1902可以代表网络接口、外围总线接口或存储接口。网络接口的示例包括有线接口(诸如以太网、无源光网络(pon)等)和无线接口(诸如wi-fi或蜂窝接口)。
[1028]
系统2400可以包括可以实现本文中描述的各种编解码或编码方法的编解码组件2404。编解码组件2404可以减少从编解码组件2404的输入2402到输出的视频的平均比特率，以产生视频的编解码表示。因此，编解码技术有时称为视频压缩或视频转码技术。如组件2406所表示的，编解码组件2404的输出可以被存储或经由所连接的通信来发送。在输入2402处接收的视频的存储或传送的比特流(或编解码)表示可以被组件2408使用，以生成被发送到显示接口2410的像素值或可显示视频。从比特流表示中生成用户可见视频的过程有时称为视频解压缩。此外，尽管某些视频处理操作被称为“编解码”操作或工具，但是应当理解，在编码器处使用编解码工具或操作，并且将由编码器执行反向编解码结果的相应解码工具或操作。
[1029]
外围总线接口或显示接口的示例可以包括通用串行总线(usb)或高清多媒体接口(hdmi)或displayport等。存储接口的示例包括sata(串行高级技术附件)、pci、ide接口等。本文中描述的技术可以体现在各种电子设备中，诸如移动电话、膝上型计算机、智能电话或其他能够执行数字数据处理和/或视频显示的设备。
[1030]
图25是根据本技术的用于视频处理的方法2500的流程图。方法2500包括，在操作2510，在视频的视频区域的块与视频的比特流表示之间执行转换。根据第一格式规则以及
第二格式规则来处理比特流表示，第一格式规则指定是否对块信令通知对调色板模式的使用的第一指示，第二格式规则指定第一指示相对于对块的预测模式的使用的第二指示的位置。
[1031]
在一些实施例中，视频区域包括变换单元、编解码单元、预测单元或视频的区域。在一些实施例中，在比特流表示中，将对预测模式的使用的第二指示放置在对调色板模式的使用的第一指示之前。
[1032]
在一些实施例中，基于对预测模式的使用的第二指示，调色板模式的使用的第一指示有条件地包括在比特流表示中。在一些实施例中，在对预测模式的使用的第二指示指示帧内块复制(ibc)预测模式的情况下，在比特流表示中跳过对调色板模式的使用的第一指示。在一些实施例中，在对预测模式的使用的第二指示指示帧间预测模式的情况下，在比特流表示中跳过对调色板模式的使用的第一指示。在一些实施例中，在对预测模式的使用的第二指示指示帧内预测模式的情况下，在比特流表示中跳过对调色板模式的使用的第一指示。在一些实施例中，在对预测模式的使用的第二指示指示跳过模式的情况下，在比特流表示中跳过对调色板模式的使用的第一指示。在一些实施例中，在比特流表示中跳过对调色板模式的使用的第一指示指示未使用调色板模式。
[1033]
在一些实施例中，在对预测模式的使用的第二指示指示ibc预测模式的情况下，在比特流中对调色板模式的使用的第一指示进行编解码。在一些实施例中，在对预测模式的使用的第二指示指示帧内预测模式的情况下，在比特流中对调色板模式的使用的第一指示进行编解码。在一些实施例中，预测模式不是脉冲编解码调制(pcm)模式。在一些实施例中，在比特流表示中，在对pcm模式的使用的指示之前对调色板模式的使用的第一指示进行编解码。在一些实施例中，在比特流表示中跳过对pcm模式的使用的指示。在一些实施例中，在比特流表示中对ibc模式的指示进行编解码。在一些实施例中，在使用帧内预测模式的情况下，比特流表示中的标志指示在比特流表示中信令通知调色板模式还是ibc模式。在一些实施例中，基于块的条件跳过标志，条件包括块的尺寸、是否对与块相关联的区域启用了ibc模式，或者是否对与块关联的区域启用了调色板模式。
[1034]
在一些实施例中，其中在对预测模式的使用的第二指示指示帧间预测模式的情况下，在比特流中对调色板模式的使用的第一指示进行编解码。在一些实施例中，在以下至少一项之后对调色板模式的使用的第一指示进行编解码：对跳过模式、预测模式的指示，或对pcm模式的使用的指示。在一些实施例中，在对跳过模式或预测模式的指示之后对调色板模式的使用的第一指示进行编解码，并且在对pcm模式的使用的指示之前对调色板模式的使用的第一指示进行编解码。
[1035]
在一些实施例中，在比特流表示中，将对调色板模式的使用的第一指示放置在对预测模式的使用的第二指示之前。在一些实施例中，将对调色板模式的使用的第一指示放置在对预测模式的使用的第二指示之后，对预测模式的使用的第二指示指示比特流表示中的帧内或帧间预测模式。在一些实施例中，基于图片、条带或片组类型来信令通知对调色板模式的使用的第一指示。在一些实施例中，对调色板模式的使用的第一指示包括第一标志，第一标志指示对块启用了调色板模式。在一些实施例中，基于指示在序列级别、图片级别、片组级别或片级别启用调色板模式的第一标志，将对调色板模式的使用的第一指示有条件地包括在比特流表示中。在一些实施例中，在对块禁用调色板模式的情况下，在比特流表示
中包括指示块的pcm模式的另一标志。在一些实施例中，基于当前块的一个或多个相邻块的信息对第一标志进行上下文编解码。在一些实施例中，在没有来自当前块的一个或多个相邻块的上下文信息的情况下，对第一标志进行编解码。
[1036]
在一些实施例中，对预测模式的使用的第二指示包括指示预测模式的第二标志。在一些实施例中，在比特流表示中的第二标志指示预测模式是帧间模式的情况下，比特流表示还包括指示是否启用帧内块复制模式的第三标志。在一些实施例中，在比特流表示中的第二标志指示预测模式是帧内模式的情况下，比特流表示还包括指示是否启用帧内块复制模式的第三标志。在一些实施例中，基于块的尺寸，将第三标志有条件地包括在比特流表示中。
[1037]
在一些实施例中，块是编解码单元，并且其中，比特流表示中的第二标志指示预测模式是帧内模式。在一些实施例中，基于块的尺寸，将第一标志有条件地包括在比特流表示中。
[1038]
图26是根据本技术的用于视频处理的方法2600的流程图。方法2600包括，在操作2610，对于视频中视频区域的块和视频的比特流表示之间的转换，基于一个或多个允许的至少包括块的调色板模式的预测模式来确定预测模式。根据预测模式来确定调色板模式的使用的指示。该方法2600包括，在操作2620，基于确定执行转换。
[1039]
在一些实施例中，一个或多个允许的预测模式包括帧内模式。在一些实施例中，一个或多个允许的预测模式包括帧内块复制(ibc)模式。在一些实施例中，一个或多个允许的预测模式包括帧间模式。
[1040]
在一些实施例中，视频区域包括帧内条带、帧内图片或帧内片组。在一些实施例中，一个或多个允许的预测模式包括帧内模式、帧内块复制模式和调色板模式。
[1041]
在一些实施例中，视频区域包括帧间条带、帧间图片、帧间片组、p条带、b条带、p图片或b图片。在一些实施例中，一个或多个允许的预测模式包括帧内模式、帧内块复制模式、调色板模式和帧间模式。
[1042]
在一些实施例中，块具有4
×
4的尺寸。在一些实施例中，在块具有4
×
4的尺寸的情况下，一个或多个允许的预测模式不包括帧间模式。
[1043]
在一些实施例中，在未以跳过模式对块进行编解码的情况下，比特流表示至少包括表示一个或多个允许的预测模式的预测模式索引，其中，使用一个或多个二进制位来表示预测模式索引。
[1044]
在一些实施例中，使用三个二进制位来表示预测模式索引，其中第一位值“1”指示帧内模式，其中第一位值“0”和第二位值“0”指示帧间模式，其中第一位值“0”，第二位值“1”，第三位值“0”指示ibc模式，并且其中第一位值“0”，第二值“1”和第三位值“1”指示调色板模式。
[1045]
在一些实施例中，使用两个二进制位来表示预测模式索引，其中第一位值“1”和第二位值“0”指示帧内模式，其中第一位值“0”和第二位值“0”指示帧间模式，其中第一位值“0”和第二位值“1”指示ibc模式，并且其中第一位值“1”和第二位值“1”指示调色板模式。
[1046]
在一些实施例中，在视频的当前条带是帧内条带并且禁用ibc模式的情况下，使用一个二进制位来表示预测模式索引，第一位值“0”指示帧内模式，并且第二位值“1”指示调色板模式。
[1047]
在一些实施例中，在视频的当前条带不是帧内条带并且禁用ibc模式的情况下，使用两个二进制位来表示预测模式索引，其中第一位值“1”表示帧内模式，其中第一位值“0”和第二位值“0”指示帧间模式，并且其中第一位值“0”和第二位值“1”指示调色板模式。在一些实施例中，在视频的当前条带是帧内条带且启用ibc模式的情况下，使用两个二进制位来表示预测模式索引，其中第一位值“1”指示ibc模式，其中第一位值“0”和第二位值“1”指示调色板模式，并且其中第一位值“0”和第二位值“0”指示帧内模式。在一些实施例中，在比特流表示的序列参数集(sps)中信令通知对ibc模式的使用的指示。
[1048]
在一些实施例中，使用三个二进制位来表示预测模式索引，其中第一位值“1”指示帧间模式，其中第一位值“0”和第二位值“1”指示帧内模式，其中第一位值“0”、第二位值“0”和第三位值“1”指示ibc模式，并且其中第一位值“0”、第二位值“0”和第三位值“0”指示调色板模式。
[1049]
在一些实施例中，使用三个二进制位来表示预测模式索引，其中第一位值“1”指示帧内模式，其中第一位值“0”和第二位值“1”指示帧间模式，其中第一位值“0”、第二位值“0”和第三位值“1”指示ibc模式，并且其中第一位值“0”、第二位值“0”和第三位值“0”指示调色板模式。
[1050]
在一些实施例中，使用三个二进制位来表示预测模式索引，其中第一位值“0”指示帧间模式，其中第一位值“1”和第二位值“0”指示帧内模式，其中第一位值“1”、第二位值“1”和第三位值“1”指示ibc模式，并且其中第一位值“1”，第二位值“1”和第三位值“0”指示调色板模式。
[1051]
在一些实施例中，在满足条件的情况下，在比特流表示中跳过一个或多个二进制位中的一个的信令。在一些实施例中，条件包括块的尺寸。在一些实施例中，条件包括：禁用预测模式，并且其中，在比特流表示中跳过与预测模式相对应的二进制位。
[1052]
图27是根据本技术的用于视频处理的方法2700的流程图。方法2700包括，在操作2710，执行视频的块和视频的比特流表示之间的转换。根据格式规则来处理比特流表示，该格式规则指定彼此相互依赖地信令通知的对调色板模式的使用的第一指示和对帧内块复制(ibc)模式的使用的第二指示。
[1053]
在一些实施例中，在块的预测模式等于不是ibc模式的第一预测模式的情况下，格式规则指定在比特流表示中信令通知第一指示。在一些实施例中，在块的预测模式等于不是调色板模式的第一预测模式的情况下，格式规则指定在比特流表示中信令通知第二指示。在一些实施例中，第一预测模式是帧内模式。
[1054]
图28是根据本技术的用于视频处理的方法2800的流程图。方法2800包括，在操作2810，对于视频的块和视频的比特流表示之间的转换，基于块的尺寸，确定在比特流表示中对调色板模式的使用的指示的存在。方法2800包括，在操作2820，基于确定执行转换。
[1055]
图29是根据本技术的用于视频处理的方法2900的流程图。方法2900包括，在操作2910，对于视频的块与视频的比特流表示之间的转换，基于块的尺寸，确定在比特流表示中对帧内块复制(ibc)模式的使用的指示的存在。方法2900包括在操作2920，基于确定执行转换。在一些实施例中，块的尺寸包括以下中的至少一个：块中的样点数量、块的宽度或块的高度。
[1056]
在一些实施例中，在块的宽度等于或小于阈值的情况下，在比特流表示中信令通
知指示。在一些实施例中，在块的高度等于或小于阈值的情况下，在比特流表示中信令通知指示。在一些实施例中，阈值为64。
[1057]
在一些实施例中，在块的宽度和高度大于阈值的情况下，在比特流表示中信令通知指示。在一些实施例中，阈值为4。在一些实施例中，在块中的样点数量大于阈值的情况下，在比特流表示中信令通知指示。在一些实施例中，阈值为16。在一些实施例中，在块的宽度等于块的高度的情况下，在比特流表示中信令通知指示。
[1058]
在一些实施例中，在以下情况下，在比特流表示中不存在指示：(1)块的宽度大于第一阈值，(2)块的高度大于第二阈值，或(3)块中的样点数量等于或小于第三阈值。在一些实施例中，第一阈值和第二阈值为64。在一些实施例中，其中第三阈值为16。
[1059]
在一些实施例中，确定还基于与块相关联的特性。在一些实施例中，特性包括块的预测模式。在一些实施例中，特性包括块的量化参数。在一些实施例中，特性包括块的相邻块的调色板标志。在一些实施例中，特性包括块的相邻块的ibc标志。在一些实施例中，特征包括对块的颜色格式的指示。在一些实施例中，特性包括块的编解码树结构。在一些实施例中，特征包括块的条带组类型、片组类型或图片类型。
[1060]
图30是根据本技术的用于视频处理的方法3000的流程图。方法3000包括，在操作3010，对于视频的块和视频的比特流表示之间的转换，基于包含块的视频区域的第二指示，确定块是否允许调色板模式。方法3000还包括，在操作3020，基于确定执行转换。
[1061]
在一些实施例中，视频区域包括条带、片组或图片。在一些实施例中，在第二指示指示启用分数运动矢量差的情况下，比特流表示不包括对是否允许调色板模式的显式指示。在一些实施例中，将第二指示表示为存在于比特流表示中的标志。在一些实施例中，第二指示指示是否对视频区域启用调色板模式。在一些实施例中，在第二指示指示对视频区域禁用调色板模式的情况下，比特流表示不包括对是否允许调色板模式的显式指示。在一些实施例中，在比特流表示不包括对是否允许调色板模式的显式指示的情况下，块不允许调色板模式。
[1062]
图31是根据本技术的用于视频处理的方法3100的流程图。方法3100包括，在操作3110，对于视频的块和视频的比特流表示之间的转换，基于包含块的视频区域的第二指示，确定块是否允许帧内块复制(ibc)模式。方法3100包括，在操作3120，基于确定执行转换。
[1063]
在一些实施例中，视频区域包括条带、片组或图片。在一些实施例中，在第二指示指示启用分数运动矢量差的情况下，比特流表示不包括对是否允许ibc模式的显式指示。在一些实施例中，将第二指示表示为存在于比特流表示中的标志。在一些实施例中，第二指示指示是否对视频区域启用ibc模式。在一些实施例中，在第二指示指示对视频区域禁用ibc模式的情况下，比特流表示不包括对是否允许ibc模式的显式指示。在一些实施例中，在比特流表示不包括对是否允许ibc模式的显式指示的情况下，块不允许ibc模式。
[1064]
在一些实施例中，转换从比特流表示生成当前块。在一些实施例中，转换从当前块生成比特流表示。
[1065]
图32是表示根据本技术的用于视频处理的方法3200的流程图。方法3200包括，在操作3210处，对于在视频的块和视频的比特流表示之间的转换，确定与调色板模式下的调色板条目相关联的第一样点的第一比特深度。第一比特深度不同于与该块相关联的第二比特深度。该方法3200还包括，在操作3220处，基于该确定来执行转换。
[1066]
在一些实施例中，第二比特深度包括该块的内部比特深度。在一些实施例中，第二比特深度包括与块的原始样点相关联的比特深度。在一些实施例中，第二比特深度包括与块的重构样点相关联的比特深度。在一些实施例中，第一比特深度是正整数。在一些实施例中，第一比特深度等于8。在一些实施例中，第一比特深度大于第二比特深度。在一些实施例中，第一比特深度小于第二比特深度。在一些实施例中，基于块的维度来确定第一比特深度。在一些实施例中，第一比特深度是基于块的量化参数来确定的。在一些实施例中，基于块的颜色格式的指示来确定第一比特深度。在一些实施例中，第一比特深度是基于块的编解码树结构来确定的。在一些实施例中，基于块的条带组类型、片组类型或图片类型来确定第一比特深度。
[1067]
在一些实施例中，基于与块相关联的调色板条目的数量来确定第一比特深度。在一些实施例中，基于与该块相关联的调色板预测器中的条目的数量来确定第一比特深度。在一些实施例中，基于块的颜色分量的一个或多个索引来确定第一比特深度。
[1068]
在一些实施例中，第二样点在调色板模式下与另一个调色板条目相关联，第二样点具有不同于第一比特深度的第三比特深度。在一些实施例中，第三比特深度大于第二比特深度。在一些实施例中，第三比特深度小于第二比特深度。
[1069]
在一些实施例中，基于将第一样点的值移位m个比特来重构块的第三样点，m是正整数。在一些实施例中，将第一样点的值移位包括将第一样点左移m个比特。在一些实施例中，第一样点的值为c，并且其中重构的第二样点的值为(c《《m) (1《《(m-1))。在一些实施例中，将第一样点的值移位包括将第一样点右移m个比特。在一些实施例中，第一样点的值为c，并且其中重构的第二样点具有基于(c (1《《(m-1)))》》m确定的值，该值由最小值为0、最大值为(1《《n)-1限制。在一些实施例中，基于第一比特深度和第二比特深度之间的差来确定m。在一些实施例中，m等于第二比特深度减去第一比特深度。在一些实施例中，m等于第一比特深度减去第二比特深度。在一些实施例中，m等于2。在一些实施例中，基于块的维度来确定m。在一些实施例中，基于块的量化参数来确定m。在一些实施例中，基于块的颜色格式的指示来确定m。在一些实施例中，基于块的编解码树结构来确定m。在一些实施例中，基于块的条带组类型、片组类型或图片类型来确定m。在一些实施例中，基于与该块相关联的调色板条目的数量来确定m。在一些实施例中，基于与该块相关联的预测调色板条目的数量来确定m。在一些实施例中，基于第一样点和第三样点在块中的位置来确定m。在一些实施例中，基于块的颜色分量的索引来确定m。
[1070]
在一些实施例中，该方法包括基于对样点表执行的查找操作来确定与调色板条目相关联的第一样点。在一些实施例中，在序列参数集(sps)、视频参数集(vps)、图片参数集(pps)、图片标头、条带标头、片组标头、最大编解码单元(lcu)行、或比特流表示中的lcu组中信令通知样点表的值。在一些实施例中，基于序列参数集(sps)、视频参数集(vps)、图片参数集(pps)、图片标头、条带标头、片组标头、最大编解码单元(lcu)行、或比特流表示中的lcu组来导出样点表的值。
[1071]
图33是表示根据本技术的用于视频处理的方法3300的流程图。方法3300包括，在操作3310处，对于视频的当前块和所述视频的比特流表示之间的转换，在相邻块位于所述当前块的上方和左侧的情况下，确定在所述当前块的最可能模式(mpm)候选列表的构造期间，将以调色板模式编解码的所述当前块的所述相邻块处理为具有默认模式的帧内编解码
块。方法3300还包括，在操作3320处，根据所述确定执行所述转换。
[1072]
在一些实施例中，所述默认模式包括平面模式。在一些实施例中，所述默认模式包括dc模式、垂直模式或水平模式。在一些实施例中，所述默认模式是在依赖性参数集、序列参数集、视频参数集、图片参数集(pps)、图片标头、条带标头、片组标头、最大编解码单元(lcu)、编解码单元(cu)、lcu行、lcu组、变换单元(tu)、预测单元(pu)块或所述比特流表示中的视频编解码单元中信令通知。
[1073]
图34是表示根据本技术的用于视频处理的方法3400的流程图。方法3400包括，在操作3410处，对于在视频的比特流表示中被编解码为调色板模式编解码块的视频的块，根据规则确定用于解块滤波的参数。方法3400还包括，在操作3420处，使用用于解块滤波的所述参数在所述视频的块和所述比特流表示之间执行转换。
[1074]
在一些实施例中，所述规则指定：针对确定用于解块滤波的所述参数，将所述块视为所述视频的帧内编解码块。
[1075]
在一些实施例中，在以所述调色板模式对所述块的边界的第一侧或所述块的边界的第二侧进行编解码的情况下，所述解块滤波的边界强度为2。在一些实施例中，在以所述调色板模式对所述块的边界的第一侧和所述块的边界的第二侧进行编解码的情况下，将所述解块滤波的边界强度确定为2。在一些实施例中，所述规则指定：针对确定用于解块滤波的所述参数，将所述块视为所述视频的帧间编解码块。
[1076]
在一些实施例中，所述规则指定：针对确定用于解块滤波的所述参数，将所述调色板模式与所述解块滤波中的其他模式分开地对待。在一些实施例中，在以所述调色板模式对所述块的边界的第一侧或所述块的边界的第二侧进行编解码的情况下，将所述解块滤波的边界强度确定为0。在一些实施例中，在以所述调色板模式对所述块的边界的第一侧进行编解码、并且在以帧内块复制(ibc)模式对所述块的边界的第二侧进行编解码的情况下，所述解块滤波的边界强度为1。在一些实施例中，在以所述调色板模式对所述块的边界的第一侧进行编解码、并且在以帧内模式对所述块的边界的第二侧进行编解码的情况下，所述解块滤波的边界强度为2。
[1077]
在一些实施例中，所述规则指定：针对确定用于解块滤波的所述参数，在所述解块滤波中将所述调色板模式视为变换跳过模式。在一些实施例中，所述规则指定：针对确定用于解块滤波的所述参数，在所述解块滤波中将所述调色板模式视为基于块的增量脉冲编解码调制(bdpcm)模式。
[1078]
图35是表示根据本技术的用于视频处理的方法3500的流程图。方法3500包括，在操作3410处，对于在视频的当前块和所述视频的比特流表示之间的转换，确定在所述当前块的最可能模式(mpm)候选列表的构造期间，将以调色板模式编解码的所述当前块的相邻块处理为非帧内编解码块。方法3500还包括，在操作3520处，基于所述确定执行所述转换。
[1079]
在一些实施例中，在所述相邻块位于所述当前块的上方或左侧的情况下，将所述相邻块处理为帧间编解码块。在一些实施例中，在所述相邻块位于所述当前块的上方或左侧的情况下，将所述相邻块处理为帧内块复制ibc编解码块。
[1080]
图36a是表示根据本技术的用于视频处理的方法3600的流程图。方法3600包括，在操作3610处，为视频的块确定与所述块相关联的量化参数。该方法3600包括，在操作3620处，部分地基于所述量化参数的修改值，将所述视频的块编解码为所述视频的比特流表示，
作为调色板编解码块。该方法还包括，在操作3630处，在所述比特流表示中信令通知与所述量化参数有关的编解码信息。
[1081]
图36b是表示根据本技术的用于视频处理的方法3650的流程图。方法3650包括，在操作3660处，基于视频的比特流表示导出量化参数。该方法3650还包括，在操作3670处，部分地基于通过修改所述量化参数确定的修改后的量化参数，来对调色板编解码块进行解码。
[1082]
在一些实施例中，基于为所述量化参数设置最高限制来修改所述量化参数。在一些实施例中，基于为所述量化参数设置最低限制来修改所述量化参数。在一些实施例中，以与第二量化参数相同的方式来修改所述量化参数，所述第二量化参数与以变换跳过模式编解码的块相关联。在一些实施例中，以与第三量化参数相同的方式来修改所述量化参数，所述第三量化参数与以基于块的增量脉冲编解码调制(bdpcm)模式编解码的块相关联。
[1083]
在一些实施例中，所述量化参数被表示为qp，并且其中，修改所述量化参数包括：将qp的值修改为max(qp,4 t)，t是非负整数值。在一些实施例中，t基于预定阈值。在一些实施例中，t是4 ts，并且其中，在所述比特流表示中信令通知ts。在一些实施例中，在所述比特流表示中的语法元素min_qp_prime_ts_minus4中信令通知ts。
[1084]
图37是表示根据本技术的用于视频处理的方法3700的流程图。方法3700包括，在操作3710处，对于在视频的比特流表示中被编解码为调色板编解码块的视频的块，确定所述块的逸出样点在所述比特流表示中的表示，而不管是否对所述块启用了旁路模式。该方法3700还包括，在操作3720处，基于所述确定在所述块与所述比特流表示之间执行转换。
[1085]
在一些实施例中，使用固定长度在所述比特流表示中表示所述逸出样点。在一些实施例中，所述固定长度包括n个比特，n是正整数。在一些实施例中，n为8或10。
[1086]
在一些实施例中，使用基于所述块的内部比特深度确定的长度在所述比特流表示中表示所述逸出样点。在一些实施例中，使用基于所述块的输入比特深度确定的长度在所述比特流表示中表示所述逸出样点。在一些实施例中，使用基于所述块的量化参数确定的长度在所述比特流表示中表示所述逸出样点。在一些实施例中，所述长度被定义为表示为f(qp)的量化参数的函数。在一些实施例中，所述块的内部比特深度是d，并且其中，f(qp)＝(d-(qp-4)/6)。
[1087]
图38是表示根据本技术的用于视频处理的方法3800的流程图。方法3800包括，在操作3810处，对于在视频的比特流表示中被编解码为调色板编解码块的视频的块，确定第一量化处理。所述第一量化处理不同于适用于非调色板模式编解码块的第二量化处理。该方法3800还包括，在操作3820处，基于所述确定在所述块与所述比特流表示之间执行转换。
[1088]
在一些实施例中，所述第一量化处理包括将所述块的逸出样点向右移位以对所述逸出样点进行量化。在一些实施例中，所述第一量化处理包括将所述块的逸出样点向左移位以对所述逸出样点进行逆量化。在一些实施例中，将样点表示为p，并且将量化样点表示为qp，并且其中，将所述逸出样点的值编解码为p和qp的函数，将其表示为f(p，qp)。在一些实施例中，f(p，qp)＝p》》((qp-4)/6)。在一些实施例中，将样点表示为p，并且将所述逸出样点的值编解码为p》》n，n是整数。在一些实施例中，n为2。在一些实施例中，基于与所述块相关联的特性来确定n。
[1089]
在一些实施例中，所述特性包括在序列参数集、视频参数集、图片参数集、图片标
头、条带标头、片组标头、最大编解码单元(lcu)行或lcu组中信令通知的值。在一些实施例中，所述特性包括所述块的内部比特深度。在一些实施例中，所述特性包括所述块的输入比特深度。在一些实施例中，所述特性包括所述块的维度。在一些实施例中，所述特性包括所述块的量化参数。在一些实施例中，所述特性包括所述块的颜色格式的指示。在一些实施例中，所述特性包括所述块的编解码树结构。在一些实施例中，所述特性包括与所述块相关联的条带类型、片组类型或图片类型。
[1090]
在一些实施例中，将样点表示为p，将与所述块相关联的比特深度表示为bd，并且将量化样点表示为qp，并且其中将所述逸出样点的值信令通知为bd、p和qp的函数，将其表示为f(bd,p,qp)。在一些实施例中，f(bd,p,qp)＝clip(0,(1《《(bd-(qp-4)/6))-1,(p (1《《(bd-1)))》》((qp-4)/6))。在一些实施例中，f(bd,p,qp)＝clip(0,(1《《bd)-1,p《《((qp-4)/6))。在一些实施例中，将clip定义为clip(a,i,b)＝(i《a？a:(i》b？b:i))。在一些实施例中，将clip定义为：clip(a,i,b)＝(i《＝a？a:(i》＝b？b:i))。在一些实施例中，所述比特深度包括内部比特深度或输入比特深度。
[1091]
所公开技术的一些实施例包含做出决策或确定以启用视频处理工具或模式。在示例中，当启用视频处理工具或模式时，编码器将在视频块的处理中使用或实现该工具或模式，但是不一定基于该工具或模式的使用来修改结果比特流。也就是说，从视频块到视频的比特流表示的转换将在基于决策或确定启用视频处理工具或模式时使用视频处理工具或模式。在另一示例中，当启用视频处理工具或模式时，解码器将基于视频处理工具或模式已经知道比特流已被修改的情况下处理比特流。也就是说，将使用基于决策或确定而启用的视频处理工具或模式来执行从视频的比特流表示到视频块的转换。
[1092]
所公开技术的一些实施例包含作出决策或确定以禁用视频处理工具或模式。在示例中，当禁用视频处理工具或模式时，编码器将在视频块到视频的比特流表示的转换中不使用该工具或模式。在另一示例中，当禁用视频处理工具或模式时，解码器将在知道尚未使用基于决策或确定启用的视频处理工具或模式修改比特流的情况下处理比特流。
[1093]
本文件中描述的公开的和其他解决方案、示例、实施例、模块和功能操作可以在、数字电子电路中实施，或者在计算机软件、固件或硬件中实施，包括本文件中公开的结构及其结构等同物，或者以他们的一个或多个的组合实施。所公开的和其他实施例可以被实施为一个或多个计算机程序产品，即，在计算机可读介质上编码的一个或多个计算机程序指令模块，用于由数据处理装置运行或控制数据处理装置的操作。计算机可读介质可以是机器可读存储设备、机器可读存储基板、存储器设备、影响机器可读传播信号的物质的合成、或者它们中的一个或多个的组合。术语“数据处理装置”包括用于处理数据的所有装置、设备和机器，包括例如可编程处理器、计算机或者多个处理器或计算机。除了硬件之外，装置可以包括为所讨论的计算机程序创建运行环境的代码，例如，构成处理器固件、协议栈、数据库管理系统、操作系统及其一个或多个的组合的代码。传播的信号是人工产生的信号，例如机器产生的电、光或电磁信号，其被产生以对信息进行编码以传输到合适的接收器装置。
[1094]
计算机程序(也称为程序、软件、软件应用、脚本或代码)可以用任何形式的编程语言(包括编译语言或解释语言)编写，并且可以以任何形式部署，包括作为独立程序或作为模块、组件、子程序或其他适合在计算环境中使用的单元。计算机程序不一定与文件系统中的文件相对应。程序可以存储在保存其他程序或数据的文件的部分中(例如，存储在标记语
言文件中的一个或多个脚本)、专用于所讨论的程序的单个文件中、或多个协调文件(例如，存储一个或多个模块、子程序或部分代码的文件)中。计算机程序可以部署在一台或多台计算机上来执行，这些计算机位于一个站点或分布在多个站点并通过通信网络互连。
[1095]
本文件中描述的处理和逻辑流可以由一个或多个可编程处理器执行，该一个或多个处理器运行一个或多个计算机程序，通过对输入数据进行操作并生成输出来执行功能。处理和逻辑流也可以由专用逻辑电路来执行，并且装置也可以实施为专用逻辑电路，例如，fpga(现场可编程门阵列)或asic(专用集成电路)。
[1096]
例如，适用于运行计算机程序的处理器包括通用和专用微处理器、以及任何类型的数字计算机的任何一个或多个处理器。通常，处理器将从只读存储器或随机存取存储器或两者接收指令和数据。计算机的基本元件是执行指令的处理器和存储指令和数据的一个或多个存储设备。通常，计算机还将包括一个或多个用于存储数据的大容量存储设备，例如，磁盘、磁光盘或光盘，或可操作地耦合到一个或多个大容量存储设备，以从其接收数据或向其传送数据，或两者兼有。然而，计算机不一定需要具有这样的设备。适用于存储计算机程序指令和数据的计算机可读介质包括所有形式的非易失性存储器、介质和存储器设备，包括例如半导体存储器设备，例如eprom、eeprom和闪存设备；磁盘，例如内部硬盘或可移动磁盘；磁光盘；以及cd rom和dvd-rom磁盘。处理器和存储器可以由专用逻辑电路来补充，或合并到专用逻辑电路中。
[1097]
虽然本专利文件包含许多细节，但不应将其解释为对任何主题或要求保护的范围的限制，而应解释为特定于特定发明的特定实施例的特征的描述。本专利文件在分离的实施例的上下文描述的某些特征也可以在单个实施例中组合实施。相反，在单个实施例的上下文中描述的各种功能也可以在多个实施例中单独地实施，或在任何合适的子组合中实施。此外，虽然特征可以被描述为在某些组合中起作用，甚至最初这样要求保护，但在某些情况下，可以从要求保护的组合中移除组合中的一个或多个特征，并且要求保护的组合可以指向子组合或子组合的变体。
[1098]
同样，尽管在附图中以特定顺序描述了操作，但这不应理解为要获得期望的结果必须按照所示的特定顺序或次序顺序来执行这些操作，或执行所有示出的操作。此外，本专利文件所述实施例中的各种系统组件的分离不应理解为在所有实施例中都需要这样的分离。
[1099]
仅描述了一些实现方式和示例，其他实现方式、增强和变体可以基于本专利文件中描述和说明的内容做出。