一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

用于视频编码的方法和装置与流程

2021-11-06 00:43:00 来源:中国专利 TAG:

用于视频编码的方法和装置
1.交叉引用
2.本技术要求于2020年7月13日提交的标题为“method and apparatus for video coding”的美国专利申请第16/927,635号(其要求于2019年7月15日提交的标题为“intra prediction mode mapping and filter disabling for palette coded blocks”的美国临时申请第62/874,255号的优先权权益,以及于2019年10月8日提交的标题为“high level control of deblocking usage for screen content coding”的美国临时申请第62/912,310号的优先权权益)的优先权权益。在先申请的全部内容通过引用整体并入本文。
技术领域
3.本公开描述了总体上涉及视频编码的实施例。


背景技术:

4.本文所提供的背景描述是出于总体上呈现本公开的内容的目的。在该背景部分中描述的范围内,目前命名的发明人的作品以及提交之时不可另行具备现有技术资格的本描述的各方面既未明确、亦未默示地承认为本公开的现有技术。
5.可以使用具有运动补偿的帧间图片预测来执行视频编码和解码。未压缩的数字视频可以包括一系列图片,每个图片具有例如1920x1080亮度样本及相关联的色度样本的空间维度。该一系列图片可以具有固定的或可变的图片速率(也非正式地称为帧率),例如每秒60幅图片或60hz。未压缩的视频具有很高的比特率要求。例如,在每样本8比特下,1080p60 4:2:0的视频(在60hz帧率下具有1920x1080亮度样本分辨率)需要接近1.5gbit/s的带宽。一小时的此类视频需要600千兆字节以上的存储空间。
6.视频编码和解码的一个目的可以是通过压缩来减少输入视频信号中的冗余。压缩可以有助于减小上述带宽和/或存储空间需求,在某些情况下可以减小两个数量级或大于两个数量级。可以采用无损压缩和有损压缩以及它们的组合。无损压缩是指可以从已压缩的原始信号中重建原始信号的精确副本的技术。当使用有损压缩时,已重建信号可能与原始信号不同,但是原始信号和已重建信号之间的失真足够小,以使已重建信号可用于预期应用。在视频的情况下,广泛使用有损压缩。可容忍的失真量取决于应用,例如某些消费流式应用的用户相比电视分布应用的用户来说可以容忍更高的失真。可实现的压缩率可以反映:更高的可允许/可容许的失真可以产生更高的压缩率。
7.视频编码器和解码器可以采用来自若干广泛类别的技术,包括例如运动补偿、变换、量化和熵编码。
8.视频编解码器技术可以包括被称为帧内编码的多种技术。在帧内编码中,在不参考来自先前已重建的参考图片的样本或其它数据的情况下来表示样本值。在一些视频编解码器中,图片在空间上被细分为样本块。当所有样本块都以帧内模式进行编码时,图片可以为帧内图片。帧内图片及其派生图片(例如,独立解码器刷新图片)可用于重置解码器状态,且因此可用作已编码视频比特流和视频会话中的第一张图片,或用作静态图片。可以对帧
内块的样本进行变换,并且可以在熵编码之前对变换系数进行量化。帧内预测可以是最小化预变换域中的样本值的技术。在一些情况下,变换之后的dc值越小且ac系数越小,在给定的量化步长下需要越少的比特来表示熵编码之后的块。
9.传统的帧内编码(例如从诸如mpeg

2生成编码技术中已知的帧内编码)不使用帧内预测。然而,一些较新的视频压缩技术包括尝试根据例如周围样本数据和/或元数据的技术,该周围样本数据和/或元数据是在空间相邻的以及解码顺序中靠前的数据块的编码/解码过程中获得的。此类技术在后文中被称为“帧内预测”技术。值得注意,至少在一些情况下,帧内预测仅使用来自正在重建的当前图片而非参考图片的参考数据。
10.可以存在许多不同形式的帧内预测。当在给定的视频编码技术中使用多于一种此类技术时,可以以帧内预测模式来编码所使用的技术。在一些情况下,模式可以具有多种子模式和/或多种参数,并且这些子模式和参数可以被单独编码或者被包含在模式码字中。针对给定的模式/子模式/参数组合使用哪一种码字可以通过帧内预测对编码效率增益产生影响,并且用于将码字转换为比特流的熵编码技术也与此类似。
11.在h.264中介绍了一种帧内预测模式,此种帧内预测模式在h.265中被改进,并且在联合探索模型(jem)、通用视频编码(vvc)和基准集(bms)等较新的编码技术中进一步完善。可以使用属于已为可用样本的相邻样本值来形成预测块。根据方向将相邻样本的样本值复制到预测块中。对使用中的方向的参考可以在比特流中进行编码或者其本身可以被预测。
12.参考图1a,在图1a的右下方描绘了从h.265的33个可能的预测方向(对应于35个帧内模式的33个角度模式)中已知的9个预测方向的子集。箭头会聚的点(101)表示被预测的样本。箭头表示预测样本的方向。例如,箭头(102)表示样本(101)是根据与水平方向成45度角的右上方的一个或多个样本来预测的。类似地,箭头(103)表示样本(101)是根据与水平方向成22.5度角的样本(101)左下方的一个或多个样本来预测的。
13.仍然参考图1a,在图1a的左上方描绘了4
×
4个样本的正方形块(104)(由虚粗体线表示)。正方形块(104)包括16个样本,每个样本标记为“s”,其在y维度中的位置(例如,行索引)和其在x维度中的位置(例如,列索引)。例如,样品s21是y维度上的第二个样本(从顶侧开始)和x维度上的第一个样本(从左侧开始)。类似地,样本s44是块(104)中在y维度上和x维度上的第四个样本。由于块的大小是4
×
4个样本,因此样本s44位于右下方。还示出了遵循类似编号方案的参考样本。参考样本被标记为r,其相对于块(104)以y位置(例如,行索引)和x位置(列索引)来标记。在h.264和h.265中,预测样本与正在重建的块相邻;因此,不需要使用负值。
14.帧内图片预测通过根据由信号通知的预测方向所占用相邻样本中复制参考样本值来工作。例如,假设已编码视频比特流包括对于该块指示与箭头(102)一致的预测方向的信令,即,根据与水平方向成45度角的右上方的一个或多个预测样本来预测样本。在此种情况下,根据相同的参考样本r05来预测样本s41、s32、s23和s14。然后根据参考样本r08预测样本s44。
15.在一些情况下,尤其是当预测方向无法被45度整除时,多个参考样本的值可以进行组合,例如通过内插,从而计算参考样本。
16.随着视频编码技术的发展,可能的预测方向的数量已经增加。在h.264(2003年)
中,可以表示9个不同的预测方向。其在h.265(2013年)中增加到33个,而jem/vvc/bms在公开时可以支持多达65个方向。已经进行了实验以识别最可能的方向,并且熵编码中的某些技术用于以少量比特来表示那些可能的方向,从而对于不太可能的方向接受一定的惩罚。此外,有时可以根据在相邻的已解码的块中使用的相邻方向来预测方向本身。
17.图1b示出了描绘了根据jem的65个帧内预测方向的示意图(180),以示出预测方向的数量随时间增加。
18.已编码视频比特流中表示方向的帧内预测方向比特的映射可以根据视频编码技术不同而不同;并且该帧内预测方向比特的映射范围可以为例如从预测方向到帧内预测模式、到码字、到涉及最可能模式的复杂自适应方案(以及类似的技术)的简单直接映射。然而,在所有情况下,与其它方向相比,某些方向上在统计上不太可能出现在视频内容中。由于视频压缩的目标是减少冗余,因此在运行良好的视频编码技术中,那些不太可能的方向将需要使用比更有可能的方向更多的比特来表示。
19.可以使用具有运动补偿的帧间图片预测来执行视频编码和解码。未压缩的数字视频可以包括一系列图片,每个图片具有例如1920x1080亮度样本及相关联的色度样本的空间维度。该一系列图片可以具有固定的或可变的图片速率(也非正式地称为帧率),例如每秒60幅图片或60hz。未压缩的视频具有很高的比特率要求。例如,在每样本8比特下,1080p60 4:2:0的视频(在60hz帧率下具有1920x1080亮度样本分辨率)需要接近1.5gbit/s的带宽。一小时的此类视频需要600 0千兆字节以上的存储空间。
20.视频编码和解码的一个目的可以是通过压缩来减少输入视频信号中的冗余。压缩可以有助于减小上述带宽或存储空间需求,在某些情况下可以减小两个数量级或大于两个数量级。可以采用无损压缩和有损压缩以及它们的组合。无损压缩是指可以从已压缩的原始信号中重建原始信号的精确副本的技术。当使用有损压缩时,已重建信号可能与原始信号不同,但是原始信号和已重建信号之间的失真足够小,以使已重建信号可用于预期应用。在视频的情况下,广泛使用有损压缩。可容忍的失真量取决于应用,例如某些消费流式应用的用户相比电视分布应用的用户来说可以容忍更高的失真。可实现的压缩率可以反映:更高的可允许/可容许的失真可以产生更高的压缩率。
21.运动补偿可以是有损压缩技术,且可以涉及下述技术:来自先前已重建的图片或其部分(参考图片)的样本数据的块在沿着由运动矢量(此后称为mv)指示的方向空间偏移之后,被用于预测新重建的图片或图片部分。在一些情况下,参考图片可以与当前正在重建的图片相同。mv可以具有x和y两个维度,或具有三个维度,第三个维度指示正在使用的参考图片(后者间接地可以是时间维度)。
22.在一些视频压缩技术中,可以根据其他mv(例如根据在空间上与正在重建的区域相邻的另一个区域的样本数据相关并且解码顺序在该mv之前的那些mv)来预测适用于某些区域的样本数据的mv。这样做可以大大减少编码mv所需的数据量,从而消除冗余并增加压缩率。mv预测可以有效地工作,例如由于在对从相机获得的输入视频信号(称为自然视频)进行编码时,存在以下统计可能性:比单个mv所适用的区域更大的区域在相似的方向上移动,因此在某些情况下,可以使用从相邻区域的mv导出的相似运动矢量来预测该更大的区域。这使得为给定区域找到的mv与根据周围mv所预测的mv相似或相同,进而在熵编码之后,该为给定区域找到的mv可以用比直接编码mv时所使用的比特位数更少的位数来表示。在一
些情况下,mv预测可以是从原始信号(即,样本流)中导出的信号(即,mv)的无损压缩的示例。在其他情况下,例如由于根据多个周围mv计算预测值时的舍入误差,因此mv预测本身可以是有损的。
23.h.265/hevc(itu

t建议书h.265,“高效视频编解码(high efficiency video coding)”,2016年12月)中描述了各种mv预测机制。在h.265提供的多种mv预测机制中,本技术描述的是下文称作“空间合并”的技术。
24.参考图2,当前块(201)包括在运动搜索过程期间已由编码器发现的样本,可以根据已产生空间偏移的相同大小的先前块来预测该样本。不同于直接编码mv,可从使用与被标记为a0、a1和b0、b1、b2(分别对应202到206)的五个周围样本中的任一样本相关联的mv从与一个或多个参考图片相关联的元数据(例如,(按解码次序)最近的参考图片的元数据)中导出mv。在h.265中,mv预测可以使用相邻块正在使用的相同参考图片的预测值。


技术实现要素:

25.本公开的各个方面提供了用于视频编码/解码的方法和装置。在一些示例中,用于视频解码的装置包括处理电路。处理电路根据已编码视频比特流来解码当前块的编码信息,其中,编码信息指示当前块的第一预测模式为多个屏幕内容编码(scc)工具之一。处理电路基于当前块的第一预测模式和当前块的第一量化参数(qp)中的至少之一来确定与当前块相关联的至少一个环路滤波器是否被禁用。当确定至少一个环路滤波器被禁用时,处理电路可以在不使用至少一个环路滤波器的情况下,对当前块进行重建。
26.在一个实施例中,至少一个环路滤波器为用于当前块与当前块的相邻块之间的边界的解块滤波器(dbf)。第一预测模式为帧内块复制(ibc)模式或调色板编码模式。处理电路可以基于以下至少之一来确定用于当前块与相邻块之间的边界的dbf是否被禁用:(i)当前块的第一预测模式,(ii)相邻块的第二预测模式,(iii)当前块的第一qp,以及(iv)相邻块的第二qp。在示例中,处理电路可以基于第一预测模式和第二预测模式中至少之一来确定用于当前块与相邻块之间的边界的dbf是否被禁用。在示例中,当第一预测模式和第二预测模式中至少之一为ibc模式或调色板编码模式时,处理电路可以确定用于当前块与相邻块之间的边界的dbf被禁用。
27.在示例中,当(i)第一qp小于阈值,或者,第一qp和第二qp小于阈值,并且(ii)第一预测模式和第二预测模式之一为调色板编码模式或ibc模式时,处理电路可以确定用于当前块与相邻块之间的边界的dbf被禁用。
28.在一个实施例中,当前块的第一预测模式为ibc模式或调色板编码模式。当前块的至少一个环路滤波器包括以下至少之一:自适应环路滤波器、样本自适应偏移滤波器和双边滤波器。处理电路可以基于第一qp和第一预测模式来确定至少一个环路滤波器是否被禁用。
29.本公开的各个方面提供了用于视频编码/解码的方法和装置。在一些示例中,用于视频解码的设备包括处理电路。处理电路根据已编码视频比特流,对包含有当前块的块组的编码信息进行解码。编码信息指示与块组相关联的滤波器控制标记,并且采用屏幕内容编码scc工具对当前块进行编码。处理电路基于滤波器控制标记,确定当前块的至少一个环路滤波器是否被禁用,以及当确定至少一个环路滤波器被禁用时,在不使用至少一个环路
滤波器的情况下对当前块进行重建。
30.在一个实施例中,处理电路可以基于滤波器控制标记来确定当前块的至少一个环路滤波器被禁用,该滤波器控制标记与块组相关联或特定于scc工具。
31.在一个实施例中,处理电路可以基于与块组相关联的滤波器控制标记,确定当前块的至少一个环路滤波器是否被禁用。
32.在一个实施例中,滤波器控制标记特定于scc工具。
33.在一个实施例中,滤波器控制标记特定于scc工具或适用于包括该scc工具的多个scc工具。基于是否在高于块级别的级别上通过信号通知scc标记,以指示针对高于块级别的级别启用了一个或多个scc工具,来有条件地通过信号通知滤波器控制标记。
34.在一个实施例中,滤波器控制标记特定于scc工具,并且基于是否在高于块级别的级别上通过信号通知scc标记以指示针对高于块级别的级别启用了scc工具,来有条件地通过信号通知滤波器控制标记。
35.在一个实施例中,滤波器控制标记适用于包括scc工具的多个scc工具,并且基于是否在高于块级别的级别上通过信号通知scc标记以指示针对高于块级别的级别启用了多个scc工具,来有条件地通过信号通知滤波器控制标记。
36.在一个实施例中,滤波器控制标记适用于包括scc工具的多个scc工具,并且基于是否在高于块级别的级别上通过信号通知scc标记以指示针对高于块级别的级别启用了scc工具,来有条件地通过信号通知滤波器控制标记。
37.在一个实施例中,处理电路可以基于滤波器控制标记和当前块的qp来确定至少一个环路滤波器是否被禁用。
38.在一个实施例中,至少一个环路滤波器包括用于块组中的当前块与相邻块之间的边界的解块滤波器dbf。并且处理电路可以基于滤波器控制标记,以及(i)scc工具和(ii)相邻块的预测模式中的至少一个来确定用于当前块与相邻块之间的边界的dbf是否被禁用。
39.在一个实施例中,至少一个环路滤波器包括以下至少之一:解块滤波器dbf、自适应环路滤波器、样本自适应偏移滤波器和双边滤波器。可以以下面中的一个或多个来通过信号通知滤波器控制标记:序列参数集(sps)、图片参数集(pps)、图片头、切片头、图块组级别和图片级别。scc工具包括:(i)帧内块复制(ibc)模式、(ii)调色板编码模式、(iii)块差分脉冲编码调制(bdpcm)模式和(iv)变换跳过模式。
40.本公开的各个方面还提供一种存储指令的非暂时性计算机可读介质,该指令在由用于视频解码的计算机执行时,使得计算机执行上文所述的用于视频解码的方法。
附图说明
41.通过以下详细描述和附图,所公开的主题的其他特征、性质和各种优点将更加明显,在附图中:
42.图1a是帧内预测模式的示例性子集的示意图。
43.图1b是示例性帧内预测方向的示意图。
44.图2是根据一个示例的当前块及其周围的空间合并候选的示意图。
45.图3是根据一个实施例的通信系统(300)的简化框图的示意图。
46.图4是根据一个实施例的通信系统(400)的简化框图的示意图。
47.图5是根据一个实施例的解码器的简化框图的示意图。
48.图6是根据一个实施例的编码器的简化框图的示意图。
49.图7示出了根据另一实施例的编码器的框图。
50.图8示出了根据另一实施例的解码器的框图。
51.图9示出了根据本公开的一个实施例的帧内块复制的示例。
52.图10a至图10d示出了根据本公开的一个实施例的帧内块复制的示例。
53.图11示出了根据本公开的一个实施例的变换跳过残差编码过程的示例。
54.图12示出了根据本公开的一个实施例的用于确定边界强度值的示例性过程(1200)的流程图。
55.图13示出了根据本公开的一些实施例的解块滤波过程的示例。
56.图14示出了根据本公开的一个实施例的概述过程(1400)的流程图。
57.图15示出了根据本公开的一个实施例的概述过程(1500)的流程图。
58.图16是根据一个实施例的计算机系统的示意图。
具体实施方式
59.图3示出了根据本公开的一个实施例的通信系统(300)的简化框图。通信系统(300)包括多个终端装置,该终端装置可通过例如网络(350)彼此通信。举例来说,通信系统(300)包括通过网络(350)互连的第一终端装置对(310)和(320)。在图3的示例中,第一终端装置对(310)和(320)执行单向数据传输。举例来说,终端装置(310)可对视频数据(例如由终端装置(310)采集的视频图片流)进行编码以通过网络(350)传输到另一终端装置(320)。已编码视频数据可以以一个或多个已编码视频比特流的形式传输。终端装置(320)可从网络(350)接收已编码视频数据,对已编码视频数据进行解码以恢复视频图片,并根据恢复的视频数据显示视频图片。单向数据传输在媒体服务等应用中是较常见的。
60.在另一示例中,通信系统(300)包括执行已编码视频数据的双向传输的第二终端装置对(330)和(340),该双向传输可例如在视频会议期间发生。对于双向数据传输,在一示例中,终端装置(330)和终端装置(340)中的每个终端装置可对视频数据(例如由终端装置采集的视频图片流)进行编码,以通过网络(350)传输到终端装置(330)和终端装置(340)中的另一终端装置。终端装置(330)和终端装置(340)中的每个终端装置还可接收由终端装置(330)和终端装置(340)中的另一终端装置传输的已编码视频数据,且可对该已编码视频数据进行解码以恢复视频图片,且可根据恢复的视频数据在可访问的显示装置上显示视频图片。
61.在图3的示例中,终端装置(310)、终端装置(320)、终端装置(330)和终端装置(340)可被示出为服务器、个人计算机和智能电话,但本公开的原理可不限于此。本公开的实施例适用于膝上型计算机、平板电脑、媒体播放器和/或专用视频会议设备。网络(350)表示在终端装置(310)、终端装置(320)、终端装置(330)和终端装置(340)之间传送已编码视频数据的任何数量的网络,包括例如有线(连线的)和/或无线通信网络。通信网络(350)可在电路交换和/或分组交换信道中交换数据。代表性的网络包括电信网络、局域网、广域网和/或互联网。出于本讨论的目的,除非在下文中有所解释,否则网络(350)的架构和拓扑对于本公开的操作来说可能是无关紧要的。
62.作为所公开的主题的应用的示例,图4示出了视频编码器和视频解码器在流式传输环境中的放置方式。所公开的主题可同等地适用于其它支持视频的应用,包括例如视频会议、数字tv、在包括cd、dvd、存储棒等的数字介质上存储压缩视频等等。
63.流式传输系统可包括采集子系统(413),该采集子系统可包括例如数码相机的视频源(401),该视频源创建例如未压缩的视频图片流(402)。在示例中,视频图片流(402)包括由数码相机拍摄的样本。相较于已编码视频数据(404)(或已编码视频比特流),被描绘为粗线以强调高数据量的视频图片流(402)可由电子装置(420)处理,该电子装置(420)包括耦接到视频源(401)的视频编码器(403)。视频编码器(403)可包括硬件、软件或软硬件组合以实现或实施如下文更详细地描述的所公开的主题的各方面。相较于视频图片流(402),被描绘为细线以强调较低数据量的已编码视频数据(404)(或已编码视频比特流(404))可存储在流式传输服务器(405)上以供将来使用。一个或多个流式传输客户端子系统,例如图4中的客户端子系统(406)和客户端子系统(408),可访问流式传输服务器(405)以检索已编码视频数据(404)的副本(407)和副本(409)。客户端子系统(406)可包括例如电子装置(430)中的视频解码器(410)。视频解码器(410)对已编码视频数据的传入副本(407)进行解码,且产生可在显示器(412)(例如显示屏)或另一呈现装置(未描绘)上呈现的输出视频图片流(411)。在一些流式传输系统中,可根据某些视频编码/压缩标准对已编码视频数据(404)、已编码视频数据(407)和已编码视频数据(409)(例如视频比特流)进行编码。该些标准的示例包括itu

t建议书h.265。在示例中,正在开发的视频编码标准非正式地称为下一代视频编码(versatile video coding,vvc),所公开的主题可用于vvc的上下文中。
64.应注意,电子装置(420)和电子装置(430)可包括其它组件(未示出)。举例来说,电子装置(420)可包括视频解码器(未示出),且电子装置(430)还可包括视频编码器(未示出)。
65.图5示出了根据本公开的一个实施例的视频解码器(510)的框图。视频解码器(510)可包括在电子装置(530)中。电子装置(530)可包括接收器(531)(例如接收电路)。视频解码器(510)可用于代替图4的示例中的视频解码器(410)。
66.接收器(531)可接收将由视频解码器(510)解码的一个或多个已编码视频序列;在同一实施例或另一实施例中,一次接收一个已编码视频序列,其中每个已编码视频序列的解码独立于其它已编码视频序列的解码。可从信道(501)接收已编码视频序列,该信道可以是通向存储已编码视频数据的存储装置的硬件/软件链路。接收器(531)可接收可转发到它们各自的使用实体(未描绘)的已编码视频数据以及其它数据,例如,已编码音频数据和/或辅助数据流。接收器(531)可将已编码视频序列与其它数据分开。为了防止网络抖动,缓冲存储器(515)可耦接在接收器(531)与熵解码器/解析器(520)(此后称为“解析器(520)”)之间。在某些应用中,缓冲存储器(515)是视频解码器(510)的一部分。在其它情况下,缓冲存储器(515)可设置在视频解码器(510)外部(未描绘)。而在其它情况下,在视频解码器(510)外部可设置缓冲存储器(未描绘)以例如防止网络抖动,且在视频解码器(510)内部可设置另一缓冲存储器(515)以例如处理播出定时。当接收器(531)从具有足够带宽和可控性的存储/转发装置或从等时同步网络接收数据时,可能不需要缓冲存储器(515),或可以将该缓冲存储器做得较小。为了在互联网等业务分组网络上使用,可能需要缓冲存储器(515),该缓冲存储器可相对较大且可有利地具有自适应性大小,且可至少部分地实施于操作系统或
视频解码器(510)外部的类似元件(未描绘)中。
67.视频解码器(510)可包括解析器(520)以根据已编码视频序列重建符号(521)。这些符号的类别包括用于管理视频解码器(510)的操作的信息,以及用以控制显示装置(512)(例如,显示屏)等显示装置的潜在信息,该显示装置不是电子装置(530)的整体部分,但可耦接到电子装置(530),如图4所示。用于显示装置的控制信息可以是辅助增强信息(sei消息)或视频可用性信息(vui)的参数集片段(未描绘)的形式。解析器(520)可对接收到的已编码视频序列进行解析/熵解码。已编码视频序列的编码可根据视频编码技术或标准进行,且可遵循各种原理,包括可变长度编码、霍夫曼编码(huffman coding)、具有或不具有上下文灵敏度的算术编码等等。解析器(520)可基于对应于群组的至少一个参数,从已编码视频序列提取用于视频解码器中的像素的子群中的至少一个子群的子群参数集。子群可包括图片群组(gop)、图片、图块、切片、宏块、编码单元(cu)、块、变换单元(tu)、预测单元(pu)等等。解析器(520)还可从已编码视频序列提取信息,例如变换系数、量化器参数值、运动矢量等等。
68.解析器(520)可对从缓冲存储器(515)接收的视频序列执行熵解码/解析操作,从而创建符号(521)。
69.取决于已编码视频图片或一部分已编码视频图片(例如:帧间图片和帧内图片、帧间块和帧内块)的类型以及其它因素,符号(521)的重建可涉及多个不同单元。涉及哪些单元以及涉及方式可由解析器(520)从已编码视频序列解析的子群控制信息来控制。为了简洁起见,未描述解析器(520)与下文的多个单元之间的此类子群控制信息流。
70.除已经提及的功能块以外,视频解码器(510)可在概念上细分成如下文所描述的数个功能单元。在商业约束下运行的实际实施方式中,这些单元中的许多单元彼此紧密交互且可以至少部分地彼此集成。然而,出于描述所公开的主题的目的,概念上细分成下文的功能单元是适当的。
71.第一单元是缩放器/逆变换单元(551)。缩放器/逆变换单元(551)从解析器(520)接收作为符号(521)的量化变换系数以及控制信息,包括使用哪种变换方式、块大小、量化因子、量化缩放矩阵等。缩放器/逆变换单元(551)可输出包括样本值的块,该样本值可输入到聚合器(555)中。
72.在一些情况下,缩放器/逆变换单元(551)的输出样本可属于帧内编码块;即:不使用来自先前已重建的图片的预测性信息,但可使用来自当前图片的先前重建部分的预测性信息的块。此类预测性信息可由帧内图片预测单元(552)提供。在一些情况下,帧内图片预测单元(552)采用从当前图片缓冲器(558)提取的周围已重建信息生成大小和形状与正在重建的块相同的块。举例来说,当前图片缓冲器(558)缓冲部分重建的当前图片和/或完全重建的当前图片。在一些情况下,聚合器(555)基于每个样本,将帧内预测单元(552)生成的预测信息添加到由缩放器/逆变换单元(551)提供的输出样本信息中。
73.在其它情况下,缩放器/逆变换单元(551)的输出样本可属于帧间编码和潜在运动补偿块。在此情况下,运动补偿预测单元(553)可访问参考图片存储器(557)以提取用于预测的样本。在根据属于块的符号(521)对提取的样本进行运动补偿之后,这些样本可由聚合器(555)添加到缩放器/逆变换单元(551)的输出(在这种情况下被称作残差样本或残差信号),从而生成输出样本信息。运动补偿预测单元(553)从参考图片存储器(557)内的地址提
取预测样本可受到运动矢量控制,该运动矢量以符号(521)的形式而供运动补偿预测单元(553)使用,该符号(521)可以具有例如x、y和参考图片分量。运动补偿还可包括在使用子样本精确运动矢量时,从参考图片存储器(557)提取的样本值的内插、运动矢量预测机制等等。
74.聚合器(555)的输出样本可经受环路滤波器单元(556)中的各种环路滤波技术。视频压缩技术可包括环路内滤波器技术,该环路内滤波器技术受控于包括在已编码视频序列(也称作已编码视频比特流)中并作为来自解析器(520)的符号(521)可用于环路滤波器单元(556)的参数,然而,视频压缩技术还可响应于在解码已编码图片或已编码视频序列的先前(按解码次序)部分期间获得的元信息,以及响应于先前重建且经过环路滤波的样本值。
75.环路滤波器单元(556)的输出可以是样本流,该样本流可输出到显示装置(512)以及存储在参考图片存储器(557)中,以用于将来的帧间图片预测。
76.一旦完全重建,某些已编码图片就可用作参考图片以用于将来预测。举例来说,一旦对应于当前图片的已编码图片被完全重建,且已编码图片(通过例如解析器(520))被识别为参考图片,则当前图片缓冲器(558)可变为参考图片存储器(557)的一部分,且可在开始重建后续已编码图片之前重新分配新的当前图片缓冲器。
77.视频解码器(510)可根据例如itu

t建议书h.265标准中的预定视频压缩技术执行解码操作。在已编码视频序列遵循视频压缩技术或标准的语法以及视频压缩技术或标准中记录的配置文件的意义上,已编码视频序列可符合所使用的视频压缩技术或标准指定的语法。具体地说,配置文件可从视频压缩技术或标准中可用的所有工具中选择某些工具作为在该配置文件下可供使用的仅有工具。对于合规性,还可要求已编码视频序列的复杂度处于视频压缩技术或标准的层级所限定的范围内。在一些情况下,层级限制最大图片大小、最大帧率、最大重建样本率(以例如每秒兆(mega)个样本为单位进行测量)、最大参考图片大小等。在一些情况下,由层级设定的限制可通过假想参考解码器(hrd)规范和在已编码视频序列中用信号通知的hrd缓冲器管理的元数据来进一步限定。
78.在实施例中,接收器(531)可连同已编码视频的接收一起接收附加(冗余)数据。附加数据可以被包括作为已编码视频序列的一部分。附加数据可由视频解码器(510)使用以对数据进行适当解码和/或较准确地重建原始视频数据。附加数据可呈例如时间、空间或信噪比(signal noise ratio,snr)增强层、冗余切片、冗余图片、前向纠错码等形式。
79.图6示出了根据本公开的一个实施例的视频编码器(603)的框图。视频编码器(603)包括在电子装置(620)中。电子装置(620)包括传输器(640)(例如传输电路)。视频编码器(603)可用于代替图3的示例中的视频编码器(403)。
80.视频编码器(603)可从视频源(601)(并非图6的示例中的电子装置(620)的一部分)接收视频样本,该视频源可采集将由视频编码器(603)编码的视频图片。在另一示例中,视频源(601)是电子装置(620)的一部分。
81.视频源(601)可提供将由视频编码器(603)编码的呈数字视频样本流形式的源视频序列,该数字视频样本流可具有任何合适位深度(例如:8位、10位、12位
……
)、任何色彩空间(例如bt.601y crcb、rgb
……
)和任何合适取样结构(例如y crcb 4:2:0、y crcb 4:4:4)。在媒体服务系统中,视频源(601)可以是存储先前已准备的视频的存储装置。在视频会议系统中,视频源(601)可以是样本本地图片信息作为视频序列的相机。可将视频数据提供
为多个单独的图片,当按顺序观看时,这些图片被赋予运动。图片自身可构建为空间像素阵列,其中取决于所用的取样结构、色彩空间等,每个像素可包括一个或多个样本。所属领域的技术人员可以很容易理解像素与样本之间的关系。下文侧重于描述样本。
82.根据实施例,视频编码器(603)可实时或在由应用所要求的任何其它时间约束下,将源视频序列的图片编码且压缩成已编码视频序列(643)。施行适当的编码速度是控制器(650)的一个功能。在一些实施例中,控制器(650)控制如下文所描述的其它功能单元且在功能上耦接到这些其它功能单元。为了简洁起见,图中未描绘耦接。由控制器(650)设置的参数可包括速率控制相关参数(图片跳过、量化器、率失真优化技术的λ值
……
)、图片大小、图片群组(gop)布局、最大运动矢量搜索范围等。控制器(650)可被配置为具有其它合适的功能,这些功能涉及针对某一系统设计优化的视频编码器(603)。
83.在一些实施例中,视频编码器(603)被配置为在编码环路中进行操作。作为简化的描述,在示例中,编码环路可包括源编码器(630)(例如,负责基于将要编码的输入图片和参考图片创建符号,例如符号流)和嵌入于视频编码器(603)中的(本地)解码器(633)。解码器(633)重建符号以用类似于(远程)解码器创建样本数据的方式创建样本数据(因为在所公开的主题所考虑的视频压缩技术中,符号与已编码视频比特流之间的任何压缩是无损的)。重建的样本流(样本数据)输入到参考图片存储器(634)。由于符号流的解码产生与解码器位置(本地或远程)无关的位精确结果,因此参考图片存储器(634)中的内容在本地编码器与远程编码器之间也是按比特位精确对应的。换句话说,编码器的预测部分“看到”的参考图片样本与解码器将在解码期间使用预测时所“看到”的样本值完全相同。这种参考图片同步性基本原理(以及在例如因信道误差而无法维持同步性的情况下产生的漂移)也用于一些相关技术。
[0084]“本地”解码器(633)的操作可与例如已在上文结合图5详细描述的视频解码器(510)的“远程”解码器相同。然而,另外简要参考图5,当符号可用且熵编码器(645)和解析器(520)能够无损地将符号编码/解码为已编码视频序列时,包括缓冲存储器(515)和解析器(520)在内的视频解码器(510)的熵解码部分,可能无法完全在本地解码器(633)中实施。
[0085]
此时可以观察到,除存在于解码器中的解析/熵解码之外的任何解码器技术,也必定以基本上相同的功能形式存在于对应的编码器中。出于此原因,所公开的主题侧重于解码器操作。可简化编码器技术的描述,因为编码器技术与全面地描述的解码器技术互逆。仅在某些区域中需要更详细的描述,并在下文提供。
[0086]
在操作期间,在一些示例中,源编码器(630)可执行运动补偿预测编码。参考来自视频序列中被指定为“参考图片”的一个或多个先前已编码图片,该运动补偿预测编码对输入图片进行预测性编码。以此方式,编码引擎(632)对输入图片的像素块与参考图片的像素块之间的差异进行编码,该参考图片可被选作该输入图片的预测参考。
[0087]
本地视频解码器(633)可基于源编码器(630)创建的符号,对可指定为参考图片的图片的已编码视频数据进行解码。编码引擎(632)的操作可有利地为有损过程。当已编码视频数据可在视频解码器(图6中未示)处被解码时,已重建视频序列通常可以是源视频序列的副本,但带有一些误差。本地视频解码器(633)复制解码过程,该解码过程可由视频解码器对参考图片执行,且可使已重建参考图片存储在参考图片高速缓存(634)中。以此方式,视频编码器(603)可在本地存储已重建参考图片的副本,该副本与将由远端视频解码器获
得的重建参考图片具有共同内容(不存在传输误差)。
[0088]
预测器(635)可针对编码引擎(632)执行预测搜索。即,对于将要编码的新图片,预测器(635)可在参考图片存储器(634)中搜索可作为该新图片的适当预测参考的样本数据(作为候选参考像素块)或某些元数据,例如参考图片运动矢量、块形状等。预测器(635)可基于样本块逐像素块操作,以找到合适的预测参考。在一些情况下,如由预测器(635)获得的搜索结果所确定的那样,输入图片可具有从参考图片存储器(634)中存储的多个参考图片取得的预测参考。
[0089]
控制器(650)可管理源编码器(630)的编码操作,包括例如设置用于对视频数据进行编码的参数和子群参数。
[0090]
可在熵编码器(645)中对所有上述功能单元的输出进行熵编码。熵编码器(645)根据例如霍夫曼编码、可变长度编码、算术编码等技术对各种功能单元生成的符号进行无损压缩,从而将该符号转换成已编码视频序列。
[0091]
传输器(640)可缓冲由熵编码器(645)创建的已编码视频序列,从而为通过通信信道(660)进行传输做准备,该通信信道可以是通向将存储已编码视频数据的存储装置的硬件/软件链路。传输器(640)可将来自视频编码器(603)的已编码视频数据与要传输的其它数据合并,该其它数据例如是已编码音频数据和/或辅助数据流(未示出来源)。
[0092]
控制器(650)可管理视频编码器(603)的操作。在编码期间,控制器(650)可以给每个已编码图片分配某一已编码图片类型,但这可能影响可应用于相应的图片的编码技术。例如,通常可给图片分配成以下任一种图片类型:
[0093]
帧内图片(i图片),其可以是不将序列中的任何其它图片用作预测源就可被编码和解码的图片。一些视频编解码器容许不同类型的帧内图片,包括例如独立解码器刷新(idr)图片。所属领域的技术人员了解i图片的变体及其相应的应用和特征。
[0094]
预测性图片(p图片),其可以是可使用帧内预测或帧间预测进行编码和解码的图片,该帧内预测或帧间预测使用至多一个运动矢量和参考索引来预测每个块的样本值。
[0095]
双向预测性图片(b图片),其可以是可使用帧内预测或帧间预测进行编码和解码的图片,该帧内预测或帧间预测使用至多两个运动矢量和参考索引来预测每个块的样本值。类似地,多个预测性图片可使用多于两个参考图片和相关联的元数据以用于重建单个块。
[0096]
源图片通常可在空间上细分成多个样本块(例如,4
×
4、8
×
8、4
×
8或16
×
16个样本的块),且逐块进行编码。这些块可参考其它(已编码)块进行预测性编码,该其它块由应用于块的相应图片的编码分配来确定。举例来说,i图片的块可进行非预测性编码,或该块可参考同一图片的已编码块来进行预测性编码(空间预测或帧内预测)。p图片的像素块可参考一个先前已编码的参考图片通过空间预测或通过时间预测进行预测性编码。b图片的块可参考一个或两个先前已编码的参考图片通过空间预测或通过时间预测进行预测性编码。
[0097]
视频编码器(603)可根据例如itu

t建议书h.265的预定视频编码技术或标准执行编码操作。在操作中,视频编码器(603)可执行各种压缩操作,包括利用输入视频序列中的时间和空间冗余的预测性编码操作。因此,已编码视频数据可符合所用视频编码技术或标准指定的语法。
[0098]
在实施例中,传输器(640)可在传输已编码视频时传输附加数据。源编码器(630)可包括此类数据作为已编码视频序列的一部分。附加数据可包括时间/空间/snr增强层、冗余图片和切片等其它形式的冗余数据、sei消息、vui参数集片段等。
[0099]
采集到的视频可作为呈时间序列的多个源图片(视频图片)。帧内图片预测(常常简化为帧内预测)利用给定图片中的空间相关性,而帧间图片预测则利用图片之间的(时间或其它)相关性。在示例中,将正在编码/解码的特定图片分割成块,正在编码/解码的特定图片被称作当前图片。在当前图片中的块类似于视频中先前已编码且仍被缓冲的参考图片中的参考块时,可通过称作运动矢量的矢量对当前图片中的块进行编码。该运动矢量指向参考图片中的参考块,且在使用多个参考图片的情况下,该运动矢量可具有识别参考图片的第三维度。
[0100]
在一些实施例中,双向预测技术可用于帧间图片预测。根据双向预测技术,使用两个参考图片,例如按解码次序都在视频中的当前图片之前(但按显示次序可能分别是过去和将来)的第一参考图片和第二参考图片。可通过指向第一参考图片中的第一参考块的第一运动矢量和指向第二参考图片中的第二参考块的第二运动矢量对当前图片中的块进行编码。可通过第一参考块和第二参考块的组合来预测该块。
[0101]
此外,合并模式技术可用于帧间图片预测中以改善编码效率。
[0102]
根据本公开的一些实施例,例如帧间图片预测和帧内图片预测的预测以块为单位执行。举例来说,根据hevc标准,将视频图片序列中的图片分割成编码树单元(coding tree unit,ctu)以用于压缩,图片中的ctu具有相同大小,例如64
×
64像素、32
×
32像素或16
×
16像素。通常,ctu包括三个编码树块(coding tree block,ctb),这三个编码树块是一个亮度ctb和两个色度ctb。可将每个ctu递归地以四叉树拆分为一个或多个编码单元(cu)。举例来说,可将64
×
64像素的ctu拆分为一个64
×
64像素的cu,或4个32
×
32像素的cu,或16个16
×
16像素的cu。在示例中,分析每个cu以确定用于cu的预测类型,例如帧间预测类型或帧内预测类型。取决于时间和/或空间可预测性,将cu拆分为一个或多个预测单元(pu)。通常,每个pu包括亮度预测块(prediction block,pb)和两个色度pb。在实施例中,编码(编码/解码)中的预测操作以预测块为单位来执行。以亮度预测块作为预测块的示例,预测块包括针对像素的值(例如,亮度值)的矩阵,该像素例如8
×
8像素、16
×
16像素、8
×
16像素、16
×
8像素等等。
[0103]
图7示出了根据本公开的另一实施例的视频编码器(703)的图。视频编码器(703)被配置为接收视频图片序列中的当前视频图片内的样本值的处理块(例如预测块),且将该处理块编码到作为已编码视频序列的一部分的已编码图片中。在示例中,视频编码器(703)用于代替图4的示例中的视频编码器(403)。
[0104]
在hevc示例中,视频编码器(703)接收用于处理块的样本值的矩阵,该处理块例如8
×
8样本的预测块等。视频编码器(703)使用例如率失真优化来确定是否使用帧内模式、帧间模式或双向预测模式来最佳地编码该处理块。当在帧内模式中编码处理块时,视频编码器(703)可使用帧内预测技术以将处理块编码到已编码图片中;且当在帧间模式或双向预测模式中编码处理块时,视频编码器(703)可分别使用帧间预测或双向预测技术以将处理块编码到已编码图片中。在某些视频编码技术中,合并模式可以是帧间图片预测子模式,其中,在不借助预测器外部的已编码运动矢量分量的情况下,从一个或多个运动矢量预测器
导出运动矢量。在某些其它视频编码技术中,可存在适用于主题块的运动矢量分量。在示例中,视频编码器(703)包括其它组件,例如用于确定处理块模式的模式决策模块(未示出)。
[0105]
在图7的示例中,视频编码器(703)包括如图7所示的耦接到一起的帧间编码器(730)、帧内编码器(722)、残差计算器(723)、开关(726)、残差编码器(724)、通用控制器(721)和熵编码器(725)。
[0106]
帧间编码器(730)被配置为接收当前块(例如处理块)的样本、比较该块与参考图片中的一个或多个参考块(例如先前图片和后来图片中的块)、生成帧间预测信息(例如根据帧间编码技术的冗余信息描述、运动矢量、合并模式信息)、以及基于帧间预测信息使用任何合适的技术计算帧间预测结果(例如已预测块)。在一些示例中,参考图片是基于已编码视频信息解码的已解码参考图片。
[0107]
帧内编码器(722)被配置为接收当前块(例如处理块)的样本、在一些情况下比较该块与同一图片中已编码的块、在变换之后生成量化系数、以及在一些情况下还生成帧内预测信息(例如根据一个或多个帧内编码技术生成帧内预测方向信息)。在示例中,帧内编码器(722)还基于帧内预测信息和同一图片中的参考块计算帧内预测结果(例如已预测块)。
[0108]
通用控制器(721)被配置为确定通用控制数据,且基于该通用控制数据控制视频编码器(703)的其它组件。在示例中,通用控制器(721)确定块的模式,且基于该模式将控制信号提供到开关(726)。举例来说,当该模式是帧内模式时,通用控制器(721)控制开关(726)以选择供残差计算器(723)使用的帧内模式结果,且控制熵编码器(725)以选择帧内预测信息且将该帧内预测信息包括在比特流中;以及当该模式是帧间模式时,通用控制器(721)控制开关(726)以选择供残差计算器(723)使用的帧间预测结果,且控制熵编码器(725)以选择帧间预测信息且将该帧间预测信息包括在比特流中。
[0109]
残差计算器(723)被配置为计算所接收的块与选自帧内编码器(722)或帧间编码器(730)的预测结果之间的差(残差数据)。残差编码器(724)被配置为基于残差数据操作,以对残差数据进行编码以生成变换系数。在示例中,残差编码器(724)被配置为将残差数据从空间域转换到频域,且生成变换系数。变换系数接着经受量化处理以获得量化的变换系数。在各种实施例中,视频编码器(703)还包括残差解码器(728)。残差解码器(728)被配置为执行逆变换,且生成已解码残差数据。已解码残差数据可适当地由帧内编码器(722)和帧间编码器(730)使用。举例来说,帧间编码器(730)可基于已解码残差数据和帧间预测信息生成已解码块,且帧内编码器(722)可基于已解码残差数据和帧内预测信息生成已解码块。适当处理已解码块以生成已解码图片,且在一些示例中,该已解码图片可在存储器电路(未示出)中缓冲并用作参考图片
[0110]
熵编码器(725)被配置为将比特流格式化以包括已编码块。熵编码器(725)被配置为根据例如hevc标准的合适标准而包括各种信息。在示例中,熵编码器(725)被配置为将通用控制数据、所选预测信息(例如帧内预测信息或帧间预测信息)、残差信息和其它合适的信息包括在比特流中。应注意,根据所公开的主题,当在帧间模式或双向预测模式的合并子模式中对块进行编码时,不存在残差信息。
[0111]
图8示出了根据本公开的另一实施例的视频解码器(810)的图。视频解码器(810)被配置为接收作为已编码视频序列的一部分的已编码图片,且对该已编码图片进行解码以
生成重建图片。在示例中,视频解码器(810)用于代替图4的示例中的视频解码器(410)。
[0112]
在图8的示例中,视频解码器(810)包括如图8所示的耦接到一起的熵解码器(871)、帧间解码器(880)、残差解码器(873)、重建模块(874)和帧内解码器(872)。
[0113]
熵解码器(871)可被配置为根据已编码图片来重建某些符号,这些符号表示构成该已编码图片的语法元素。此类符号可包括例如用于对该块进行编码的模式(例如帧内模式、帧间模式、双向预测模式、后两者的合并子模式或另一子模式)、可识别分别供帧内解码器(872)或帧间解码器(880)使用以进行预测的某些样本或元数据的预测信息(例如帧内预测信息或帧间预测信息)、呈例如量化的变换系数形式的残差信息等等。在示例中,当预测模式是帧间模式或双向预测模式时,将帧间预测信息提供到帧间解码器(880);以及当预测类型是帧内预测类型时,将帧内预测信息提供到帧内解码器(872)。残差信息可经受逆量化并提供到残差解码器(873)。
[0114]
帧间解码器(880)被配置为接收帧间预测信息,且基于该帧间预测信息生成帧间预测结果。
[0115]
帧内解码器(872)被配置为接收帧内预测信息,且基于该帧内预测信息生成预测结果。
[0116]
残差解码器(873)被配置为执行逆量化以提取解量化的变换系数,且处理该解量化的变换系数,以将残差从频域转换到空间域。残差解码器(873)还可能需要某些控制信息(用以包括量化器参数qp),且该信息可由熵解码器(871)提供(未描绘数据路径,因为这仅仅是低量控制信息)。
[0117]
重建模块(874)被配置为在空间域中组合由残差解码器(873)输出的残差与预测结果(可根据所处的情况由帧间预测模块或帧内预测模块输出)以形成重建块,该重建块可以是重建图片的一部分,该重建图片继而可以是已重建视频的一部分。应注意,可执行例如解块操作的其它合适的操作来改善视觉质量。
[0118]
应注意,可使用任何合适的技术来实现视频编码器(403)、视频编码器(603)和视频编码器(703)以及视频解码器(410)、视频解码器(510)和视频解码器(810)。在一个实施例中,可使用一个或多个集成电路来实现视频编码器(403)、视频编码器(603)和视频编码器(703)以及视频解码器(410)、视频解码器(510)和视频解码器(810)。在另一实施例中,可使用执行软件指令的一个或多个处理器来实施视频编码器(403)、视频编码器(603)和视频编码器(603)以及视频解码器(410)、视频解码器(510)和视频解码器(810)。
[0119]
在各个实施例中,由于屏幕内容的特定特性,可以开发屏幕内容编码(scc)工具,例如用于hevc的屏幕编码扩展的scc。scc工具在编码效率方面具有显著的优势。scc工具中的一种被称为调色板编码模式(或调色板模式、调色板模式编码方法、调色板编码过程),其中,可以使用调色板(例如,包括主色)的索引来表示像素块(或样本)。可以利用空间冗余对调色板和索引进行编码。在一些示例中,调色板编码模式可以包括两部分:例如用于调色板的编码方法和使用调色板的样本编码方法。使用调色板的样本编码方法可以包括:调色板索引编码、游程长度编码、逸出像素编码等。下文描述了调色板编码模式的一些示例。
[0120]
可以如下文所示选择主色。可以利用一种简单有效的基于直方图的算法,对块中的像素或样本进行分类。例如,可以选择直方图中最显著的l峰值作为主色,并且可以将接近于主色之一的像素值量化为主色之一。在一个示例中,不属于任何主色(或任何主色集)
的其它像素可以被称为逸出像素。可以在编码之前对逸出像素进行量化。在一个示例中,不将量化过程用于无损编码过程。对于块中的每个像素,可以通过分配颜色索引(为方便起见,也称为索引)来指示该像素属于哪个主色集。如果使用了l个主色,则针对该l个主色(或l个主色集),可以通过信号通知l个主色的值(例如,从值0到值l

1),并且针对逸出像素组,例如包括逸出像素,可以通过信号通知该主色的值n。n可以不同于l个主色的值(例如,从值0至值l

1)。在一个示例中,值n可以大于值(l

1)。调色板通常可以被实现为颜色查找表,其中,每个颜色条目可以与颜色索引相关联。可以使用单个调色板对亮度分量和色度分量进行编码。每个颜色条目可以表示特定的rgb颜色,yuv颜色等。例如,具有(r,g,b)=(0,0,0)的条目1表示纯黑色,而具有(r,g,b)=(2,10,200)的条目0表示蓝色。当视频格式为420时,可以在色度平面进行上采样以生成调色板。
[0121]
在调色板模式编码中,可以对cu执行基于调色板的编码。
[0122]
调色板条目可以根据如下进行编码。为了使用调色板预测器列表作为参考对当前调色板进行编码,可以使用二进制向量来指示调色板预测器列表中的每个条目是否可以在当前调色板中被重新使用。可以将一个或多个重新使用的条目放置在当前调色板的开始处,同时在调色板预测器列表中保持一个或多个重新使用的条目的顺序。不在调色板预测器列表中的一个或多个新的调色板条目可以跟在一个或多个重新使用的条目之后。在一个示例中,可以选择使用具有预定条目的调色板初始化器以初始化调色板预测器列表,从而提高了在这种场景下的编码效率。可以在图片参数集(pps)、序列参数集(sps)等中通过信号通知调色板初始化器。
[0123]
颜色索引可以根据如下进行编码。在分类之后,可以根据所选择的主色集将块的像素转换为颜色索引。预测编码方法可以应用于颜色索引,其中,像素行可由多个不同模式(例如,三个不同模式)预测,三个不同模式包括:水平模式(例如,索引复制模式)、垂直模式(例如,上方复制模式)和常规模式(例如,逸出模式)。在一些示例中,当对颜色索引进行编码时,可以使用两个索引扫描顺序(例如,水平横向扫描和垂直横向扫描)。索引旋转标记可以通过信号来通知,以指示使用两个索引扫描顺序中的哪一个。
[0124]
在索引复制模式中,从第一像素开始,可以从第一像素复制一个或多个连续索引。可以通过信号通知第一像素的颜色索引。
[0125]
在上方复制模式中,可以从上方的像素行(例如,在当前像素行上方的像素行)复制一个或多个连续的颜色索引。
[0126]
在逸出模式中,当发现逸出像素时,例如,逸出像素通过主色集中的最大索引(例如,n)来用信号通知时,可以在最大索引(例如,n)之后编码相应的像素值。在cu中可以存在多个具有不同颜色值的逸出像素。逸出像素的像素值可以根据不同的逸出像素位置而不同。
[0127]
针对每个索引复制模式,可以用信号通知索引值。例如,索引信令可以在前端(或开始处)进行分组,以改善上下文自适应二进制算术编码(cabac)吞吐量。类似地,逸出像素的像素值可以在后面通过信号来通知,例如,以提高cabac吞吐量。可以在索引编码和逸出编码之间通过信号通知索引复制模式和上方复制模式。
[0128]
单独的编码树结构可以用于亮度分量和色度分量。在一些示例中,cu包括亮度分量的样本和色度分量的样本。在一些示例中,例如在jvet中,与亮度分量相比,色度分量的
样本可以具有独立的或单个的分裂树结构(或编码树结构)。单个的编码树结构可以从ctu级开始。在示例中,色度cu(例如,仅包括两个色度分量的cu)大于相应样本位置处色度cu的亮度对应物。
[0129]
在一个实施例中,诸如在vtm5.0中,色度块的多个帧内预测模式(例如,八个帧内预测模式)可以包括:平面模式、dc模式、水平模式(或水平预测模式)、垂直模式(或垂直预测模式)、三个跨分量线性模型(cclm)模式和导出模式(dm)。当使用dm模式对色度块进行编码时,可以根据相应亮度块的帧内预测模式导出应用于色度块的实际帧内预测模式。当使用不同于正常帧内模式的其它模式对相应的亮度块进行编码时,可以对亮度块应用(或分配)dc模式,使得色度块可以基于dc模式导出实际的帧内预测模式。
[0130]
当分别对亮度平面和色度平面进行编码时,对于色度编码块,可以在调色板编码模式下对相应的亮度块进行编码。在示例中,可以改进针对以调色板编码模式编码的相应亮度块的帧内预测模式的分配。
[0131]
基于块的补偿可以被用于帧间预测和帧内预测。对于帧间预测,来自不同图片的基于块的补偿被称为运动补偿。例如在帧内预测中,基于块的补偿也可以根据同一图片内的先前已重建的区域来实现。根据同一图片内的重建区域的基于块的补偿被称为图片内块补偿、当前图片参考(cpr)或帧内块复制(ibc)。指示在同一图片中的当前块和参考块(也称为预测块)之间的偏移的位移矢量被称为块矢量(bv),其中,可以基于参考块对当前块进行编码/解码。不同于运动补偿中的运动矢量(运动矢量可以为任意值(在x或y方向上为正或负)),bv具有限制以确保参考块已经被重建并且为可用的。此外,在一些示例中,考虑到并行处理,一些参考区域,即,图块边界、切片边界或波前梯形边界被排除在外。
[0132]
可以以显式模式或者隐式模式对块矢量进行编码。在显式模式(类似于帧间编码中的高级运动矢量预测(amvp模式)下,可以通过信号通知块矢量与其预测值之间的bv差值。在隐式模式中,可以以与合并模式下的运动矢量类似的方式,在不使用bv差值的情况下,根据预测值(称为块矢量预测值)恢复块矢量。在一些实现方式中,块矢量的分辨率被限制到整数位置。在其它系统中,允许块矢量指向分数位置。
[0133]
在一些示例中,可以使用块级别标记(例如ibc标记)来通过信号通知块级别上帧内块复制的使用。在一个实施例中,当显式地对当前块进行编码(例如未以合并模式进行编码)时,可以通过信号通知块级别标记。在一些示例中,可使用参考索引方法来用信号通知块级别上帧内块复制的使用。然后将当前正在解码的图片作为参考图片或特殊的参考图片来处理。在示例中,该参考图片位于参考图片列表的最后位置。此种特殊的参考图片也与其它瞬时参考图片一同在缓冲区(例如解码图片缓冲区(dpb))中被管理。
[0134]
存在用于实现帧内块复制的一些变型,诸如翻转的帧内块复制(其中,参考块在用于预测当前块之前进行水平翻转或垂直翻转),或者,基于行的帧内块复制(其中,mxn编码块内的每个补偿单元均为mx1行或1xn行)。
[0135]
图9示出了根据本发明实施例的帧内块复制的示例。当前图片(900)将在解码下重建。当前图片(900)包括重建区域(910)(灰色区域)和待解码区域(920)(白色区域)。当前块(930)正由解码器进行重建。可以根据重建区域(910)中的参考块(940)对当前块(930)进行重建。参考块(940)和当前块(930)之间的位置偏移被称为块矢量(950)(或bv(950))。在图9的示例中,搜索范围(960)在重建区域(910)内,参考块(940)在搜索范围(960)内,并且块矢
量(950)被限制为指向搜索范围(960)内的参考块(940)。
[0136]
图10a至图10d示出了根据本公开的实施例的帧内块复制的示例。参考图10a至图10d,当前图片(1001)包括正在被重建的当前ctb(1015)和与当前ctb(1015)左相邻的先前已重建的ctb(1010)。当前图片(1001)中的ctb具有ctb大小和ctb宽度。搜索范围可以具有ctu的大小(例如,ctb大小)。存储器可以被重新用于搜索先前已重建的ctb(1010)的一部分。当前ctb(1015)包括4个区域(1016)

(1019)。类似地,先前已重建的ctb(1010)包括4个区域(1011)

(1014)。在一个实施例中,ctb大小等于参考存储器的大小。在示例中,ctb大小和参考存储器大小是128
×
128个样本,并且区域(1011)

(1014)和区域(1016)

(1019)中的每一个区域的大小均为64
×
64个样本。
[0137]
在图10a至图10d所示出的示例中,当前ctb(1015)包括分别对应于区域(1016)

(1019)的左上区域、右上区域、左下区域和右下区域。先前已重建的ctb(1010)包括分别对应于区域(1011)

(1014)的左上区域、右上区域、左下区域和右下区域。
[0138]
参考图10a,正在重建当前区域(1016)。当前区域(1016)包括多个编码块(1021)

(1029)。在当前区域(1016)中首先重建当前块(1021)。当前区域(1016)在先前已重建的ctb(1010)中具有并置区域,即区域(1011)。根据一些实施例,当前块(1021)的搜索范围排除了当前区域(1016)中首先待重建的当前块(1021)的并置区域(1011)。因此,不需要对参考存储缓冲区进行严格的同步和定时控制。搜索范围包括先前已重建的ctb(1010)的区域(1012)

(1014),这些区域(1012)

(1014)按照解码顺序在并置区域(1011)之后和当前块(1021)之前进行重建。
[0139]
参考图10a,并置区域(1011)的位置相对于当前区域(1016)的位置偏移了ctb宽度(例如128个样本)。例如,并置区域(1011)的位置相对于当前区域(1016)的位置左移了128个样本。
[0140]
再次参考图10a,当当前区域(1016)为当前ctb(1015)的左上区域时,并置区域(1011)为先前已重建的ctb(1010)的左上区域,并且搜索区域排除了先前已重建的ctb的左上区域。
[0141]
参考图10b,正在重建当前区域(1017)。当前区域(1017)包括多个编码块(1041)

(1049)。在当前区域(1017)中首先重建当前块(1041)。当前区域(1017)在先前已重建的ctb(1010)中具有并置区域(即,区域(1012))。根据本公开的各个方面,当前块(1041)的搜索范围排除了在当前区域(1017)中首先待重建的当前块(1041)的并置区域(1012)。因此,不需要对参考存储缓冲区进行严格的同步和定时控制。搜索范围包括先前已重建的ctb(1010)的区域(1013)

(1014)和当前ctb(1015)中的区域(1016),这些区域(1013)

(1014)和(1016)在并置区域(1012)之后和当前块(1041)之前进行重建。由于参考存储器大小(即,一个ctb的大小)的限制,搜索范围进一步排除了区域(1011)。类似地,并置区域(1012)的位置相对于当前区域(1017)的位置偏移ctb宽度(例如128个样本)。
[0142]
在图10b的实例中,在当前区域(1017)是当前ctb(1015)的右上区域,并置区域(1012)也是先前已重建的ctb(1010)的右上区域,并且搜索区域排除了先前已重建的ctb(1010)的右上区域。
[0143]
参照图10c,正在重建当前区域(1018)。当前区域(1018)包括多个编码块(1061)

(1069)。在当前区域(1018)中首先重建当前块(1061)。当前区域(1018)在先前已重建的ctb
(1010)中具有并置区域(即,区域(1013))。根据本公开的各个方面,当前块(1061)的搜索范围排除了在当前区域(1018)中首先重建的当前块(1061)的并置区域(1013)。因此,不需要对参考存储缓冲区进行严格的同步和定时控制。搜索范围包括先前已重建的ctb(1010)的区域(1014)和当前ctb(1015)中的区域(1016)

(1017),这些区域(1014)和(1016)

(1017)在并置区域(1013)之后和当前块(1061)之前进行重建。类似地,由于参考存储器大小的限制,搜索范围进一步排除了区域(1011)

(1012)。并置区域(1013)的位置相对于当前区域(1018)的位置偏移了ctb宽度(例如128个样本)。例如,在图10c的示例中,当当前区域(1018)是当前ctb(1015)的左下区域时,并置区域(1013)也是先前已重建的ctb(1010)的左下区域,并且搜索区域排除了先前已重建的ctb(1010)的左下区域。
[0144]
参照图10d,正在重建当前区域(1019)。当前区域(1019)包括多个编码块(1081)

(1089)。在当前区域(1019)中首先重建当前块(1081)。当前区域(1019)在先前已重建的ctb(1010)中具有并置区域(即,区域(1014))。根据本公开的各个方面,当前块(1081)的搜索范围排除了在当前区域(1019)中被首先重建的当前块(1081)的并置区域(1014)。因此,不需要对参考存储缓冲区进行严格的同步和定时控制。搜索范围包括当前ctb(1015)中的区域(1016)

(1018),这些区域(1016)

(1018)按照解码顺序在并置区域(1014)之后和当前块(1081)之前进行重建。由于参考存储器大小的限制,搜索范围排除了区域(1011)

(1013),因此,搜索范围排除了先前已重建的ctb(1010)。类似地,并置区域(1014)的位置相对于当前区域(1019)的位置偏移了ctb宽度(例如128个样本)。例如,在图10d的示例中,当当前区域(1019)是当前ctb(1015)的右下区域时,并置区域(1014)也是先前已重建的ctb(1010)的右下区域,并且搜索区域排除了先前已重建的ctb(1010)的右下区域。
[0145]
帧内块复制的一些变型可以包括将帧内块复制视为第三模式,其不同于帧内预测模式和帧间预测模式。通过将帧内块复制视为第三模式,可以将合并模式(或ibc合并模式)和amvp模式(或ibc amvp模式)中的bv预测与常规帧间模式分离。例如,为ibc模式定义单独的合并候选列表(或ibc合并候选列表),其中,单独的合并候选列表中的每个条目都是一个bv。类似地,ibc amvp模式中的bv预测候选列表仅包括一个或多个bv。应用于ibc合并候选列表和bv预测候选列表的一些通用规则可以包括:ibc合并候选列表和bv预测候选列表在候选推导过程方面,可以遵循与帧间合并候选列表或bv预测候选列表相同的逻辑。例如,访问帧间合并模式(例如,hevc或vvc)中的五个空间相邻位置(例如,图2中的202

206)以获取帧内块复制,从而导出用于ibc模式的合并候选列表。
[0146]
在一个示例中,当比特率很高或针对某些内容时,不对使用屏幕内容编码工具编码的区域或边界执行环路滤波器可能是有利的。因此,环路滤波器可以被禁用或有条件地被禁用。
[0147]
scc工具可以进一步包括:变换跳过(ts)模式、块差分脉冲编码调制(bdpcm)模式等,并且这些模式可以适用于屏幕内容材料。
[0148]
bdpcm模式可用于屏幕内容编码。在序列级别上,可以在sps中用信号通知bdpcm启用标记。在一个示例中,仅当在sps中启用ts模式时才通过信号通知bdpcm启用标记。
[0149]
当启用bdpcm模式时,如果在亮度样本方面cu的大小小于或等于maxtssize
×
maxtssize,并且如果cu为帧内编码,则可以在cu级别上发送标记,其中maxtssize是允许ts模式的最大块的大小。该标记可以指示是否使用常规帧内编码或bdpcm模式。如果使用
bdpcm模式,则可以发送bdpcm预测方向标记,以指示预测是水平的还是垂直的。然后,可以使用常规的水平或垂直帧内预测过程来预测块,此帧内预测过程具有未滤波的参考样本。可以对残差进行量化,并且可以对每个量化的残差与相应的预测值(例如,水平的或垂直的相邻位置(取决于bdpcm预测方向)的先前已编码的残差)之间的差值进行编码。
[0150]
对于尺寸为m(高度)
×
n(宽度)的块,将预测残差设置为r
i,j
,0≤i≤m

1,0≤i≤m

1。设置q(r
i,j
),0≤i≤m

10≤j≤n

1表示残差的量化版本。bdpcm模式可应用于量化后的残差值,从而得到一个具有元素的改进的m
×
n阵列其中,为根据其相邻量化后的残差值进行预测的。对于垂直的bdpcm预测模式,当0≤j≤(n

1)时,可以使用以下方程导出
[0151][0152]
对于水平的bdpcm预测模式,当0≤i≤(m

1)时,可以使用以下方程导出
[0153][0154]
在解码器侧,可以倒转上述过程来计算q(r
i,j
),其中,0≤i≤m

1,0≤j≤n

1,计算过程如下所示:
[0155]
如果使用垂直bdpcm模式,
[0156]
如果使用水平bdpcm模式,
[0157]
将逆量化残差q
‑1(q(r
i,j
))添加到帧内块预测值以产生重建样本值。
[0158]
可以使用与ts模式残差编码相同的残差编码过程,将预测的量化残差值发送到解码器。对于无损编码,如果标记slice_ts_residual_coding_disabled_flag被设置为1,则可以使用常规变换残差编码将量化的残差值发送到解码器。就帧内模式编码的mpm模式而言,如果bdpcm预测方向是水平的或垂直的,则可以为bdpcm编码的cu分别存储水平预测模式或垂直预测模式。对于解块,如果块边界两侧的块都使用bdpcm进行编码,则可以不对块边界进行解块。
[0159]
ts模式可用于大小高达maxtssize
×
maxtssize的亮度块,其中,maxtssize的值可在pps中通过信号通知且可以为32或更小的值。当以ts模式对cu进行编码时,可以使用变换跳过残差编码过程来对预测残差进行量化和编码。可以从变换系数编码过程中修改变换跳过残差编码过程。在变换跳过模式中,可以以大小为4
×
4的非重叠子块为单位对tu的残差进行编码。为了提高编码效率,可以进行一些修改以针对残差信号的特性定制残差编码过程。下文中总结了变换跳过残差编码与常规变换残差编码之间的一些区别:(i)采用前向扫描顺序扫描变换块内的子块以及子块内的位置;(ii)不发送最后的(x,y)位置的信令;(iii)当所有的先前标记均等于0时,coded_sub_block_flag可以对除了最后的子块之外的每个子块进行编码;(iv)sig_coeff_flag的上下文建模使用简化的模板,并且sig_coeff_flag的上下文模型取决于顶侧的和左侧的相邻值;(v)abs_level_gt1的上下文模型还取决
于左侧的和顶侧的sig_coeff_flag的值;(vi)par_level_flag仅使用一个上下文模型;(vii)可以通过信号通知大于3、5、7、9个的其他标记以指示系数级别,每个标记的一个上下文;(viii)使用固定阶数=1的莱斯参数推导出用于余数值的二进制;(ix)基于左侧和顶侧的相邻值确定符号标记的上下文模型,并且在sig_coeff_flag之后解析符号标记,以将所有上下文编码的二值符号(bin)保持在一起。
[0160]
对于每个子块,如果coded_subblock_flag等于1(例如,在子块中存在至少一个非零量化残差),则在三次扫描过程中执行量化残差级别的编码。在第一次扫描过程中,可以对重要性标记(例如,sig_coeff_flag)、符号标记(例如,coeff_sign_flag)、绝对级别大于1的标记(例如,abs_level_gtx_flag[0])和奇偶校验(例如,par_level_flag)进行编码。对于给定的扫描位置,如果sig_coeff_flag等于1,则对coeff_sign_flag进行编码,然后对abs_level_gtx_flag[0](其指定绝对级别是否大于1)进行编码。如果abs_level_gtx_flag[0]等于1,则附加地对par_level_flag进行编码以指定绝对级别的奇偶校验。在大于x的扫描过程中,对于绝对级别大于1的每个扫描位置,可以对i=1...4的至多4个abs_level_gtx_flag[i]进行编码,以指示在给定位置处的绝对级别是否分别大于3、5、7或9。在剩余的扫描过程中,可以在旁路模式下对绝对级别的剩余部分abs_remainder进行编码。绝对级别的剩余部分可以使用固定的莱斯参数值1进行二进制化。
[0161]
前两次扫描过程(例如,第一次扫描过程和大于x的扫描过程)中的二值符号可以进行上下文编码的,直到tu中的上下文编码的二值符号的最大数量被耗尽。残差块中的上下文编码的二值符号的最大数量可以被限制为1.75*block_width*block_height,或者等效地,平均每个样本位置1.75个上下文编码的二值符号。对最后一次扫描过程(例如,剩余的扫描过程)中的二值符号进行旁路编码。变量remccbs首先被设置为块的上下文编码的二值符号的最大数量,并且在每次对上下文编码的二值符号进行编码时减一。当remccbs大于或等于4时,第一次编码过程中的语义元素(包括sig_coeff_flag、coeff_sign_flag、abs_level_gt1_flag和par_level_flag)使用上下文编码的二值符号进行编码。如果在第一次编码过程的同时,remcbs变得小于4,则在剩余的扫描过程中对在第一次编码过程中尚未被编码的剩余系数进行编码。
[0162]
在完成第一次编码过程之后,如果remcbs大于或等于4,则使用上下文编码的二值符号对第二次编码过程中的语义元素(包括abs_level_gt3_flag、abs_level_gt5_flag、abs_level_gt7_flag和abs_level_gt9_flag)进行编码。如果在第二次编码过程的同时,remccbs变得小于4,则在剩余的扫描过程中对在第二次编码过程中尚未被编码的剩余系数进行编码。
[0163]
图11示出了根据本公开的实施例的变换跳过残差编码过程的示例。星形(1122)标记当上下文编码的二值符号被耗尽时的位置,在该位置处,使用如箭头(1121)

(1122)所示的旁路编码对所有剩余的二值符号进行编码。正方形(1110)中的箭头指示上下文编码。
[0164]
此外,对于未在bdpcm模式下编码的块,可以将级别映射机制应用于变换跳过残差编码,直到达到上下文编码的二值符号的最大数量。级别映射可以使用顶侧和左侧相邻系数级别来预测当前系数级别,以降低信令成本。对于给定的残差位置,abscoeff可以表示映射前的绝对系数级别,而abscoeffmod可以表示映射后的系数级别。令x0表示左侧相邻位置的绝对系数级别,并且设x1表示上述相邻位置的绝对系数级别,级别映射执行如下:
[0165][0166]
然后,可以如上文所述地对abscoeffmod值进行编码。在所有上下文编码的二值符号已经耗尽之后,可以为当前块中的所有剩余的扫描位置禁用级别映射。
[0167]
在一些实施例中,可以使用解块滤波技术。在示例中(例如,hevc),可以通过与解码过程相同的顺序为每个cu执行解块滤波过程。例如,可以分别对cu的边缘(或边界)进行滤波。在示例中,首先对垂直边缘进行滤波(水平滤波),然后对水平边缘进行滤波(垂直滤波)。在一些示例中,可以对亮度分量和色度分量两者的8
×
8块边界进行滤波;为了降低复杂度,可以不处理4
×
4块边界。边界强度(bs)能够用于指示可用于边界的解块滤波过程的程度或强度。在一个实施例中,bs的值为2表示强滤波,值为1则表示弱滤波,而值为0表示非解块滤波。
[0168]
在一个实施例中,在4
×
4样本网格的基础上计算bs,但是可以将bs重新映射到8
×
8样本网格。在示例中,一个8
×
8块包括4个4
×
4块,因此8
×
8块的边界包括两个相邻的4
×
4块的两侧。可以选择与形成4
×
4网格中的一行的8个像素所对应的两个bs值中的最大值作为8
×
8网格中的边界的bs。
[0169]
图12示出了根据本公开的实施例的用于确定bs值的示例性过程(1200)的流程图。值得注意,在其他实施例中,图12中的步骤的顺序可以被重新排序,或者省略其中一个或多个步骤。
[0170]
在图12中,p和q是在两者之间具有边界的两个相邻的块。在垂直边缘情况下,p可以表示位于边界左侧的块,q可以表示位于边界右侧的块。在水平边缘情况下,p可以表示位于边界上方的块,而q可以表示位于边界下方的块。
[0171]
如图12所示,可以基于预测模式(例如,帧内编码模式)、非零变换系数(例如,非零变换系数的存在)、参考图片、运动矢量的数目和运动矢量差来确定bs值。
[0172]
在步骤(s1210)中,过程(1200)确定是否以帧内预测模式来编码p或q。当确定以帧内预测模式来编码p和q中的至少一个时,过程(1200)中确定出bs的第一值(例如,2)。否则,过程(1200)进行到步骤(s1220)。
[0173]
在步骤(s1220)中,过程(1200)确定p或q是否具有非零变换系数。当确定p和q中至少一个具有非零变换系数时,过程(1200)确定出bs的第二值(例如,1)。否则,过程(1200)进行到步骤(s1230)。
[0174]
在步骤(s1230)中,过程(1200)确定p和q是否具有不同的参考图片。当确定p和q具有不同的参考图片时,过程(1200)确定bs的第三值(例如,1)。否则,过程(1200)进行到步骤(s1240)。
[0175]
在步骤(s1240)中,过程(1200)确定p和q是否具有不同数量的运动矢量。当确定p和q具有不同数量的运动矢量时,过程(1200)确定bs的第四值(例如,1)。否则,过程(1200)
进行到步骤(s1250)。
[0176]
在步骤(s1250)中,过程(1200)确定p与q之间的运动矢量差是否高于或等于阈值t。当确定p与q之间的运动矢量差高于或等于阈值t时,过程(1200)确定bs的第五值(例如,1)。否则,过程(1200)确定bs的第六值(例如,0)。在一个实施例中,阈值t被设置为1像素。在一示例中,mv精度为1/4像素,并且mv差值阈值可以被设置为4。在另一示例中,mv精度为1/16,并且mv差值可以被设置为16。
[0177]
在一些示例中(例如vtm5),可以修改上文所述的解块滤波过程。在一些实施例中,可以进行以下修改操作中的一个或多个:(1)解块滤波器的滤波器强度可以取决于重建样本的平均亮度级别;(2)可以扩展解块tc表;(3)可以针对亮度使用更强的解块滤波器;(4)可以针对色度使用更强的解块滤波器;(5)针对亮度和色度可以使用不同的解块网格,例如,对4
×
4样本网格执行亮度解块,并且对8
×
8样本网格执行色度解块。
[0178]
具体地,在一个实施例中,滤波器强度取决于重建的平均亮度级别。在一些示例中(例如,hevc),解块滤波器的滤波器强度由从平均量化参数qp
l
导出的变量β和t
c
控制。在示例的vtm5中,解块滤波器的强度也由qp
l
的偏移来控制,该偏移是根据重建样本的亮度级别来设置的。重建的亮度级别ll可以根据以下(等式5)导出:
[0179]
ll=((p
0,0
p
0,3
q
0,0
q
0,3
)>>2)/(1<<bitdepth)
ꢀꢀꢀꢀꢀꢀꢀ
(5)
[0180]
其中,i=0

3和k=0和3的样本值p
i,k
和q
i,k
是基于样本位置而导出的。
[0181]
图13示出了导出i=0

3和k=0和3的p
i,k
和q
i,k
的示例。
[0182]
在示例中,变量qp
l
被导出为(等式6):
[0183]
qp
l
=((qp
q
qp
p
1)>>1) qpoffset
ꢀꢀꢀꢀꢀꢀꢀꢀ
(6)
[0184]
其中,qp
q
和qp
p
分别表示包含样本q
0,0
和p
0,0
的编码单元的量化参数。偏移量qpoffset取决于传递函数,这些值在sps中通过信号来通知。
[0185]
在一个实施例中,可以扩展解块tc表。例如,在vtm5中,最大qp可以从51改为63。基于块qp导出解块参数tc的值,从而相应地改变了解块表。以下为是一个更新的tc表,以适应qp范围的扩展:
[0186]
tc=[0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,1,1,1,1,1,1,1,1,1,2,2,2,2,3,3,3,3,4,4,4,5,5,6,6,7,8,9,10,11,13,14,16,18,20,22,25,28,31,35,39,44,50,56,63,70,79,88,99].
[0187]
在一个实施例中,可以使用针对亮度的较强的解块滤波器。在一些示例中,当边界的任一侧的样本属于大块时,则使用双线性滤波器(更强的解块滤波器的示例)。在对于垂直边界,块的宽度大于或等于32,并且对于水平边界,块的高度大于或等于32时,限定为属于大块的样本。然后,然后将i为0至sp

1的块边界样本p
i
和j为0至sq

1的块边界样本q
i
替换为如下所示的线性插值:
[0188]
p
i

=(f
i
×
middle
s,t
(64

f
i
)
×
p
s
32)>>6),clipped to p
i
±
tcpd
i
ꢀꢀ
(7)
[0189]
q
j

=(g
j
×
middle
s,t
(64

g
j
)
×
q
s
32)>>6),clipped to q
j
±
tcpd
j
ꢀꢀ
(8)
[0190]
其中,tcpd
i
和tcpd
j
项为位置相关裁剪,并且g
j
、f
i
、middle
s,t
、p
s
和q
s
基于下表1给出:
[0191]
表1:针对亮度的较强解块参数的推导
[0192]
[0193]
[0194][0195]
在一些实施例中,上文所述的针对亮度较强的滤波器仅在三个条件(称为条件1、条件2和条件3)都为真时才被启用。条件1是“大块条件”。在条件1中检测p侧和q侧的样本是否属于大块。条件2和条件3可以通过以下来确定:
[0196]
条件2=(d<β)?真:假
ꢀꢀ
(9)
[0197]
条件3=强滤波器条件=(dpq小于(β>2),sp3 sq3小于(3
×
β>5),abs(p0‑
q0)小于(5
×
t
c
1)>>1)?真:假
ꢀꢀꢀꢀꢀꢀꢀꢀ
(等式10)
[0198]
在一个实施例中,针对色度使用了强解块滤波器。在示例中,色度的强解块滤波器可以在如下(等式10

12)中被定义:
[0199]
p2′
=(3
×
p3 2
×
p2 p1 p0 q0 4)>>3
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(10)
[0200]
p1′
=(2
×
p3 p2 2
×
p1 p0 q0 q1 4)>>3
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(11)
[0201]
p0′
=(p3 p2 p1 2
×
p0 q0 q1 q2 4)>>3
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(12)
[0202]
上述色度滤波器可以对8
×
8色度样本网格进行解块。在块边界的两侧使用色度强滤波器。在示例中,当色度边缘的两侧都大于或等于8(以色度样本为单位)时,选择色度滤波器,并且满足以下具有三个条件的判定。第一个条件为边界强度以及大块的判定。第二个条件和第三个条件基本上与hevc亮度判定相同,其分别是开/关判定和强滤波判定。在第一个判定中,可以如表2所示的针对色度滤波,修改边界强度bs。可以依次检查表2中的条件。如果满足某个条件,则在一些示例中可以跳过具有较低优先级的其余条件。
[0203]
表2更改的边界强度
[0204][0205]
当bs等于2时正在执行色度解块,或者当检测到大块边界时bs等于1。第二个条件
和第三个条件可以与hevc亮度强滤波器判定相同。
[0206]
在一个实施例中,可以使用子块边界的解块滤波器。在一些示例中,在亮度的4
×
4网格和色度的8
×
8网格中启用解块滤波器。在一些示例中,在pu的8
×
8网格中启用解块滤波器。在一些实施例中,将解块滤波过程应用于cu边界以及子块边界。
[0207]
在一个示例中,当比特率高或针对某些内容时,不对使用屏幕内容编码工具编码的区域或边界执行环路滤波器可能是有利的,例如,可以提高编码效率。在一些示例中,包括屏幕内容的图片的特性可以与自然场景的图片(例如,由照相机所拍摄的图片)的特性相对不同。因此,可以改善具有某些特征的图片(例如,自然场景的图片)的图片质量的某些环路滤波器(例如,dbf、sao滤波器等)可能不适用于包括某些屏幕内容的图片。在一个示例中,dbf可以平滑由块分区所引起的边缘(例如在hevc或vvc中所引起的边缘),从而提高视频质量。然而,dbf的平滑效果对于包括特定屏幕内容的图片可能是有害的或者仅在最低程度上为有效的。因此,环路滤波器可以被禁用或有条件地禁用,从而提高编码效率。
[0208]
根据本公开的各个方面,至少一个环路滤波器可包括但不限于以下之一或其组合:解块滤波器(dbf)、自适应环路滤波器(alf)、样本自适应偏移(sao)滤波器、双边滤波器等。至少一个scc工具可以包括但不限于以下之一或其组合:ibc模式、调色板编码模式、bdpcm模式、ts模式等。高级别可以包括以下之一:序列级别、图片级别、切片级别、图块级别、图块组级别、以及例如类似于图块或图块组的子图片级别。高级标记(例如,高级控制标记)可以包括但不限于在以下级别中的一个或其组合中用信号通知的标记:sps、pps、图片头、切片头、图块、图块组和子图片级别。
[0209]
根据本公开的各个方面,可以使用调色板编码模式对第一块(例如,编码块)进行编码,且因此可将其称为调色板编码块。当要对第二块进行帧内预测并且使用调色板编码块(或第一块)来构建帧内模式预测时,可以向调色板编码块(或第一块)分配对应的帧内预测模式(例如,水平模式、垂直模式等)以供第二块使用。在示例中,代替单独的默认帧内预测模式,可以从多个帧内预测模式中选择相应的帧内预测模式,并且因此可更好地适于帧内预测第二块从而改善第二块的编码效率。在一些示例中,水平帧内预测模式和垂直帧内预测模式比一些其它帧内预测模式更易于构建,因此可以改善编码效率。第一块可以是第二块的参考块。第一块也可以是第二块的相邻块(例如,空间相邻块)。第一块还可以是第二块(例如,色度块)的并置块(例如,并置亮度块)。第二块可以是调色板编码块的相邻块(例如,空间相邻块)。第二块还可以是调色板编码块(例如,亮度块)的并置块(例如,并置色度块)。
[0210]
为调色板编码块所分配的相应帧内预测模式可以是水平模式。当第二块使用调色板编码块例如作为参考块来构造帧内模式预测时,可以针对调色板编码块考虑水平模式。在一个示例中,第二块是第一块的相邻亮度块,并且为第二块构造最大概率模式(mpm)列表。第二块可以使用分配给第一块的水平模式作为参考来构造mpm列表。在示例中,在双树情况下,第二块是以dm模式(例如,帧内预测模式之一)进行编码的色度块,并且与第一块(例如,第二块的并置亮度块)并置。因此,可以根据分配给第一块(例如,并置的亮度块)的水平模式推导出应用于第二块的实际帧内预测模式。并置的亮度块可以参考并置的色度块的亮度位置的中心位置。
[0211]
为调色板编码块所分配的相应帧内预测模式可以是垂直模式。当第二块使用调色
板编码块例如,作为参考块来构造帧内模式预测时,可以针对调色板编码块考虑垂直模式。在一个示例中,第二块是第一块的相邻亮度块,并且为第二块构造mpm列表。第二块可以使用分配给第一块的垂直模式作为参考来构造mpm列表。在一个示例中,在双树情况下,第二块是以dm模式(例如,帧内预测模式之一)进行编码的色度块,并且与第一块(例如,第二块的并置亮度块)并置。因此,可以根据分配给第一块(例如,并置的亮度块)的垂直模式推导出应用于第二块的实际帧内预测模式。并置的亮度块可以参考并置的色度块的亮度位置的中心位置。
[0212]
对于采用scc工具(例如,ibc模式、调色板编码模式、bdpcm模式,ts模式等)进行编码的块,与块相关联的至少一个环路滤波器(例如,dbf、sao滤波器、alf、双边滤波器等)可以被禁用(或被禁止)。在一些示例中,对于采用scc工具进行编码的块与另一个块之间的边界,至少一个环路滤波器(例如,dbf等)可以被禁用。在一个示例中,可以采用调色板编码模式或ibc模式对块进行编码。使用调色板编码模式编码的块可以被称为调色板编码块,并且采用ibc模式编码的块可以被称为ibc编码块。在一个示例中,可以基于块的预测模式(例如,调色板编码模式、ibc模式或另一scc工具)和块的第一量化参数(qp)中的至少之一,来确定与当前块相关联的至少一个环路滤波器是否被禁用。
[0213]
在一个实施例中,对于采用了调色板编码模式或ibc模式编码的块,跨该块与该块的相邻块之间的边界的dbf可以被禁用(例如,将边界强度(bs)设置为0)。
[0214]
在一个示例中,采用调色板编码模式对块和相邻块进行编码,并且因此边界位于两个调色板编码块之间,或者边界的两侧均为调色板编码块。当在边界两侧的块和相邻块都采用调色板编码模式进行编码时,跨边界的dbf可以被禁用或被确定为禁用。
[0215]
在一个示例中,由于块和相邻块都采用了ibc模式来编码,因此边界位于两个ibc编码块之间。当在边界的两侧上的块和相邻块采用ibc模式进行编码时,则跨边界的dbf可以被禁用。
[0216]
在一个示例中,块和相邻块中的一个采用了调色板编码模式进行编码,而块和相邻块中的另一个采用ibc模式进行编码。边界位于调色板编码块和ibc编码块之间。因此,跨边界的dbf可以被禁用。
[0217]
在一个示例中,块和相邻块中的一个采用了调色板编码模式进行编码。因此,边界在调色板编码的块和用任何其他合适的预测模式(例如scc工具、帧内预测模式、帧间预测模式等)编码的块之间。因此,跨边界的dbf可以被禁用。
[0218]
在一个示例中,块和相邻块中的一个采用了ibc模式编码。因此,边界在ibc块与用任何其他合适的预测模式(例如,scc工具、帧内预测模式、帧间预测模式等)编码的块之间。因此,跨边界的dbf可以被禁用。
[0219]
在一个示例中,块和相邻块中的一个采用了调色板编码模式进行编码。此外,块的第一量化参数qp和/或相邻块的第二量化参数qp满足特定条件。因此,跨边界的dbf可以被禁用。在示例中,特定条件可以为块的第一量化参数qp低于阈值。在示例中,特定条件可以为块的第一量化参数qp和相邻块的第二量化参数qp均低于阈值。阈值可以是任何合适的值,例如22。可以通过信号通知该阈值或预先确定该阈值。
[0220]
在一个示例中,块和相邻块中的一个采用了ibc模式编码。此外,块的第一qp和/或相邻块的第二qp满足如上文所述的特定条件。因此,跨边界的dbf被禁用。在一个示例中,特
定条件为块的第一qp低于如上文所述的阈值。在一个示例中,特定条件为块的第一qp和相邻块的第二qp均低于阈值。
[0221]
在一个实施例中,对于采用调色板编码模式或ibc模式编码的块,可以禁用(或禁止,也被称为关闭)不同于dbf的一个或多个环路滤波器(例如,alf、sao滤波器、双边滤波器等)。不同于dbf的一个或多个环路滤波器可以被用于块,可以将一个或多个环路滤波器应用于块。例如,可以将一个或多个环路滤波器应用于块内的样本。在示例中,是否禁用该块的一个或多个环路滤波器是基于该块的第一qp和第一预测模式。例如,当第一qp小于阈值,并且采用调色板编码模式对块进行编码时,该块的一个或多个环路滤波器将被禁用。在一个示例中,当第一qp小于阈值,并且采用ibc模式对块进行编码时,该块的一个或多个环路滤波器将被禁用。
[0222]
在一些示例中,是否禁用块的一个或多个环路滤波器是基于以下模式中的至少之一:第一qp、块的第一预测模式、第二qp和第二预测模式。在一个示例中,当块的第一qp低于阈值,并且第一预测模式和第二预测模式之一为调色板编码模式时,块的一个或多个环路滤波器将被禁用。在一个示例中,当第一qp和第二qp低于阈值,并且第一预测模式和第二预测模式之一为调色板编码模式时,块的一个或多个环路滤波器将被禁用。在一个示例中,当块的第一qp低于阈值,并且第一预测模式和第二预测模式之一为ibc模式时,块的一个或多个环路滤波器将被禁用。在一个示例中,当第一qp和第二qp低于阈值,并且第一预测模式和第二预测模式之一为ibc模式时,块的一个或多个环路滤波器将被禁用。
[0223]
根据本公开的各个方面,可以根据已编码视频比特流来解码当前块的编码信息。编码信息可以指示当前块的第一预测模式为scc工具或多个scc工具(例如,ibc模式、调色板编码模式、bdpcm模式、ts模式等)之一。在一些示例中,第一预测模式为ibc模式或调色板编码模式。可以基于当前块的第一预测模式和当前块的第一qp中的至少之一,来确定与当前块相关联的至少一个环路滤波器是否被禁用。在一个示例中,当至少一个环路滤波器被禁用时,可以在不使用至少一个环路滤波器的情况下,对当前块进行重建。在一个示例中,当dbf未被禁用时,采用至少一个环路滤波器对当前块进行重建。在一些示例中,当前块的至少一个环路滤波器包括以下至少之一:alf、sao滤波器和双边滤波器。可以将至少一个环路滤波器应用于当前块,并且该至少一个环路滤波器可以不同于dbf。因此,当针对当前块启用至少一个环路滤波器时,可以将至少一个环路滤波器应用于当前块,并且因此可由至少一个环路滤波器对当前块内的样本进行修改(或滤波)。可以基于当前块的第一qp和第一预测模式,来确定至少一个环路滤波器是否被禁用。
[0224]
在一个实施例中,至少一个环路滤波器为用于当前块与当前块的相邻块之间的边界的dbf。第一预测模式为ibc模式或调色板编码模式。可以基于以下至少之一来确定用于当前块与相邻块之间的边界的dbf是否被禁用:(i)当前块的第一预测模式,(ii)相邻块的第二预测模式,(iii)当前块的第一qp,以及(iv)相邻块的第二qp。可以基于第一预测模式和第二预测模式中的至少之一,来确定用于当前块与相邻块之间的边界的dbf是否被禁用。
[0225]
在一个示例中,当第一预测模式和第二预测模式中的至少一个是下面中的一个时可以确定用于当前块与相邻块之间的边界的dbf被禁用:(i)ibc模式;以及(ii)调色板编码模式。在一个示例中,当(i)第一qp小于阈值(例如,阈值为22)或者第一qp和第二qp小于阈值,并且(ii)第一预测模式和第二预测模式之一为调色板编码模式或ibc模式时,可以确定
用于当前块与相邻块之间的边界的dbf被禁用。
[0226]
可以使用高级标记(也称为高级控制标记、滤波器控制标记、禁用控制标记、高级禁用控制标记)来禁止或禁用至少一个scc工具的至少一个环路滤波器。如上文所述,滤波器控制标记可以为以下级别中的一个或其组合:sps、pps、图片头、切片头、图块、图块组,和/或,类似于图块或图块组的子图片级别。因此,滤波器控制标记可以与一组块相关联,并且因此控制用于该组块中的一个或多个的至少一个环路滤波器。块组可以为:序列、图片、切片、图块、图块组或者合适的子图片级别。块组可以包括多个块。在一个示例中,使用高级控制标记以高于块级别的级别来控制至少一个环路滤波器,例如,对于多个块,可以相较于以例如对于每个块的块级别来控制至少一个环路滤波器的方式更有效。
[0227]
根据本公开的各个方面,可以根据已编码视频比特流对包含有当前块的块组的编码信息进行解码。编码信息可以例如在序列、图片、切片、图块、图块组或者合适的子图片级别中指示与块组相关联的滤波器控制标记。可以使用scc工具对当前块进行编码。在一个示例中,当前块的预测模式为scc工具。可以基于滤波器控制标记来确定当前块的至少一个环路滤波器是否被禁用。在一个示例中,当确定至少一个环路滤波器被禁用时,可以在不使用至少一个环路滤波器的情况下,对当前块进行重建。
[0228]
在一个实施例中,例如,当与块组相关联的滤波器控制标记为真(或滤波器控制标记被启用)时,可以基于滤波器控制标记来确定当前块的至少一个环路滤波器被禁用。因此,在一个示例中,至少一个环路滤波器不适用于在任何适当选择的scc工具(例如,ibc模式)中编码的样本(例如,块组中的一个或多个)。编解码器支持所选择的scc工具。在一个示例中,可以使用一个或多个所选择的scc工具(例如ibc模式)对块组进行编码,并且因此对于块组中的样本,至少一个环路滤波器被禁用。在一个示例中,可以使用一个或多个所选择的scc工具对块组的第一子集进行编码,并且采用与所选择的scc工具不同的预测模式(例如,帧间预测模式)对块组的第二子集进行编码。因此,对于块组的第一子集中的样本,至少一个环路滤波器将被禁用,并且可以对于块组的第二子集中的样本应用至少一个环路滤波器。
[0229]
在一个示例中,当滤波器控制标记为假(或滤波器控制标记被关闭)时,如果满足某些条件(也被称为确定条件),则至少一个环路滤波器可以被应用于在所选scc工具中编码的样本。在示例中,可以将至少一个环路滤波器应用于当前块(例如,适用于当前块),并且条件为用于当前块或者与当前块相关联。在一个示例中,至少一个环路滤波器为dbf,因此适用于块之间的边界。当dbf被应用于边界时,可以修改边界两侧的块中的样本。这些条件是针对块(例如,当前块与相邻块)之间的边界,并且因此这些条件与位于边界两侧的块相关联。
[0230]
在一个实施例中,滤波器控制标记特定于scc工具。基于特定于scc工具的滤波器控制标记,来确定当前块的至少一个环路滤波器被禁用。例如,当专门为scc工具通过信号通知滤波器控制标记并且滤波器控制标记为真时,确定至少一个环路滤波器被禁用。在一个示例中,对于每个scc工具(例如,ibc模式、调色板编码模式、ts模式、bdpcm模式等),用信号通知相应的滤波器控制标记(或scc工具特定的滤波器控制标记)。当相应的滤波器控制标记被启用或为真时,至少一个环路滤波器不适用于以scc工具(例如,ibc模式)编码的样本。例如,scc工具为ibc模式,并且对应的滤波器控制标记为用于ibc模式。当ibc模式的相
应滤波器控制标记为真时,至少一个环路滤波器不适用于以ibc模式编码的样本。当相应的滤波器控制标记被关闭(或为假)时,如果满足确定条件,则可以将至少一个环路滤波器应用于以所选的scc工具编码的样本。在一个示例中,如上文所述,条件为用于当前块。在示例中,至少一个环路滤波器为dbf,并且如上文所述,条件是用于块(例如,当前块与相邻块)之间的边界。
[0231]
如上文所述,可以基于滤波器控制标记来确定当前块的至少一个环路滤波器被禁用,其中滤波器控制标记可以与块组相关联或者特定于scc工具。
[0232]
在一个实施例中,滤波器控制标记可以是特定于scc工具的或者适用于包括scc工具的多个scc工具。如上文所述,可以基于是否在高于块级别的级别上通过信号通知scc标记,来指示针对高于块级别的级别启用了scc工具或多个scc工具,以有条件地通过信号通知滤波器控制标记。
[0233]
如上文所述,可以使用scc工具对当前块进行编码。在一个实施例中,滤波器控制标记特定于scc工具。例如,可以基于是否以例如高于块级别的级别来通过信号通知scc标记(或高级别的启用标记)以指示针对高于块级别的级别启用scc工具,来有条件地通过信号通知滤波器控制标记。
[0234]
在一个示例中,用于控制至少一个环路滤波器的使用的滤波器控制标记由scc工具的高级启用标记有条件地通过信号通知。例如,scc工具为ibc模式,并且至少一个环路滤波器为dbf,因此,仅当ibc模式的高级别启用标记被启用(或为真)时,才通过信号通知用于控制以ibc模式编码的块组中的一个或多个块的dbf的使用的滤波器控制标记。否则,不使用信号通知ibc模式的滤波器控制标记,并且可以推断为假(或关闭)。
[0235]
因此,在一个示例中,仅当使用scc工具时才通过信号通知滤波器控制标记。例如,在第一级别(例如,序列级别)上通过信号通知ibc模式的高级启用标记。在第二级别(例如,图片级别)上,通过信号通知用于ibc模式的滤波器控制标记。仅当序列级别的ibc模式的高级别启用标记被启用时,才通过信号通知用于ibc模式的滤波器控制标记。第一级别和第二级别可以相同或不同的。第一级别和第二级别可以为高于块级别的级别。
[0236]
在一个实施例中,滤波器控制标记可以被应用于包括scc工具的多个scc工具,并且可以基于是否在例如高于块级别的级别上通过信号通知scc标记(或高级别的启用标记),以指示针对高于块级别的级别启用多个scc工具,来有条件地通过信号通知该滤波器控制标记。在一个示例中,当在高于块级别的级别上通过信号通知scc标记以指示对于高于块级别的级别启用多个scc工具时,滤波器控制标记被有条件地通过信号通知。
[0237]
在一个示例中,控制至少一个环路滤波器的使用的滤波器控制标记可以被用于多个scc工具,并且可以通过能够启用多个scc工具的高级启用标记来有条件地通过信号通知该滤波器控制标记。多个scc工具可以包括编解码器所支持的所有scc工具。通常,多个scc工具可以包括由编解码器所支持的任何合适的scc工具。在一个示例中,多个scc工具包括:ibc模式、调色板编码模式、ts模式和bdpcm模式的组合。可以从上述的scc工具中排除一个或多个scc工具,并且可以将其他的scc工具添加到多个scc工具之中。在一个示例中,能够启用多个scc工具的高级别启用标记为真(或启用),则可以通过信号通知用于多个scc工具的滤波器控制标记。在示例中,能够启用多个scc工具的高级别启用标记为假(或关闭),则不使用信号通知用于多个scc工具的滤波器控制标记。当没有使用信号通知滤波器控制标
记时,则可以推断滤波器控制标记为假(或关闭)。
[0238]
在一个实施例中,滤波器控制标记可以被应用于包括scc工具的多个scc工具,并且可以基于是否在例如在高于块级别的级别上以信号通知scc标记,以指示针对高于块级别的级别启用scc工具,来有条件地以信号通知该滤波器控制标记。在一个示例中,控制至少一个环路滤波器的使用的滤波器控制标记可以被用于多个scc工具,并且可以通过启用多个scc工具中任意一个所选的scc工具的scc标记(或高级别启用标记)来有条件地以信号通知该滤波器控制标记。编解码器支持多个scc工具中所选的一个scc工具。如上文所述,多个scc工具可以包括由编解码器支持的所有scc工具。在一个示例中,多个scc工具包括ibc模式、调色板编码模式、ts模式、bdpcm模式,和/或其他scc模式的组合。
[0239]
在一个示例中,高级启用标记在高级语法上为真(或启用),并且启用多个scc工具中所选的一个scc工具。可以以信号通知用于多个scc工具的滤波器控制标记。在一个示例中,高级别启用标记为假的(或关闭),则不使用信号通知用于多个scc工具的滤波器控制标记。当没有使用信号来通知滤波器控制标记时,则可以推断滤波器控制标记为假(或关闭)。
[0240]
在一个实施例中,可以基于滤波器控制标记和当前块的qp来确定是否禁用至少一个环路滤波器。例如,仅当当前块(例如,编码块)的qp在值范围(例如,预定值范围、给定值范围)内,并且滤波器控制标记为启用时,至少一个环路滤波器才被禁用。值范围可以为任何合适的范围,诸如qp大于或等于阈值(例如,22)。在示例中,值范围可以为qp小于或等于阈值(例如,22)。可以推断出该值范围或者通过信号通知该值范围。阈值可以为任何合适的值,并且可以推断出该阈值或者通过信号通知该阈值。
[0241]
在一个实施例中,至少一个环路滤波器包括dbf,例如用于当前块与块组中的相邻块之间的边界的dbf。可以基于滤波器控制标记和以下至少之一,来确定用于当前块与相邻块之间的边界的dbf是否被禁用:(i)当前块的scc工具和(ii)相邻块的预测模式。当滤波器控制标记为启用,并且(i)当前块的预测模式和(ii)相邻块的预测模式中的至少之一为scc工具(例如,ibc模式)时,可以确定用于当前块与相邻块之间的边界的dbf被禁用。
[0242]
如上文所述,当边界的两侧(例如,当前块和相邻块)中的至少一侧的样本由所选的scc工具来编码时,用于边界的dbf可以被禁用。例如,当滤波器控制标记为启用,并且其他判定条件(例如,一个或多个qp在一个范围内时,如qp小于或等于22),对于采用了例如ibc模式进行编码的样本,dbf可以被禁用,并且一个或多个qp也可以被用于包括了这些样本的各个块。在示例中,只有当两侧均采用了ibc模式编码时,对于沿边界的样本,dbf才被禁用。
[0243]
图14示出了概述根据本公开的一个实施例的过程(1400)的流程图。该过程(1400)可以被用于当前块的重建,从而为正在重建的当前块生成预测块。在各个实施例中,过程(1400)可以由处理电路执行,该处理电路可以例如为终端设备(310)、终端设备(320)、终端设备(330)和终端设备(340)中的处理电路、执行视频编码器(403)的功能的处理电路、执行视频解码器(410)的功能的处理电路、执行视频解码器(510)的功能的处理电路、执行视频编码器(603)的功能的处理电路等等。在一些实施例中,过程(1400)可以在软件指令中实现,因此当处理电路执行软件指令时,该处理电路可以执行过程(1400)。该过程开始于步骤(s1401)并且进行到步骤(s1410)。
[0244]
在步骤(s1410)中,可以根据已编码视频比特流对当前块的编码信息进行解码。编
码信息可以指示当前块的第一预测模式为多个scc工具之一。多个scc工具之一可以为任何合适的scc工具。在示例中,第一预测模式为ibc模式或调色板编码模式。
[0245]
在步骤(s1420)中,如上文所述,可以基于当前块的第一预测模式和当前块的第一qp中的至少之一,来确定与当前块相关联的至少一个环路滤波器是否被禁用。当至少一个环路滤波器被禁用时,过程(1400)进行到步骤(s1430)。否则,过程(1400)进行到步骤(s1440)。
[0246]
在步骤(s1430)中,当至少一个环路滤波器被禁用时,可以在不使用至少一个环路滤波器的情况下,对当前块进行重建。过程(1400)进行到步骤(s1499),并且该过程被终止。
[0247]
在步骤(s1440)中,当至少一个环路滤波器未被禁用时,可以使用至少一个环路滤波器对当前块进行重建,例如,可以将至少一个环路滤波器应用于当前块与相邻块之间的边界。过程(1400)进行到步骤(s1499),并且该过程被终止。
[0248]
该过程(1400)可以适用于各种情况,并且可以对该过程(1400)中的各个步骤相应地进行调整。过程(1400)中的一个或多个步骤可以被修改、省略、重复,和/或,组合。可以使用任何合适的顺序来实现该过程(1400)。可以将其他的步骤(一个或多个)添加到该过程(1400)中。
[0249]
图15示出了概述根据本公开的一个实施例的过程(1500)的流程图。该过程(1500)可以被用于当前块的重建,从而为正在重建的当前块生成预测块。在各个实施例中,过程(1500)可以由处理电路执行,该处理电路可以例如为终端设备(310)、终端设备(320)、终端设备(330)和终端设备(340)中的处理电路、执行视频编码器(403)的功能的处理电路、执行视频解码器(410)的功能的处理电路,执行视频解码器(510)的功能的处理电路、执行视频编码器(603)的功能处理电路,等等。在一些实施例中,过程(1500)可以在软件指令中实现,因此当处理电路执行软件指令时,该处理电路可以执行过程(1500)。该过程开始于步骤(s1501)并且进行到步骤(s1510)。
[0250]
在步骤(s1510)中,可以根据已编码视频比特流对包含有当前块的组块的编码信息进行解码。编码信息可以指示与块组相关联的滤波器控制标记。可以使用scc工具对当前块进行编码。
[0251]
在步骤(s1520)中,如上文所述,可以基于滤波器控制标记来确定当前块的至少一个环路滤波器是否被禁用。当dbf被禁用时,过程(1500)进行到步骤(s1530)。否则,过程(1500)进行到步骤(s1540)。
[0252]
在步骤(s1530)中,当至少一个环路滤波器被禁用时,可以在不使用至少一个环路滤波器的情况下对当前块进行重建。过程(1500)进行到步骤(s1599),并且该过程被终止。
[0253]
在步骤(s1540)中,如上文所述,当至少一个环路滤波器未被禁用时,例如,当满足一个或多个判定条件时,可以使用至少一个环路滤波器对当前块进行重建。过程(1500)进行到步骤(s1599),并且该过程被终止。
[0254]
该过程(1500)可以适用于各种场景,并且该过程(1500)中的各个步骤可以相应地调整。过程(1500)中的一个或多个步骤可以被修改、省略、重复,和/或组合。可以使用任何合适的顺序来实现该过程(1500)。可以在该过程中添加其他的步骤。
[0255]
本公开中的实施例可以单独使用或以任何顺序组合使用。此外,所述方法(或实施例)、编码器和解码器中的每一个都可以由处理电路(例如,一个或多个处理器,或一个或多
个集成电路)来实现。在示例中,一个或多个处理器可以执行被存储在非暂时性计算机可读介质中的程序。
[0256]
可以将上述技术实现为计算机软件,该计算机软件使用计算机可读指令,且物理存储在一个或多个计算机可读介质中。例如,图16示出了适于实施所公开的主题的某些实施例的计算机系统(1600)。
[0257]
可以使用任何合适的机器代码或计算机语言对计算机软件进行编码,任何合适的机器代码或计算机语言可以经受汇编、编译、链接或类似的机制以创建包括指令的代码,该指令可以由一个或多个计算机中央处理单元(cpu)、图形处理单元(gpu)等直接执行或通过译码、微代码等执行。
[0258]
指令可以在各种类型的计算机或其组件上执行,例如包括个人计算机、平板计算机、服务器、智能电话、游戏装置、物联网装置等。
[0259]
图16所示的计算机系统(1600)的组件本质上是示例性的,并不旨在对实施本公开的实施例的计算机软件的用途或功能的范围提出任何限制。组件的配置也不应被解释为具有与计算机系统(1600)的示例性实施例中所示的组件中的任何一个组件或组件的组合相关的任何依赖或要求。
[0260]
计算机系统(1600)可以包括某些人机接口输入装置。此类人机接口输入装置可以响应于一个或多个人类用户通过例如下述的输入:触觉输入(例如:击键、划动,数据手套移动)、音频输入(例如:语音、拍手)、视觉输入(例如:手势)、嗅觉输入(未描绘)。人机接口装置还可以用于捕获不一定与人的意识输入直接相关的某些媒介,例如音频(例如:语音、音乐、环境声音)、图片(例如:扫描的图片、从静止图片相机获取摄影图片)、视频(例如二维视频、包括立体视频的三维视频)。
[0261]
输入人机接口装置可以包括下述一项或多项(每种中仅示出一个):键盘(1601)、鼠标(1602)、触控板(1603)、触摸屏(1610)、数据手套(未示出)、操纵杆(1605)、麦克风(1606)、扫描仪(1607)、相机(1608)。
[0262]
计算机系统(1600)还可以包括某些人机接口输出装置。这样的人机接口输出装置可以例如通过触觉输出、声音、光和气味/味道来刺激一个或多个人类用户的感官。此类人机接口输出装置可以包括触觉输出装置(例如触摸屏(1610)的触觉反馈、数据手套(未示出)或操纵杆(1605),但还可以是不作为输入装置的触觉反馈装置)、音频输出装置(例如:扬声器(1609)、耳机(未描绘))、视觉输出装置(例如包括crt屏幕、lcd屏幕、等离子屏幕、oled屏幕的屏幕(1610),每种屏幕有或没有触摸屏输入功能,每种屏幕都有或没有触觉反馈功能,其中的一些屏幕能够通过诸如立体图像输出之类的装置、虚拟现实眼镜(未描绘)、全息显示器和烟箱(未描绘)以及打印机(未描绘)来输出二维视觉输出或超过三维的输出。
[0263]
计算机系统(1600)还可以包括人类可访问存储装置及其关联介质:例如包括具有cd/dvd等介质(1621)的cd/dvd rom/rw(1620)的光学介质、指状驱动器(1622)、可拆卸硬盘驱动器或固态驱动器(1623)、诸如磁带和软盘之类的传统磁性介质(未描绘)、诸如安全软件狗之类的基于专用rom/asic/pld的装置(未描绘)等。
[0264]
本领域技术人员还应该理解,结合当前公开的主题使用的术语“计算机可读介质”不涵盖传输介质、载波或其他暂时性信号。
[0265]
计算机系统(1600)还可以包括通到一个或多个通信网络(1655)的接口(1654)。网
络可以例如是无线网络、有线网络、光网络。网络可以进一步是本地网络、广域网络、城域网络、车辆和工业网络、实时网络、延迟容忍网络等。网络的示例包括诸如以太网之类的局域网、无线lan、包括gsm、3g、4g、5g、lte等的蜂窝网络、包括有线电视、卫星电视和地面广播电视的电视有线或无线广域数字网络、包括canbus的车辆和工业网络等。某些网络通常需要连接到某些通用数据端口或外围总线(1649)的外部网络接口适配器(例如计算机系统(1600)的usb端口);如下所述,其他网络接口通常通过连接到系统总线而集成到计算机系统(1600)的内核中(例如,连接到pc计算机系统中的以太网接口或连接到智能手机计算机系统中的蜂窝网络接口)。计算机系统(1600)可以使用这些网络中的任何一个网络与其他实体通信。此类通信可以是仅单向接收的(例如,广播电视)、仅单向发送的(例如,连接到某些canbus装置的canbus)或双向的,例如使用局域网或广域网数字网络连接到其他计算机系统。如上所述,可以在那些网络和网络接口中的每一个上使用某些协议和协议栈。
[0266]
上述人机接口装置、人机可访问的存储装置和网络接口可以附接到计算机系统(1600)的内核(1640)。
[0267]
内核(1640)可以包括一个或多个中央处理单元(cpu)(1641)、图形处理单元(gpu)(1642)、现场可编程门区域(fpga)(1643)形式的专用可编程处理单元、用于某些任务的硬件加速器(1644)、图形适配器(1650)等。这些装置以及只读存储器(rom)(1645)、随机存取存储器(1646)、诸如内部非用户可访问的硬盘驱动器、ssd等之类的内部大容量存储器(1647)可以通过系统总线(1648)连接。在一些计算机系统中,可以以一个或多个物理插头的形式访问系统总线(1648),以能够通过附加的cpu、gpu等进行扩展。外围装置可以直接连接到内核的系统总线(1648)或通过外围总线(1449)连接到内核的系统总线(1648)。在示例中,显示器(1610)可以被连接至图形适配器(1650)。外围总线的体系结构包括pci、usb等。
[0268]
cpu(1641)、gpu(1642)、fpga(1643)和加速器(1644)可以执行某些指令,这些指令可以组合来构成上述计算机代码。该计算机代码可以存储在rom(1645)或ram(1646)中。过渡数据也可以存储在ram(1646)中,而永久数据可以例如存储在内部大容量存储器(1647)中。可以通过使用高速缓存来进行到任何存储装置的快速存储及检索,该高速缓存可以与下述紧密关联:一个或多个cpu(1641)、gpu(1642)、大容量存储器(1647)、rom(1645)、ram(1646)等。
[0269]
计算机可读介质可以在其上具有执行各种由计算机实现的操作的计算机代码。介质和计算机代码可以是出于本公开的目的而专门设计和构造的介质和计算机代码,或者介质和计算机代码可以是计算机软件领域的技术人员公知且可用的类型。
[0270]
作为非限制性示例,可以由于一个或多个处理器(包括cpu、gpu、fpga、加速器等)执行包含在一种或多种有形的计算机可读介质中的软件而使得具有架构(1600),特别是内核(1640)的计算机系统提供功能。此类计算机可读介质可以是与如上所述的用户可访问的大容量存储器相关联的介质,以及某些非暂时性内核(1640)的存储器,例如内核内部大容量存储器(1647)或rom(1645)。可以将实施本公开的各种实施例的软件存储在此类装置中并由内核(1640)执行。根据特定需要,计算机可读介质可以包括一个或多个存储装置或芯片。软件可以使得内核(1640),特别是其中的处理器(包括cpu、gpu、fpga等)执行本文所描述的特定过程或特定过程的特定部分,包括定义存储在ram(1646)中的数据结构以及根据由软件定义的过程来修改此类数据结构。附加地或替换地,可以由于硬连线或以其他方式
体现在电路(例如,加速器(1644))中的逻辑而使得计算机系统提供功能,该电路可以替换软件或与软件一起运行以执行本文描述的特定过程或特定过程的特定部分。在适当的情况下,提及软件的部分可以包含逻辑,反之亦然。在适当的情况下,提及计算机可读介质的部分可以包括存储用于执行的软件的电路(例如集成电路(ic))、体现用于执行的逻辑的电路或包括两者。本公开包括硬件和软件的任何合适的组合。
[0271]
附录a:首字母缩略词
[0272]
jem:联合勘探模式
[0273]
vvc:通用视频编码
[0274]
bms:基准集
[0275]
mv:运动矢量
[0276]
mvp:运动矢量预测
[0277]
amvp:高级运动矢量预测
[0278]
dm:导出模式
[0279]
mpm:最大概率模式
[0280]
qp:量化参数
[0281]
alf:自适应环路滤波器
[0282]
sao:样本自适应偏移
[0283]
hevc:高效视频编码
[0284]
hevc scc:hevc屏幕内容编码
[0285]
sei:补充增强信息
[0286]
vui:视频可用性信息
[0287]
gop:图片群组
[0288]
tu:变换单元,
[0289]
pu:预测单元
[0290]
ctu:编码树单元
[0291]
ctb:编码树块
[0292]
pbs:预测块
[0293]
hrd:假想参考解码器
[0294]
snr:信噪比
[0295]
cpu:中央处理单元
[0296]
gpu:图形处理单元
[0297]
crt:阴极射线管
[0298]
lcd:液晶显示器
[0299]
oled:有机发光二极管
[0300]
cd:光盘
[0301]
dvd:数字视频光盘
[0302]
rom:只读存储器
[0303]
ram:随机存取存储器
[0304]
asic:专用集成电路
[0305]
pld:可编程逻辑器件
[0306]
lan:局域网
[0307]
gsm:全球移动通信系统
[0308]
lte:长期演进
[0309]
canbus:控制器局域网总线
[0310]
usb:通用串行总线
[0311]
pci:互连外围设备
[0312]
fpga:现场可编程门区域
[0313]
ssd:固态驱动器
[0314]
ic:集成电路
[0315]
cu:编码单元
[0316]
bv:块矢量
[0317]
cpr:当前图片参考
[0318]
ibc:帧内块复制
[0319]
dpb:解码片像缓冲器
[0320]
尽管本公开已经描述了多个示例性实施例,但是存在落入本公开的范围内的修改、置换和各种替换等效物。因此,应当理解,本领域技术人员将能够设计出许多虽然未在本文中明确示出或描述,但是体现了本公开的原理,因此落入本公开的其精神和范围内的系统和方法。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献