三角预测中的合并列表构建的制作方法

三角预测中的合并列表构建
1.通过引用并入本文
2.本公开要求于2019年7月31日提交的、申请号为16/528,019、名称为“三角预测中的合并列表构建”的美国专利申请的优先权，其要求于2019年3月8日提交的、申请号为62/816,058、名称为“三角预测中的合并列表构建”的美国临时申请的优先权，其全部内容通过引用并入本文。
技术领域
3.本公开描述总体上涉及视频编解码的实施例。


背景技术：

4.本文所提供的背景描述旨在总体上呈现本公开的背景。在背景技术部分以及本说明书的各个方面中所描述的目前已署名的发明人的工作所进行的程度，并不表明其在本公开提交时作为现有技术，且从未明示或暗示其被承认为本公开的现有技术。
5.可以使用具有运动补偿的图片间预测技术来执行视频编码和解码。未压缩的数字视频可以包括一系列图片，每个图片具有例如1920
×
1080亮度样本及相关色度样本的空间维度。所述系列图片可以具有固定的或可变的图片速率(也非正式地称为帧率)，例如每秒60张图片或60hz。未压缩的视频具有很高的比特率要求。例如，每个样本8比特的1080p60 4:2:0视频(60hz帧率下1920x1080亮度样本分辨率)要求接近1.5gbit/s带宽。一小时这样的视频就需要超过600gb的存储空间。
6.视频编码和解码的一个目的是通过压缩减少输入视频信号的冗余。压缩可以帮助降低对上述带宽或存储空间的要求，在某些情况下可降低两个或更多数量级。无损压缩和有损压缩、以及两者的组合均可采用。无损压缩是指从压缩的原始信号中重建原始信号精确副本的技术。当使用有损压缩时，重建信号可能与原始信号不完全相同，但是原始信号和重建信号之间的失真足够小，使得重建信号可用于预期应用。有损压缩广泛应用于视频。容许的失真量取决于应用。例如，相比于电视应用的用户，某些消费流媒体应用的用户可以容忍更高的失真。可实现的压缩比反映出：较高的允许/容许失真可产生较高的压缩比。
7.运动补偿可以是一种有损压缩技术，且可涉及如下技术：来自先前重建的图片或重建图片一部分(参考图片)的样本数据块在空间上按运动矢量(下文称为mv)指示的方向移位后，用于新重建的图片或图片部分的预测。在某些情况下，参考图片可与当前正在重建的图片相同。mv可具有两个维度x和y，或者三个维度，其中第三个维度表示正在使用的参考图片(后者间接地可以是时间维度)。
8.在一些视频压缩技术中，应用于样本数据的某个区域的mv可根据其它mv来预测，例如根据与正在重建的区域空间相邻的样本数据的另一个区域相关的、且按解码顺序在该mv前面的那些mv。这样做可以大大减少编解码mv所需的数据量，从而消除冗余并增加压缩量。mv预测可以有效地进行，例如，因为在对从相机导出的输入视频信号(称为自然视频)进行编解码时，存在一种统计上的可能性，即面积大于单个mv适用区域的区域，会朝着类似的
方向移动，因此，在某些情况下，可以使用从相邻区域的mv导出的相似运动矢量进行预测。这导致针对给定区域发现的mv与根据周围mv预测的mv相似或相同，并且在熵编解码之后，又可以用比直接编解码mv时使用的比特数更少的比特数来表示。在某些情况下，mv预测可以是对从原始信号(即样本流)导出的信号(即mv)进行无损压缩的示例。在其它情况下，例如由于根据几个周围mv计算预测值时产生的取整误差，mv预测本身可能是有损的。
9.h.265/hevc(itu
‑
t h.265建议书，“高效视频编解码”，2016年12月)描述了各种mv预测机制。在h.265提供的多种mv预测机制中，本公开描述的是下文称为“空间合并”的技术。
10.参照图1，当前块(101)包括编码器在运动搜索过程中发现的样本，所述样本可以根据已在空间上移位的相同大小的先前块进行预测。不直接对mv进行编解码，而是使用与五个周围样本中的任何一个相关联的mv，从与一个或多个参考图片相关联的元数据中导出该mv，例如，从最近的(按解码顺序)参考图片中导出该mv。其中，五个周围样本分别用a0、a1和b0、b1、b2(分别为102到106)表示。在h.265中，mv预测可使用相邻块正在使用的同一参考图片的预测值。


技术实现要素：

11.本公开的方面提供了视频编码/解码的方法和装置。在一些示例中，一种装置包括用于视频解码的处理电路。
12.根据本公开的实施例，提供了一种在解码器中进行视频解码的方法。在该方法中，接收已编码视频比特流中的第一语法元素。所述第一语法元素指示所述已编码视频比特流中的一组编码块中的合并候选的最大允许数量。当接收到第二语法元素时，基于所述第二语法元素为所述一组编码块设置三角预测模式(tpm)候选的最大允许数量。否则，基于所述第一语法元素设置所述tpm候选的最大允许数量。当所述一组编码块中的当前编码块以三角预测模式进行编码时，基于多个tpm候选构建所述当前编码块的三角预测候选列表。所述三角预测候选列表中的tpm候选的数量小于或等于所述tpm候选的最大允许数量。
13.根据本公开的实施例，提供了一种频解码的装置。该装置包括处理电路。所述处理电路被配置为：接收已编码视频比特流中的第一语法元素。所述第一语法元素指示所述已编码视频比特流中的一组编码块中的合并候选的最大允许数量。所述处理电路进一步被配置为：当接收到第二语法元素时，基于所述第二语法元素为所述一组编码块设置三角预测模式(tpm)候选的最大允许数量。否则，所述处理电路被配置为：基于所述第一语法元素设置所述tpm候选的最大允许数量。当所述一组编码块中的当前编码块以三角预测模式进行编码时，所述处理电路被配置为：基于多个tpm候选构建所述当前编码块的三角预测候选列表。所述三角预测候选列表中的tpm候选的数量小于或等于所述tpm候选的最大允许数量。
14.本公开的方面还提供了一种非易失性计算机可读介质，用于存储指令，当所述指令由用于视频解码的计算机执行时，使得所述计算机执行视频解码的方法。在该方法中，接收已编码视频比特流中的第一语法元素。所述第一语法元素指示所述已编码视频比特流中的一组编码块中的合并候选的最大允许数量。当接收到第二语法元素时，基于所述第二语法元素为所述一组编码块设置三角预测模式(tpm)候选的最大允许数量。否则，基于所述第一语法元素设置所述tpm候选的最大允许数量。当所述一组编码块中的当前编码块以三角
预测模式进行编码时，基于多个tpm候选构建所述当前编码块的三角预测候选列表。所述三角预测候选列表中的tpm候选的数量小于或等于所述tpm候选的最大允许数量。
附图说明
15.根据以下详细描述和附图，所公开的主题的其他特征、性质和各种优点将进一步明确，其中：
16.图1是根据h.265的当前块及其周围的空间合并候选的示意图。
17.图2是根据实施例的通信系统(200)的简化框图的示意图。
18.图3是根据实施例的通信系统(300)的简化框图的示意图。
19.图4是根据实施例的解码器的简化框图的示意图。
20.图5是根据实施例的编码器的简化框图的示意图。
21.图6示出了根据另一实施例的编码器的框图。
22.图7示出了根据另一实施例的解码器的框图。
23.图8示出了根据实施例的候选位置的示例，从该候选位置可以选择一组合并候选以构建合并候选列表。
24.图9示出了根据实施例的候选位置的另一示例，从该候选位置可以选择一组空间合并候选以构建扩展合并候选列表。
25.图10示出了根据实施例的用于冗余校验过程的扩展合并列表上的候选对的示例。
26.图11示出了根据实施例的导出当前图片中的扩展合并列表上的时间合并候选的示例。
27.图12示出了根据实施例的候选位置，从该候选位置可以选择扩展合并列表上的时间合并候选。
28.图13示出了根据实施例的将编码单元划分为两个三角形预测单元的示例。
29.图14示出了根据实施例的空间和时间相邻块的示例，所述空间和时间相邻块用于构建用于三角预测模式的单向预测候选列表。
30.图15示出了根据实施例的查找表的示例，所述查找表用于基于三角形分区索引导出分割方向和分区运动信息。
31.图16示出了根据实施例的在自适应混合过程中应用一组加权因子的编码单元的示例。
32.图17示出了根据实施例的在自适应混合过程中应用另一组加权因子的编码单元的示例。
33.图18示出了根据本公开实施例的概述三角预测模式候选列表的构建过程的流程图。
34.图19是根据实施例的计算机系统的示意图。
具体实施方式
35.i、用于视频编解码的编码器和解码器
36.图2示出了根据本公开实施例的通信系统(200)的简化框图。通信系统(200)包括多个终端装置，所述终端装置可通过例如网络(250)彼此通信。举例来说，通信系统(200)包
括通过网络(250)互连的第一对终端装置(210)和(220)。在图2的实施例中，第一对终端装置(210)和(220)执行单向数据传输。举例来说，终端装置(210)可对视频数据(例如由终端装置(210)采集的视频图片流)进行编码以通过网络(250)传输到另一终端装置(220)。已编码的视频数据以一个或多个已编码视频码流形式传输。终端装置(220)可从网络(250)接收已编码视频数据，对已编码视频数据进行解码以恢复视频数据，并根据恢复的视频数据显示视频图片。单向数据传输在媒体服务等应用中是较常见的。
37.在另一实施例中，通信系统(200)包括执行已编码视频数据的双向传输的第二对终端装置(230)和(240)，所述双向传输可例如在视频会议期间发生。对于双向数据传输，在一个示例中，终端装置(230)和(240)中的每个终端装置可对视频数据(例如由终端装置采集的视频图片流)进行编码，以通过网络(250)传输到终端装置(230)和(240)中的另一终端装置。终端装置(230)和(240)中的每个终端装置还可接收由终端装置(230)和(240)中的另一终端装置传输的已编码视频数据，且可对所述已编码视频数据进行解码以恢复视频数据，且可根据恢复的视频数据在可访问的显示装置上显示视频图片。
38.在图2的实施例中，终端装置(210)、(220)、(230)和(240)可为服务器、个人计算机和智能电话，但本公开的原理可不限于此。本公开的实施例适用于膝上型计算机、平板电脑、媒体播放器和/或专用视频会议设备。网络(250)表示在终端装置(210)、(220)、(230)和(240)之间传送已编码视频数据的任何数目的网络，包括例如有线(连线的)和/或无线通信网络。通信网络(250)可在电路交换和/或分组交换信道中交换数据。该网络可包括电信网络、局域网、广域网和/或互联网。出于本公开的目的，除非在下文中有所解释，否则网络(250)的架构和拓扑对于本公开的操作来说可能是无关紧要的。
39.作为所公开的主题的实施例，图3示出了视频编码器和视频解码器在流式传输环境中的放置方式。所公开主题可同等地适用于其它支持视频的应用，包括例如视频会议、数字tv、在包括cd、dvd、存储棒等的数字介质上存储压缩视频等等。
40.流式传输系统可包括采集子系统(313)，所述采集子系统可包括数码相机等视频源(301)，所述视频源创建未压缩的视频图片流(302)。在实施例中，视频图片流(302)包括由数码相机拍摄的样本。相较于已编码的视频数据(304)(或已编码的视频码流)，视频图片流(302)被描绘为粗线以强调高数据量的视频图片流，视频图片流(302)可由电子装置(320)处理，所述电子装置(320)包括耦接到视频源(301)的视频编码器(303)。视频编码器(303)可包括硬件、软件或软硬件组合以实现或实施如下文更详细地描述的所公开主题的各方面。相较于视频图片流(302)，已编码的视频数据(304)(或已编码的视频码流(304))被描绘为细线以强调较低数据量的已编码的视频数据(304)(或已编码的视频码流(304))，其可存储在流式传输服务器(305)上以供将来使用。一个或多个流式传输客户端子系统，例如图3中的客户端子系统(306)和客户端子系统(308)，可访问流式传输服务器(305)以检索已编码的视频数据(304)的副本(307)和副本(309)。客户端子系统(306)可包括例如电子装置(330)中的视频解码器(310)。视频解码器(310)对已编码的视频数据的传入副本(307)进行解码，且产生可在显示器(312)(例如显示屏)或另一呈现装置(未描绘)上呈现的输出视频图片流(311)。在一些流式传输系统中，可根据某些视频编码/压缩标准对已编码的视频数据(304)、视频数据(307)和视频数据(309)(例如视频码流)进行编码。该些标准的实施例包括itu
‑
t h.265。在实施例中，正在开发的视频编解码标准非正式地称为通用视频编解码
(versatile video coding，vvc)，所公开的主题可用于vvc标准的上下文中。
41.应注意，电子装置(320)和电子装置(330)可包括其它组件(未示出)。举例来说，电子装置(320)可包括视频解码器(未示出)，且电子装置(330)还可包括视频编码器(未示出)。
42.图4示出了根据本公开实施例的视频解码器(410)的框图。视频解码器(410)可设置在电子装置(430)中。电子装置(430)可包括接收器(431)(例如接收电路)。视频解码器(410)可用于代替图3实施例中的视频解码器(310)。
43.接收器(431)可接收将由视频解码器(410)解码的一个或多个已编码视频序列；在同一实施例或另一实施例中，一次接收一个已编码视频序列，其中每个已编码视频序列的解码独立于其它已编码视频序列。可从信道(401)接收已编码视频序列，所述信道可以是通向存储已编码的视频数据的存储装置的硬件/软件链路。接收器(431)可接收已编码的视频数据以及其它数据，例如，可转发到它们各自的使用实体(未标示)的已编码音频数据和/或辅助数据流。接收器(431)可将已编码视频序列与其它数据分开。为了防止网络抖动，缓冲存储器(415)可耦接在接收器(431)与熵解码器/解析器(420)(此后称为“解析器(420)”)之间。在某些应用中，缓冲存储器(415)是视频解码器(410)的一部分。在其它情况下，所述缓冲存储器(415)可设置在视频解码器(410)外部(未标示)。而在其它情况下，视频解码器(410)的外部设置缓冲存储器(未标示)以例如防止网络抖动，且在视频解码器(410)的内部可配置另一缓冲存储器(415)以例如处理播出定时。而当接收器(431)从具有足够带宽和可控性的存储/转发装置或从等时同步网络接收数据时，也可能不需要配置缓冲存储器(415)，或可以将所述缓冲存储器做得较小。当然，为了在互联网等业务分组网络上使用，也可能需要缓冲存储器(415)，所述缓冲存储器可相对较大且可具有自适应性大小，且可至少部分地实施于操作系统或视频解码器(410)外部的类似元件(未标示)中。
44.视频解码器(410)可包括解析器(420)以根据已编码视频序列重建符号(421)。这些符号的类别包括用于管理视频解码器(410)的操作的信息，以及用以控制显示装置(412)(例如，显示屏)等显示装置的潜在信息，所述显示装置不是电子装置(430)的组成部分，但可耦接到电子装置(430)，如图4中所示。用于显示装置的控制信息可以是辅助增强信息(supplemental enhancement information，sei消息)或视频可用性信息(video usability information，vui)的参数集片段(未标示)。解析器(420)可对接收到的已编码视频序列进行解析/熵解码。已编码视频序列的编码可根据视频编码技术或标准进行，且可遵循各种原理，包括可变长度编码、霍夫曼编码(huffman coding)、具有或不具有上下文灵敏度的算术编码等等。解析器(420)可基于对应于群组的至少一个参数，从已编码视频序列提取用于视频解码器中的像素的子群中的至少一个子群的子群参数集。子群可包括图片群组(group of pictures，gop)、图片、图块、切片、宏块、编码单元(coding unit，cu)、块、变换单元(transform unit，tu)、预测单元(prediction unit，pu)等等。解析器(420)还可从已编码视频序列提取信息，例如变换系数、量化器参数值、运动矢量等等。
45.解析器(420)可对从缓冲存储器(415)接收的视频序列执行熵解码/解析操作，从而创建符号(421)。
46.取决于已编码视频图片或一部分已编码视频图片(例如：帧间图片和帧内图片、帧间块和帧内块)的类型以及其它因素，符号(421)的重建可涉及多个不同单元。涉及哪些单
元以及涉及方式可由解析器(420)从已编码视频序列解析的子群控制信息控制。为了简洁起见，未描述解析器(420)与下文的多个单元之间的此类子群控制信息流。
47.除已经提及的功能块以外，视频解码器(410)可在概念上细分成如下文所描述的数个功能单元。在商业约束下运行的实际实施例中，这些单元中的许多单元彼此紧密交互并且可以彼此集成。然而，出于描述所公开主题的目的，概念上细分成下文的功能单元是适当的。
48.第一单元是缩放器/逆变换单元(451)。缩放器/逆变换单元(451)从解析器(420)接收作为符号(421)的量化变换系数以及控制信息，包括使用哪种变换方式、块大小、量化因子、量化缩放矩阵等。缩放器/逆变换单元(451)可输出包括样本值的块，所述样本值可输入到聚合器(455)中。
49.在一些情况下，缩放器/逆变换单元(451)的输出样本可属于帧内编码块；即：不使用来自先前重建的图片的预测性信息，但可使用来自当前图片的先前重建部分的预测性信息的块。此类预测性信息可由帧内图片预测单元(452)提供。在一些情况下，帧内图片预测单元(452)采用从当前图片缓冲器(458)提取的周围已重建的信息生成大小和形状与正在重建的块相同的块。举例来说，当前图片缓冲器(458)缓冲部分重建的当前图片和/或完全重建的当前图片。在一些情况下，聚合器(455)基于每个样本，将帧内预测单元(452)生成的预测信息添加到由缩放器/逆变换单元(451)提供的输出样本信息中。
50.在其它情况下，缩放器/逆变换单元(451)的输出样本可属于帧间编码和潜在运动补偿块。在此情况下，运动补偿预测单元(453)可访问参考图片存储器(457)以提取用于预测的样本。在根据符号(421)对提取的样本进行运动补偿之后，这些样本可由聚合器(455)添加到缩放器/逆变换单元(451)的输出(在这种情况下被称作残差样本或残差信号)，从而生成输出样本信息。运动补偿预测单元(453)从参考图片存储器(457)内的地址获取预测样本可受到运动矢量控制，且所述运动矢量以所述符号(421)的形式而供运动补偿预测单元(453)使用，所述符号(421)例如是包括x、y和参考图片分量。运动补偿还可包括在使用子样本精确运动矢量时，从参考图片存储器(457)提取的样本值的内插、运动矢量预测机制等等。
51.聚合器(455)的输出样本可在环路滤波器单元(456)中被各种环路滤波技术采用。视频压缩技术可包括环路内滤波器技术，所述环路内滤波器技术受控于包括在已编码视频序列(也称作已编码视频码流)中的参数，且所述参数作为来自解析器(420)的符号(421)可用于环路滤波器单元(456)。然而，在其他实施例中，视频压缩技术还可响应于在解码已编码图片或已编码视频序列的先前(按解码次序)部分期间获得的元信息，以及响应于先前重建且经过环路滤波的样本值。
52.环路滤波器单元(456)的输出可以是样本流，所述样本流可输出到显示装置(412)以及存储在参考图片存储器(457)，以用于后续的帧间图片预测。
53.一旦完全重建，某些已编码图片就可用作参考图片以用于将来预测。举例来说，一旦对应于当前图片的已编码图片被完全重建，且已编码图片(通过例如解析器(420))被识别为参考图片，则当前图片缓冲器(458)可变为参考图片存储器(457)的一部分，且可在开始重建后续已编码图片之前重新分配新的当前图片缓冲器。
54.视频解码器(410)可根据例如itu
‑
t h.265标准中的预定视频压缩技术执行解码
操作。在已编码视频序列遵循视频压缩技术或标准的语法以及视频压缩技术或标准中记录的配置文件的意义上，已编码视频序列可符合所使用的视频压缩技术或标准指定的语法。具体地说，配置文件可从视频压缩技术或标准中可用的所有工具中选择某些工具作为在所述配置文件下可供使用的仅有工具。对于合规性，还要求已编码视频序列的复杂度处于视频压缩技术或标准的层级所限定的范围内。在一些情况下，层级限制最大图片大小、最大帧率、最大重建取样率(以例如每秒兆(mega)个样本为单位进行测量)、最大参考图片大小等。在一些情况下，由层级设定的限制可通过假想参考解码器(hypothetical reference decoder，hrd)规范和在已编码视频序列中用信号表示的hrd缓冲器管理的元数据来进一步限定。
55.在实施例中，接收器(431)可连同已编码视频一起接收附加(冗余)数据。所述附加数据可以是已编码视频序列的一部分。所述附加数据可由视频解码器(410)用以对数据进行适当解码和/或较准确地重建原始视频数据。附加数据可呈例如时间、空间或信噪比(signal noise ratio，snr)增强层、冗余切片、冗余图片、前向纠错码等形式。
56.图5示出了根据本公开实施例的视频编码器(503)的框图。视频编码器(503)设置于电子装置(520)中。电子装置(520)包括传输器(540)(例如传输电路)。视频编码器(503)可用于代替图3实施例中的视频编码器(303)。
57.视频编码器(503)可从视频源(501)(并非图5实施例中的电子装置(520)的一部分)接收视频样本，所述视频源可采集将由视频编码器(503)编码的视频图像。在另一实施例中，视频源(501)是电子装置(520)的一部分。
58.视频源(501)可提供将由视频编码器(503)编码的呈数字视频样本流形式的源视频序列，所述数字视频样本流可具有任何合适位深度(例如：8位、10位、12位
……
)、任何色彩空间(例如bt.601y crcb、rgb
……
)和任何合适取样结构(例如y crcb 4:2:0、y crcb 4:4:4)。在媒体服务系统中，视频源(501)可以是存储先前已准备的视频的存储装置。在视频会议系统中，视频源(501)可以是采集本地图像信息作为视频序列的相机。可将视频数据提供为多个单独的图片，当按顺序观看时，这些图片被赋予运动。图片自身可构建为空间像素阵列，其中取决于所用的取样结构、色彩空间等，每个像素可包括一个或多个样本。所属领域的技术人员可以很容易理解像素与样本之间的关系。下文侧重于描述样本。
59.根据实施例，视频编码器(503)可实时或在由应用所要求的任何其它时间约束下，将源视频序列的图片编码且压缩成已编码视频序列(543)。施行适当的编码速度是控制器(550)的一个功能。在一些实施例中，控制器(550)控制如下文所描述的其它功能单元且在功能上耦接到这些单元。为了简洁起见，图中未标示耦接。由控制器(550)设置的参数可包括速率控制相关参数(图片跳过、量化器、率失真优化技术的λ值等)、图片大小、图片群组(group of pictures，gop)布局，最大运动矢量搜索范围等。控制器(550)可用于具有其它合适的功能，这些功能涉及针对某一系统设计优化的视频编码器(503)。
60.在一些实施例中，视频编码器(503)在编码环路中进行操作。作为简单的描述，在实施例中，编码环路可包括源编码器(530)(例如，负责基于待编码的输入图片和参考图片创建符号，例如符号流)和嵌入于视频编码器(503)中的(本地)解码器(533)。解码器(533)以类似于(远程)解码器创建样本数据的方式重建符号以创建样本数据(因为在公开的主题中所考虑的视频压缩技术中，符号与已编码视频码流之间的任何压缩是无损的)。将重建的
样本流(样本数据)输入到参考图片存储器(534)。由于符号流的解码产生与解码器位置(本地或远程)无关的位精确结果，因此参考图片存储器(534)中的内容在本地编码器与远程编码器之间也是按比特位精确对应的。换句话说，编码器的预测部分“看到”的参考图片样本与解码器将在解码期间使用预测时所“看到”的样本值完全相同。这种参考图片同步性基本原理(以及在例如因信道误差而无法维持同步性的情况下产生的漂移)也用于一些相关技术。
[0061]“本地”解码器(533)的操作可与例如已在上文结合图4详细描述视频解码器(410)的“远程”解码器相同。然而，另外简要参考图4，当符号可用且熵编码器(545)和解析器(420)能够无损地将符号编码/解码为已编码视频序列时，包括缓冲存储器(415)和解析器(420)在内的视频解码器(410)的熵解码部分，可能无法完全在本地解码器(533)中实施。
[0062]
此时可以观察到，除存在于解码器中的解析/熵解码之外的任何解码器技术，也必定以基本上相同的功能形式存在于对应的编码器中。出于此原因，所公开的主题侧重于解码器操作。可简化编码器技术的描述，因为编码器技术与全面地描述的解码器技术互逆。仅在某些区域中需要更详细的描述，并且在下文提供。
[0063]
在操作期间，在一些实施例中，源编码器(530)可执行运动补偿预测编码。参考来自视频序列中被指定为“参考图片”的一个或多个先前已编码图片，所述运动补偿预测编码对输入图片进行预测性编码。以此方式，编码引擎(532)对输入图片的像素块与参考图片的像素块之间的差异进行编码，所述参考图片可被选作所述输入图片的预测参考。
[0064]
本地视频解码器(533)可基于源编码器(530)创建的符号，对可指定为参考图片的已编码视频数据进行解码。编码引擎(532)的操作可为有损过程。当已编码视频数据可在视频解码器(图5中未示)处被解码时，重建的视频序列通常可以是带有一些误差的源视频序列的副本。本地视频解码器(533)复制解码过程，所述解码过程可由视频解码器对参考图片执行，且可使重建的参考图片存储在参考图片高速缓存(534)中。以此方式，视频编码器(503)可在本地存储重建的参考图片的副本，所述副本与将由远端视频解码器获得的重建参考图片具有共同内容(不存在传输误差)。
[0065]
预测器(535)可针对编码引擎(532)执行预测搜索。即，对于将要编码的新图片，预测器(535)可在参考图片存储器(534)中搜索可作为所述新图片的适当预测参考的样本数据(作为候选参考像素块)或某些元数据，例如参考图片运动矢量、块形状等。预测器(535)可基于样本块逐像素块操作，以找到合适的预测参考。在一些情况下，根据预测器(535)获得的搜索结果，可确定输入图片可具有从参考图片存储器(534)中存储的多个参考图片取得的预测参考。
[0066]
控制器(550)可管理源编码器(530)的编码操作，包括例如设置用于对视频数据进行编码的参数和子群参数。
[0067]
可在熵编码器(545)中对所有上述功能单元的输出进行熵编码。熵编码器(545)根据诸如霍夫曼编码、可变长度编码、算术编码等技术对各种功能单元生成的符号进行无损压缩，从而将所述符号转换成已编码视频序列。
[0068]
传输器(540)可缓冲由熵编码器(545)创建的已编码视频序列，从而为通过通信信道(560)进行传输做准备，所述通信信道可以是通向将存储已编码的视频数据的存储装置的硬件/软件链路。传输器(540)可将来自视频编码器(503)的已编码视频数据与要传输的
其它数据合并，所述其它数据例如是已编码音频数据和/或辅助数据流(未示出来源)。
[0069]
控制器(550)可管理视频编码器(503)的操作。在编码期间，控制器(550)可以为每个已编码图片分配某一已编码图片类型，但这可能影响可应用于相应的图片的编码技术。例如，通常可将图片分配为以下任一种图片类型：
[0070]
帧内图片(i图片)，其可以是不将序列中的任何其它图片用作预测源就可被编码和解码的图片。一些视频编解码器容许不同类型的帧内图片，包括例如独立解码器刷新(independent decoder refresh，“idr”)图片。所属领域的技术人员了解i图片的变体及其相应的应用和特征。
[0071]
预测性图片(p图片)，其可以是可使用帧内预测或帧间预测进行编码和解码的图片，所述帧内预测或帧间预测使用至多一个运动矢量和参考索引来预测每个块的样本值。
[0072]
双向预测性图片(b图片)，其可以是可使用帧内预测或帧间预测进行编码和解码的图片，所述帧内预测或帧间预测使用至多两个运动矢量和参考索引来预测每个块的样本值。类似地，多个预测性图片可使用多于两个参考图片和相关联元数据以用于重建单个块。
[0073]
源图片通常可在空间上细分成多个样本块(例如，4
×
4、8
×
8、4
×
8或16
×
16个样本的块)，且逐块进行编码。这些块可参考其它(已编码)块进行预测编码，根据应用于块的相应图片的编码分配来确定所述其它块。举例来说，i图片的块可进行非预测编码，或所述块可参考同一图片的已经编码的块来进行预测编码(空间预测或帧内预测)。p图片的像素块可参考一个先前编码的参考图片通过空间预测或通过时域预测进行预测编码。b图片的块可参考一个或两个先前编码的参考图片通过空间预测或通过时域预测进行预测编码。
[0074]
视频编码器(503)可根据例如itu
‑
t h.265建议书的预定视频编码技术或标准执行编码操作。在操作中，视频编码器(503)可执行各种压缩操作，包括利用输入视频序列中的时间和空间冗余的预测编码操作。因此，已编码视频数据可符合所用视频编码技术或标准指定的语法。
[0075]
在实施例中，传输器(540)可在传输已编码的视频时传输附加数据。源编码器(530)可将此类数据作为已编码视频序列的一部分。附加数据可包括时间/空间/snr增强层、冗余图片和切片等其它形式的冗余数据、补充增强信息(sei)消息、视觉可用性信息(vui)参数集片段等。
[0076]
采集到的视频可作为呈时间序列的多个源图片(视频图片)。帧内图片预测(常常简化为帧内预测)利用给定图片中的空间相关性，而帧间图片预测则利用图片之间的(时间或其它)相关性。在实施例中，将正在编码/解码的特定图片分割成块，正在编码/解码的特定图片被称作当前图片。在当前图片中的块类似于视频中先前已编码且仍被缓冲的参考图片中的参考块时，可通过称作运动矢量的矢量对当前图片中的块进行编码。所述运动矢量指向参考图片中的参考块，且在使用多个参考图片的情况下，所述运动矢量可具有识别参考图片的第三维度。
[0077]
在一些实施例中，双向预测技术可用于帧间图片预测中。根据双向预测技术，使用两个参考图片，例如按解码次序都在视频中的当前图片之前(但按显示次序可能分别是过去和将来)第一参考图片和第二参考图片。可通过指向第一参考图片中的第一参考块的第一运动矢量和指向第二参考图片中的第二参考块的第二运动矢量对当前图片中的块进行编码。具体来说，可通过第一参考块和第二参考块的组合来预测所述块。
[0078]
此外，合并模式技术可用于帧间图片预测中以改善编码效率。
[0079]
根据本公开的一些实施例，帧间图片预测和帧内图片预测等预测的执行以块为单位。举例来说，根据hevc标准，将视频图片序列中的图片分割成编码树单元(coding tree unit，ctu)以用于压缩，图片中的ctu具有相同大小，例如64
×
64像素、32
×
32像素或16
×
16像素。一般来说，ctu包括三个编码树块(coding tree block，ctb)，所述三个编码树块是一个亮度ctb和两个色度ctb。更进一步的，还可将每个ctu以四叉树拆分为一个或多个编码单元(coding unit，cu)。举例来说，可将64
×
64像素的ctu拆分为一个64
×
64像素的cu，或4个32
×
32像素的cu，或16个16
×
16像素的cu。在实施例中，分析每个cu以确定用于cu的预测类型，例如帧间预测类型或帧内预测类型。此外，取决于时间和/或空间可预测性，将cu拆分为一个或多个预测单元(prediction unit，pu)。通常，每个pu包括亮度预测块(prediction block，pb)和两个色度pb。在实施例中，编码(编码/解码)中的预测操作以预测块为单位来执行。以亮度预测块作为预测块为例，预测块包括像素值(例如，亮度值)的矩阵，例如8
×
8像素、16
×
16像素、8
×
16像素、16
×
8像素等等。
[0080]
图6示出了根据本公开另一实施例的视频编码器(603)的示意图。视频编码器(603)用于接收视频图片序列中的当前视频图片内的样本值的处理块(例如预测块)，且将所述处理块编码到作为已编码视频序列的一部分的已编码图片中。在本实施例中，视频编码器(603)用于代替图3实施例中的视频编码器(303)。
[0081]
在hevc实施例中，视频编码器(603)接收用于处理块的样本值的矩阵，所述处理块为例如8
×
8样本的预测块等。视频编码器(603)使用例如率失真(rate
‑
distortion)优化来确定是否使用帧内模式、帧间模式或双向预测模式来编码所述处理块。当在帧内模式中编码处理块时，视频编码器(603)可使用帧内预测技术以将处理块编码到已编码图片中；且当在帧间模式或双向预测模式中编码处理块时，视频编码器(603)可分别使用帧间预测或双向预测技术将处理块编码到已编码图片中。在某些视频编码技术中，合并模式可以是帧间图片预测子模式，其中，在不借助预测值外部的已编码运动矢量分量的情况下，从一个或多个运动矢量预测值导出运动矢量。在某些其它视频编码技术中，可存在适用于主题块的运动矢量分量。在实施例中，视频编码器(603)包括其它组件，例如用于确定处理块模式的模式决策模块(未示出)。
[0082]
在图6的实施例中，视频编码器(603)包括如图6所示的耦接到一起的帧间编码器(630)、帧内编码器(622)、残差计算器(623)、开关(626)、残差编码器(624)、通用控制器(621)和熵编码器(625)。
[0083]
帧间编码器(630)用于接收当前块(例如处理块)的样本、比较所述块与参考图片中的一个或多个参考块(例如先前图片和后来图片中的块)、生成帧间预测信息(例如根据帧间编码技术的冗余信息描述、运动矢量、合并模式信息)、以及基于帧间预测信息使用任何合适的技术计算帧间预测结果(例如已预测块)。在一些实施例中，参考图片是基于已编码的视频信息解码的已解码参考图片。
[0084]
帧内编码器(622)用于接收当前块(例如处理块)的样本、在一些情况下比较所述块与同一图片中已编码的块、在变换之后生成量化系数、以及在一些情况下还(例如根据一个或多个帧内编码技术的帧内预测方向信息)生成帧内预测信息。在实施例中，帧内编码器(622)还基于帧内预测信息和同一图片中的参考块计算帧内预测结果(例如已预测块)。
[0085]
通用控制器(621)用于确定通用控制数据，且基于所述通用控制数据控制视频编码器(603)的其它组件。在实施例中，通用控制器(621)确定块的模式，且基于所述模式将控制信号提供到开关(626)。举例来说，当所述模式是帧内模式时，通用控制器(621)控制开关(626)以选择供残差计算器(623)使用的帧内模式结果，且控制熵编码器(625)以选择帧内预测信息且将所述帧内预测信息添加在码流中；以及当所述模式是帧间模式时，通用控制器(621)控制开关(626)以选择供残差计算器(623)使用的帧间预测结果，且控制熵编码器(625)以选择帧间预测信息且将所述帧间预测信息添加在码流中。
[0086]
残差计算器(623)用于计算所接收的块与选自帧内编码器(622)或帧间编码器(630)的预测结果之间的差(残差数据)。残差编码器(624)用于基于残差数据操作，以对残差数据进行编码以生成变换系数。在实施例中，残差编码器(624)用于转换频域中的残差数据，且生成变换系数。变换系数接着经由量化处理以获得量化的变换系数。在各种实施例中，视频编码器(603)还包括残差解码器(628)。残差解码器(628)用于执行逆变换，且生成已解码残差数据。已解码残差数据可适当地由帧内编码器(622)和帧间编码器(630)使用。举例来说，帧间编码器(630)可基于已解码残差数据和帧间预测信息生成已解码块，且帧内编码器(622)可基于已解码残差数据和帧内预测信息生成已解码块。适当处理已解码块以生成已解码图片，且在一些实施例中，所述已解码图片可在存储器电路(未示出)中缓冲并用作参考图片。
[0087]
熵编码器(625)用于将码流格式化以产生已编码的块。熵编码器(625)根据hevc标准等合适标准产生各种信息。在实施例中，熵编码器(625)用于获得通用控制数据、所选预测信息(例如帧内预测信息或帧间预测信息)、残差信息和码流中的其它合适的信息。应注意，根据所公开的主题，当在帧间模式或双向预测模式的合并子模式中对块进行编码时，不存在残差信息。
[0088]
图7示出了根据本公开另一实施例的视频解码器(710)的示意图。视频解码器(710)用于接收作为已编码视频序列的一部分的已编码图像，且对所述已编码图像进行解码以生成重建的图片。在实施例中，视频解码器(710)用于代替图3实施例中的视频解码器(310)。
[0089]
在图7实施例中，视频解码器(710)包括如图7中所示耦接到一起的熵解码器(771)、帧间解码器(780)、残差解码器(773)、重建模块(774)和帧内解码器(772)。
[0090]
熵解码器(771)可用于根据已编码图片来重建某些符号，这些符号表示构成所述已编码图片的语法元素。此类符号可包括例如用于对所述块进行编码的模式(例如帧内模式、帧间模式、双向预测模式、后两者的合并子模式或另一子模式)、可分别识别供帧内解码器(772)或帧间解码器(780)用以进行预测的某些样本或元数据的预测信息(例如帧内预测信息或帧间预测信息)、呈例如量化的变换系数形式的残差信息等等。在实施例中，当预测模式是帧间或双向预测模式时，将帧间预测信息提供到帧间解码器(780)；以及当预测类型是帧内预测类型时，将帧内预测信息提供到帧内解码器(772)。残差信息可经由逆量化并提供到残差解码器(773)。
[0091]
帧间解码器(780)用于接收帧间预测信息，且基于所述帧间预测信息生成帧间预测结果。
[0092]
帧内解码器(772)用于接收帧内预测信息，且基于所述帧内预测信息生成预测结
果。
[0093]
残差解码器(773)用于执行逆量化以提取解量化的变换系数，且处理所述解量化的变换系数，以将残差从频域转换到空间域。残差解码器(773)还可能需要某些控制信息(用以获得量化器参数qp)，且所述信息可由熵解码器(771)提供(未标示数据路径，因为这仅仅是低量控制信息)。
[0094]
重建模块(774)用于在空间域中组合由残差解码器(773)输出的残差与预测结果(可由帧间预测模块或帧内预测模块输出)以形成重建的块，所述重建的块可以是重建的图片的一部分，所述重建的图片继而可以是重建的视频的一部分。应注意，可执行解块操作等其它合适的操作来改善视觉质量。
[0095]
应注意，可使用任何合适的技术来实施视频编码器(303)、视频编码器(503)和视频编码器(603)以及视频解码器(310)、视频解码器(410)和视频解码器(710)。在实施例中，可使用一个或多个集成电路来实施视频编码器(303)、视频编码器(503)和视频编码器(603)以及视频解码器(310)、视频解码器(410)和视频解码器(710)。在另一实施例中，可使用执行软件指令的一个或多个处理器来实施视频编码器(303)、视频编码器(503)和视频编码器(603)以及视频解码器(310)、视频解码器(410)和视频解码器(710)。
[0096]
本公开的各方面提供了简化具有预测偏移的仿射运动补偿的技术。
[0097]
通常，可以以显式方式对块的运动矢量进行编码，以将差值发信号通知给运动矢量预测器(例如，高级运动矢量预测或amvp模式)；或者以隐式方式对块的运动矢量进行编码，以完全从一个先前编码或生成的运动矢量中指示该运动矢量。后者被称为合并模式，即通过使用当前块的运动信息将当前块合并到先前编码块中。
[0098]
amvp模式和合并模式均在解码期间构建候选列表。
[0099]
ii、帧间预测编解码技术
[0100]
1、合并模式
[0101]
在各种实施例中，可以使用基于树结构的分区方案将图片划分为块。然后，可以使用诸如帧内预测模式、帧间预测模式(例如，合并模式、跳过模式、高级运动矢量预测(avmp)模式)等不同的处理模式来处理所得到的块。当以合并模式处理当前处理的块(称为当前块)时，可以从当前块的空间或时间邻域中选择相邻块。通过共享来自所选相邻块的同一组运动数据(或称为运动信息)，可以将当前块与所选相邻块合并。该合并模式操作可以在一组相邻块上执行，使得相邻块的区域可以合并在一起并共享同一组运动数据。在从编码器到解码器的传输期间，对于当前块，可以传输指示所选相邻块的运动数据的索引，而不是传输整组运动数据。这样，可以减少用于传输运动信息的数据量(比特)，并且可以提高编解码效率。
[0102]
在以上示例中，可以从一组候选位置中选择提供运动数据的相邻块。可以相对于当前块预定义该候选位置。例如，候选位置可以包括空间候选位置和时间候选位置。每个空间候选位置和与当前块相邻的空间相邻块相关联。每个时间候选位置与位于另一个已编码图片(例如，先前已编码图片)中的时间相邻块相关联。与候选位置重叠的相邻块(称为候选块)是当前块的全部空间或时间相邻块的子集。这样，可以对候选块进行评估，以选择要合并的块而不是整个相邻块集合。
[0103]
图8示出了候选位置的示例。可以从那些候选位置中选择一组合并候选，以构建合
并候选列表。如图所示，当前块(810)将以合并模式进行处理。为合并模式处理定义一组候选位置{a1,b1,b0,a0,b2,c0,c1}。具体地，候选位置{a1,b1,b0,a0,b2}是空间候选位置，其表示与当前块(810)在同一图片中的候选块的位置。相反，候选位置{c0,c1}是时间候选位置，其表示位于另一已编码图片中并且与当前块(810)的同位块相邻或重叠的候选块的位置。如图所示，候选位置c1可以位于当前块(810)的中心附近(例如，与之相邻)。
[0104]
在不同示例中，候选位置可以由样本块或样本表示。在图8中，每个候选位置由例如大小为4x4个样本的样本块表示。对应于候选位置的这种样本块的大小可以等于或小于为基于树的分区方案定义的、用于生成当前块(810)的预测块(pb)(例如，4x4个样本)的最小允许大小。在这样的配置下，对应于候选位置的块可以始终被覆盖在单个相邻pb内。在可选的示例中，可以使用样本位置(例如，块a1内的右下样本或块a0内的右上样本)来表示候选位置。这样的样本称为代表样本，而这样的位置称为代表位置。
[0105]
在一个示例中，基于图8中定义的候选位置{a1,b1,b0,a0,b2,c0,c1}，可以执行合并模式过程，以从候选位置{a1,b1,b0,a0,b2,c0,c1}中选择合并候选。在合并模式过程中，可以执行候选列表创建过程，以创建候选列表。候选列表可以具有预定义的最大数量的合并候选，表示为cm。候选列表中的每个合并候选都可以包括一组可用于运动补偿预测的运动数据。
[0106]
合并候选可以按照一定顺序在候选列表中列出。例如，取决于如何导出合并候选，不同的合并候选可以具有不同的被选择概率。具有较高被选择概率的合并候选位于具有较低被选择概率的合并候选的前面。基于这样的顺序，每个合并候选都与索引(称为合并索引)相关联。在一个实施例中，具有较高被选择概率的合并候选将具有较小的索引值，使得编解码相应的索引所需的比特较少。
[0107]
在一个示例中，合并候选的运动数据可以包括一个或两个运动矢量的水平和垂直运动矢量位移值、与该一个或两个运动矢量相关联的一个或两个参考图片索引、以及可选地参考图片索引相关联的参考图片列表的标识。
[0108]
在示例中，根据预定义的顺序，从空间候选位置按照顺序{a1,b1,b0,a0,b2}导出第一数量的合并候选ca，并且从时间候选位置按照顺序{c0，c1}导出第二数量的合并候选cb＝cm
‑
ca。用于表示候选位置的数字a1,b1,b0,a0,b2,c0,c1也可以用来指代合并候选。例如，从候选位置a1获得的合并候选被称为合并候选a1。
[0109]
在某些情况下，候选位置处的合并候选可能是不可用的。例如，可以在包括当前块(810)的切片或图块之外，或者不在与当前块(810)相同的编码树块(ctb)行中，对候选位置处的候选块进行帧内预测。在某些情况下，候选位置处的合并候选可能是多余的。例如，当前块(810)的一个相邻块可能与两个候选位置重叠。多余的合并候选可以从候选列表中移除(例如，通过执行修剪过程)。当候选列表中的可用合并候选(移除了多余的合并候选)的总数量小于合并候选的最大数量cm时，可以生成附加合并候选(例如，根据预先配置的规则)，以填充候选列表，使得候选列表可以保持固定长度。例如，附加合并候选可以包括组合的双向预测候选和零运动矢量候选。
[0110]
在创建候选列表之后，在编码器处，可以执行评估过程，以从候选列表中选择合并候选。例如，可以计算对应于每个合并候选的率失真(rd)性能，并且可以选择具有最佳rd性能的合并候选。因此，可以为当前块(810)确定与所选合并候选相关联的合并索引，并将其
发信号通知给解码器。
[0111]
在解码器处，可以接收当前块(810)的合并索引。如上所述，可以执行类似的候选列表创建过程，以生成与编码器侧生成的候选列表相同的候选列表。在一些示例中，在创建候选列表之后，可以基于接收到的合并索引从候选列表中选择合并候选，而无需执行任何进一步的评估。所选合并候选的运动数据可用于当前块(810)的后续运动补偿预测。
[0112]
在一些示例中还引入了跳过模式。例如，在跳过模式中，可以使用如上所述的合并模式对当前块进行预测，以确定一组运动数据，但是，不生成残差，并且不传输变换系数。跳过标志可以与当前块相关联。可以将跳过标志和指示当前块的相关运动信息的合并索引发信号通知给视频解码器。例如，可以在图片间预测切片中的编码单元(cu)的开头发信号通知跳过标志，其意味着以下内容：cu仅包含一个pu(2nx2n)；合并模式用于导出运动数据；以及比特流中不存在残差数据。在解码器侧，基于跳过标志，可以根据合并索引确定预测块，以对相应的当前块进行解码而无需添加残差信息。因此，本文所公开的采用合并模式的视频编解码的各种方法可以结合跳过模式来使用。
[0113]
作为示例，在实施例中，当合并标志或跳过标志在比特流中用信号通知为真时，则用信号通知合并索引，以指示合并候选列表中的哪个候选将被用于为当前块提供运动矢量。最多可以将四个空间相邻的运动矢量以及最多一个时间相邻的运动矢量添加到合并候选列表中。语法maxmergecandsnum被定义为合并候选列表的大小。语法maxmergevandsnum可以在比特流中用信号通知。
[0114]
2.扩展的合并预测模式
[0115]
在一些实施例中，扩展上述合并候选列表，并且在合并模式中使用扩展的合并候选列表。例如，扩展的合并候选列表可以通过依次包括以下五种类型的合并候选来构建，这取决于列表上的合并候选的最大允许大小：
[0116]
1)来自空间相邻编码单元(cu)的空间运动矢量预测值(mvp)；
[0117]
2)来自同位cu的时间mvp；
[0118]
3)来自历史缓冲器的基于历史的mvp；
[0119]
4)成对平均mvp；以及
[0120]
5)零mv。
[0121]
术语“编码单元”可以指预测块或从图片划分出的编码块。
[0122]
在各种实施例中，扩展的合并列表的大小可以在切片头、图块组头等中用信号通知。在示例中，扩展的合并列表的最大允许大小为6。在一些实施例中，对于以合并模式编码的cu，使用截断一元二值化(tu)对最佳合并候选的索引进行编码。合并索引的第一个二进制文件(bin)可以使用上下文进行编码，而其它bin可以使用旁路编码(bypass coding)进行编码。
[0123]
下面描述扩展的合并候选列表上的不同类型的合并候选的生成过程。
[0124]
2.1空间候选推导
[0125]
在实施例中，扩展的合并列表中的空间合并候选的推导与部分ii.1“合并模式”中描述的空间合并候选的推导类似。图9示出了根据实施例的当前块(910)的空间合并候选的位置。可以在图9所示的候选位置中选择和导出最多四个合并候选。在一个示例中，推导的顺序可以是a1、b1、b0、a0和b2。在示例中，只有当位置a1、b1、b0、a0的任何cu都不可用(例
如，因为它属于另一个切片或图块)或者被帧内编码时，才考虑位置b2。
[0126]
在将位置a1处的候选添加到扩展的候选列表之后，可以对其它候选的添加进行冗余校验。通过冗余校验，将具有相同运动信息的合并候选从扩展的合并列表中排除，从而可以提高编解码效率。为了降低计算复杂度，在示例中，在冗余校验中并未考虑所有可能的候选对。相反，仅考虑了图10中用箭头链接的对。在一些示例中，如果图10中指示的对应部分在合并列表中并且具有与要添加的候选相同或相似的运动信息，则不将候选添加到合并列表。
[0127]
2.2时间候选推导
[0128]
在实施例中，只有一个时间候选被添加到扩展的合并列表。图11示出了根据实施例的导出当前图片(1101)中的当前块(1111)的时间合并候选(1131)的示例。通过对图片(1102)(称为同位图片)中的当前块(1111)的同位块(1112)的运动矢量(1132)进行缩放来导出时间合并候选(1131)。在示例中，例如在切片头中显式地用信号通知同位图片的参考图片索引。在示例中，时间合并候选(1131)的参考图片索引被设置为0。在实施例中，缩放操作基于图片顺序计数(poc)的距离：tb(1141)和td(1142)。例如，将tb(1141)定义为当前块(1111)的参考图片(1103)和当前图片(1101)之间的poc距离，而将td(1142)定义为同位块(1112)的参考图片(1104)和同位图片(1102)之间的poc距离。
[0129]
图12示出了根据实施例的候选位置c1和c0，从该候选位置可以选择当前块1210的时间合并候选。在实施例中，首先检查位置c0以导出时间合并候选。如果位置c0处的合并候选不可用，例如，当c0处的相邻块不可用、被帧内编码或在ctu的当前行之外时，使用位置c1。
[0130]
2.3基于历史的合并候选推导
[0131]
在一些实施例中，基于历史的运动矢量预测(hmvp)合并候选在空间和时间候选运动矢量预测值(mvp)之后被添加到当前cu的扩展的合并列表。在hmvp中，先前已编码块的运动信息可以存储在表(或历史缓冲器)中并被用作当前cu的mvp候选。这种运动信息被称为hmvp候选。在编码或解码过程期间可以维护具有多个hmvp候选的表。在一个示例中，当遇到新的ctu行时，可以重置(清空)该表。在实施例中，每当存在非子块帧间编码的cu时，相关运动信息可以作为新的hmvp候选添加到表的最后一个条目。
[0132]
在实施例中，hmvp表的大小(用s表示)被设置为6。因此，最多可以将6个hmvp候选添加到表中。当在表中插入新的运动候选时，在实施例中可以使用约束的先进先出(fifo)规则。此外，在添加新的hmvp候选时可以应用冗余校验，以发现表中是否存在相同的hmvp。如果发现，则从表中删除相同的hmvp候选，并且删除的hmvp候选之后的所有hmvp候选都向前移动。然后，可以在表的末尾添加新的hmvp候选。
[0133]
在实施例中，在扩展的合并候选列表的构建过程中使用hmvp候选。在实施例中，可以依次检查表中最新的几个hmvp候选，并将其插入到扩展的候选列表中tmvp候选之后的位置。可以应用冗余校验，以确定hmvp候选是否与先前添加到扩展合并列表中的空间或时间合并候选相似或相同。
[0134]
为了减少冗余校验操作的次数，在实施例中引入以下简化：
[0135]
(i)将用于生成扩展的合并列表的hmpv候选的数量设置为n<＝4并且m＝(8
‑
n)，其中，n表示扩展的合并列表中现有候选的数量，m表示历史表中可用的hmvp候选的数量。
[0136]
(ii)一旦扩展的合并候选列表中可用的合并候选的总数量达到最大允许合并候选的数量减1，就终止来自hmvp的合并候选列表的构建过程。
[0137]
2.4成对平均合并候选推导
[0138]
在一些实施例中，成对平均候选可以通过对当前合并候选列表中的预定义候选对进行平均来生成。例如，在实施例中，预定义对被定义为{(0,1),(0,2),(1,2),(0,3),(1,3),(2,3)}，其中数字表示合并候选列表的合并索引。例如，可以为每个参考图片列表分别计算平均运动矢量。如果两个要平均的运动矢量在一个列表中都可用，则即使这两个运动矢量指向不同的参考图片，也对它们进行平均。如果只有一个运动矢量可用，则可以直接使用该可用的运动矢量。如果没有运动矢量可用，则在一个示例中跳过相应的对。
[0139]
2.5零运动矢量预测值
[0140]
在一些实施例中，当在添加成对平均合并候选之后扩展的合并列表未满时，在扩展的合并列表的末尾插入零mvp，直到达到最大允许合并候选的数量为止。
[0141]
3.三角预测模式(tpm)
[0142]
在一些实施例中，三角预测模式(tpm)可用于帧间预测。在实施例中，将tpm应用于大小为8
×
8样本或更大并且以跳过或合并模式进行编码的cu。在实施例中，对于满足这些条件(大小为8
×
8样本或更大并且以跳过或合并模式进行编码)的cu，用信号通知cu级别标志，以指示是否应用tpm。
[0143]
当使用tpm时，在一些实施例中，使用如图13所示的对角线分割或反对角线分割，将cu均匀地分割成两个三角形分区。在图13中，将第一cu(1310)从左上角分割到右下角，得到两个三角形预测单元pu1和pu2。将第二cu(1320)从右上角分割到左下角，得到两个三角形预测单元pu1和pu2。cu(1310)或(1320)中的每个三角形预测单元pu1或pu2使用其自身的运动信息进行帧间预测。在一些实施例中，对于每个三角形预测单元仅允许单向预测。因此，每个三角形预测单元具有一个运动矢量和一个参考图片索引。可以应用单向预测运动约束以确保对每个cu执行不超过两个运动补偿预测(类似于常规的双向预测方法)。这样，可以降低处理复杂度。可以从单向预测合并候选列表导出每个三角形预测单元的单向预测运动信息。在一些其它实施例中，对于每个三角形预测单元允许双向预测。因此，可以从双向预测合并候选列表导出每个三角形预测单元的双向预测运动信息。
[0144]
在一些实施例中，当cu级别标志指示使用tpm对当前cu进行编码时，进一步用信号通知一个索引，称为三角形分区索引。例如，三角形分区索引的值可以在[0,39]范围内。使用该三角形分区索引，可以通过解码器侧的查找表获得三角形分区的方向(对角线或反对角线)以及每个分区的运动信息(例如，各个单向预测候选列表的合并索引(或称为tpm索引))。在基于所获得的运动信息预测每个三角形预测单元之后，在实施例中，通过执行具有自适应权重的混合过程来调整沿当前cu的对角线或反对角线边缘的样本值。作为混合过程的结果，可以获得整个cu的预测信号。随后，可以以类似于其它预测模式的方式将变换和量化过程应用于整个cu。最后，例如可以通过将运动信息存储在从cu划分的一组4
×
4单元中，来创建使用三角形分区模式预测的cu的运动场。该运动场例如可用于后续的运动矢量预测过程，以构建合并候选列表。
[0145]
3.1单向预测候选列表的构建
[0146]
在一些实施例中，用于预测编码块的两个三角形预测单元的合并候选列表可以基
于该编码块的一组空间和时间相邻块来构建，其中该编码块使用tpm处理。这种合并候选列表可以称为具有本文中列出的tpm候选的tpm候选列表或三角合并模式候选列表。在一个实施例中，该合并候选列表是单向预测候选列表。在实施例中，该单向预测候选列表包括五个单向预测运动矢量候选。例如，该五个单向预测运动矢量候选从包括五个空间相邻块(在图14中标记为数字1到5)和两个时间同位块(在图14中标记为数字6到7)的七个相邻块中导出。
[0147]
在示例中，按照以下顺序收集该七个相邻块的运动矢量并将其包括在单向预测候选列表中：首先，单向预测相邻块的运动矢量；然后，对于双向预测相邻块，l0运动矢量(即，双向预测mv的l0运动矢量部分)，l1运动矢量(即，双向预测mv的l1运动矢量部分)，以及双向预测mv的l0和l1运动矢量的平均运动矢量。在实施例中，如果候选的数量小于5，则将零运动矢量添加到列表的末尾。在一些其它实施例中，合并候选列表可以包括少于5个或多于5个的单向预测或双向预测合并候选，该单向预测或双向预测合并候选是从与图14所示的候选位置相同或不同的候选位置选择的。
[0148]
3.2查找表和表索引
[0149]
在实施例中，使用包括五个tpm候选的tpm(或合并)候选列表以三角形分区模式对cu进行编解码。因此，当每个三角形pu使用5个合并候选时，存在40种可能的方式来预测cu。换句话说，可以有40种不同的分割方向和合并(或tpm)索引的组合：2(可能的分割方向)
×
(5(第一三角形预测单元的可能的合并索引)
×
5(第二三角形预测单元的可能的合并索引)
‑
5(当第一和第二预测单元对共享相同的合并索引时的多种可能性))。例如，当为两个三角形预测单元确定相同的合并索引时，可以使用常规合并模式而不是三角预测模式来处理cu。
[0150]
因此，在实施例中，基于查找表，可以使用[0,39]范围内的三角形分区索引来表示使用40种组合中的哪一种。图15示出了一个示例性查找表(1500)，其用于基于三角形分区索引导出分割方向和合并索引。如查找表(1500)所示，第一行(1501)包括范围为0到39的三角形分区索引；第二行(1502)包括由0或1表示的可能的分割方向；第三行(1503)包括与第一三角形预测单元对应的、且范围从0到4的可能的第一合并索引；以及，第四行1504包括与第二三角形预测单元对应的、且范围从0到4的可能的第二合并索引。
[0151]
例如，当解码器接收到值为1的三角形分区索引时，基于查找表(1500)的列(1520)，可以确定分割方向是由值1表示的分割方向，并且第一合并索引和第二合并索引分别是0和1。由于三角形分区索引与查找表相关联，因此在本公开中三角形分区索引也称为表索引。
[0152]
3.3沿三角形分区边缘的自适应混合
[0153]
在实施例中，在使用各自的运动信息预测每个三角形预测单元之后，对两个三角形预测单元的两个预测信号应用混合过程，以导出对角线或反对角线边缘周围的样本。混合过程根据两个三角形预测单元之间的运动矢量差在两个加权因子组之间自适应地选择。在实施例中，两个加权因子组如下：
[0154]
(1)第一加权因子组：{7/8,6/8,4/8,2/8,1/8}，用于亮度分量的样本，以及{7/8,4/8,1/8}，用于色度分量的样本；以及
[0155]
(2)第二加权因子组：{7/8,6/8,5/8,4/8,3/8,2/8,1/8}，用于亮度分量的样本，以
及{6/8,4/8,2/8}，用于色度分量的样本。第二加权因子组具有更多的亮度加权因子，并且沿分区边缘混合了更多的亮度样本。
[0156]
在实施例中，以下条件用于选择两个加权因子组中的一个。当两个三角形分区的参考图片彼此不同时，或者当两个三角形分区之间的运动矢量差大于阈值(例如，16个亮度样本)时，选择第二加权因子组。否则，选择第一加权因子组。
[0157]
图16示出了应用第一加权因子组的cu的示例。如图所示，第一编码块(1601)包括亮度样本，第二编码块(1602)包括色度样本。沿着编码块(1601)或(1602)的对角线边缘的一组像素用数字1、2、4、6和7来标记，它们分别对应加权因子7/8、6/8、4/8、2/8和1/8。例如，对于标有数字2的像素，可根据下式获得混合操作后的像素样本值：
[0158]
混合的样本值＝2/8x p1 6/8x p2，
[0159]
其中p1和p2表示在各自像素处但分别属于第一三角形预测单元和第二三角形预测单元的预测的样本值。
[0160]
图17示出了应用第二加权因子组的cu的示例。如图所示，第一编码块(1701)包括亮度样本，第二编码块(1702)包括色度样本。沿着编码块(1701)或(1702)的对角线边缘的一组像素用数字1、2、3、4、5、6和7来标记，它们分别对应加权因子7/8、6/8、5/8、4/8、3/8、2/8和1/8。例如，对于标有数字3的像素，可以根据下式获得混合操作后的像素样本值：
[0161]
混合样本值＝3/8x p1 5/8x p2，
[0162]
其中p1和p2表示在各个像素处但分别属于第一三角形预测单元和第二三角形预测单元的预测的样本值。
[0163]
3.4用于发信号通知三角形预测参数的语法元素
[0164]
在一些实施例中，将三角形预测单元模式应用于以跳过或合并模式编码的cu。cu的块大小不能小于8
×
8。对于以跳过或合并模式编码的cu，用信号通知cu级别标志，以指示是否将三角形预测单元模式应用于当前cu。在实施例中，当将三角形预测单元模式应用于cu时，用信号通知一个表索引，该表索引指示用于将cu分割为两个三角形预测单元的方向和这两个三角形预测单元的运动矢量(或各自的合并索引)。表索引的范围从0到39。查找表(例如图15中描述的表)用于从表索引导出分割方向和运动矢量。
[0165]
如上所述，当对编码块应用tpm时，生成三个参数：分割方向、对应于第一三角形预测单元的第一合并索引(tpm索引)和对应于第二三角形预测单元的第二合并索引(tpm索引)。如所描述的，在一些示例中，通过发信号通知表索引将这三个三角形预测参数从编码器侧用信号通知到解码器侧。基于查找表(例如，图15示例中的查找表(1500))，可以使用在解码器侧接收到的表索引来导出这三个三角形预测参数。然而，需要额外的存储器空间以在解码器处存储查找表，这在解码器的一些实施方式中可能成为负担。例如，额外的存储器可能导致解码器的成本和功耗的增加。
[0166]
为了解决上述问题，在一些实施例中，不是用信号通知表索引并依赖查找表来解释表索引，而是用信号将三个语法元素从编码器侧通知到解码器侧。可以在不使用查找表的情况下，基于三个语法元素在解码器侧导出或确定这三个三角形预测参数(分割方向和两个合并或tpm索引)。在实施例中，可以针对相应的编码块以任何顺序用信号通知这三个语法元素。
[0167]
在实施例中，这三个语法元素包括分割方向语法元素、第一索引语法元素和第二
索引语法元素。分割方向语法元素可用于确定分割方向参数。组合的第一和第二索引语法元素可用于确定第一和第二合并或tpm索引的参数。
[0168]
对于分割方向语法元素，在实施例中，分割方向语法元素用值0或1来表示分割方向是从左上角到右下角还是从右上角到左下角。
[0169]
对于第一索引语法元素和第二索引语法元素，在实施例中，第一索引语法元素被配置为具有第一合并索引的参数值，而第二索引语法元素被配置为在第二合并索引小于第一合并索引时具有第二合并索引的值，并且在第二合并索引大于第一合并索引时具有第二合并索引减1的值(如上所述，假设第二合并索引和第一合并索引取不同的值，因此第二合并索引和第一合并索引不相同)。
[0170]
作为示例，在实施例中，合并候选列表具有5个合并候选的长度。因此，第一索引语法元素取值为0、1、2、3或4，而第二索引语法元素取值为0、1、2或3。例如，在第一合并索引参数的值为2并且第二合并索引参数的值为4的情况下，为了用信号通知第一合并索引和第二合并索引，第一索引语法元素和第二索引语法元素将分别取值为2和3。
[0171]
在实施例中，编码块位于相对于当前图片中的参考点具有坐标(xcb,ycb)的位置，其中xcb和ycb分别表示当前编码块的水平和垂直坐标。在一些实施例中，xcb和ycb与具有4x4粒度的水平和垂直坐标对准。因此，分割方向语法元素表示为split_dir[xcb][ycb]。第一索引语法元素表示为merge_triangle_idx0[xcb][ycb]，第二索引语法元素表示为merge_triangle_idx1[xcb][ycb]。
[0172]
例如，在vvc工作草案4(jvet
‑
m1001)中，合并模式和tpm的语法以及相关语义如表1所示。
[0173]
表1
[0174][0175][0176]
在表1中，如果merge_triangle_flag[x0][y0]等于1，则指定对于当前编码单元，在解码图块组时，使用基于三角形形状的运动补偿来生成当前编码单元的预测样本。如果merge_triangle_flag[x0][y0]等于0，则指定不通过基于三角形形状的运动补偿来预测编码单元。当merge_triangle_flag[x0][y0]不存在时，推断其等于0。此外，merge_triangle_split_dir[x0][y0]指定合并三角模式的分割方向。数组索引x0、y0指定编码块的左上亮度
样本相对于图片的左上亮度样本的位置(x0，y0)。当merge_triangle_split_dir[x0][y0]不存在时，推断其等于0。此外，merge_triangle_idx0[x0][y0]指定基于三角形形状的运动补偿候选列表的第一个合并候选索引，其中x0、y0指定编码块的左上亮度样本相对于图片的左上亮度样本的位置(x0，y0)。当merge_triangle_idx0[x0][y0]不存在时，推断其等于0。类似地，merge_triangle_idx1[x0][y0]指定基于三角形形状的运动补偿候选列表的第二个合并候选索引，其中x0、y0指定编码块的左上亮度样本相对于图片的左上亮度样本的位置(x0，y0)。当merge_triangle_idx1[x0][y0]不存在时，推断其等于0。
[0177]
iii.灵活的tpm候选的最大允许数量
[0178]
如上所述，在一些示例中，tpm候选列表可以包括固定数量的5个tmp候选。然而，在某些情况下，期望tmp候选的最大允许数量是灵活的，以便在复杂度和编解码效率之间实现更好的折衷。因此，在一些实施例中，可以在比特流中用信号通知tpm候选的最大允许数量，以用于使用tpm编码一组块。例如，可以在序列参数集(sps)、图片参数集(pps)、切片头、图块头、图块组头等中用信号通知tpm候选的最大允许数量。在一些实施例中，tmp候选的最大允许数量由maxnumtrianglemergecand表示。
[0179]
在实施例中，tpm候选的最大允许数量被限制为从0到合并模式中的合并候选的最大允许数量之间的整数。合并模式可以是在部分ii.1中描述的合并模式，或者在部分ii.2中描述的扩展的合并预测模式。例如，在实施例中，提供用于限制tpm候选的最大允许数量的基础的合并模式可以包括以下类型的合并候选：(i)来自空间相邻编码单元(cu)的空间运动矢量预测值(mvp)；(ii)来自同位cu的时间mvp；(iii)来自历史缓冲器的基于历史的mvp；或(iv)成对平均mvp，并且不包括基于仿射的合并候选或基于子块的合并候选。
[0180]
在各种示例中，合并模式候选的最大允许数量可以不同。在实施例中，合并模式候选的最大允许数量可以是5或6。在实施例中，通过合并模式候选的最大允许数量来限制tpm候选的最大允许数量可以降低采用tpm和合并模式作为编解码工具选项的编码器或解码器的实现复杂度。
[0181]
在实施例中，直接用信号通知tpm候选的最大允许数量。例如，可以用信号通知语法元素，其值等于tpm候选的最大允许数量。
[0182]
在实施例中，为了提高编解码效率，用信号通知tpm候选的最大允许数量和合并模式候选的最大允许数量之间的差。可以在图块组头中发信号通知合并模式候选的最大允许数量。在实施例中，首先发信号通知合并模式候选的最大允许数量。然后，发信号通知合并模式候选的最大允许数量和tpm候选的最大允许数量之间的差。仅当合并模式候选的最大允许数量不小于2时，才发信号通知tpm候选的最大允许数量。在另一实施例中，如果未发信号通知合并模式候选的最大允许数量，则推断tpm候选的最大允许数量为0。在另一实施例中，tpm候选的最大允许数量不允许大于合并模式候选的最大允许数量。在另一实施例中，不发信号通知tpm候选的最大允许数量，而是将其设置为合并模式候选的最大允许数量。
[0183]
在实施例中，发信号通知max_num_merge_cand_minus_max_num_triangle_cand，其指定从合并模式候选的最大允许数量(表示为maxnummergecand)中减去的图块组中支持的tpm候选的最大允许数量。因此，tpm候选的最大允许数量maxnumtrianglemergecand可以根据以下确定：
[0184]
maxnumtrianglemergecand＝maxnummergecand
‑
max_num_merge_cand_minus_
max_num_triangle_cand。
[0185]
在实施例中，maxnumtrianglemergecand的值可以等于0，或者是从2到合并候选的最大允许数量的整数。在实施例中，当未发信号通知max_num_merge_cand_minus_max_num_triangle_cand时，推断maxnumtrianglemergecand为0。在实施例中，当maxnumtrianglemergecand为0时，不允许将tpm用于图块组。
[0186]
表2示出了根据上述实施例的语法传输的示例。在表2中，tile_group_header()指示图块组头的语法传输的开始。当sps_triangle_enable_flag为真(表示在调整当前图块组的sps中启用tpm)并且合并模式候选的最大允许数量大于或等于2时，传输语法元素max_num_merge_cand_minus_max_num_triangle_cand。
[0187]
表2
[0188]
[0189]
[0190][0191]
在实施例中，可以基于在图块组头中发信号通知的tpm候选的最大允许数量(表示为maxnumtrianglemergecand)限制tpm的使用。例如，仅当maxnumtrianglemergecand>＝n时才使用tpm。否则，不应使用tpm。表3示出了根据上述实施例的示例性语法表，其中n＝2。在表3中，仅当三角合并模式候选的最大允许数量大于或等于2时，才发送合并三角形标志。因此，只有当tpm候选的最大允许数量大于或等于2时，才使用tpm。
[0192]
表3
[0193][0194]
在实施例中，当maxnumtrianglemergecand大于0时，可以发信号通知用于三角合并模式(merge_triangle_idx0和merge_triangle_idx1)的合并候选的索引。可以基于tpm候选的最大允许数量更新merge_triangle_idx0和merge_triangle_idx1的值。例如，merge_triangle_idx0的最大数值等于tpm候选的最大允许数量减1，merge_triangle_idx1的最大数值等于tpm候选的最大允许数量减2。merge_triangle_idx0和merge_triangle_idx1的二值化如下表4所示。
[0195]
表4
[0196][0197]
图18示出了根据本公开实施例的概述过程(1800)的流程图。过程(1800)可用于重建以帧内模式编码的块，从而为正在重建的块生成预测块。过程(1800)可以由诸如终端装置(210)、(220)、(230)和(240)中的处理电路之类的处理电路、执行视频编码器(303)的功
能的处理电路、执行视频解码器(310)的功能的处理电路、执行视频解码器(410)的功能的处理电路、执行帧内预测模块(452)的功能的处理电路、执行视频编码器(503)的功能的处理电路、执行预测器(535)的功能的处理电路、执行帧内编码器(622)的功能的处理电路、执行帧内解码器(772)的功能的处理电路等来执行。在一些实施例中，过程(1800)以软件指令实现，因此，当处理电路执行该软件指令时，处理电路执行过程(1800)。该过程从(s1801)开始，并且进行到(s1810)。
[0198]
在(s1810)，接收已编码视频比特流中的第一语法元素。所述第一语法元素指示所述已编码视频比特流中的一组编码块中的合并候选的最大允许数量。该语法元素可以在sps、pps、切片头、图块头、图块组头等中用信号通知。因此，可以将tpm候选的最大允许数量应用于分别由sps、pps、切片头、图块头或图块组头控制的一组编码块。
[0199]
在(s1820)，当接收到第二语法元素时，基于所述第二语法元素为所述一组编码块设置三角预测模式(tpm)候选的最大允许数量，否则，基于所述第一语法元素设置所述tpm候选的最大允许数量。
[0200]
在(s1830)，当所述一组编码块中的当前编码块以三角预测模式进行编码时，基于多个tpm候选构建所述当前编码块的三角预测候选列表，所述三角预测候选列表上的tpm候选的数量小于或等于所述tpm候选的最大允许数量。该过程(1800)进行到(s1899)，并在(s1899)结束。
[0201]
v.计算机系统
[0202]
上述技术可以通过计算机可读指令实现为计算机软件，并且物理地存储在一个或多个计算机可读介质中。例如，图19示出了计算机系统，其适于实现所公开主题的某些实施例。
[0203]
所述计算机软件可通过任何合适的机器代码或计算机语言进行编码，通过汇编、编译、链接等机制创建包括指令的代码，所述指令可由一个或多个计算机中央处理单元(cpu)，图形处理单元(gpu)等直接执行或通过译码、微代码等方式执行。
[0204]
所述指令可以在各种类型的计算机或其组件上执行，包括例如个人计算机、平板电脑、服务器、智能手机、游戏设备、物联网设备等。
[0205]
图19所示的用于计算机系统的组件本质上是示例性的，并不用于对实现本公开实施例的计算机软件的使用范围或功能进行任何限制。也不应将组件的配置解释为与计算机系统的示例性实施例中所示的任一组件或其组合具有任何依赖性或要求。
[0206]
计算机系统可以包括某些人机界面输入设备。这种人机界面输入设备可以通过触觉输入(如：键盘输入、滑动、数据手套移动)、音频输入(如：声音、掌声)、视觉输入(如：手势)、嗅觉输入(未示出)，对一个或多个人类用户的输入做出响应。所述人机界面设备还可用于捕获某些媒体，气与人类有意识的输入不必直接相关，如音频(例如：语音、音乐、环境声音)、图像(例如：扫描图像、从静止影像相机获得的摄影图像)、视频(例如二维视频、包括立体视频的三维视频)。
[0207]
人机界面输入设备可包括以下中的一个或多个(仅绘出其中一个)：键盘(1901)、鼠标(1902)、触控板(1903)、触摸屏(1910)、数据手套(未示出)、操纵杆(1905)、麦克风(1906)、扫描仪(1907)、照相机(1908)。
[0208]
计算机系统还可以包括某些人机界面输出设备。这种人机界面输出设备可以通过
例如触觉输出、声音、光和嗅觉/味觉来刺激一个或多个人类用户的感觉。这样的人机界面输出设备可包括触觉输出设备(例如通过触摸屏(1910)、数据手套(未示出)或操纵杆(1905)的触觉反馈，但也可以有不用作输入设备的触觉反馈设备)、音频输出设备(例如，扬声器(1909)、耳机(未示出))、视觉输出设备(例如，包括阴极射线管屏幕、液晶屏幕、等离子屏幕、有机发光二极管屏的屏幕(1910)，其中每一个都具有或没有触摸屏输入功能、每一个都具有或没有触觉反馈功能——其中一些可通过诸如立体画面输出的手段输出二维视觉输出或三维以上的输出；虚拟现实眼镜(未示出)、全息显示器和放烟箱(未示出))以及打印机(未示出)。
[0209]
计算机系统还可以包括人可访问的存储设备及其相关介质，如包括具有cd/dvd的高密度只读/可重写式光盘(cd/dvd rom/rw)(1920)或类似介质(1921)的光学介质、拇指驱动器(1922)、可移动硬盘驱动器或固体状态驱动器(1923)，诸如磁带和软盘(未示出)的传统磁介质，诸如安全软件保护器(未示出)等的基于rom/asic/pld的专用设备，等等。
[0210]
本领域技术人员还应当理解，结合所公开的主题使用的术语“计算机可读介质”不包括传输介质、载波或其它瞬时信号。
[0211]
计算机系统还可以包括通往一个或多个通信网络的接口。例如，网络可以是无线的、有线的、光学的。网络还可为局域网、广域网、城域网、车载网络和工业网络、实时网络、延迟容忍网络等等。网络还包括以太网、无线局域网、蜂窝网络(gsm、3g、4g、5g、lte等)等局域网、电视有线或无线广域数字网络(包括有线电视、卫星电视、和地面广播电视)、车载和工业网络(包括canbus)等等。某些网络通常需要外部网络接口适配器，用于连接到某些通用数据端口或外围总线(1949)(例如，计算机系统的usb端口)；其它系统通常通过连接到如下所述的系统总线集成到计算机系统的核心(例如，以太网接口集成到pc计算机系统或蜂窝网络接口集成到智能电话计算机系统)。通过使用这些网络中的任何一个，计算机系统可以与其它实体进行通信。所述通信可以是单向的，仅用于接收(例如，无线电视)，单向的仅用于发送(例如can总线到某些can总线设备)，或双向的，例如通过局域或广域数字网络到其它计算机系统。上述的每个网络和网络接口可使用某些协议和协议栈。
[0212]
上述的人机界面设备、人可访问的存储设备以及网络接口可以连接到计算机系统的核心(1940)。
[0213]
核心(1940)可包括一个或多个中央处理单元(cpu)(1941)、图形处理单元(gpu)(1942)、以现场可编程门阵列(fpga)(1943)形式的专用可编程处理单元、用于特定任务的硬件加速器(1944)等。这些设备以及只读存储器(rom)(1945)、随机存取存储器(1946)、内部大容量存储器(例如内部非用户可存取硬盘驱动器、固态硬盘等)(1947)等可通过系统总线(1948)进行连接。在某些计算机系统中，可以以一个或多个物理插头的形式访问系统总线(1948)，以便可通过额外的中央处理单元、图形处理单元等进行扩展。外围装置可直接附接到核心的系统总线(1948)，或通过外围总线(1949)进行连接。外围总线的体系结构包括外部控制器接口pci、通用串行总线usb等。
[0214]
cpu(1941)、gpu(1942)、fpga(1943)和加速器(1944)可以执行某些指令，这些指令组合起来可以构成上述计算机代码。该计算机代码可以存储在rom(1945)或ram(1946)中。过渡数据也可以存储在ram(1946)中，而永久数据可以存储在例如内部大容量存储器(1947)中。通过使用高速缓冲存储器可实现对任何存储器设备的快速存储和检索，高速缓
冲存储器可与一个或多个cpu(1941)、gpu(1942)、大容量存储器(1947)、rom(1945)、ram(1946)等紧密关联。
[0215]
所述计算机可读介质上可具有计算机代码，用于执行各种计算机实现的操作。介质和计算机代码可以是为本公开的目的而特别设计和构造的，也可以是计算机软件领域的技术人员所熟知和可用的介质和代码。
[0216]
作为实施例而非限制，具有体系结构的计算机系统，特别是核心(1940)，可以作为处理器(包括cpu、gpu、fpga、加速器等)提供执行包含在一个或多个有形的计算机可读介质中的软件的功能。这种计算机可读介质可以是与上述的用户可访问的大容量存储器相关联的介质，以及具有非易失性的核心(1940)的特定存储器，例如核心内部大容量存储器(1947)或rom(1945)。实现本公开的各种实施例的软件可以存储在这种设备中并且由核心(1940)执行。根据特定需要，计算机可读介质可包括一个或一个以上存储设备或芯片。该软件可以使得核心(1940)特别是其中的处理器(包括cpu、gpu、fpga等)执行本文所述的特定过程或特定过程的特定部分，包括定义存储在ram(1946)中的数据结构以及根据软件定义的过程来修改这种数据结构。另外或作为替代，计算机系统可以提供逻辑硬连线或以其它方式包含在电路(例如，加速器(1944))中的功能，该电路可以代替软件或与软件一起运行以执行本文所述的特定过程或特定过程的特定部分。在适当的情况下，对软件的引用可以包括逻辑，反之亦然。在适当的情况下，对计算机可读介质的引用可包括存储执行软件的电路(如集成电路(ic))，包含执行逻辑的电路，或两者兼备。本公开包括任何合适的硬件和软件组合。
[0217]
附录a：首字母缩略词
[0218]
jem：联合开发模型(joint exploration model)
[0219]
vvc：通用视频编解码(versatile video coding)
[0220]
bms：基准集合(benchmark set)
[0221]
mv：运动矢量(motion vector)
[0222]
hevc：高效视频编解码(high efficiency video coding)
[0223]
sei：辅助增强信息(supplementary enhancement information)
[0224]
vui：视频可用性信息(video usability information)
[0225]
gops：图片群组(groups of pictures)
[0226]
tus：变换单元(transform units)
[0227]
pus：预测单元(prediction units)
[0228]
ctus：编码树单元(coding tree units)
[0229]
ctbs：编码树块(coding tree blocks)
[0230]
pbs：预测块(prediction blocks)
[0231]
hrd：假想参考解码器(hypothetical reference decoder)
[0232]
snr：信噪比(signal noise ratio)
[0233]
cpus：中央处理单元(central processing units)
[0234]
gpus：图形处理单元(graphics processing units)
[0235]
crt：阴极射线管(cathode ray tube)
[0236]
lcd：液晶显示器(liquid
‑
crystal display)
[0237]
oled：有机发光二极管(organic light
‑
emitting diode)
[0238]
cd：光盘(compact disc)
[0239]
dvd：数字化视频光盘(digital video disc)
[0240]
rom：只读存储器(read
‑
only memory)
[0241]
ram：随机存取存储器(random access memory)
[0242]
asic：专用集成电路(application
‑
specific integrated circuit)
[0243]
pld：可编程逻辑设备(programmable logic device)
[0244]
lan：局域网(local area network)
[0245]
gsm：全球移动通信系统(global system for mobile communications)
[0246]
lte：长期演进(long
‑
term evolution)
[0247]
canbus：控制器局域网络总线(controller area network bus)
[0248]
usb：通用串行总线(universal serial bus)
[0249]
pci：外围设备互连(peripheral component interconnect)
[0250]
fpga：现场可编程门阵列(field programmable gate areas)
[0251]
ssd：固态驱动器(solid
‑
state drive)
[0252]
ic：集成电路(integrated circuit)
[0253]
cu：编码单元(coding unit)
[0254]
hmvp：基于历史的运动矢量预测(history
‑
based mvp)
[0255]
mvp：运动矢量预测(motion vector predictor)
[0256]
tmvp：时间运动矢量预测(temporal mvp)
[0257]
tpm：三角预测模式(triangular prediction mode)
[0258]
vtm：通用测试模型(versatile test model)
[0259]
虽然本公开已对多个示例性实施例进行了描述，但实施例的各种变更、排列和各种等同替换均属于本公开的范围内。因此应理解，本领域技术人员能够设计多种系统和方法，所述系统和方法虽然未在本文中明确示出或描述，但其体现了本公开的原则，因此属于本公开的精神和范围之内。