视频编解码的方法和装置与流程

视频编解码的方法和装置
1.通过引用并入本文
2.本技术要求于2020年3月4日提交的、申请号为16/809,189、名称为“视频编解码的方法和装置”的美国专利申请的优先权，其要求于2019年3月8日提交的、申请号为62/816,049、名称为“交织仿射模式的改进”的美国临时申请的优先权。在先申请的公开内容通过引用整体并入本文。
技术领域
3.本公开描述总体上涉及视频编解码的实施例。


背景技术：

4.本文所提供的背景描述旨在总体上呈现本公开的背景。在背景技术部分以及本说明书的各个方面中所描述的目前已署名的发明人的工作所进行的程度，并不表明其在本公开提交时作为现有技术，且从未明示或暗示其被承认为本公开的现有技术。
5.可以使用具有运动补偿的图片间预测技术来执行视频编码和解码。未压缩的数字视频可以包括一系列图片，每个图片具有例如1920
×
1080亮度样本及相关色度样本的空间维度。所述系列图片可以具有固定的或可变的图片速率(也非正式地称为帧率)，例如每秒60张图片或60hz。未压缩的视频具有很高的比特率要求。例如，每个样本8比特的1080p60 4:2:0视频(60hz帧率下1920x1080亮度样本分辨率)要求接近1.5gbit/s带宽。一小时这样的视频就需要超过600gb的存储空间。
6.视频编码和解码的一个目的是通过压缩减少输入视频信号的冗余。压缩可以帮助降低对上述带宽或存储空间的要求，在某些情况下可降低两个或更多数量级。无损压缩和有损压缩、以及两者的组合均可采用。无损压缩是指从压缩的原始信号中重建原始信号精确副本的技术。当使用有损压缩时，重建信号可能与原始信号不完全相同，但是原始信号和重建信号之间的失真足够小，使得重建信号可用于预期应用。有损压缩广泛应用于视频。容许的失真量取决于应用。例如，相比于电视应用的用户，某些消费流媒体应用的用户可以容忍更高的失真。可实现的压缩比反映出：较高的允许/容许失真可产生较高的压缩比。
7.运动补偿可以是一种有损压缩技术，且可涉及如下技术：来自先前重建的图片或重建图片一部分(参考图片)的样本数据块在空间上按运动矢量(下文称为mv)指示的方向移位后，用于新重建的图片或图片部分的预测。在某些情况下，参考图片可与当前正在重建的图片相同。mv可具有两个维度x和y，或者三个维度，其中第三个维度表示正在使用的参考图片(后者间接地可以是时间维度)。
8.在一些视频压缩技术中，应用于样本数据的某个区域的mv可根据其它mv来预测，例如根据与正在重建的区域空间相邻的样本数据的另一个区域相关的、且按解码顺序在该mv前面的那些mv。这样做可以大大减少编解码mv所需的数据量，从而消除冗余并增加压缩量。mv预测可以有效地进行，例如，因为在对从相机导出的输入视频信号(称为自然视频)进行编解码时，存在一种统计上的可能性，即面积大于单个mv适用区域的区域，会朝着类似的
方向移动，因此，在某些情况下，可以使用从相邻区域的mv导出的相似运动矢量进行预测。这导致针对给定区域发现的mv与根据周围mv预测的mv相似或相同，并且在熵编解码之后，又可以用比直接编解码mv时使用的比特数更少的比特数来表示。在某些情况下，mv预测可以是对从原始信号(即样本流)导出的信号(即mv)进行无损压缩的示例。在其它情况下，例如由于根据几个周围mv计算预测值时产生的取整误差，mv预测本身可能是有损的。
9.h.265/hevc(itu
‑
t h.265建议书，“高效视频编解码”，2016年12月)描述了各种mv预测机制。在h.265提供的多种mv预测机制中，本公开描述的是下文称为“空间合并”的技术。
10.参照图1，当前块(101)包括编码器在运动搜索过程中发现的样本，所述样本可以根据已在空间上移位的相同大小的先前块进行预测。不直接对mv进行编解码，而是使用与五个周围样本中的任何一个相关联的mv，从与一个或多个参考图片相关联的元数据中导出该mv，例如，从最近的(按解码顺序)参考图片中导出该mv。其中，五个周围样本分别用a0、a1和b0、b1、b2(分别为102到106)表示。在h.265中，mv预测可使用相邻块正在使用的同一参考图片的预测值。


技术实现要素：

11.本公开的方面提供了视频编码/解码的方法和装置。在一些示例中，视频解码的装置包括处理电路，被配置为：确定以交织仿射模式编码的当前块的仿射模型。基于所述仿射模型，生成第一预测块和第二预测块，所述第一预测块对应于用于将所述当前块划分为第一子块的第一模式，所述第二预测块对应于用于将所述当前块划分为第二子块的第二模式。所述第一预测块和所述第二预测块包括插值样本，所述插值样本具有大于所述当前块的输入位深度的中间位深度。基于所述第一预测块和所述第二预测块，生成第三预测块。通过执行加权平均运算，将所述第一预测块中的第一样本和所述第二预测块中的对应第二样本进行组合，以获得平均样本，其中所述第一预测块中的第一样本和所述第二预测块中的对应第二样本中的每一个都具有与所述中间位深度对应的精度。将所述平均样本四舍五入到所述输入位深度，以获得所述第三预测块中的对应第三样本，
12.在实施例中，所述加权平均运算包括将舍入偏移添加到所述第一样本与所述对应第二样本的加权和。在实施例中，所述第二模式相对于所述第一模式移位，并且包括完整子块和分数子块，以及当所述第一样本和所述第二样本位于与所述第二块的所述分数子块对应的区域内时，则在所述加权平均运算中，所述第二样本被赋予零权重。在实施例中，当所述第一样本和所述第二样本位于与具有第一大小的所述第二块对应的区域内时，则在所述加权平均运算中，所述第一样本和所述第二样本被赋予相等的权重。
13.在示例中，所述第三样本被约束在从0到对应于所述输入位深度的最大可能值的范围内。在示例中，对所述当前块禁用去块。在示例中，所述第二模式相对于所述第一模式移位，并且包括完整子块和分数子块，以及在与所述第二块的所述完整子块对应的区域内禁用去块，并且在与所述第二块的所述分数子块对应的区域内应用或不应用所述去块。
14.本公开的方面还提供了一种非易失性计算机可读介质，用于存储指令，当所述指令由用于视频解码的计算机执行时，使得所述计算机执行所述视频解码的方法。
附图说明
15.根据以下详细描述和附图，所公开的主题的其他特征、性质和各种优点将进一步明确，其中：
16.图1是一个示例中的当前块及其周围的空间合并候选的示意图。
17.图2是根据实施例的通信系统(200)的简化框图的示意图。
18.图3是根据实施例的通信系统(300)的简化框图的示意图。
19.图4是根据实施例的解码器的简化框图的示意图。
20.图5是根据实施例的编码器的简化框图的示意图。
21.图6示出了根据另一实施例的编码器的框图。
22.图7示出了根据另一实施例的解码器的框图。
23.图8示出了根据实施例的候选位置，从该候选位置可以选择一组空间合并候选以构建扩展合并候选列表。
24.图9示出了根据实施例的用于冗余校验过程的扩展合并列表上的候选对。
25.图10示出了根据实施例的导出当前图片中的扩展合并列表上的时间合并候选的示例。
26.图11示出了根据实施例的候选位置，从该候选位置可以选择扩展合并列表上的时间合并候选。
27.图12示出了根据实施例的预测位置，在具有运动矢量差(mmvd)的合并模式中可以从该预测位置选择预测。
28.图13a示出了用于表示2参数仿射模型的两个控制点运动矢量(cpmv)。
29.图13b示出了用于表示3参数仿射模型的三个cpmv。
30.图14示出了为子块导出的运动矢量，所述子块是从以仿射预测模式编码的当前块划分的。
31.图15示出了用于导出继承的仿射合并候选的当前块的相邻块。
32.图16示出了用于导出构造的仿射合并候选的候选块位置。
33.图17a是根据一个实施例的空间相邻块的示意图，所述空间相邻块可用于基于空间相邻块的运动信息、使用基于子块的时间运动矢量预测(sbtmvp)方法来确定当前块的预测运动信息。
34.图17b是根据一个实施例的用于sbtmvp方法的所选空间相邻块的示意图。
35.图18示出了根据实施例的将编码单元划分为两个三角形预测单元的示例。
36.图19示出了根据实施例的空间和时间相邻块，所述空间和时间相邻块用于构建用于三角预测模式的单向预测候选列表。
37.图20示出了根据实施例的查找表，所述查找表用于基于三角形分区索引导出分割方向和分区运动信息。
38.图21示出了根据实施例的在自适应混合过程中应用于编码单元的加权因子。
39.图22示出了根据实施例的交织仿射预测过程。
40.图23示出了根据实施例的在交织仿射预测过程中的加权平均运算的权重的模式。
41.图24示出根据实施例的具有高精度的交织仿射预测过程。
42.图25示出了用于在交织仿射预测过程中划分当前块的模式。
43.图26示出了根据实施例的具有高精度的交织仿射预测过程的流程图。
44.图27是根据实施例的计算机系统的示意图。
具体实施方式
45.i、用于视频编解码的编码器和解码器
46.图2示出了根据本公开实施例的通信系统(200)的简化框图。通信系统(200)包括多个终端装置，所述终端装置可通过例如网络(250)彼此通信。举例来说，通信系统(200)包括通过网络(250)互连的第一对终端装置(210)和(220)。在图2的实施例中，第一对终端装置(210)和(220)执行单向数据传输。举例来说，终端装置(210)可对视频数据(例如由终端装置(210)采集的视频图片流)进行编码以通过网络(250)传输到另一终端装置(220)。已编码的视频数据以一个或多个已编码视频码流形式传输。终端装置(220)可从网络(250)接收已编码视频数据，对已编码视频数据进行解码以恢复视频数据，并根据恢复的视频数据显示视频图片。单向数据传输在媒体服务等应用中是较常见的。
47.在另一实施例中，通信系统(200)包括执行已编码视频数据的双向传输的第二对终端装置(230)和(240)，所述双向传输可例如在视频会议期间发生。对于双向数据传输，在一个示例中，终端装置(230)和(240)中的每个终端装置可对视频数据(例如由终端装置采集的视频图片流)进行编码，以通过网络(250)传输到终端装置(230)和(240)中的另一终端装置。终端装置(230)和(240)中的每个终端装置还可接收由终端装置(230)和(240)中的另一终端装置传输的已编码视频数据，且可对所述已编码视频数据进行解码以恢复视频数据，且可根据恢复的视频数据在可访问的显示装置上显示视频图片。
48.在图2的实施例中，终端装置(210)、(220)、(230)和(240)可为服务器、个人计算机和智能电话，但本公开的原理可不限于此。本公开的实施例适用于膝上型计算机、平板电脑、媒体播放器和/或专用视频会议设备。网络(250)表示在终端装置(210)、(220)、(230)和(240)之间传送已编码视频数据的任何数目的网络，包括例如有线(连线的)和/或无线通信网络。通信网络(250)可在电路交换和/或分组交换信道中交换数据。该网络可包括电信网络、局域网、广域网和/或互联网。出于本公开的目的，除非在下文中有所解释，否则网络(250)的架构和拓扑对于本公开的操作来说可能是无关紧要的。
49.作为所公开的主题的实施例，图3示出了视频编码器和视频解码器在流式传输环境中的放置方式。所公开主题可同等地适用于其它支持视频的应用，包括例如视频会议、数字tv、在包括cd、dvd、存储棒等的数字介质上存储压缩视频等等。
50.流式传输系统可包括采集子系统(313)，所述采集子系统可包括数码相机等视频源(301)，所述视频源创建未压缩的视频图片流(302)。在实施例中，视频图片流(302)包括由数码相机拍摄的样本。相较于已编码的视频数据(304)(或已编码的视频码流)，视频图片流(302)被描绘为粗线以强调高数据量的视频图片流，视频图片流(302)可由电子装置(320)处理，所述电子装置(320)包括耦接到视频源(301)的视频编码器(303)。视频编码器(303)可包括硬件、软件或软硬件组合以实现或实施如下文更详细地描述的所公开主题的各方面。相较于视频图片流(302)，已编码的视频数据(304)(或已编码的视频码流(304))被描绘为细线以强调较低数据量的已编码的视频数据(304)(或已编码的视频码流(304))，其可存储在流式传输服务器(305)上以供将来使用。一个或多个流式传输客户端子系统，例如
图3中的客户端子系统(306)和客户端子系统(308)，可访问流式传输服务器(305)以检索已编码的视频数据(304)的副本(307)和副本(309)。客户端子系统(306)可包括例如电子装置(330)中的视频解码器(310)。视频解码器(310)对已编码的视频数据的传入副本(307)进行解码，且产生可在显示器(312)(例如显示屏)或另一呈现装置(未描绘)上呈现的输出视频图片流(311)。在一些流式传输系统中，可根据某些视频编码/压缩标准对已编码的视频数据(304)、视频数据(307)和视频数据(309)(例如视频码流)进行编码。该些标准的实施例包括itu
‑
th.265。在实施例中，正在开发的视频编解码标准非正式地称为通用视频编解码(versatile video coding，vvc)，所公开的主题可用于vvc标准的上下文中。
51.应注意，电子装置(320)和电子装置(330)可包括其它组件(未示出)。举例来说，电子装置(320)可包括视频解码器(未示出)，且电子装置(330)还可包括视频编码器(未示出)。
52.图4示出了根据本公开实施例的视频解码器(410)的框图。视频解码器(410)可设置在电子装置(430)中。电子装置(430)可包括接收器(431)(例如接收电路)。视频解码器(410)可用于代替图3实施例中的视频解码器(310)。
53.接收器(431)可接收将由视频解码器(410)解码的一个或多个已编码视频序列；在同一实施例或另一实施例中，一次接收一个已编码视频序列，其中每个已编码视频序列的解码独立于其它已编码视频序列。可从信道(401)接收已编码视频序列，所述信道可以是通向存储已编码的视频数据的存储装置的硬件/软件链路。接收器(431)可接收已编码的视频数据以及其它数据，例如，可转发到它们各自的使用实体(未标示)的已编码音频数据和/或辅助数据流。接收器(431)可将已编码视频序列与其它数据分开。为了防止网络抖动，缓冲存储器(415)可耦接在接收器(431)与熵解码器/解析器(420)(此后称为“解析器(420)”)之间。在某些应用中，缓冲存储器(415)是视频解码器(410)的一部分。在其它情况下，所述缓冲存储器(415)可设置在视频解码器(410)外部(未标示)。而在其它情况下，视频解码器(410)的外部设置缓冲存储器(未标示)以例如防止网络抖动，且在视频解码器(410)的内部可配置另一缓冲存储器(415)以例如处理播出定时。而当接收器(431)从具有足够带宽和可控性的存储/转发装置或从等时同步网络接收数据时，也可能不需要配置缓冲存储器(415)，或可以将所述缓冲存储器做得较小。当然，为了在互联网等业务分组网络上使用，也可能需要缓冲存储器(415)，所述缓冲存储器可相对较大且可具有自适应性大小，且可至少部分地实施于操作系统或视频解码器(410)外部的类似元件(未标示)中。
54.视频解码器(410)可包括解析器(420)以根据已编码视频序列重建符号(421)。这些符号的类别包括用于管理视频解码器(410)的操作的信息，以及用以控制显示装置(412)(例如，显示屏)等显示装置的潜在信息，所述显示装置不是电子装置(430)的组成部分，但可耦接到电子装置(430)，如图4中所示。用于显示装置的控制信息可以是辅助增强信息(supplemental enhancement information，sei消息)或视频可用性信息(video usability information，vui)的参数集片段(未标示)。解析器(420)可对接收到的已编码视频序列进行解析/熵解码。已编码视频序列的编码可根据视频编码技术或标准进行，且可遵循各种原理，包括可变长度编码、霍夫曼编码(huffman coding)、具有或不具有上下文灵敏度的算术编码等等。解析器(420)可基于对应于群组的至少一个参数，从已编码视频序列提取用于视频解码器中的像素的子群中的至少一个子群的子群参数集。子群可包括图片群
组(group of pictures，gop)、图片、图块、切片、宏块、编码单元(coding unit，cu)、块、变换单元(transform unit，tu)、预测单元(prediction unit，pu)等等。解析器(420)还可从已编码视频序列提取信息，例如变换系数、量化器参数值、运动矢量等等。
55.解析器(420)可对从缓冲存储器(415)接收的视频序列执行熵解码/解析操作，从而创建符号(421)。
56.取决于已编码视频图片或一部分已编码视频图片(例如：帧间图片和帧内图片、帧间块和帧内块)的类型以及其它因素，符号(421)的重建可涉及多个不同单元。涉及哪些单元以及涉及方式可由解析器(420)从已编码视频序列解析的子群控制信息控制。为了简洁起见，未描述解析器(420)与下文的多个单元之间的此类子群控制信息流。
57.除已经提及的功能块以外，视频解码器(410)可在概念上细分成如下文所描述的数个功能单元。在商业约束下运行的实际实施例中，这些单元中的许多单元彼此紧密交互并且可以彼此集成。然而，出于描述所公开主题的目的，概念上细分成下文的功能单元是适当的。
58.第一单元是缩放器/逆变换单元(451)。缩放器/逆变换单元(451)从解析器(420)接收作为符号(421)的量化变换系数以及控制信息，包括使用哪种变换方式、块大小、量化因子、量化缩放矩阵等。缩放器/逆变换单元(451)可输出包括样本值的块，所述样本值可输入到聚合器(455)中。
59.在一些情况下，缩放器/逆变换单元(451)的输出样本可属于帧内编码块；即：不使用来自先前重建的图片的预测性信息，但可使用来自当前图片的先前重建部分的预测性信息的块。此类预测性信息可由帧内图片预测单元(452)提供。在一些情况下，帧内图片预测单元(452)采用从当前图片缓冲器(458)提取的周围已重建的信息生成大小和形状与正在重建的块相同的块。举例来说，当前图片缓冲器(458)缓冲部分重建的当前图片和/或完全重建的当前图片。在一些情况下，聚合器(455)基于每个样本，将帧内预测单元(452)生成的预测信息添加到由缩放器/逆变换单元(451)提供的输出样本信息中。
60.在其它情况下，缩放器/逆变换单元(451)的输出样本可属于帧间编码和潜在运动补偿块。在此情况下，运动补偿预测单元(453)可访问参考图片存储器(457)以提取用于预测的样本。在根据符号(421)对提取的样本进行运动补偿之后，这些样本可由聚合器(455)添加到缩放器/逆变换单元(451)的输出(在这种情况下被称作残差样本或残差信号)，从而生成输出样本信息。运动补偿预测单元(453)从参考图片存储器(457)内的地址获取预测样本可受到运动矢量控制，且所述运动矢量以所述符号(421)的形式而供运动补偿预测单元(453)使用，所述符号(421)例如是包括x、y和参考图片分量。运动补偿还可包括在使用子样本精确运动矢量时，从参考图片存储器(457)提取的样本值的内插、运动矢量预测机制等等。
61.聚合器(455)的输出样本可在环路滤波器单元(456)中被各种环路滤波技术采用。视频压缩技术可包括环路内滤波器技术，所述环路内滤波器技术受控于包括在已编码视频序列(也称作已编码视频码流)中的参数，且所述参数作为来自解析器(420)的符号(421)可用于环路滤波器单元(456)。然而，在其他实施例中，视频压缩技术还可响应于在解码已编码图片或已编码视频序列的先前(按解码次序)部分期间获得的元信息，以及响应于先前重建且经过环路滤波的样本值。
62.环路滤波器单元(456)的输出可以是样本流，所述样本流可输出到显示装置(412)以及存储在参考图片存储器(457)，以用于后续的帧间图片预测。
63.一旦完全重建，某些已编码图片就可用作参考图片以用于将来预测。举例来说，一旦对应于当前图片的已编码图片被完全重建，且已编码图片(通过例如解析器(420))被识别为参考图片，则当前图片缓冲器(458)可变为参考图片存储器(457)的一部分，且可在开始重建后续已编码图片之前重新分配新的当前图片缓冲器。
64.视频解码器(410)可根据例如itu
‑
t h.265标准中的预定视频压缩技术执行解码操作。在已编码视频序列遵循视频压缩技术或标准的语法以及视频压缩技术或标准中记录的配置文件的意义上，已编码视频序列可符合所使用的视频压缩技术或标准指定的语法。具体地说，配置文件可从视频压缩技术或标准中可用的所有工具中选择某些工具作为在所述配置文件下可供使用的仅有工具。对于合规性，还要求已编码视频序列的复杂度处于视频压缩技术或标准的层级所限定的范围内。在一些情况下，层级限制最大图片大小、最大帧率、最大重建取样率(以例如每秒兆(mega)个样本为单位进行测量)、最大参考图片大小等。在一些情况下，由层级设定的限制可通过假想参考解码器(hypothetical reference decoder，hrd)规范和在已编码视频序列中用信号表示的hrd缓冲器管理的元数据来进一步限定。
65.在实施例中，接收器(431)可连同已编码视频一起接收附加(冗余)数据。所述附加数据可以是已编码视频序列的一部分。所述附加数据可由视频解码器(410)用以对数据进行适当解码和/或较准确地重建原始视频数据。附加数据可呈例如时间、空间或信噪比(signal noise ratio，snr)增强层、冗余切片、冗余图片、前向纠错码等形式。
66.图5示出了根据本公开实施例的视频编码器(503)的框图。视频编码器(503)设置于电子装置(520)中。电子装置(520)包括传输器(540)(例如传输电路)。视频编码器(503)可用于代替图3实施例中的视频编码器(303)。
67.视频编码器(503)可从视频源(501)(并非图5实施例中的电子装置(520)的一部分)接收视频样本，所述视频源可采集将由视频编码器(503)编码的视频图像。在另一实施例中，视频源(501)是电子装置(520)的一部分。
68.视频源(501)可提供将由视频编码器(503)编码的呈数字视频样本流形式的源视频序列，所述数字视频样本流可具有任何合适位深度(例如：8位、10位、12位
……
)、任何色彩空间(例如bt.601y crcb、rgb
……
)和任何合适取样结构(例如y crcb 4:2:0、y crcb 4:4:4)。在媒体服务系统中，视频源(501)可以是存储先前已准备的视频的存储装置。在视频会议系统中，视频源(501)可以是采集本地图像信息作为视频序列的相机。可将视频数据提供为多个单独的图片，当按顺序观看时，这些图片被赋予运动。图片自身可构建为空间像素阵列，其中取决于所用的取样结构、色彩空间等，每个像素可包括一个或多个样本。所属领域的技术人员可以很容易理解像素与样本之间的关系。下文侧重于描述样本。
69.根据实施例，视频编码器(503)可实时或在由应用所要求的任何其它时间约束下，将源视频序列的图片编码且压缩成已编码视频序列(543)。施行适当的编码速度是控制器(550)的一个功能。在一些实施例中，控制器(550)控制如下文所描述的其它功能单元且在功能上耦接到这些单元。为了简洁起见，图中未标示耦接。由控制器(550)设置的参数可包括速率控制相关参数(图片跳过、量化器、率失真优化技术的λ值等)、图片大小、图片群组
(group of pictures，gop)布局，最大运动矢量搜索范围等。控制器(550)可用于具有其它合适的功能，这些功能涉及针对某一系统设计优化的视频编码器(503)。
70.在一些实施例中，视频编码器(503)在编码环路中进行操作。作为简单的描述，在实施例中，编码环路可包括源编码器(530)(例如，负责基于待编码的输入图片和参考图片创建符号，例如符号流)和嵌入于视频编码器(503)中的(本地)解码器(533)。解码器(533)以类似于(远程)解码器创建样本数据的方式重建符号以创建样本数据(因为在公开的主题中所考虑的视频压缩技术中，符号与已编码视频码流之间的任何压缩是无损的)。将重建的样本流(样本数据)输入到参考图片存储器(534)。由于符号流的解码产生与解码器位置(本地或远程)无关的位精确结果，因此参考图片存储器(534)中的内容在本地编码器与远程编码器之间也是按比特位精确对应的。换句话说，编码器的预测部分“看到”的参考图片样本与解码器将在解码期间使用预测时所“看到”的样本值完全相同。这种参考图片同步性基本原理(以及在例如因信道误差而无法维持同步性的情况下产生的漂移)也用于一些相关技术。
[0071]“本地”解码器(533)的操作可与例如已在上文结合图4详细描述视频解码器(410)的“远程”解码器相同。然而，另外简要参考图4，当符号可用且熵编码器(545)和解析器(420)能够无损地将符号编码/解码为已编码视频序列时，包括缓冲存储器(415)和解析器(420)在内的视频解码器(410)的熵解码部分，可能无法完全在本地解码器(533)中实施。
[0072]
此时可以观察到，除存在于解码器中的解析/熵解码之外的任何解码器技术，也必定以基本上相同的功能形式存在于对应的编码器中。出于此原因，所公开的主题侧重于解码器操作。可简化编码器技术的描述，因为编码器技术与全面地描述的解码器技术互逆。仅在某些区域中需要更详细的描述，并且在下文提供。
[0073]
在操作期间，在一些实施例中，源编码器(530)可执行运动补偿预测编码。参考来自视频序列中被指定为“参考图片”的一个或多个先前已编码图片，所述运动补偿预测编码对输入图片进行预测性编码。以此方式，编码引擎(532)对输入图片的像素块与参考图片的像素块之间的差异进行编码，所述参考图片可被选作所述输入图片的预测参考。
[0074]
本地视频解码器(533)可基于源编码器(530)创建的符号，对可指定为参考图片的已编码视频数据进行解码。编码引擎(532)的操作可为有损过程。当已编码视频数据可在视频解码器(图5中未示)处被解码时，重建的视频序列通常可以是带有一些误差的源视频序列的副本。本地视频解码器(533)复制解码过程，所述解码过程可由视频解码器对参考图片执行，且可使重建的参考图片存储在参考图片高速缓存(534)中。以此方式，视频编码器(503)可在本地存储重建的参考图片的副本，所述副本与将由远端视频解码器获得的重建参考图片具有共同内容(不存在传输误差)。
[0075]
预测器(535)可针对编码引擎(532)执行预测搜索。即，对于将要编码的新图片，预测器(535)可在参考图片存储器(534)中搜索可作为所述新图片的适当预测参考的样本数据(作为候选参考像素块)或某些元数据，例如参考图片运动矢量、块形状等。预测器(535)可基于样本块逐像素块操作，以找到合适的预测参考。在一些情况下，根据预测器(535)获得的搜索结果，可确定输入图片可具有从参考图片存储器(534)中存储的多个参考图片取得的预测参考。
[0076]
控制器(550)可管理源编码器(530)的编码操作，包括例如设置用于对视频数据进
行编码的参数和子群参数。
[0077]
可在熵编码器(545)中对所有上述功能单元的输出进行熵编码。熵编码器(545)根据诸如霍夫曼编码、可变长度编码、算术编码等技术对各种功能单元生成的符号进行无损压缩，从而将所述符号转换成已编码视频序列。
[0078]
传输器(540)可缓冲由熵编码器(545)创建的已编码视频序列，从而为通过通信信道(560)进行传输做准备，所述通信信道可以是通向将存储已编码的视频数据的存储装置的硬件/软件链路。传输器(540)可将来自视频编码器(503)的已编码视频数据与要传输的其它数据合并，所述其它数据例如是已编码音频数据和/或辅助数据流(未示出来源)。
[0079]
控制器(550)可管理视频编码器(503)的操作。在编码期间，控制器(550)可以为每个已编码图片分配某一已编码图片类型，但这可能影响可应用于相应的图片的编码技术。例如，通常可将图片分配为以下任一种图片类型：
[0080]
帧内图片(i图片)，其可以是不将序列中的任何其它图片用作预测源就可被编码和解码的图片。一些视频编解码器容许不同类型的帧内图片，包括例如独立解码器刷新(independent decoder refresh，“idr”)图片。所属领域的技术人员了解i图片的变体及其相应的应用和特征。
[0081]
预测性图片(p图片)，其可以是可使用帧内预测或帧间预测进行编码和解码的图片，所述帧内预测或帧间预测使用至多一个运动矢量和参考索引来预测每个块的样本值。
[0082]
双向预测性图片(b图片)，其可以是可使用帧内预测或帧间预测进行编码和解码的图片，所述帧内预测或帧间预测使用至多两个运动矢量和参考索引来预测每个块的样本值。类似地，多个预测性图片可使用多于两个参考图片和相关联元数据以用于重建单个块。
[0083]
源图片通常可在空间上细分成多个样本块(例如，4
×
4、8
×
8、4
×
8或16
×
16个样本的块)，且逐块进行编码。这些块可参考其它(已编码)块进行预测编码，根据应用于块的相应图片的编码分配来确定所述其它块。举例来说，i图片的块可进行非预测编码，或所述块可参考同一图片的已经编码的块来进行预测编码(空间预测或帧内预测)。p图片的像素块可参考一个先前编码的参考图片通过空间预测或通过时域预测进行预测编码。b图片的块可参考一个或两个先前编码的参考图片通过空间预测或通过时域预测进行预测编码。
[0084]
视频编码器(503)可根据例如itu
‑
t h.265建议书的预定视频编码技术或标准执行编码操作。在操作中，视频编码器(503)可执行各种压缩操作，包括利用输入视频序列中的时间和空间冗余的预测编码操作。因此，已编码视频数据可符合所用视频编码技术或标准指定的语法。
[0085]
在实施例中，传输器(540)可在传输已编码的视频时传输附加数据。源编码器(530)可将此类数据作为已编码视频序列的一部分。附加数据可包括时间/空间/snr增强层、冗余图片和切片等其它形式的冗余数据、补充增强信息(sei)消息、视觉可用性信息(vui)参数集片段等。
[0086]
采集到的视频可作为呈时间序列的多个源图片(视频图片)。帧内图片预测(常常简化为帧内预测)利用给定图片中的空间相关性，而帧间图片预测则利用图片之间的(时间或其它)相关性。在实施例中，将正在编码/解码的特定图片分割成块，正在编码/解码的特定图片被称作当前图片。在当前图片中的块类似于视频中先前已编码且仍被缓冲的参考图片中的参考块时，可通过称作运动矢量的矢量对当前图片中的块进行编码。所述运动矢量
指向参考图片中的参考块，且在使用多个参考图片的情况下，所述运动矢量可具有识别参考图片的第三维度。
[0087]
在一些实施例中，双向预测技术可用于帧间图片预测中。根据双向预测技术，使用两个参考图片，例如按解码次序都在视频中的当前图片之前(但按显示次序可能分别是过去和将来)第一参考图片和第二参考图片。可通过指向第一参考图片中的第一参考块的第一运动矢量和指向第二参考图片中的第二参考块的第二运动矢量对当前图片中的块进行编码。具体来说，可通过第一参考块和第二参考块的组合来预测所述块。
[0088]
此外，合并模式技术可用于帧间图片预测中以改善编码效率。
[0089]
根据本公开的一些实施例，帧间图片预测和帧内图片预测等预测的执行以块为单位。举例来说，根据hevc标准，将视频图片序列中的图片分割成编码树单元(coding tree unit，ctu)以用于压缩，图片中的ctu具有相同大小，例如64
×
64像素、32
×
32像素或16
×
16像素。一般来说，ctu包括三个编码树块(coding tree block，ctb)，所述三个编码树块是一个亮度ctb和两个色度ctb。更进一步的，还可将每个ctu以四叉树拆分为一个或多个编码单元(coding unit，cu)。举例来说，可将64
×
64像素的ctu拆分为一个64
×
64像素的cu，或4个32
×
32像素的cu，或16个16
×
16像素的cu。在实施例中，分析每个cu以确定用于cu的预测类型，例如帧间预测类型或帧内预测类型。此外，取决于时间和/或空间可预测性，将cu拆分为一个或多个预测单元(prediction unit，pu)。通常，每个pu包括亮度预测块(prediction block，pb)和两个色度pb。在实施例中，编码(编码/解码)中的预测操作以预测块为单位来执行。以亮度预测块作为预测块为例，预测块包括像素值(例如，亮度值)的矩阵，例如8
×
8像素、16
×
16像素、8
×
16像素、16
×
8像素等等。
[0090]
图6示出了根据本公开另一实施例的视频编码器(603)的示意图。视频编码器(603)用于接收视频图片序列中的当前视频图片内的样本值的处理块(例如预测块)，且将所述处理块编码到作为已编码视频序列的一部分的已编码图片中。在本实施例中，视频编码器(603)用于代替图3实施例中的视频编码器(303)。
[0091]
在hevc实施例中，视频编码器(603)接收用于处理块的样本值的矩阵，所述处理块为例如8
×
8样本的预测块等。视频编码器(603)使用例如率失真(rate
‑
distortion)优化来确定是否使用帧内模式、帧间模式或双向预测模式来编码所述处理块。当在帧内模式中编码处理块时，视频编码器(603)可使用帧内预测技术以将处理块编码到已编码图片中；且当在帧间模式或双向预测模式中编码处理块时，视频编码器(603)可分别使用帧间预测或双向预测技术将处理块编码到已编码图片中。在某些视频编码技术中，合并模式可以是帧间图片预测子模式，其中，在不借助预测值外部的已编码运动矢量分量的情况下，从一个或多个运动矢量预测值导出运动矢量。在某些其它视频编码技术中，可存在适用于主题块的运动矢量分量。在实施例中，视频编码器(603)包括其它组件，例如用于确定处理块模式的模式决策模块(未示出)。
[0092]
在图6的实施例中，视频编码器(603)包括如图6所示的耦接到一起的帧间编码器(630)、帧内编码器(622)、残差计算器(623)、开关(626)、残差编码器(624)、通用控制器(621)和熵编码器(625)。
[0093]
帧间编码器(630)用于接收当前块(例如处理块)的样本、比较所述块与参考图片中的一个或多个参考块(例如先前图片和后来图片中的块)、生成帧间预测信息(例如根据
帧间编码技术的冗余信息描述、运动矢量、合并模式信息)、以及基于帧间预测信息使用任何合适的技术计算帧间预测结果(例如已预测块)。在一些实施例中，参考图片是基于已编码的视频信息解码的已解码参考图片。
[0094]
帧内编码器(622)用于接收当前块(例如处理块)的样本、在一些情况下比较所述块与同一图片中已编码的块、在变换之后生成量化系数、以及在一些情况下还(例如根据一个或多个帧内编码技术的帧内预测方向信息)生成帧内预测信息。在实施例中，帧内编码器(622)还基于帧内预测信息和同一图片中的参考块计算帧内预测结果(例如已预测块)。
[0095]
通用控制器(621)用于确定通用控制数据，且基于所述通用控制数据控制视频编码器(603)的其它组件。在实施例中，通用控制器(621)确定块的模式，且基于所述模式将控制信号提供到开关(626)。举例来说，当所述模式是帧内模式时，通用控制器(621)控制开关(626)以选择供残差计算器(623)使用的帧内模式结果，且控制熵编码器(625)以选择帧内预测信息且将所述帧内预测信息添加在码流中；以及当所述模式是帧间模式时，通用控制器(621)控制开关(626)以选择供残差计算器(623)使用的帧间预测结果，且控制熵编码器(625)以选择帧间预测信息且将所述帧间预测信息添加在码流中。
[0096]
残差计算器(623)用于计算所接收的块与选自帧内编码器(622)或帧间编码器(630)的预测结果之间的差(残差数据)。残差编码器(624)用于基于残差数据操作，以对残差数据进行编码以生成变换系数。在实施例中，残差编码器(624)用于将残差数据从空间域转换到频域，且生成变换系数。变换系数接着经由量化处理以获得量化的变换系数。在各种实施例中，视频编码器(603)还包括残差解码器(628)。残差解码器(628)用于执行逆变换，且生成已解码残差数据。已解码残差数据可适当地由帧内编码器(622)和帧间编码器(630)使用。举例来说，帧间编码器(630)可基于已解码残差数据和帧间预测信息生成已解码块，且帧内编码器(622)可基于已解码残差数据和帧内预测信息生成已解码块。适当处理已解码块以生成已解码图片，且在一些实施例中，所述已解码图片可在存储器电路(未示出)中缓冲并用作参考图片。
[0097]
熵编码器(625)用于将码流格式化以产生已编码的块。熵编码器(625)根据hevc标准等合适标准产生各种信息。在实施例中，熵编码器(625)用于获得通用控制数据、所选预测信息(例如帧内预测信息或帧间预测信息)、残差信息和码流中的其它合适的信息。应注意，根据所公开的主题，当在帧间模式或双向预测模式的合并子模式中对块进行编码时，不存在残差信息。
[0098]
图7示出了根据本公开另一实施例的视频解码器(710)的示意图。视频解码器(710)用于接收作为已编码视频序列的一部分的已编码图像，且对所述已编码图像进行解码以生成重建的图片。在实施例中，视频解码器(710)用于代替图3实施例中的视频解码器(310)。
[0099]
在图7实施例中，视频解码器(710)包括如图7中所示耦接到一起的熵解码器(771)、帧间解码器(780)、残差解码器(773)、重建模块(774)和帧内解码器(772)。
[0100]
熵解码器(771)可用于根据已编码图片来重建某些符号，这些符号表示构成所述已编码图片的语法元素。此类符号可包括例如用于对所述块进行编码的模式(例如帧内模式、帧间模式、双向预测模式、后两者的合并子模式或另一子模式)、可分别识别供帧内解码器(772)或帧间解码器(780)用以进行预测的某些样本或元数据的预测信息(例如帧内预测
信息或帧间预测信息)、呈例如量化的变换系数形式的残差信息等等。在实施例中，当预测模式是帧间或双向预测模式时，将帧间预测信息提供到帧间解码器(780)；以及当预测类型是帧内预测类型时，将帧内预测信息提供到帧内解码器(772)。残差信息可经由逆量化并提供到残差解码器(773)。
[0101]
帧间解码器(780)用于接收帧间预测信息，且基于所述帧间预测信息生成帧间预测结果。
[0102]
帧内解码器(772)用于接收帧内预测信息，且基于所述帧内预测信息生成预测结果。
[0103]
残差解码器(773)用于执行逆量化以提取解量化的变换系数，且处理所述解量化的变换系数，以将残差从频域转换到空间域。残差解码器(773)还可能需要某些控制信息(用以获得量化器参数qp)，且所述信息可由熵解码器(771)提供(未标示数据路径，因为这仅仅是低量控制信息)。
[0104]
重建模块(774)用于在空间域中组合由残差解码器(773)输出的残差与预测结果(可由帧间预测模块或帧内预测模块输出)以形成重建的块，所述重建的块可以是重建的图片的一部分，所述重建的图片继而可以是重建的视频的一部分。应注意，可执行去块(deblocking)操作等其它合适的操作来改善视觉质量。
[0105]
应注意，可使用任何合适的技术来实施视频编码器(303)、视频编码器(503)和视频编码器(603)以及视频解码器(310)、视频解码器(410)和视频解码器(710)。在实施例中，可使用一个或多个集成电路来实施视频编码器(303)、视频编码器(503)和视频编码器(603)以及视频解码器(310)、视频解码器(410)和视频解码器(710)。在另一实施例中，可使用执行软件指令的一个或多个处理器来实施视频编码器(303)、视频编码器(503)和视频编码器(603)以及视频解码器(310)、视频解码器(410)和视频解码器(710)。
[0106]
ii、帧间预测技术
[0107]
在各种实施例中，对于帧间预测的cu，包括运动矢量、参考图片索引、参考图片列表使用索引以及可能的其它附加信息的运动参数可以用于帧间预测样本的生成。可以以显式方式或隐式方式发信号通知运动参数。当使用跳过模式对cu进行编码时，cu与一个pu相关联，并且没有明显的残差系数、已编码的运动矢量增量、或者与该cu相关联的参考图片索引。
[0108]
当采用合并模式时，可以从相邻cu获得当前cu的运动参数，包括空间和时间合并候选以及可选地其它合并候选。合并模式可以应用于帧间预测的cu，并且可以用于跳过模式。合并模式的替代方案是运动参数的显式传输。例如，运动矢量、每个参考图片列表的各个参考图片索引、参考图片列表使用标志以及其它所需信息可以通过每个cu显式地用信号通知。
[0109]
在一些实施例中，使用以下帧间预测编解码工具：
[0110]
‑
扩展的合并预测
[0111]
‑
具有运动矢量差的合并模式(mmvd)
[0112]
‑
仿射运动补偿预测
[0113]
‑
基于子块的时间运动矢量预测(sbtmvp)
[0114]
‑
三角形分区预测
[0115]
‑
组合的帧间和帧内预测(ciip)
[0116]
1、扩展的合并预测
[0117]
在一些实施例中，合并候选列表通过依次包括以下五种类型的候选来构建：
[0118]
1)来自空间相邻cu的空间运动矢量预测值(smvp)；
[0119]
2)来自同位cu的时间运动矢量预测值(tmvp)；
[0120]
3)来自先进先出(fifo)表的基于历史的运动矢量预测值(hmvp)；
[0121]
4)成对平均运动矢量预测值(mvp)；以及
[0122]
5)零mv。
[0123]
在一些实施例中，合并列表的大小在切片头中用信号通知，并且合并列表的最大允许大小为6。对于每个以合并模式编码的cu，使用截断一元(tu)二值化(truncated unary binarization)对最佳合并候选的索引进行编码。合并索引的第一个二进制数(bin)使用上下文进行编码，而其它bin使用旁路编码(bypass coding)进行编码。
[0124]
下面描述每一类合并候选的生成过程的示例。
[0125]
1.1空间候选推导
[0126]
在导出空间合并候选的过程中，从位于图8中的当前块(810)附近的位置a1、b1、b0、a0和b2处的候选中选择最多四个合并候选。推导顺序为a1、b1、b0、a0和b2。当位置a1、b1、b0、a0的任何cu不可用(例如，因为它属于另一个切片或图块)或者被帧内编码时，考虑位置b2。在添加位置a1处的候选之后，其余候选的添加要进行冗余校验，这确保了将具有相同运动信息的候选从列表中排除。因此，提高了编解码效率。为了降低计算复杂度，在提到的冗余校验中并未考虑所有可能的候选对。取而代之的是，考虑了图9中用箭头链接的对。当用于冗余校验的相应候选不具有相同的运动信息时，将该候选添加到列表中。
[0127]
1.2时间候选推导
[0128]
在实施例中，将一个时间候选添加到列表。具体地，在为当前图片(1001)中的当前块(1011)导出该时间合并候选的过程中，基于属于同位参考图片(1002)的同位cu(1012)导出缩放的运动矢量(1031)，如图10所示。用于导出同位cu的参考图片列表在切片头中显式地用信号通知。使用图片顺序计数(poc)距离tb和td，从同位cu(1012)的运动矢量(1032)对用于时间合并候选的缩放的运动矢量(1031)进行缩放。将tb定义为当前图片(1001)的当前参考图片(1003)和当前图片(1001)之间的poc差。将td定义为同位图片(1002)的同位参考图片(1004)和同位图片(1002)之间的poc差。将时间合并候选的参考图片索引设置为等于零。
[0129]
在图11所示的候选c0和c1之间选择时间候选的位置。如果位置c0处的cu不可用、被帧内编码或在ctu的当前行之外，则使用位置c1。否则，在时间合并候选的推导中使用位置c0。
[0130]
1.3基于历史的合并候选推导
[0131]
在一些实施例中，基于历史的mvp(hmvp)合并候选在smvp和tmvp之后被添加到合并列表。在该方法中，先前已编码块的运动信息存储在表中并被用作当前cu的mvp。在编码或解码过程期间维护具有多个hmvp候选的表。当遇到新的ctu行时，重置(清空)该表。每当存在非子块帧间编码的cu时，将相关运动信息作为新的hmvp候选添加到表的最后一个条目。
[0132]
在实施例中，将hmvp表的大小s设置为6，这表示最多可以将6个基于历史的mvp(hmvp)候选添加到表中。当在表中插入新的运动候选时，使用约束的先进先出(fifo)规则，其中，首先应用冗余校验，以发现表中是否存在相同的hmvp。如果发现，则从表中删除相同的hmvp，然后向前移动所有hmvp候选。
[0133]
hmvp候选可用于合并候选列表的构建过程。依次检查表中最新的几个hmvp候选，并将其插入到候选列表中tmvp候选之后。将冗余校验应用于hmvp候选得到空间或时间合并候选。
[0134]
在示例中，为了减少冗余校验操作的次数，引入以下简化：
[0135]
(i)将用于合并列表生成的hmpv候选的数量设置为(n<＝4)？m:(8
‑
n)，其中，n表示合并列表中现有候选的数量，m表示表中可用的hmvp候选的数量。
[0136]
(ii)一旦可用的合并候选的总数量达到最大允许合并候选的数量减1，就结束来自hmvp的合并候选列表的构建过程。
[0137]
1.4成对平均合并候选推导
[0138]
在一些实施例中，成对平均候选通过对现有合并候选列表中的预定义候选对进行平均来生成。例如，预定义对被定义为{(0,1),(0,2),(1,2),(0,3),(1,3),(2,3)}，其中数字表示合并候选列表的合并索引。为每个参考列表分别计算平均运动矢量。如果在一个列表中两个运动矢量都可用，则即使这两个运动矢量指向不同的参考图片，也对它们进行平均。如果只有一个运动矢量可用，则直接使用该运动矢量。如果没有运动矢量可用，则使该列表无效。
[0139]
在实施例中，当在添加成对平均合并候选之后合并列表未满时，则在合并列表的末尾插入零mvp，直到达到最大合并候选数量。
[0140]
2、具有运动矢量差(mmvd)的合并模式
[0141]
除了合并模式(其中隐式导出的运动信息直接用于当前cu的预测样本生成)之外，在一些实施例中使用mmvd。在发送跳过标志和合并标志之后立即发信号通知mmvd标志，以指定是否将mmvd模式用于cu。
[0142]
在mmvd模式中，在选择合并候选之后，通过发信号通知的运动矢量差(mvd)信息进一步对该合并候选进行修正，以获得修正的运动信息。mvd信息包括合并候选标志、用于指定运动幅度的距离索引和用于指示运动方向的索引。
[0143]
选择合并列表中的前两个候选中的一个作为mv基础(一个或多个起始mv)。发信号通知合并候选标志以指定使用哪一个候选。如图12所示，mv基础分别确定参考图片列表l0或l1中的参考图片(1202)或(1203)处的起始点(1211)或(1221)。
[0144]
距离索引指定运动幅度信息，并且指示距起始点(1211)或(1221)的预定义偏移。如图12所示，该偏移被添加到指向位置(1211)或(1221)的起始mv(mv基础)的水平分量或垂直分量。表1规定了距离索引和预定义偏移的映射关系。
[0145]
表1
[0146]
[0147]
方向索引表示mvd相对于起始点(1211)或(1221)的方向。方向索引可以表示如表2所示的四个方向中的一个。
[0148]
表2
[0149]
方向idx00011011x轴
–
不适用(n/a)不适用(n/a)y轴不适用(n/a)不适用(n/a)
–
[0150]
应注意，mvd符号的含义可以根据起始mv的信息而变化。当一个或多个起始mv为都指向当前图片的同一侧的单向预测mv或双向预测mv时(即，两个参考图片的poc均大于当前图片的poc，或者均小于当前图片的poc)，表2中的符号指定添加到起始mv的mv偏移的符号。当起始mv是双向预测mv且该两个mv指向当前图片的不同侧(即，一个参考图片的poc大于当前图片的poc，而另一个参考图片的poc小于当前图片的poc)时，表2中的符号指定添加到起始mv的l0 mv分量的mv偏移的符号，而l1 mv的符号具有相反的值。
[0151]
基于基础mv、偏移和mvd符号，可以为当前cu确定最终的一个或多个mv。
[0152]
3、仿射运动补偿预测
[0153]
在一些示例中，将平移运动模型应用于运动补偿预测(mcp)。然而，平移运动模型可能不适用于建模其它类型的运动，例如，放大/缩小、旋转、透视运动和其它不规则运动)。在一些实施例中，应用基于块的仿射变换运动补偿预测。在图13a中，当使用4参数仿射模型时，块的仿射运动场通过两个控制点(cp)cp0和cp1的两个控制点运动矢量(cpmv)cpmv0和cpmv1来描述。在图13b中，当使用6参数仿射模型时，块的仿射运动场通过三个控制点(cp)cp0、cp1和cp2的三个控制点运动矢量(cpmv)cpmv0、cpmv1和cpmv3来描述。
[0154]
使用4参数仿射运动模型，在块中的样本位置(x，y)处的运动矢量导出如下：
[0155][0156]
使用6参数仿射运动模型，在块中的样本位置(x，y)处的运动矢量导出如下：
[0157][0158]
在表达式(2.1)和(2.2)中，(mv
0x
，mv
0y
)是左上角控制点的运动矢量，(mv
1x
，mv
1y
)是右上角控制点的运动矢量，(mv
2x
，mv
2y
)是左下角控制点的运动矢量。另外，坐标(x，y)是关于各个块的左上角的，w和h表示各个块的宽度和高度。
[0159]
为了简化运动补偿预测，在一些实施例中应用基于子块的仿射变换预测。例如，在图14中，使用4参数仿射运动模型，并且确定两个cpmv，和为了导出从当前块(1410)划分的每个4
×
4(样本)亮度子块(1402)的运动矢量，根据上述表达式(2.1)计算每个子块(1402)的中心样本的运动矢量(1401)，并将其四舍五入到1/16分数精度。然后，应用运动补偿插值滤波器，以利用导出的运动矢量(1401)生成每个子块(1402)的预测。色度分量的子块大小设置为4
×
4。将4
×
4色度子块的mv计算为四个对应的4
×
4亮度子块的mv的平均值。
[0160]
与平移运动帧间预测类似，在一些实施例中采用两种仿射运动帧间预测模式：仿射合并模式和仿射amvp模式。
[0161]
3.1仿射合并预测
[0162]
在一些实施例中，可以将仿射合并模式应用于宽度和高度都大于或等于8的cu。基于空间相邻cu的运动信息生成当前cu的仿射合并候选。最多可以有五个仿射合并候选，并且发信号通知索引，以指示要用于当前cu的一个仿射合并候选。例如，使用以下三种类型的仿射合并候选来形成仿射合并候选列表：
[0163]
(i)从相邻cu的cpmv推断出的继承的仿射合并候选；
[0164]
(ii)使用相邻cu的平移mv导出的构造的仿射合并候选；以及
[0165]
(iii)零mv
[0166]
在一些实施例中，最多可以有两个继承的仿射候选，这两个继承的仿射候选是从相邻块的仿射运动模型导出的，其中一个是从左相邻cu导出的，另一个是从上相邻cu导出的。候选块，例如可以位于图8所示的位置。对于左预测值(predictor)，扫描顺序是a0
‑
>a1，并且对于上预测值，扫描顺序是b0
‑
>b1
‑
>b2。从每一侧仅选择第一个继承的候选。在两个继承的候选之间不执行修剪检查。
[0167]
当识别出相邻仿射cu时，该识别出的相邻仿射cu的cpmv被用于导出当前cu的仿射合并列表中的cpmvp候选。如图15所示，以仿射模式对当前cu(1510)的相邻左下块a进行编码，获得包含块a的cu(1520)的左上角、右上角和左下角的运动矢量和当使用4参数仿射模型对块a进行编码时，根据和计算当前cu(1510)的两个cpmv，和在使用6参数仿射模型对块a进行编码的情况下，根据和计算当前cu的三个cpmv(未示出)。
[0168]
构造的仿射候选通过组合每个控制点的相邻平移运动信息来构造。控制点的运动信息从图16所示的指定的空间相邻块和时间相邻块导出。cpmvk(k＝1，2，3，4)表示第k个控制点。对于cpmv1，依次检查b2
‑
>b3
‑
>a2块，并且使用第一个可用块的mv。对于cpmv2，检查b1
‑
>b0块，对于cpmv3，检查a1
‑
>a0块。如果块t处的tmvp可用，则可以将其用作cpmv4。
[0169]
在获得四个控制点的mv之后，基于该运动信息构造仿射合并候选。使用控制点mv的以下组合顺序地构造：{cpmv1，cpmv2，cpmv3}、{cpmv1，cpmv2，cpmv4}、{cpmv1，cpmv3，cpmv4}、{cpmv2，cpmv3，cpmv4}、{cpmv1，cpmv2}、{cpmv1，cpmv3}。
[0170]
3个cpmv的组合构造6参数仿射合并候选，2个cpmv的组合构造4参数仿射合并候选。为了避免运动缩放过程，如果控制点的参考索引不同，则丢弃控制点mv的相关组合。
[0171]
在检查继承的仿射合并候选和构造的仿射合并候选之后，如果列表仍然未满，则将零mv插入到合并候选列表的末尾。
[0172]
3.2仿射amvp预测
[0173]
在一些实施例中，仿射amvp模式可以用于宽度和高度都大于或等于16的cu。在比特流中发信号通知cu级别的仿射标志，以指示是否使用仿射amvp模式，然后发信号通知另一标志，以指示使用4参数仿射还是6参数仿射。在比特流中发信号通知当前cu的cpmv与其预测值的cpmvp的差。仿射avmp候选列表的大小为2，并且可以通过依次使用以下四种类型的cpvm候选来生成：
[0174]
(i)从相邻cu的cpmv推断出的继承的仿射amvp候选；
[0175]
(ii)使用相邻cu的平移mv导出的构造的仿射amvp候选；
[0176]
(iii)来自相邻cu的平移mv；以及
[0177]
(iv)零mv。
[0178]
在示例中，继承的仿射amvp候选的检查顺序与继承的仿射合并候选的检查顺序类似。根据实施例，区别是，对于avmp候选，考虑具有与当前块中的参考图片相同的参考图片的仿射cu。当将继承的仿射运动预测值插入到候选列表中时，不应用修剪过程。
[0179]
构造的amvp候选从图16所示的指定的空间相邻块导出。使用与仿射合并候选构造中相同的检查顺序。此外，还检查相邻块的参考图片索引。使用检查顺序中的第一个块，该第一个块是帧间编码的，并且具有与当前cu中相同的参考图片。当使用4参数仿射模型对当前cu进行编码并且cpmv0和cpmv1均可用时，将这些可用的cpmv作为一个候选添加到仿射amvp候选列表中。当使用6参数仿射模型对当前cu进行编码并且所有三个cpmv(cpmv0、cpmv1和cpmv2)均可用时，将这些可用的cpmv作为一个候选添加到仿射amvp候选列表中。否则，将构造的amvp候选设置为不可用。
[0180]
如果在检查继承的仿射amvp候选和构造的仿射amvp候选之后，仿射amvp候选列表仍然小于2，则将添加与控制点相邻的平移运动矢量(在其可用时)，以预测当前cu的所有控制点mv。最后，如果仿射amvp候选列表仍然未满，则使用零mv来填充该仿射amvp候选列表。
[0181]
4、基于子块的时间运动矢量预测(sbtmvp)
[0182]
图17a是根据一个实施例的空间相邻块的示意图，该空间相邻块可用于使用基于子块的时间mv预测(sbtmvp)方法来确定当前块(1711)的预测运动信息。图17a示出了当前块(1711)及其表示为a0、a1、b0和b1的空间相邻块(分别为1712、1713、1714和1715)。在一些示例中，空间相邻块a0、a1、b0和b1与当前块(1711)属于同一图片。
[0183]
图17b是根据实施例的使用sbtmvp方法基于选定的空间相邻块(例如该非限制性示例中的块a1)确定当前块(1711)的子块的运动信息的示意图。在该示例中，当前块(1711)在当前图片(1710)中，参考块(1761)在参考图片(1760)中，并且可以基于由运动矢量(1722)指示的、当前块(1711)与参考块(1761)之间的运动移位(或位移)来识别。
[0184]
在一些实施例中，类似于hevc中的时间运动矢量预测(tmvp)，sbtmvp将参考图片中的各种参考子块中的运动信息用于当前图片中的当前块。在一些实施例中，tmvp使用的相同参考图片可以用于sbtvmp。在一些实施例中，tmvp预测cu级别的运动信息，而sbtmvp预测子cu级别的运动信息。在一些实施例中，tmvp使用来自参考图片中的同位块的时间运动矢量，其具有与当前块的右下角或中心相邻的对应位置，并且sbtmvp使用来自参考块的时间运动矢量，其可以通过基于来自当前块的空间相邻块中的一个的运动矢量执行运动移位来识别。
[0185]
例如，如图17a所示，可以在sbtvmp过程中顺序地检查相邻块a1、b1、b0和a0。一旦识别出第一空间相邻块(其运动矢量使用参考图片(1760)作为参考图片)，例如块a1，其具有指向例如参考图片(1760)中的参考块ar1的运动矢量(1722)，该运动矢量(1722)可以用于执行运动移位。如果在空间相邻块a1、b1、b0和a0没有这样的运动矢量可用，则将运动移位设置为(0，0)。
[0186]
在确定了运动移位之后，可以基于当前块(1711)的位置和所确定的运动移位来识别参考块(1761)。在图17b中，参考块(1761)可以进一步划分为具有参考运动信息mra至mrp的16个子块。在一些示例中，参考块(1761)中的每个子块的参考运动信息可以基于覆盖该
子块的中心样本的最小运动网格来确定。运动信息可以包括运动矢量和相应的参考索引。当前块(1711)可以进一步划分为16个子块，并且在一些示例中，当前块(1711)中的子块的运动信息mva至mvp可以以类似于tmvp过程的方式通过时间缩放从参考运动信息mra至mrp导出。
[0187]
sbtmvp过程中使用的子块大小可以是固定的(或以其它方式预定的)或者发信号通知。在一些示例中，sbtmvp过程中使用的子块大小可以是8
×
8个样本。在一些示例中，sbtmvp过程仅适用于宽度和高度等于或大于固定大小或发信号通知的大小(例如8个像素)的块。
[0188]
在示例中，包含sbtvmp候选和仿射合并候选的组合的基于子块的合并列表用于基于子块的合并模式的信令。可以通过序列参数集(sps)标志启用或禁用sbtvmp模式。在一些示例中，如果启用sbtmvp模式，则将sbtmvp候选添加为基于子块的合并候选的列表的第一个条目，并且其后是仿射合并候选。在一些实施例中，将基于子块的合并列表的最大允许大小设置为5。然而，在其它实施例中可以使用其它大小。
[0189]
在一些实施例中，附加sbtmvp合并候选的编码逻辑与其它合并候选的编码逻辑相同。即，对于p或b切片中的每个块，可以执行附加的速率失真检查，以确定是否使用sbtmvp候选。
[0190]
5、三角预测
[0191]
在一些实施例中，三角预测模式(tpm)可用于帧间预测。在实施例中，将tpm应用于大小为8
×
8样本或更大并且以跳过或合并模式进行编码的cu。在实施例中，对于满足这些条件(大小为8
×
8样本或更大并且以跳过或合并模式进行编码)的cu，用信号通知cu级别标志，以指示是否应用tpm。
[0192]
当使用tpm时，在一些实施例中，使用如图18所示的对角线分割或反对角线分割，将cu均匀地分割成两个三角形分区。在图18中，将第一cu(1810)从左上角分割到右下角，得到两个三角形预测单元pu1和pu2。将第二cu(1820)从右上角分割到左下角，得到两个三角形预测单元pu1和pu2。cu(1810)或(1820)中的每个三角形预测单元pu1或pu2使用其自身的运动信息进行帧间预测。
[0193]
在一些实施例中，对于每个三角形预测单元仅允许单向预测。因此，每个三角形预测单元具有一个运动矢量和一个参考图片索引。可以应用单向预测运动约束以确保对每个cu执行不超过两个运动补偿预测(类似于常规的双向预测方法)。这样，可以降低处理复杂度。可以从单向预测合并候选列表导出每个三角形预测单元的单向预测运动信息。在一些其它实施例中，对于每个三角形预测单元允许双向预测。因此，可以从双向预测合并候选列表导出每个三角形预测单元的双向预测运动信息。
[0194]
在一些实施例中，当cu级别标志指示使用tpm对当前cu进行编码时，进一步用信号通知一个索引，称为三角形分区索引。例如，三角形分区索引的值可以在[0,39]范围内。使用该三角形分区索引，可以通过解码器侧的查找表获得三角形分区的方向(对角线或反对角线)以及每个分区的运动信息(例如，各个单向预测候选列表的合并索引(或称为tpm索引))。
[0195]
在基于所获得的运动信息预测每个三角形预测单元之后，在实施例中，通过执行具有自适应权重的混合过程来调整沿当前cu的对角线或反对角线边缘的样本值。作为混合
过程的结果，可以获得整个cu的预测信号。随后，可以以类似于其它预测模式的方式将变换和量化过程应用于整个cu。最后，例如可以通过将运动信息存储在从cu划分的一组4
×
4单元中，来创建使用三角形分区模式预测的cu的运动场。该运动场例如可用于后续的运动矢量预测过程，以构建合并候选列表。
[0196]
5.1单向预测候选列表的构建
[0197]
在一些实施例中，用于预测编码块的两个三角形预测单元的合并候选列表可以基于该编码块的一组空间和时间相邻块来构建，其中该编码块使用tpm处理。这种合并候选列表可以称为具有本文中列出的tpm候选的tpm候选列表。在一个实施例中，该合并候选列表是单向预测候选列表。在实施例中，该单向预测候选列表包括五个单向预测运动矢量候选。例如，该五个单向预测运动矢量候选从包括五个空间相邻块(在图19中标记为数字1到5)和两个时间同位块(在图19中标记为数字6到7)的七个相邻块中导出。
[0198]
在示例中，按照以下顺序收集该七个相邻块的运动矢量并将其放入单向预测候选列表中：首先，单向预测相邻块的运动矢量；然后，对于双向预测相邻块，l0运动矢量(即，双向预测mv的l0运动矢量部分)，l1运动矢量(即，双向预测mv的l1运动矢量部分)，以及双向预测mv的l0和l1运动矢量的平均运动矢量。在示例中，如果候选的数量小于5，则将零运动矢量添加到列表的末尾。在一些其它实施例中，合并候选列表可以包括少于5个或多于5个的单向预测或双向预测合并候选，该单向预测或双向预测合并候选是从与图19所示的候选位置相同或不同的候选位置选择的。
[0199]
5.2查找表和表索引
[0200]
在实施例中，使用包括五个tpm候选的tpm(或合并)候选列表以三角形分区模式对cu进行编解码。因此，当每个三角形pu使用5个合并候选时，存在40种可能的方式来预测cu。换句话说，可以有40种不同的分割方向和合并(或tpm)索引的组合：2(可能的分割方向)
×
(5(第一三角形预测单元的可能的合并索引)
×
5(第二三角形预测单元的可能的合并索引)
‑
5(当第一和第二预测单元对共享相同的合并索引时的多种可能性))。例如，当为两个三角形预测单元确定相同的合并索引时，可以使用常规合并模式而不是三角预测模式来处理cu。
[0201]
因此，在实施例中，基于查找表，可以使用[0,39]范围内的三角形分区索引来表示使用40种组合中的哪一种。图20示出了一个示例性查找表(2000)，其用于基于三角形分区索引导出分割方向和合并索引。如查找表(2000)所示，第一行(2001)包括范围为0到39的三角形分区索引；第二行(2002)包括由0或1表示的可能的分割方向；第三行(2003)包括与第一三角形预测单元对应的、且范围从0到4的可能的第一合并索引；以及，第四行2004包括与第二三角形预测单元对应的、且范围从0到4的可能的第二合并索引。
[0202]
例如，当解码器接收到值为1的三角形分区索引时，基于查找表(2000)的列(2020)，可以确定分割方向是由值1表示的分割方向，并且第一合并索引和第二合并索引分别是0和1。由于三角形分区索引与查找表相关联，因此在本公开中三角形分区索引也称为表索引。
[0203]
5.3沿三角形分区边缘的自适应混合
[0204]
在实施例中，在使用各自的运动信息预测每个三角形预测单元之后，对两个三角形预测单元的两个预测信号应用混合过程，以导出对角线或反对角线边缘周围的样本。混
合过程根据两个三角形预测单元之间的运动矢量差在两个加权因子组之间自适应地选择。在实施例中，两个加权因子组如下：
[0205]
(1)第一加权因子组：{7/8,6/8,4/8,2/8,1/8}，用于亮度分量的样本，以及{7/8,4/8,1/8}，用于色度分量的样本；以及
[0206]
(2)第二加权因子组：{7/8,6/8,5/8,4/8,3/8,2/8,1/8}，用于亮度分量的样本，以及{6/8,4/8,2/8}，用于色度分量的样本。
[0207]
第二加权因子组具有更多的亮度加权因子，并且沿分区边缘混合了更多的亮度样本。
[0208]
在实施例中，以下条件用于选择两个加权因子组中的一个。当两个三角形分区的参考图片彼此不同时，或者当两个三角形分区之间的运动矢量差大于阈值(例如，16个亮度样本)时，选择第二加权因子组。否则，选择第一加权因子组。
[0209]
图21示出了应用第一加权因子组的cu的示例。如图所示，第一编码块(2101)包括亮度样本，第二编码块(2102)包括色度样本。沿着编码块(2101)或(2102)的对角线边缘的一组像素用数字1、2、4、6和7来标记，它们分别对应加权因子7/8、6/8、4/8、2/8和1/8。例如，对于标有数字2的像素，可根据下式获得混合操作后的像素样本值：
[0210]
混合的样本值＝2/8x p1 6/8x p2，
[0211]
其中p1和p2表示在各自像素处但分别属于第一三角形预测单元和第二三角形预测单元的预测的样本值。
[0212]
6、组合的帧间和帧内预测(ciip)
[0213]
在一些实施例中，当以合并模式对cu进行编码时，如果cu包含至少64个亮度样本(即，cu宽度乘以cu高度等于或大于64)，则发信号通知附加标志，以指示是否将组合的帧间/帧内预测(ciip)模式应用于当前cu。
[0214]
为了形成ciip预测，首先从两个附加语法元素中导出帧内预测模式。可以使用多达四种可能的帧内预测模式：dc、平面、水平或垂直。然后，使用常规的帧内和帧间解码过程导出帧间预测和帧内预测信号。最后，对帧间和帧内预测信号执行加权平均以获得ciip预测。
[0215]
6.1帧内预测模式推导
[0216]
在实施例中，包括dc、平面、水平和垂直模式的多达4种帧内预测模式可用于预测ciip模式中的亮度分量。如果cu形状非常宽(即，宽度大于高度的两倍)，则不允许使用水平模式。如果cu形状非常窄(即，高度大于宽度的两倍)，则不允许使用垂直模式。在这些情况下，仅允许使用3种帧内预测模式。
[0217]
ciip模式使用3种最可能模式(mpm)进行帧内预测。ciip mpm候选列表构成如下：
[0218]
(i)左相邻块和上相邻块分别设置为a和b；
[0219]
(ii)块a和块b的帧内预测模式(分别表示为intramodea和intramodeb)导出如下：
[0220]
a.设x为a或b，
[0221]
b.如果1)块x不可用；或2)未使用ciip模式或帧内模式对块x进行预测；或3)块x在当前ctu之外，则将intramodex设置为dc，
[0222]
c.否则，1)如果块x的帧内预测模式是dc或平面，则将intramodex设置为dc或平面；或2)如果块x的帧内预测模式是“类似垂直的(vertical
‑
like)”角度模式(大于34)，则
将intramodex设置为垂直，或3)如果块x的帧内预测模式是“类似水平(horizontal
‑
like)的”角度模式(小于或等于34)，则将intramodex设置为水平；
[0223]
(iii)如果intramodea和intramodeb相同：
[0224]
a.如果intramodea是平面或dc，则将三种mpm依次设置为{平面，dc，垂直}，并且
[0225]
b.否则，将三种mpm依次设置为{intramodea，平面，dc}；以及
[0226]
(iv)否则(intramodea和intramodeb不同)：
[0227]
a.将前两种mpm依次设置为{intramodea，intramodeb}
[0228]
b.针对前两种mpm候选模式依次检查平面、dc和垂直的唯一性；一旦找到唯一模式，就将其添加为第三种mpm。
[0229]
如果cu形状非常宽或非常窄(如上所定义的)，则将mpm标志推断为1而无需发信号通知。否则，发信号通知mpm标志，以指示ciip帧内预测模式是否是ciip mpm候选模式中的一个。
[0230]
如果mpm标志为1，则进一步发信号通知mpm索引，以指示在ciip帧内预测中使用哪一种mpm候选模式。否则，如果mpm标志为0，则在mpm候选列表中将帧内预测模式设置为“缺失”模式。例如，如果平面模式不在mpm候选列表中，则平面是缺失模式，并且将帧内预测模式设置为平面。由于在ciip中允许4种可能的帧内预测模式，并且mpm候选列表仅包含3种帧内预测模式，因此4种可能的模式中的一个可以是缺失模式。
[0231]
对于色度分量，应用dm模式而无需附加信令。例如，色度使用与亮度相同的预测模式。
[0232]
ciip编码的cu的帧内预测模式将被保存并用于未来相邻cu的帧内模式编码。
[0233]
6.2组合的帧间和帧内预测信号
[0234]
在实施例中，ciip模式中的帧间预测信号p_inter使用应用于常规合并模式的相同帧间预测过程来导出，并且帧内预测信号p_intra在常规帧内预测过程之后使用ciip帧内预测模式来导出。然后，以如下方式使用加权平均对帧内和帧间预测信号进行组合，其中权重值取决于帧内预测模式并且样本位于编码块中。
[0235]
如果帧内预测模式是dc或平面模式，或者如果块宽度或高度小于4，则对帧内预测和帧间预测信号应用相等的权重。
[0236]
否则，基于帧内预测模式(在这种情况下为水平模式或垂直模式)和块中的样本位置来确定权重。以水平预测模式为例(垂直模式的权重类似但在垂直方向上导出)。设w表示块的宽度，h表示块的高度。首先将编码块分割成四个等面积的部分，每个部分的尺寸为(w/4)xh。从最接近帧内预测参考样本的部分开始，并在最远离帧内预测参考样本的部分结束，将4个区域中的每个区域的权重wt分别设置为6、5、3和2。使用以下公式导出最终ciip预测信号：
[0237]
p_"ciip"＝((8
‑
wt)*p_inter wt*p_intra 4)＞＞3
ꢀꢀ
(2.3)
[0238]
iii.交织仿射预测
[0239]
在一些实施例中，使用交织仿射预测。例如，如图22所示，将具有16x16个样本大小的当前块(2210)划分为具有两种不同的划分模式(模式0(2220)和模式1(2230))的子块。对于模式0(2220)，将当前块(2210)划分为具有相等的4x4大小的子块(2221)。相反，模式1(2230)相对于模式0(2220)向当前块(2210)的右下角移位2x2偏移。对于模式1(2230)，将当
前块(2210)划分为每个大小为4x4的完整子块(whole sub
‑
block)(2231)和每个大小小于4x4的分数子块(fractional sub
‑
block)(2232)。在图22中，分数子块(2232)形成阴影区域，其围绕着由完整子块(2231)形成的非阴影区域。
[0240]
随后，通过仿射运动补偿(amc)，生成对应于两个划分模式(2220)和(2230)的两个辅助预测p0(2240)和p1(2250)。例如，可以根据基于子块的合并候选列表上的仿射合并候选来确定仿射模型。可以基于仿射模型导出根据模式0(2220)和(2230)划分的每个子块的mv。例如，mv可以各自从相应子块的中心位置开始。
[0241]
此后，通过组合两个预测p0(2240)和p1(2250)来计算最终预测(2270)。例如，可以执行加权平均运算(2261)，以根据下式逐个像素地计算两个预测p0(2240)和p1(2250)中的两个相应样本(由p0和p1表示)的加权平均：
[0242][0243]
其中，ω0和ω1是分别对应于两个预测p0(2240)和p1(2250)中的同位样本对的权重。
[0244]
在实施例中，可以根据图23所示的模式(2300)来确定加权平均运算(2261)中的每个样本的权重。模式(2300)包括子块2310(例如，完整子块(2221)或(2231))中包括的16个样本。位于子块(2310)的中心的预测样本与加权值3相关联，而位于子块(2310)的边界处的预测样本与加权值1相关联。取决于样本在子块(2221)或(2231)内的位置，可以基于模式(2300)确定与样本对应的权重。
[0245]
在实施例中，为了避免微小块运动补偿，如图22所示，交织预测仅应用于针对两种划分模式的子块大小为4
×
4的区域。例如，在模式1(2230)的阴影区域中，不应用交织预测，而在模式1(2230)的非阴影区域中，应用交织预测。
[0246]
在实施例中，对色度分量以及亮度分量应用交织预测。另外，根据本公开，因为用于所有子块的amc的参考图片的区域是整体提取的，因此不会因交织预测而增加存储器存取带宽。不需要额外的读取操作。
[0247]
此外，为了灵活性，在切片头中发信号通知标志，以指示是否使用交织预测。在示例中，该标志始终被发信号通知为1。在各种实施例中，交织仿射预测可以应用于单向预测仿射块，或者应用于单向预测仿射块和双向预测仿射块。
[0248]
iv.加权预测
[0249]
在一些实施例中，采用用于双向预测块和单向预测块的加权样本预测过程。
[0250]
在实施例中，加权样本预测过程的输入是：
[0251]
‑
指定当前编码块的宽度和高度的两个变量ncbw和ncbh，
[0252]
‑
两个(ncbw)x(ncbh)数组predsamplesl0和predsamplesl1，每个数组包括中间预测样本值，
[0253]
‑
预测列表使用标志predflagl0和predflagl1，
[0254]
‑
参考索引refidxl0和refidxl1，
[0255]
‑
双向预测权重索引gbiidx。
[0256]
‑
样本位深度，bitdepth。
[0257]
加权样本预测过程的输出是预测样本值的(ncbw)x(ncbh)数组pbsamples。
[0258]
变量shift1、shift2、offset1、offset2和offset3导出如下：
[0259]
‑
将变量shift1设置为等于max(2，14
‑
bitdepth)，将变量shift2设置为等于max(3，15
‑
bitdepth)。
[0260]
‑
将变量offset1设置为等于1<<(shift1
‑
1)。
[0261]
‑
将变量offset2设置为等于1<<(shift2
‑
1)。
[0262]
‑
将变量offset3设置为等于1<<(shift2 2)。
[0263]
取决于predflagl0和predflagl1的值，预测样本pbsamples[x][y]导出如下，其中x＝0...(ncbw
‑
1)且y＝0...(ncbh
‑
1)：
[0264]
(1)如果predflagl0等于1且predflagl1等于0，则预测样本值导出如下：
[0265]
pbsamples[x][y]＝clip3(0,(1<<bitdepth)
‑
1,(predsamplesl0[x][y]
[0266]
offset1)>>shift1)
ꢀꢀ
(4.1)
[0267]
(2)否则，如果predflagl0等于0且predflagl1等于1，则预测样本值导出如下：
[0268]
pbsamples[x][y]＝clip3(0,(1<<bitdepth)
‑
1,(predsamplesl1[x][y]
[0269]
offset1)>>shift1)
ꢀꢀ
(4.2)
[0270]
(3)否则，(predflagl0等于1且predflagl1等于1)，则以下适用：
[0271]
(i)如果gbiidx等于0，则预测样本值导出如下：
[0272]
pbsamples[x][y]＝clip3(0,(1<<bitdepth)
‑
1,(predsamplesl0[x][y]
[0273]
predsamplesl1[x][y] offset2)>>shift2)
ꢀꢀ
(4.3)
[0274]
(ii)否则，(gbiidx不等于0)，则以下适用：
[0275]
将变量w1设置为等于gbiwlut[gbiidx]，其中gbiwlut[k]＝{4，5，3，10，
‑
2}。将变量w0设置为等于(8
‑
w1)。预测样本值导出如下：
[0276]
pbsamples[x][y]＝clip3(0,(1<<bitdepth)
‑
1,(w0*predsamplesl0[x][y]
[0277]
w1*predsamplesl1[x][y] offset3)>>(shift2 3)).
ꢀꢀ
(4.4)
[0278]
v.高准确度交织仿射预测
[0279]
1、低精度交织仿射预测
[0280]
在图22的示例中，为了生成与两个划分模式(2220)和(2230)对应的两个预测(2240)和(2250)，执行仿射运动补偿(amp)过程。例如，基于仿射模型，确定与16个子块(2221)和9个子块(2231)对应的mv。这些mv可以具有子像素精度(例如，半像素、四分之一像素、八分之一像素或十六分之一精度)。因此，对应于mv的子像素精度，执行插值过程，以在参考图片中生成插值样本。可以在具有插值样本的插值参考图片上搜索子块(2221)和(2231)的子块预测。
[0281]
在上述插值过程期间，可以采用比插值参考图片或当前块(2210)的输入位深度(例如，10位)高的中间位深度(例如，16位)。因此，子块预测(或预测值)可以包括与对应于输入位深度的低精度相比、对应于中间位深度的高精度(或准确度)的样本。
[0282]
在图22的示例中，子块预测(或预测值)的高精度样本值在存储到预测块(2240)和(2250)之前被转换为低精度样本值。例如，通过右移操作，将中间位深度(16位)四舍五入到输入位深度(例如，10位)。此后，以低精度(例如，输入位深度)逐个像素地执行加权平均运算(2261)，以获得最终预测(2270)。
[0283]
图22示例中的上述精度转换操作和加权平均运算(2262)可以由以下表达式共同
表示：
[0284]
pred＝((interp(p0)>>shift1)*w0) (interp(p1)>>shift1*w1) offset1)/(w0 w1)(5.1)
[0285]
其中，pred表示最终预测(2270)中的样本的值，interp(p0)和inter(p1)分别表示与模式(2220)或(2230)对应的具有高精度的插值样本的值，w0和w1表示与各个插值样本相关联的权重，offset1表示舍入偏移。
[0286]
如表达式(5.1)所示，在执行加权平均运算之前，将interp(p0)和interp(p1)从高精度转换为低精度。
[0287]
2、高精度交织仿射预测
[0288]
图24示出了根据本公开实施例的交织仿射预测过程2400。过程2400类似于图22示例中的过程，然而，过程2400可以生成具有更高准确度的最终预测(2470)。
[0289]
如图所示，作为amc过程的结果，可以生成与划分模式(2220)和(2230)对应的两个预测(2440)和(2450)。具体地，具有大于输入位深度(例如，10位)的中间位深度(例如，16位)的插值样本可以存储在预测(2440)和(2450)中。另外，预测(2440)和(2450)可以包括原始样本，但这些原始样本可以用中间位深度表示(例如，从输入位深度转换为中间位深度)。因此，在预测块(2440)和(2450)中包含高精度样本值(例如，16位的位深度)。相反，在图22的示例中，预测(2240)和(2250)包含低精度样本值(例如，10位的位深度)。
[0290]
此后，可以逐个像素地执行与图22示例类似的加权平均运算(2461)，但是，以具有高精度的同位样本值对作为输入。由加权平均运算(2461)产生的平均样本值仍然可以具有高精度。
[0291]
在加权平均运算(2461)之后，可以逐个像素地执行精度转换操作(2462)，以转换从加权平均运算(2461)产生的平均样本值，从而生成最终预测(2470)的最终样本值。例如，平均样本值从16位的中间位深度转换为10位的输入位深度。
[0292]
过程2400可以由以下表达式表示：
[0293]
pred＝{((interp(p0)*w0) (interp(p1)*w1) offset2)/(w0 w1)}>>shift(5.2)
[0294]
该表达式的变形是：
[0295]
pred＝((interp(p0)*w0) (interp(p1)*w1) offset3)/{(w0 w1)<<shift}(5.3)
[0296]
在表达式(5.2)中，右移由加权平均运算产生的样本值，以从中间位深度转换为输入位深度。相反，在表达式(5.3)中，将平均运算(1/(w0 w1))和右移运算(>>shift)组合在一起，以划分加权和。offset2和offset3是舍入偏移。将舍入偏移添加到要被平均或右移的值通常可以提高计算精度。
[0297]
与图22的示例相比，在过程2400中，保持高精度直到加权平均运算之后，而不是使用输入的低精度样本值进行加权平均运算。结果，最终预测(2470)的样本值可以具有更高的准确度，并且可以提高交织仿射预测过程2400的性能。
[0298]
在实施例中，进一步将范围约束操作应用于来自精度转换操作(2462)的平均值。结果，最终预测(2470)中的最终样本值被限制在从0到最大可能样本值(例如，(1<<输入bitdepth)
‑
1)的范围内。例如，约束操作可以表示为：
[0299]
clip(0,(1<<bitdepth)
‑
1,pred)
ꢀꢀ
(5.4)
[0300]
其中clip()表示裁剪(clipping)操作。
[0301]
在实施例中，如图25所示，再现了划分模式(2230)，不预测划分模式(2230)中的分数子块(2232)(阴影区域)(或者换言之，不应用交织仿射预测)。例如，在阴影区域中不执行插值。阴影区域中的原始样本可以存储到预测(2250)中。对于预测(2250)中阴影区域的样本，可以应用零权重(w1＝0)，并且对于预测(2250)中的其它样本，可以类似地使用表达式(5.2)或(5.3)。这样，可以对预测(2240)和(2250)中的所有像素使用统一加权平均计算过程(例如，加权平均运算(2461))。
[0302]
在另一实施例中，对于加权平均运算(2461)，对图25中的非阴影区域(对应于完整子块2231)中的样本采用相等的权重(w0＝w1)。这样，不需要存储加权模式2300，并且可以简化加权平均运算(2461)。
[0303]
3、对以交织仿射预测编码的块进行去块
[0304]
在实施例中，对以交织仿射预测编码的块禁用去块。例如，不对块内的样本执行去块。通常，可以对仿射编码块执行去块操作，以减少子块边缘处的不连续性。然而，由于加权平均运算，交织仿射预测具有平滑效果。因此，可以禁用去块以节省处理成本。
[0305]
在另一实施例中，对非阴影区域禁用去块，而仍然在阴影区域中执行去块(如图25所示)。例如，在一些实施例中，交织仿射预测仅应用于非阴影区域，而不应用于阴影区域。因此，可以对阴影和非阴影区域进行不同的处理。
[0306]
4、具有高精度的交织仿射预测过程的示例
[0307]
图26示出了根据本公开实施例的概述过程(2600)的流程图。过程(2600)可用于重建以交织仿射预测模式编码的块，从而为正在重建的块生成预测块。在各种实施例中，过程(2600)由处理电路执行，例如终端装置(210)、(220)、(230)和(240)中的处理电路、执行视频编码器(303)的功能的处理电路、执行视频解码器(310)的功能的处理电路、执行视频解码器(410)的功能的处理电路、执行视频编码器(503)的功能的处理电路等。在一些实施例中，过程(2600)以软件指令实现，因此，当处理电路执行该软件指令时，处理电路执行过程(2600)。该过程从(s2601)开始，并且进行到(s2610)。
[0308]
在(s2610)，可以确定以交织仿射模式编码的当前块的仿射模型。例如，基于在比特流中接收的合并索引，可以从基于子块的合并候选列表中选择仿射合并候选(例如，构造的或继承的仿射候选)。选择的合并候选可以表示具有三个或两个cpmv的仿射模型或仿射模型参数。
[0309]
在(s2620)，可以生成对应于第一划分模式的第一预测块和对应于第二划分模式的第二预测块。例如，可以分别使用所述第一划分模式和所述第二划分模式将所述当前块划分为子块。可以基于所述仿射模型确定与所述子块对应的mv。基于所述子块的mv，可以执行amc过程，以确定所述第一预测块和所述第二预测块。在所述amc过程期间，可以生成插值样本，所述插值样本具有大于所述当前块的输入位深度(例如10位)的中间位深度(例如16位)。所述生成的第一预测块和第二预测块可以包括所述插值样本，所述插值样本具有比所述当前块中的原始样本更高的精度。
[0310]
在(s2630)，可以基于所述第一预测块和所述第二预测块，生成第三(最终)预测块。例如，通过执行加权平均运算，将所述第一预测块中的第一样本和所述第二预测块中的对应第二样本进行组合，以获得平均样本，其中所述第一预测块中的第一样本和所述第二预测块中的对应第二样本中的每一个都具有与所述中间位深度对应的高精度。随后，将所
述平均样本四舍五入到所述输入位深度，以获得所述第三预测块中的对应第三样本。过程(2600)可以进行到(s2699)，并在(s2699)结束。
[0311]
vi.计算机系统
[0312]
上述技术可以通过计算机可读指令实现为计算机软件，并且物理地存储在一个或多个计算机可读介质中。例如，图27示出了计算机系统(2700)，其适于实现所公开主题的某些实施例。
[0313]
所述计算机软件可通过任何合适的机器代码或计算机语言进行编码，通过汇编、编译、链接等机制创建包括指令的代码，所述指令可由一个或多个计算机中央处理单元(cpu)，图形处理单元(gpu)等直接执行或通过译码、微代码等方式执行。
[0314]
所述指令可以在各种类型的计算机或其组件上执行，包括例如个人计算机、平板电脑、服务器、智能手机、游戏设备、物联网设备等。
[0315]
图27所示的用于计算机系统(2700)的组件本质上是示例性的，并不用于对实现本公开实施例的计算机软件的使用范围或功能进行任何限制。也不应将组件的配置解释为与计算机系统(2700)的示例性实施例中所示的任一组件或其组合具有任何依赖性或要求。
[0316]
计算机系统(2700)可以包括某些人机界面输入设备。这种人机界面输入设备可以通过触觉输入(如：键盘输入、滑动、数据手套移动)、音频输入(如：声音、掌声)、视觉输入(如：手势)、嗅觉输入(未示出)，对一个或多个人类用户的输入做出响应。所述人机界面设备还可用于捕获某些媒体，气与人类有意识的输入不必直接相关，如音频(例如：语音、音乐、环境声音)、图像(例如：扫描图像、从静止影像相机获得的摄影图像)、视频(例如二维视频、包括立体视频的三维视频)。
[0317]
人机界面输入设备可包括以下中的一个或多个(仅绘出其中一个)：键盘(2701)、鼠标(2702)、触控板(2703)、触摸屏(2710)、数据手套(未示出)、操纵杆(2705)、麦克风(2706)、扫描仪(2707)、照相机(2708)。
[0318]
计算机系统(2700)还可以包括某些人机界面输出设备。这种人机界面输出设备可以通过例如触觉输出、声音、光和嗅觉/味觉来刺激一个或多个人类用户的感觉。这样的人机界面输出设备可包括触觉输出设备(例如通过触摸屏(2710)、数据手套(未示出)或操纵杆(2705)的触觉反馈，但也可以有不用作输入设备的触觉反馈设备)、音频输出设备(例如，扬声器(2709)、耳机(未示出))、视觉输出设备(例如，包括阴极射线管屏幕、液晶屏幕、等离子屏幕、有机发光二极管屏的屏幕(2710)，其中每一个都具有或没有触摸屏输入功能、每一个都具有或没有触觉反馈功能——其中一些可通过诸如立体画面输出的手段输出二维视觉输出或三维以上的输出；虚拟现实眼镜(未示出)、全息显示器和放烟箱(未示出))以及打印机(未示出)。
[0319]
计算机系统(2700)还可以包括人可访问的存储设备及其相关介质，如包括具有cd/dvd的高密度只读/可重写式光盘(cd/dvd rom/rw)(2720)或类似介质(2721)的光学介质、拇指驱动器(2722)、可移动硬盘驱动器或固体状态驱动器(2723)，诸如磁带和软盘(未示出)的传统磁介质，诸如安全软件保护器(未示出)等的基于rom/asic/pld的专用设备，等等。
[0320]
本领域技术人员还应当理解，结合所公开的主题使用的术语“计算机可读介质”不包括传输介质、载波或其它瞬时信号。
[0321]
计算机系统(2700)还可以包括通往一个或多个通信网络的接口。例如，网络可以是无线的、有线的、光学的。网络还可为局域网、广域网、城域网、车载网络和工业网络、实时网络、延迟容忍网络等等。网络还包括以太网、无线局域网、蜂窝网络(gsm、3g、4g、5g、lte等)等局域网、电视有线或无线广域数字网络(包括有线电视、卫星电视、和地面广播电视)、车载和工业网络(包括canbus)等等。某些网络通常需要外部网络接口适配器，用于连接到某些通用数据端口或外围总线(2749)(例如，计算机系统(2700)的usb端口)；其它系统通常通过连接到如下所述的系统总线集成到计算机系统(2700)的核心(例如，以太网接口集成到pc计算机系统或蜂窝网络接口集成到智能电话计算机系统)。通过使用这些网络中的任何一个，计算机系统(2700)可以与其它实体进行通信。所述通信可以是单向的，仅用于接收(例如，无线电视)，单向的仅用于发送(例如can总线到某些can总线设备)，或双向的，例如通过局域或广域数字网络到其它计算机系统。上述的每个网络和网络接口可使用某些协议和协议栈。
[0322]
上述的人机界面设备、人可访问的存储设备以及网络接口可以连接到计算机系统(2700)的核心(2740)。
[0323]
核心(2740)可包括一个或多个中央处理单元(cpu)(2741)、图形处理单元(gpu)(2742)、以现场可编程门阵列(fpga)(2743)形式的专用可编程处理单元、用于特定任务的硬件加速器(2744)等。这些设备以及只读存储器(rom)(2745)、随机存取存储器(2746)、内部大容量存储器(例如内部非用户可存取硬盘驱动器、固态硬盘等)(2747)等可通过系统总线(2748)进行连接。在某些计算机系统中，可以以一个或多个物理插头的形式访问系统总线(2748)，以便可通过额外的中央处理单元、图形处理单元等进行扩展。外围装置可直接附接到核心的系统总线(2748)，或通过外围总线(2749)进行连接。外围总线的体系结构包括外部控制器接口pci、通用串行总线usb等。
[0324]
cpu(2741)、gpu(2742)、fpga(2743)和加速器(2744)可以执行某些指令，这些指令组合起来可以构成上述计算机代码。该计算机代码可以存储在rom(2745)或ram(2746)中。过渡数据也可以存储在ram(2746)中，而永久数据可以存储在例如内部大容量存储器(2747)中。通过使用高速缓冲存储器可实现对任何存储器设备的快速存储和检索，高速缓冲存储器可与一个或多个cpu(2741)、gpu(2742)、大容量存储器(2747)、rom(2745)、ram(2746)等紧密关联。
[0325]
所述计算机可读介质上可具有计算机代码，用于执行各种计算机实现的操作。介质和计算机代码可以是为本公开的目的而特别设计和构造的，也可以是计算机软件领域的技术人员所熟知和可用的介质和代码。
[0326]
作为实施例而非限制，具有体系结构的计算机系统(2700)，特别是核心(2740)，可以作为处理器(包括cpu、gpu、fpga、加速器等)提供执行包含在一个或多个有形的计算机可读介质中的软件的功能。这种计算机可读介质可以是与上述的用户可访问的大容量存储器相关联的介质，以及具有非易失性的核心(2740)的特定存储器，例如核心内部大容量存储器(2747)或rom(2745)。实现本公开的各种实施例的软件可以存储在这种设备中并且由核心(2740)执行。根据特定需要，计算机可读介质可包括一个或一个以上存储设备或芯片。该软件可以使得核心(2740)特别是其中的处理器(包括cpu、gpu、fpga等)执行本文所述的特定过程或特定过程的特定部分，包括定义存储在ram(2746)中的数据结构以及根据软件定
义的过程来修改这种数据结构。另外或作为替代，计算机系统可以提供逻辑硬连线或以其它方式包含在电路(例如，加速器(2744))中的功能，该电路可以代替软件或与软件一起运行以执行本文所述的特定过程或特定过程的特定部分。在适当的情况下，对软件的引用可以包括逻辑，反之亦然。在适当的情况下，对计算机可读介质的引用可包括存储执行软件的电路(如集成电路(ic))，包含执行逻辑的电路，或两者兼备。本公开包括任何合适的硬件和软件组合。
[0327]
附录a：首字母缩略词
[0328]
amvp：高级mvp(advanced mvp)
[0329]
asic：专用集成电路(application
‑
specific integrated circuit)
[0330]
bms：基准集合(benchmark set)
[0331]
canbus：控制器局域网络总线(controller area network bus)
[0332]
cd：光盘(compact disc)
[0333]
cpus：中央处理单元(central processing units)
[0334]
crt：阴极射线管(cathode ray tube)
[0335]
ctbs：编码树块(coding tree blocks)
[0336]
ctus：编码树单元(coding tree units)
[0337]
cu：编码单元(coding unit)
[0338]
dvd：数字化视频光盘(digital video disc)
[0339]
fpga：现场可编程门阵列(field programmable gate areas)
[0340]
gops：图片群组(groups of pictures)
[0341]
gpus：图形处理单元(graphics processing units)
[0342]
gsm：全球移动通信系统(global system for mobile communications)
[0343]
hevc：高效视频编解码(high efficiency video coding)
[0344]
hmvp：基于历史的运动矢量预测(history
‑
based mvp)
[0345]
hrd：假想参考解码器(hypothetical reference decoder)
[0346]
ic：集成电路(integrated circuit)
[0347]
jem：联合开发模型(joint exploration model)
[0348]
lan：局域网(local area network)
[0349]
lcd：液晶显示器(liquid
‑
crystal display)
[0350]
lte：长期演进(long
‑
term evolution)
[0351]
mmvd：具有mvd的合并(merge with mvd)
[0352]
mv：运动矢量(motion vector)
[0353]
mvd：运动矢量差(motion vector difference)
[0354]
mvp：运动矢量预测(motion vector predictor)
[0355]
oled：有机发光二极管(organic light
‑
emitting diode)
[0356]
pbs：预测块(prediction blocks)
[0357]
pci：外围组件互连(peripheral component interconnect)
[0358]
pld：可编程逻辑设备(programmable logic device)
[0359]
pus：预测单元(prediction units)
[0360]
ram：随机存取存储器(random access memory)
[0361]
rom：只读存储器(read
‑
only memory)
[0362]
sei：辅助增强信息(supplementary enhancement information)
[0363]
snr：信噪比(signal noise ratio)
[0364]
ssd：固态驱动器(solid
‑
state drive)
[0365]
sbtmvp：基于子块的tmvp(subblock
‑
based tmvp)
[0366]
tus：变换单元(transform units)
[0367]
tmvp：时间运动矢量预测(temporal mvp)
[0368]
usb：通用串行总线(universal serial bus)
[0369]
vtm：通用测试模型(versatile test model)
[0370]
vui：视频可用性信息(video usability information)
[0371]
vvc：通用视频编解码(versatile video coding)
[0372]
虽然本公开已对多个示例性实施例进行了描述，但实施例的各种变更、排列和各种等同替换均属于本公开的范围内。因此应理解，本领域技术人员能够设计多种系统和方法，所述系统和方法虽然未在本文中明确示出或描述，但其体现了本公开的原则，因此属于本公开的精神和范围之内。