图像编码和解码方法、比特流存储介质及数据传输方法与流程

图像编码和解码方法、比特流存储介质及数据传输方法
1.本技术是原案申请号为201780068150.8的发明专利申请(国际申请号：pct/kr2017/009705，申请日：2017年9月5日，发明名称：图像编码/解码方法及其装置)的分案申请。
技术领域
2.本发明涉及静止图像或运动图像处理方法，更具体地，涉及一种用于对帧内预测的预测样本进行滤波的方法及用于支持该方法的装置。


背景技术：

3.压缩编码指的是通过通信线路发送数字化信息的一系列信号处理技术，或者以适用于存储介质的形式存储信息的技术。包括图片、图像、音频等的介质可以是用于压缩编码的对象，并且具体地，对图片执行压缩编码的技术称为视频图像压缩。
4.下一代视频内容被假定为具有场景表示的高维度、高空间分辨率和高帧率的特征。为了处理这样的内容，将导致在存储器存储、存储器存取速率和处理功率方面的急剧增长。
5.因此，需要设计一种用于高效地处理下一代视频内容的编码工具。


技术实现要素：

6.技术问题
7.本发明提出了一种用于在执行图片内预测(帧内预测)时根据四叉树二叉树(qtbt)块分区结构中的预测方向适应性地滤波预测块的边界像素的方法。
8.本发明的技术目的不限于上述技术目的，并且本领域普通技术人员从以下描述中将清楚地理解上面未提及的其他技术目的。
9.技术方案
10.在一方面，一种用于由解码装置解码图像的方法可以包括：推导出当前块的帧内预测模式；用与当前块的上端邻近的样本和与当前块的左侧邻近的样本来配置参考样本；通过使用参考样本生成当前块的预测样本；以及对预测样本当中与当前块的顶边界和/或左边界相邻的样本进行滤波，其中，在当前块是非正方形块时，可以通过仅考虑当前块的宽度来确定是否对与当前块的顶边界相邻的样本进行滤波，以及可以通过仅考虑当前块的高度来确定是否对与当前块的左边界相邻的样本进行滤波。
11.在另一方面，一种用于解码图像的解码装置可以包括：帧内预测模式推导单元，该帧内预测模式推导单元推导出当前块的帧内预测模式；参考样本配置单元，该参考样本配置单元用与当前块的上端邻近的样本和与当前块左侧邻近的样本配置参考样本；预测样本生成单元，该预测样本生成单元通过使用参考样本生成当前块的预测样本；以及预测样本滤波单元，该预测样本滤波单元对预测样本当中与当前块的顶边界和/或左边界相邻的样本进行滤波，其中，在当前块是非正方形块时，可以通过仅考虑当前块的宽度来确定是否对
与当前块的顶边界相邻的样本进行滤波，并且可以通过仅考虑当前块的高度来确定是否对与当前块的左边界相邻的样本进行滤波。
12.优选地，在当前块的帧内预测模式是dc模式时，可以在当前块的宽度等于或小于预定尺寸时执行对与当前块的顶边界相邻的样本的滤波，并且可以在当前块的高度等于或小于预定尺寸时执行对与当前块的左边界相邻的样本的滤波。
13.优选地，在当前块的帧内预测模式的方向性在基于水平帧内预测模式的预定范围内时，可以在当前块的宽度等于或小于预定尺寸时执行对与当前块的顶边界相邻的样本的滤波。
14.优选地，在当前块的帧内预测模式的方向性在基于垂直帧内预测模式的预定范围内时，可以在当前块的高度等于或小于预定尺寸时执行对与当前块的左边界相邻的样本的滤波。
15.优选地，在当前块的帧内预测模式是定义了总共67种帧内预测模式的帧内预测模式方法中的第二模式时，可以在当前块的宽度等于或小于预定尺寸时执行对与当前块的顶边界相邻的样本的滤波。
16.优选地，在当前块的高度大于4时，可以对属于与当前块的顶边界相邻的四行的样本进行滤波。
17.优选地，在当前块的高度不大于4时，可以仅对属于与当前块的顶边界相邻的两行的样本进行滤波。
18.优选地，在当前块的帧内预测模式是定义了总共67种帧内预测模式的帧内预测模式方法中的第66模式时，可以在当前块的高度等于或小于预定尺寸时执行对与当前块的左边界相邻的样本的滤波。
19.优选地，在当前块的宽度大于4时，可以对属于与当前块的左边界相邻的四行的样本进行滤波。
20.优选地，在当前块的宽度不大于4时，可以仅对属于与当前块的左边界相邻的两行的样本进行滤波。
21.技术效果
22.根据本发明的实施方式，通过在利用图片内预测来预测静止图像或运动图像的过程中根据预测方向适应性地对预测块的边界像素进行滤波，能够增强压缩性能。
23.此外，根据本发明的实施方式，现有的块边界滤波方法可以更高效地应用于四叉树二叉树(qtbt)块分区结构中。
24.此外，根据本发明的实施方式，通过在执行图片内预测(帧内预测)时根据预测方向适应性地对预测块的边界像素进行滤波，能够在四叉树二叉树(qtbt)结构中高效地执行后滤波器(或环内滤波器(in-loop filter))。
25.本发明中可以获得的优点不限于上述效果，并且本领域技术人员从以下描述中将清楚地理解其他未提及的优点。
附图说明
26.附图被包括在本文中以作为用于帮助理解本发明的说明书的一部分，其提供了本发明的实施方式，并且与以下的描述一起来说明本发明的技术特征。
27.图1示出了根据本发明的实施方式的执行视频信号的编码的编码器的框图。
28.图2示出了根据本发明的实施方式的执行视频信号的解码的解码器的框图。
29.图3示出了根据本发明的实施方式的编码单元的分区结构。
30.图4示出了根据本发明的实施方式的编码单元的分区结构当中的四叉树加二叉树结构。
31.图5例示了根据本发明的实施方式的取决于帧内预测模式的预测方向。
32.图6例示了根据本发明的实施方式的通过帧内预测生成的预测方向。
33.图7和图8是用于描述根据本发明的实施方式的当帧内预测模式是dc模式时对预测块的边界像素的滤波的图。
34.图9是用于描述根据本发明的实施方式的当帧内预测模式是水平模式时对预测块的边界像素的滤波的图。
35.图10是用于描述根据本发明的实施方式的当帧内预测模式是垂直模式时对预测块的边界像素的滤波的图。
36.图11至图13是用于描述根据本发明的实施方式的当帧内预测模式是第二模式时对预测块的边界像素的滤波的图。
37.图14至图16是用于描述根据本发明的实施方式的当帧内预测模式是35种帧内预测模式当中的第34模式或者67种帧内预测模式当中的第67模式时对预测块的边界像素的滤波的图。
38.图17是用于描述根据本发明的实施方式的当帧内预测模式是35种帧内预测模式当中的第3模式、第4模式、第5模式或第6模式时对预测块的边界像素的滤波的图。
39.图18是用于描述根据本发明的实施方式的当帧内预测模式是35种帧内预测模式当中的第30模式、第31模式、第32模式或第33模式时对预测块的边界像素的滤波的图。
40.图19和图20是用于描述根据本发明的实施方式的当帧内预测模式是67种帧内预测模式当中的第3模式、第4模式、第5模式、第6模式、第7模式、第8模式、第9模式或第10模式时对预测块的边界像素的滤波的图。
41.图21和图22是用于描述根据本发明的实施方式的当帧内预测模式是67种帧内预测模式当中的第59模式、第60模式、第61模式、第62模式、第63模式、第64模式、第65模式或第66模式时对预测块的边界像素的滤波的图。
42.图23例示了根据本发明的实施方式的对qtbt结构中的预测块的边界像素进行滤波的过程。
43.图24例示了根据本发明的实施方式的qtbt结构中的预测符滤波处理。
44.图25是例示根据本发明的实施方式的当帧内预测模式是dc模式时用于对边界像素进行滤波的方法的图。
45.图26是例示根据本发明的实施方式的当帧内预测模式是水平/垂直模式时边界像素滤波处理的图。
46.图27是例示根据本发明的实施方式的用于对预测块的边界像素进行滤波的方法的图。
47.图28和图29是例示根据本发明的实施方式的用于对预测块的边界像素进行滤波的方法的图。
48.图30是例示根据本发明的实施方式的用于对预测块的边界像素进行滤波的方法的图。
49.图31是例示根据本发明的实施方式的用于对预测块的边界像素进行滤波的方法的图。
50.图32是例示根据本发明的实施方式的帧内预测方法的图。
51.图33是更具体地例示根据本发明的实施方式的帧内预测单元的图。
具体实施方式
52.在下文中，将通过参照附图来描述本发明的优选实施方式。在下面将与附图一起描述的说明书要描述本发明的示例性实施方式，并非旨在描述可以实现本发明的仅有实施方式。以下的描述包括特定细节以便提供对本发明的完整理解。然而，应该明白，对于本领域技术人员来说，可以在没有这些特定细节的情况下实施本发明。
53.在一些情形中，为了防止本发明的技术构思不清楚，可以省略公知的结构或者设备，或者公知的结构或者设备可以被绘制为集中于结构或者设备的核心功能的框图。
54.此外，尽管尽可能多地选择当前广泛地使用的常规术语作为本发明中的术语，但是在特定情形中使用由申请人任意选择的术语。由于在这样的情况下，将在说明书的相应部分中清楚地描述术语的含义，因此，应该理解，本发明并非由仅在本发明的说明书中使用的术语来简单地解释，而是应该领会术语的含义。
55.可以提供以下的描述中使用的特定术语以帮助理解本发明。此外，在本发明的技术构思的范围内，特定术语可以变型为其它形式。例如，信号、数据、样本、图片、帧和块等可以在每个编码过程中适当地替换和解释。
56.在本说明书中，“块”或“单元”是指执行诸如预测、变换和/或量化之类的编码/解码处理的单位，并且可以由样本(或像素)的多维布置构成。
[0057]“块”或“单元”可以是指关于亮度分量的样本的多维布置或者关于色度分量的样本的多维布置。另外，“块”或“单元”可以共同指代关于亮度分量的样本的多维布置和关于色度分量的样本的多维布置。
[0058]
例如，“块”或“单元”可以被解释为包括编码块(cb)、编码树块(ctb)、预测块(pb)(或预测单元(pu))、以及变换块(tb)(或变换单元(tu))的含义，编码块(cb)是指要被编码/解码的样本的布置，编码树块(ctb)由多个编码块组成，预测块(pb)是指相同预测所应用于的样本的布置，变换块(tb)是指相同变换所应于的样本的布置。
[0059]
此外，除非另有说明，否则“块”或“单元”可被解释为包括在关于亮度分量和/或色度分量的样本的布置的编码/解码过程中使用的语法结构的含义。这里，语法结构是指以特定顺序存在于比特流中的0个或更多个语法元素，并且语法元素是指呈现在比特流中的数据元素。
[0060]
例如，“块”或“单元”可以被解释为包括以下的含义：包括编码块和用于对编码块进行编码的语法结构的编码单元(cu)；由多个编码单元组成的编码树单元；包括预测块和用于预测块的预测的语法结构的预测单元(pu)；以及包括变换块和用于变换块的变换的语法结构的变换单元(tu)。
[0061]
另外，在本说明书中，“块”或“单元”不限于正方形或矩形形式的样本(或像素)的
布置，并且可以指具有三个或更多个顶点的多边形形式的样本(或像素)的布置。在这种情况下，它可以称为多边形块或多边形单元。
[0062]
图1示出了根据本发明的实施方式的执行视频信号的编码的编码器的框图。
[0063]
参照图1，编码器100包括图像分区单元110、变换部120、量化单元130、解量化单元140、逆变换部150、滤波单元160、经解码图片缓冲器(dpb)170、帧间预测单元180、帧内预测单元185、以及熵编码单元190。
[0064]
图片分区单元110可以将馈入编码器的输入图像(或图片或帧)分区为一个或更多个处理单元。例如，处理单元可以是编码树单元(ctu)、编码单元(cu)、预测单元(pu)或变换单元(tu)。
[0065]
编码器100可以通过从输入图像信号中减去从帧间预测单元180或帧内预测单元185输出的预测信号来生成残差信号，之后将所生成的残差信号馈送到变换部120。
[0066]
变换部120可以通过将变换技术应用于残差信号来生成变换系数。例如，变换技术可以包括离散余弦变换(dct)、离散正弦变换(dst)、卡南-洛伊夫变换(karhunen-loeve transform，klt)、基于图形的变换(gbt)或有条件非线性变换(cnt)中的至少一个。这里，gbt意指从表示关于像素间的关系的信息的图形获得的变换。cnt意指基于通过使用所有先前重构的像素生成的预测信号而获得的变换。此外，变换处理可以应用于相同尺寸的正方形像素块或可变尺寸的非正方形块。
[0067]
量化单元130可以量化变换系数并将经量化的变换系数输出到熵编码单元190，其中经量化信号被熵编码并作为比特流被输出。
[0068]
从量化单元130输出的经量化信号可以用于生成预测信号。例如，可以通过在环路内部通过解量化单元140和逆变换部150对经量化信号应用解量化和逆变换，来重构残差信号。可以通过将重构的残差信号添加到从帧间预测单元180或帧内预测单元185输出的预测信号来生成重构的信号。
[0069]
滤波单元160对重构的信号应用滤波，并将经滤波和重构的信号输出或发送到回放设备或经解码图片缓冲器170。输出到经解码图片缓冲器170的经滤波的信号可以在帧间预测单元180中用作参考图片。以这种方式，通过在帧内预测模式中使用经滤波的图片作为参考图片，不仅可以提高图像质量而且可以提高编码效率。
[0070]
经解码图片缓冲器170可以存储经滤波的图片以在帧间预测单元180中将其用作参考图片。
[0071]
帧间预测单元180参照重构的图片来执行时间和/或空间预测，以去除时间和/或空间冗余。
[0072]
帧内预测单元185可以通过参考在要编码的当前块的周围的样本来预测当前块。帧内预测单元185可以执行以下处理以执行帧内预测。首先，帧内预测单元185可准备参考样本以生成预测信号。此外，可以通过使用所准备的参考样本来生成预测信号。此后，对预测模式进行编码。此时，可以通过参考样本填充和/或参考样本滤波来准备参考样本。因为参考样本经历了预测和重构过程，所以可能存在量化误差。因此，为了降低误差，可以在用于帧内预测的每个预测模式中执行参考样本滤波处理。
[0073]
通过帧间预测单元180或帧内预测单元185生成的预测信号可以用于生成重构信号或残差信号。
[0074]
图2示出了根据本发明的实施方式的执行视频信号的解码的解码器的框图。
[0075]
参照图2，解码器200可以包括熵解码单元210、解量化单元220、逆变换部230、滤波单元240、经解码图片缓冲器(dpb)单元250、帧间预测单元260和帧内预测单元265。
[0076]
此外，通过解码器200输出的重构的图像信号可以由回放设备播放。
[0077]
解码器200可以接收从图1的编码器100输出的信号，其中可以通过熵解码单元210对接收的信号进行熵解码。
[0078]
解量化单元220通过使用量化步长信息从经熵解码的信号中获得变换系数。
[0079]
逆变换部230通过对变换系数进行逆变换来获得残差信号。
[0080]
将所获得的残差信号与从帧间预测单元260或帧内预测单元265输出的预测信号相加，由此生成重构的信号。
[0081]
滤波单元240对重构的信号应用滤波，并将经滤波和重构的信号输出至回放设备，或者将经滤波和重构的信号发送给经解码图片缓冲器(dpb)单元250。馈送到dpb单元250的经滤波的信号可以被帧间预测单元260用作参考图片。
[0082]
在本说明书中，参照编码器100的滤波单元260、帧间预测单元180和帧内预测单元185描述的实施方式可以分别以相同的方式应用于解码器的滤波单元240、帧间预测单元260、和帧内预测单元265。
[0083]
图像分区
[0084]
图3示出了根据本发明的实施方式的编码单元的分区结构。
[0085]
编码器可以将一个图像(或图片)分区为矩形形状的编码树单元(ctu)。此外，编码器根据光栅扫描顺序逐个地对ctu进行编码。
[0086]
一个ctu可以分解为四叉树(下文中，它表示为“qt”)结构。例如，一个ctu可以细分为四个正方形形状的单元，其中每个单元的边长是ctu相应边的一半。qt结构的这种分区可以递归地执行。
[0087]
参照图3，qt的根节点可以与ctu相关联。可以分解qt直至它到达叶节点，此时，叶节点可以称为编码单元(cu)。
[0088]
参照图3，ctu对应于根节点并且具有最小深度值(即，级别0)。依据图像的特性，ctu可以不被细分，对于这种情况，ctu对应于cu。
[0089]
ctu可以以qt结构进行细分，结果，可以生成深度为级别1的子节点。从级别1的深度处的子节点不再细分的节点(即，叶节点)对应于cu。例如，在图3的(b)中，对应于节点a、b和j的cu(a)、cu(b)和cu(j)已经从ctu细分一次并且深度为级别1。
[0090]
对于每个cu，指示相应cu是否被细分的信息可以被发送至解码器。例如，信息可以由分割标志定义，分割标志可以由语法元素“split_cu_flag”表示。分割标志可以包括在除scu之外的所有cu中。例如，如果分割标志为“1”，则相应cu进一步细分为四个cu，而如果分割标志为“0”，则相应cu不再细分，并且可以对相应cu执行编码处理。
[0091]
尽管图3的实施方式描述了用于细分cu的过程，但是以上详细描述的相同qt结构也可以应用于细分变换单元(tu)的过程，该变换单元是用于执行变换的基本单位。
[0092]
可以以qt结构从要编码的cu分层级地细分tu。例如，cu可以对应于与tu相关联的树的根节点。
[0093]
因为以qt结构来细分tu，因此从cu细分出的tu可以进一步细分为更小的tu。例如，
tu的尺寸可以由32
×
32、16
×
16、8
×
8和4
×
4中的一个确定；然而，本发明不限于特定示例，并且在高分辨率图像的情况下，tu的尺寸可以增加或具有各种值。
[0094]
对于每个tu，指示相应tu是否被细分的信息可以被发送至解码器。例如，信息可以由分割变换标志来定义，分割变换标志可以通过语法元素“split_transform_flag”表示。
[0095]
如上所述，cu是用于编码的基本单位，通过其来执行帧内预测或帧间预测。为了更高效地执行输入图像的编码，cu可以被细分为预测单元(pu)。
[0096]
pu是用于生成预测块的基本单位，即使在一个cu内，也可以就pu而言不同地生成不同预测块。依据是帧内预测模式还是帧间预测模式用于cu的编码模式，可以从cu中不同地细分pu。
[0097]
图4示出了根据本发明的实施方式的编码单元的分区结构当中的四叉树加二叉树结构。
[0098]
编码器可以将一个图像(或图片)分区为矩形形状的编码树单元(ctu)。此外，编码器根据光栅扫描顺序逐个地对ctu进行编码。
[0099]
一个ctu可以分解为四叉树(下文中，其表示为“qt”)和二叉树(下文中，其表示为“bt”)结构。例如，一个ctu可以细分为四个正方形形状的单元(其中每个单元的边长为ctu相应边的一半)，或者可以细分为两个矩形单元(其中每个单元的宽度或高度为相应ctu的一半)。这种以qtbt结构进行的分区可以递归地执行。
[0100]
参照图4，qt的根节点可以与ctu相关联。可以分解qt直至它到达qt叶节点，其中qt叶节点可以被细分为bt，bt可以被进一步细分直至到达bt叶节点。
[0101]
参照图4，ctu对应于根节点并且具有最小深度值(即，级别0)。依据图像的特性，ctu可以不被细分，对于这种情况，ctu对应于cu。
[0102]
可以qt结构对ctu进行细分，并且可以以bt结构对qt叶节点进行细分。结果，可以生成深度为级别n的子节点。此外，从级别n的深度处的子节点不再细分的节点(即，叶节点)对应于cu。
[0103]
对于每个cu，可以将指示相应cu是否被细分的信息发送至解码器。例如，该信息可以由分割标志定义，分割标志可以由语法元素“split_cu_flag”表示。此外，指示qt叶节点是否被细分为bt的信息可以被发送至解码器。例如，该信息可以由bt分割标志定义，bt分割标志可以由语法元素“bt_split_flag”表示。另外，当根据split_bt_flag将qt叶节点细分为bt时，bt细分形状可以被发送至解码器，使得对应于qt叶节点的区域被细分为宽度为区域宽度一半的矩形、或者高度为区域高度一半的矩形。例如，该信息可以由bt分割模式定义，bt分割模式可以由“bt_split_mode”表示。
[0104]
帧内预测
[0105]
图5例示了根据本发明的实施方式的取决于帧内预测模式的预测方向。
[0106]
图5中的(a)例示了35种帧内预测模式。
[0107]
表1示出了图5中的(a)中所例示的35种帧内预测模式的名称。
[0108]
[表1]
[0109][0110]
图5中的(b)例示了67种帧内预测模式。
[0111]
为了高分辨率图像的帧内编码和更准确的预测，35种角度模式被扩展到67种角度模式。图5的(b)中的虚线表示的箭头表示新增加的32种角度模式。帧内_平面(intra_planar)模式和帧内_dc(intra_dc)模式与现有的帧内平面模式和帧内dc模式相同。应用所有新添加的32种方向模式，并且进一步全部应用于亮度分量和色度分量的帧内编码中。
[0112]
表2示出了图5中的(b)中所例示的67种帧内预测模式的名称。
[0113]
[表2]
[0114][0115]
在帧内预测中，可以根据预测模式提供用于预测的参考样本的位置的预测方向。在本说明书中，具有预测方向的帧内预测模式被称为帧内角度预测模式或intra_angular模式。相反，不具有预测方向的帧内预测模式包括intra_planar预测模式和intra_dc预测模式。
[0116]
在帧内预测中，基于推导出的预测模式执行当前处理块。由于用于预测的参考样本和详细预测方法依据预测模式而改变，所以当按照帧内预测模式编码当前块时，解码器可以推导出当前块的预测模式以便执行预测。
[0117]
解码器可以检查当前处理块的邻近样本是否可以用于预测，并配置要用于预测的参考样本。
[0118]
帧内预测中当前处理块的邻近样本意指邻近ns
×
ns尺寸的当前处理块的左边界和左下方的总共2
×
ns个样本、邻近当前处理块的顶部边界和右上方的总共2
×
ns个样本、以及邻近当前处理块的左上方的一个样本。
[0119]
然而，当前处理块的一些邻近样本可能尚未被解码或可能尚不可用。在这种情况下，解码器可以通过将不可用的样本替换为可用样本来配置要用于预测的参考样本。
[0120]
解码器可以基于帧内预测模式对参考样本进行滤波。
[0121]
解码器可以基于帧内预测模式和参考样本生成用于当前处理块的预测块。也就是说，解码器可以基于在帧内预测模式推导步骤中推导出的帧内预测模式和通过参考样本配置步骤和参考样本滤波步骤获取的参考样本，生成用于当前处理块的预测块。
[0122]
参考样本滤波
[0123]
编码器/解码器在图片内预测(即，帧内预测)的过程中根据预测方向对预测块的边界像素进行滤波。
[0124]
在下文中，将描述用于在hevc图片内预测的过程中对预测块的块边界像素进行滤波的方法以及用于对当前qtbt结构中的预测块的块边界像素进行滤波的方法。
[0125]
在下文中，为了便于描述，像素的坐标由(x，y)表示，其中假设x表示水平方向上的x轴的坐标(值从左向右增加)并且y表示垂直方向上的y轴坐标(值从顶部到底部增加)。此外，预测块中的左上像素的坐标被假设为(0,0)。
[0126]
此外，下面在本说明书中，为了便于描述，描述了在具有35种帧内预测模式和/或67种帧内预测模式的帧内预测方法中的边界像素滤波方法，但是本发明不限于此并且即使对于与此不同地定义的帧内预测方法，也可以类似地应用帧内预测模式。
[0127]
图6例示了根据本发明的实施方式的通过帧内预测生成的预测方向。
[0128]
在图6中，白色的虚线块代表参考像素(即，参考样本)并且灰色的实线块代表预测块(即，预测符(predictor))。
[0129]
在下文中，为了便于描述，将描述根据hevc和qtbt的帧内预测模式的边界像素滤波。
[0130]
首先，将描述当帧内预测模式是dc模式时预测块的边界像素的滤波方法。
[0131]
图7和图8是用于描述根据本发明的实施方式的、当帧内预测模式是dc模式时对预测块的边界像素的滤波的图。
[0132]
在图7和8中，深灰色实线块表示经滤波的预测块(即，经滤波的预测符)并且如图7所例示，在dc模式的情况下，对左方和顶部的块边界的像素进行了滤波。
[0133]
图8中的(a)和图8中的(b)例示了用于在dc模式的情况下对顶部块边界的像素进行滤波的方法。
[0134]
如图8中的(a)所例示，使用预测像素和参考像素对顶部块边界上的像素801a进行滤波。
[0135]
另外，如图8中的(b)所例示，用于滤波的参考像素和预测像素是根据在顶部块边界上的像素801a的每个像素的位置来确定的。
[0136]
也就是说，顶部块边界上的经滤波的像素(即，预测符)(x，y)的值被计算为{(3
×
预测像素(即，预测符)(x，y)的值 参考像素(x，y-1)的值 2)》》2}。
[0137]
在下文中，在本说明书中，x》》y表示x的二进制补码整数表达式通过y个二进制数位来进行计算的算术右移。该函数是仅针对y的非负整数值定义的。作为右移结果而移位到最高有效位(msb)的比特与移位操作之前的x的最高有效位(msb)具有相同的值。
[0138]
图8中的(c)和图8中的(d)例示了用于在dc模式的情况下对左块边界的像素进行滤波的方法。
[0139]
如图8中的(c)所例示，使用预测像素和参考像素对左块边界处的像素801c进行滤波。
[0140]
另外，如图8中的(d)所例示的，用于滤波的参考像素和预测像素是根据在左块边界上的像素801c的每个像素位置来确定的。
[0141]
也就是说，左边块边界上的经滤波的像素(即，预测符)(x，y)的值被计算为{(3
×
预测像素(即，预测符)(x，y)的值 参考像素(x-1，y)的值 2)》》2}。
[0142]
接下来，将描述当帧内预测模式是水平模式时对预测块的边界像素的滤波方法。
[0143]
图9是用于描述根据本发明的实施方式的、当帧内预测模式是水平模式时对预测块的边界像素的滤波的图。
[0144]
图9例示了当在诸如hevc的具有35种帧内预测模式的帧内预测方法中以第10预测模式或者在具有67种帧内预测模式的帧内预测方法中以第18预测模式、第19预测模式和第17预测模式(参见以上图5)生成预测块时的块边界滤波。
[0145]
从图9中的(a)中可以看出，由于hevc的第10模式或67种预测模式中的第17模式、第18模式和第19模式是水平预测模式(参见以上图5)，因此对顶部块边界的像素901a进行滤波。
[0146]
另外，如图9中的(b)和图9中的(c)所例示的，用于滤波的参考像素和预测像素是根据在顶部块边界上的像素901a的每个像素的位置来确定的。
[0147]
也就是说，顶部块边界上的经滤波的像素(x，y)(即，预测符)的值被计算为{预测像素(x，y)的值 (第一参考像素(-1，-1)的值-第二参考像素(x，y-1)的值)》》1)}。
[0148]
接下来，将描述当帧内预测模式是垂直模式时对预测块的边界像素的滤波方法。
[0149]
图10是用于描述根据本发明的实施方式的当帧内预测模式是垂直模式时对预测块的边界像素的滤波的图。
[0150]
图10例示了在当在诸如hevc的具有35种帧内预测模式的帧内预测方法中以第26预测模式或者在具有67种帧内预测模式的帧内预测方法中以第49预测模式、第50预测模式和第51预测模式生成预测块时的块边界滤波。
[0151]
从图10中的(a)中可以看出，由于hevc的第26模式或67种预测模式中的第49模式、第50模式和第51模式是垂直预测模式(参见以上图5)，因此对左块边界的像素1001a进行滤波。
[0152]
另外，如图10中的(b)和图10中的(c)所例示，用于滤波的参考像素和预测像素是根据在左块边界上的像素1001a的每个像素的位置来确定的。
[0153]
也就是说，左块边界上的经滤波的像素(x，y)(即，预测符)的值被计算为{预测像素(x，y)的值 (第一参考像素(-1，-1)的值-第二参考像素(x-1，y)的值)》》1)}。
[0154]
在以上参照图9和图10描述的水平或垂直预测模式的情况下，可以仅在预测块的尺寸是特定尺寸或更小(例如，16
×
16或更小)的块上对预测块边界的像素进行滤波。
[0155]
接下来，将描述当帧内预测模式是(例如，如以上图5中所例示的35种或67种帧内预测模式当中的)第二模式时预测块的边界像素的滤波方法。
[0156]
图11至图13是用于描述根据本发明的实施方式的、当帧内预测模式是第二模式时对预测块的边界像素的滤波的图。
[0157]
如图11中所例示的，当帧内预测模式是第二模式时，由于从左下参考像素开始执行预测，因此针对四个顶部预测像素行执行滤波。
[0158]
如图12中的(a)和图12中的(b)所例示，根据从最上端开始的第一预测像素行的像素1201a的每个像素的位置，来确定用于滤波的参考像素和预测像素。
[0159]
也就是说，第一预测像素行的经滤波的像素(x，y)的值被计算为{(8
×
预测像素(x，y)的值 8
×
参考像素(x 1，y-1)的值 8)》》4}。
[0160]
如图12中的(c)和图12中的(d)所例示，根据从最上端开始的第二预测像素行的像素1201c的每个像素的位置，来确定用于滤波的参考像素和预测像素。
[0161]
也就是说，第二预测像素行的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 4
×
参考像素(x 2，y-2)的值 8)》》4}。
[0162]
如图13中的(a)和图13中的(b)所例示，根据从最上端开始的第三预测像素行的像素1301a的每个像素的位置，来确定用于滤波的参考像素和预测像素。
[0163]
也就是说，第三预测像素行的经滤波的像素(x，y)的值被计算为{(14
×
预测像素(x，y)的值 2
×
参考像素(x 3，y-3)的值 8)》》4}。
[0164]
如图13中的(c)和图13中的(d)所示，根据从最上端开始的第四预测像素行的像素1301c的每个像素的位置，来确定用于滤波的参考像素和预测像素。
[0165]
也就是说，第四预测像素行的经滤波的像素(x，y)的值被计算为{(15
×
预测像素(x，y)的值 参考像素(x 4，y-4)的值 8)》》4}。
[0166]
接下来，将描述当帧内预测模式是(例如，如以上图5中所例示的35种帧内预测模式当中的)第34模式时预测块的边界像素的滤波方法。
[0167]
图14至图16是用于描述根据本发明的实施方式的当帧内预测模式是的35种帧内预测模式中的模式#34或67种帧内预测模式中的预测模式#66时对预测块的边界像素的滤波的图。
[0168]
如图14中所例示，在帧内预测模式是第34模式(在35种帧内预测模式的情况下)或第66模式(在67种帧内预测模式的情况下)的情况下，由于从右上参考像素开始执行预测，因此针对四个左侧预测像素行(pixel line)执行滤波。
[0169]
如图15中的(a)和图15中的(b)所例示，根据从最左侧开始的第一预测像素行的像素1501a的每个像素的位置，来确定用于滤波的参考像素和预测像素。
[0170]
也就是说，第一预测像素行的经滤波的像素(x，y)的值被计算为{(8
×
预测像素(x，y)的值 8
×
参考像素(x-1，y 1)的值 8)》》4}。
[0171]
如图15中的(c)和图15中的(d)所例示，根据从最左侧开始的第二预测像素行的像素1501c的每个像素的位置，来确定用于滤波的参考像素和预测像素。
[0172]
也就是说，第二预测像素行的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 4
×
参考像素(x-2，y 2)的值 8)》》4}。
[0173]
如图16中的(a)和图16中的(b)所例示，根据从最左侧开始的第三预测像素行的像素1601a的每个像素的位置，来确定用于滤波的参考像素和预测像素。
[0174]
也就是说，第三预测像素行的经滤波的像素(x，y)的值被计算为{(14
×
预测像素(x，y)的值 2
×
参考像素(x-3，y 3)的值 8)》》4}。
[0175]
如图16中的(c)和图16中的(d)所例示，根据从最左侧开始的第四预测像素行的像素1601c的每个像素的位置，来确定用于滤波的参考像素和预测像素。
[0176]
也就是说，第四预测像素行的经滤波的像素(x，y)的值被计算为{(15
×
预测像素(x，y)的值 参考像素(x-4，y 4)的值 8)》》4}。
[0177]
接下来，将描述当帧内预测模式是(例如，如以上图5所例示的35种帧内预测模式当中的)第3模式、第4模式、第5模式或第6模式或者第30模式、第31模式、第32模式或第33模式时对预测块的边界像素的滤波方法。
[0178]
图17是用于描述根据本发明的实施方式的、当帧内预测模式是35种帧内预测模式中的第3模式、第4模式、第5模式或第6模式时对预测块的边界像素的滤波的图。
[0179]
由于帧内预测第3模式、第4模式、第5模式或第6模式是从左参考样本开始执行预测的模式，因此对预测块的顶部边界像素执行滤波，并且根据每个模式的角度(即，预测方向的角度)，用于滤波的参考像素的位置以及参考像素和预测像素的权重之间存在差异。
[0180]
图17中的(a)例示了在帧内预测第3模式的情况下对预测块的边界像素的滤波。
[0181]
如图17中的(a)所例示，根据顶部块边界的像素1701a的每个像素的位置来确定用于滤波的参考像素的位置。
[0182]
也就是说，顶部块边界上的经滤波的像素(x，y)的值被计算为{(8
×
预测像素(x，y)的值 6
×
第一参考像素(x 1，y-1)的值 2
×
第二参考像素(x 2，y-1)的值 8)》》4}。
[0183]
图17中的(b)例示了在帧内预测模式#4的情况下对预测块的边界像素的滤波。
[0184]
如图17中的(b)所例示，根据顶部块边界的像素1701b的每个像素的位置来确定用于滤波的参考像素的位置。
[0185]
也就是说，顶部块边界上的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 2
×
第一参考像素(x 1，y-1)的值 2
×
第二参考像素(x 2，y-1)的值 8)》》4}。
[0186]
图17中的(c)例示了在帧内预测第五模式的情况下对预测块的边界像素的滤波。
[0187]
如图17中的(c)所例示，根据顶部块边界的像素1701c的每个像素的位置来确定用于滤波的参考像素的位置。
[0188]
也就是说，顶部块边界上的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 1
×
第一参考像素(x 1，y-1)的值 3
×
第二参考像素(x 2，y-1)的值 8)》》4}。
[0189]
图17中的(d)例示了在帧内预测第6模式的情况下对预测块的边界像素的滤波。
[0190]
如图17中的(d)所例示，根据顶部块边界的像素1701d的每个像素的位置来确定用于滤波的参考像素的位置。
[0191]
也就是说，顶部块边界上的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 3
×
第一参考像素(x 2，y-1)的值 1
×
第二参考像素(x 3，y-1)的值 8)》》4}。
[0192]
图18是用于描述根据本发明的实施方式的、当帧内预测模式是35种帧内预测模式中的第30模式、第31模式、第32模式或第33模式时对预测块的边界像素的滤波的图。
[0193]
由于帧内预测第30模式、第31模式、第32模式或第33模式是从顶部参考样本开始执行预测的模式，因此对预测块的左边界像素执行滤波，并且根据每个模式的角度(即，预测方向的角度)，用于滤波的参考像素的位置以及参考像素和预测像素的权重之间存在差异。
[0194]
图18中的(a)例示了在帧内预测模式#30的情况下对预测块的边界像素的滤波。
[0195]
如图18中的(a)所示，根据左块边界的像素1801a的每个像素的位置来确定用于滤波的参考像素的位置。
[0196]
也就是说，左边块边界上的经滤波的像素(x，y)的值被计算为{(8
×
预测像素(x，y)的值 6
×
第一参考像素(x-1，y 1)的值 2
×
第二参考像素(x-2，y 2)的值 8)》》4}。
[0197]
图18中的(b)例示了在帧内预测模式#31的情况下对预测块的边界像素的滤波。
[0198]
如图18中的(b)所例示，根据左块边界的像素1801b的每个像素的位置来确定用于滤波的参考像素的位置。
[0199]
也就是说，左边块边界上的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 2
×
第一参考像素(x-1，y 1)的值 2
×
第二参考像素(x-1，y 2)的值 8)》》4}。
[0200]
图18中的(c)例示了在帧内预测模式#32的情况下对预测块的边界像素的滤波。
[0201]
如图18中的(c)所例示，根据左块边界的像素1801c的每个像素的位置来确定用于滤波的参考像素的位置。
[0202]
也就是说，左边块边界上的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 1
×
第一参考像素(x-1，y 1)的值 3
×
第二参考像素(x-1，y 2)的值 8)》》4}。
[0203]
图18中的(d)例示了在帧内预测模式#33的情况下对预测块的边界像素的滤波。
[0204]
如图18中的(d)所例示，根据左块边界的像素1801d的每个像素的位置来确定用于滤波的参考像素的位置。
[0205]
也就是说，左块边界上的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 3
×
第一参考像素(x-1，y 2)的值 1
×
第二参考像素(x-1，y 3)的值 8)》》4}。
[0206]
接下来，将描述当帧内预测模式是(例如，如以上图5所例示的67种帧内预测模式当中的)模式#3、#4、#5、#6、#7、#8、#9或#10时对预测块的边界像素的滤波方法。
[0207]
图19和图20是用于描述根据本发明的实施方式的、当帧内预测模式是67种帧内预测模式中的第3模式、第4模式、第5模式、第6模式、第7模式、第8模式、第9模式或第10模式时对预测块的边界像素的滤波的图。
[0208]
由于帧内预测第3模式、第4模式、第5模式、第6模式、第7模式、第8模式、第9模式或第10模式是从左参考样本开始执行预测的模式，因此对预测块的顶部边界像素执行滤波，并且根据每个模式的角度(即，预测方向的角度)，用于滤波的参考像素的位置以及参考像素和预测像素的权重之间存在差异。
[0209]
图19中的(a)例示了在帧内预测模式#3的情况下对预测块的边界像素的滤波。
[0210]
如图19中的(a)所例示，根据顶部块边界的像素1901a的每个像素的位置来确定用于滤波的参考像素的位置。
[0211]
也就是说，顶部块边界上的经滤波的像素(x，y)的值被计算为{(8
×
预测像素(x，y)的值 7
×
第一参考像素(x 1，y-1)的值 1
×
第二参考像素(x 2，y-1)的值 8)》》4}。
[0212]
图19中的(b)例示了在帧内预测模式#4的情况下对预测块的边界像素的滤波。
[0213]
如图19中的(b)所例示，根据顶部块边界的像素1901b的每个像素的位置来确定用于滤波的参考像素的位置。
[0214]
也就是说，顶部块边界上的经滤波的像素(x，y)的值被计算为{(8
×
预测像素(x，y)的值 6
×
第一参考像素(x 1，y-1)的值 2
×
第二参考像素(x 2，y-1)的值 8)》》4}。
[0215]
图19中的(c)例示了在帧内预测模式#5的情况下对预测块的边界像素的滤波。
[0216]
如图19中的(c)所示，根据顶部块边界的像素1901c的每个像素的位置来确定用于滤波的参考像素的位置。
[0217]
也就是说，顶部块边界上的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 3
×
第一参考像素(x 1，y-1)的值 1
×
第二参考像素(x 2，y-1)的值 8)》》4}。
[0218]
图19中的(d)例示了在帧内预测模式#6的情况下对预测块的边界像素的滤波。
[0219]
如图19中的(d)所例示，根据顶部块边界的像素1901d的每个像素的位置来确定用于滤波的参考像素的位置。
[0220]
也就是说，顶部块边界上的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 2
×
第一参考像素(x 1，y-1)的值 2
×
第二参考像素(x 2，y-1)的值 8)》》4}。
[0221]
图20中的(a)例示了在帧内预测模式#7的情况下对预测块的边界像素的滤波。
[0222]
如图20中的(a)所例示，根据顶部块边界的像素2001a的每个像素的位置来确定用于滤波的参考像素的位置。
[0223]
也就是说，顶部块边界上的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 3
×
第一参考像素(x 1，y-1)的值 2
×
第二参考像素(x 2，y-1)的值 8)》》4}。
[0224]
图20中的(b)例示了在帧内预测模式#8的情况下对预测块的边界像素的滤波。
[0225]
如图20中的(b)所例示，根据顶部块边界的像素2001b的每个像素的位置来确定用于滤波的参考像素的位置。
[0226]
也就是说，顶部块边界上的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 1
×
第一参考像素(x 1，y-1)的值 3
×
第二参考像素(x 2，y-1)的值 8)》》4}。
[0227]
图20中的(c)例示了在帧内预测模式#9的情况下对预测块的边界像素的滤波。
[0228]
如图20中的(c)所例示，根据顶部块边界的像素2001c的每个像素的位置来确定用于滤波的参考像素的位置。
[0229]
也就是说，顶部块边界上的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 3
×
第一参考像素(x 2，y-1)的值 1
×
第二参考像素(x 3，y-1)的值 8)》》4}。
[0230]
图20中的(d)例示了在帧内预测模式#10的情况下对预测块的边界像素的滤波。
[0231]
如图20中的(d)所例示，根据顶部块边界的像素2001d的每个像素的位置来确定用于滤波的参考像素的位置。
[0232]
也就是说，顶部块边界上的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 3
×
第一参考像素(x 2，y-1)的值 1
×
第二参考像素(x 3，y-1)的值 8)》》4}。
[0233]
接下来，将描述当帧内预测模式是(例如，如在上图5所例示的67种帧内预测模式当中的)第59模式、第60模式、第61模式、第62模式、第63模式、第64模式、第65模式或第66模式时对预测块的边界像素的滤波方法。
[0234]
图21和图22是用于描述当根据本发明的实施方式的、当帧内预测模式是67种帧内预测模式中的第59模式、第60模式、第61模式、第62模式、第63模式、第64模式、第65模式或第66模式时对预测块的边界像素的滤波的图。
[0235]
由于帧内预测第59模式、第60模式、第61模式、第62模式、第63模式、第64模式、第65模式或第66模式是从顶部参考样本开始执行预测的模式，因此对预测块的左边界像素执行滤波，并且根据每个模式的角度(即，预测方向的角度)，用于滤波的参考像素的位置以及参考像素和预测像素的权重之间存在差异。
[0236]
图21中的(a)例示了在帧内预测模式#59的情况下对预测块的边界像素的滤波。
[0237]
如图21中的(a)所例示，根据左块边界的像素2101a的每个像素的位置来确定用于滤波的参考像素的位置。
[0238]
也就是说，左块边界上的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 3
×
第一参考像素(x-1，y 2)的值 1
×
第二参考像素(x-1，y 3)的值 8)》》4}。
[0239]
图21中的(b)例示了在帧内预测模式#60的情况下对预测块的边界像素的滤波。
[0240]
如图21中的(b)所例示，根据左块边界的像素2101b的每个像素的位置来确定用于
滤波的参考像素的位置。
[0241]
也就是说，左块边界上的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 3
×
第一参考像素(x-1，y 2)的值 1
×
第二参考像素(x-1，y 3)的值 8)》》4}。
[0242]
图21中的(c)例示了在帧内预测模式#61的情况下对预测块的边界像素的滤波。
[0243]
如图21中的(c)所例示，根据左块边界的像素2101c的每个像素的位置来确定用于滤波的参考像素的位置。
[0244]
也就是说，左边块边界上的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 1
×
第一参考像素(x-1，y 1)的值 3
×
第二参考像素(x-1，y 2)的值 8)》》4}。
[0245]
图21中的(d)例示了在帧内预测模式#62的情况下对预测块的边界像素的滤波。
[0246]
如图21中的(d)所例示，根据左块边界的像素2101d的每个像素的位置来确定用于滤波的参考像素的位置。
[0247]
也就是说，左块边界上的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 3
×
第一参考像素(x-1，y 1)的值 2
×
第二参考像素(x-1，y 2)的值 8)》》4}。
[0248]
图22中的(a)例示了在帧内预测模式#63的情况下对预测块的边界像素的滤波。
[0249]
如图22中的(a)所例示，根据左块边界的像素2201a的每个像素的位置来确定用于滤波的参考像素的位置。
[0250]
也就是说，左边块边界上的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 2
×
第一参考像素(x-1，y 1)的值 2
×
第二参考像素(x-1，y 2)的值 8)》》4}。
[0251]
图22中的(b)例示了在帧内预测模式#64的情况下对预测块的边界像素的滤波。
[0252]
如图22中的(b)所例示，根据左块边界的像素2201b的每个像素的位置来确定用于滤波的参考像素的位置。
[0253]
也就是说，左块边界上的经滤波的像素(x，y)的值被计算为{(12
×
预测像素(x，y)的值 3
×
第一参考像素(x-1，y 1)的值 1
×
第二参考像素(x-1，y 2)的值 8)》》4}。
[0254]
图22中的(c)例示了在帧内预测模式#65的情况下对预测块的边界像素的滤波。
[0255]
如图22中的(c)所例示，根据左块边界的像素2201c的每个像素的位置来确定用于滤波的参考像素的位置。
[0256]
也就是说，左边块边界上的经滤波的像素(x，y)的值被计算为{(8
×
预测像素(x，y)的值 6
×
第一参考像素(x-1，y 1)的值 2
×
第二参考像素(x-1，y 2)的值 8)》》4}。
[0257]
图22中的(d)例示了在帧内预测模式#66的情况下对预测块的边界像素的滤波。
[0258]
如图22中的(d)所例示，根据左块边界的像素2201d的每个像素的位置来确定用于滤波的参考像素的位置。
[0259]
也就是说，左块边界上的经滤波的像素(x，y)的值被计算为{(8
×
预测像素(x，y)的值 7
×
第一参考像素(x-1，y 1)的值 1
×
第二参考像素(x-1，y 2)的值 8)》》4}。
[0260]
如上面在图6至图22中所描述的那样，根据每种帧内预测模式执行对通过帧内预测生成的预测块中的块边界像素的滤波。然而，到目前为止，在滤波处理中，根据预测块的尺寸来确定是否应用滤波。即使在qtbt块分区结构中，这样的过程也是类似的。
[0261]
图23例示了根据本发明的实施方式的在qtbt结构中对预测块的边界像素进行滤波的过程。
[0262]
参照图23，当解码器开始预测符(即，预测样本/预测像素)滤波时，解码器接收预
测符作为输入值(即，预测块生成)，并且解码器检查帧内预测模式(intrapredmode)是否是从左侧块生成预测块的模式#18、#19或#17(即水平模式)或者从顶部块生成预测块的模式#49、#50或#51(即垂直模式)(s2301)(即，intrapredmode(18，19，20)||intrapredmode(50，51，49))。
[0263]
在步骤s2301中，当帧内预测模式(intrapredmode)是模式#18、#19或#17(即，水平模式)或模式#49、#50或#51(即，垂直模式)时，解码器检查是否应用残差差分脉冲编码调制(rdpcm)和tq旁通(s2302)(即，！(rdpcmenabled&&tq bypass))。
[0264]
这里，作为hevc范围扩展(rangeextension)技术的rdpcm是对残差信号执行差分脉冲编码调制(dpcm)并发送残差信号的技术，而tq旁通是一种无需变换/量化来发送残差信号的方法。
[0265]
当在步骤s2302中未应用rdpcm和tq旁通时，解码器检查预测块是否是亮度(luma)块并且预测块大小的尺寸是否小于16
×
16(s2303)(即，luma&&块《16
×
16)。否则，解码器终止预测符滤波。
[0266]
在步骤s2303中，当预测块是亮度(luma)块并且预测块的尺寸小于16
×
16时，解码器执行预测符滤波处理1(s2304)。否则，解码器终止预测符滤波。
[0267]
这里，在模式#18、#19和#17(即，水平模式)的情况下，根据以上图9中所例示的方法执行预测符滤波处理1的过程，而在模式#49、#50和#51(即垂直模式)的情况下，根据以上图10所例示的方法执行预测符滤波处理1的过程。
[0268]
此外，在步骤s2301中，当帧内预测模式(intrapredmode)不是模式#18、#19和#17(即，水平模式)和#49、#50和#51(即，垂直模式)时，解码器检查是否未应用pdpc、宽度是否为16或更大、或者未应用rsaf(s2305)(即，(！pdpc||宽度》＝16||！sps.usersaf)。
[0269]
这里，由于位置相关帧内预测组合(pdpc)生成自预测块，所以不需要边界滤波，而自适应参考样本平滑(arss)通过对参考样本进行滤波来生成预测块，arss是一种防止过度滤波的技术。
[0270]
在步骤s2305中，当未应用pdpc、宽度为16或更大、或者未应用rsaf时，解码器确定预测块是亮度(luma)块、预测块的宽度大于2并且预测块的高度大于2(s2306)。否则，解码器终止预测符滤波。
[0271]
在步骤s2306中，当预测块是亮度(luma)块、预测块的宽度大于2、并且预测块的高度大于2时，解码器执行预测符滤波处理2(s2307)。否则，解码器终止预测符滤波。
[0272]
这里，将参照图24描述预测符滤波处理2。
[0273]
此外，步骤s2302和s2305可以选择性地实现和省略。
[0274]
图24例示了根据本发明的实施方式的qtbt结构中的预测符滤波处理。
[0275]
参照图24，当预测符滤波处理2开始时，解码器检查帧内预测模式(intrapredmode)是否是dc模式、或者大于模式#1且小于模式#11、或者大于模式#58且小于等于模式#66(s2401)(即intrapredmode(dc)||1《intrapredmode《11||58《intrapredmode《＝66)。
[0276]
在步骤s2401中，当帧内预测模式(intrapredmode)是dc模式、或者大于模式#1且小于模式#11、或者大于模式#58且小于等于模式#66时，解码器检查帧内预测模式(intrapredmode)是否是dc模式(s2402)。否则，解码器终止预测符滤波处理2。
[0277]
在步骤s2402中，当帧内预测模式(intrapredmode)是dc模式时，解码器执行边界像素滤波(s2403)。如以上图7和图8中所例示的方法那样执行边界像素滤波。
[0278]
相反，当在步骤s2402中帧内预测模式(intrapredmode)不是dc模式时，解码器检查帧内预测模式(intrapredmode)是否是#2或#66(s2404)。
[0279]
在步骤s2404中，当帧内预测模式(intrapredmode)是模式#66时，解码器对与边界周围2行相对应的边界像素进行滤波(s2405)。
[0280]
针对模式#66的边界像素滤波遵循如以上图14至图16中所例示的方法并且对与边界周围2行相对应的边界像素进行滤波。
[0281]
解码器检查预测块的宽度(blockwidth)是否大于2(s2406)。
[0282]
当预测块的宽度(blockwidth)大于2时，解码器对与边界周围额外2行相对应的边界像素进行滤波(s2407)。否则，解码器终止预测符滤波处理2。
[0283]
当在步骤s2404中帧内预测模式(intrapredmode)是模式#2时，解码器对与边界周围2行相对应的边界像素进行滤波(s2408)。
[0284]
针对模式#2的边界像素滤波遵循以上图11至图13中所例示的方法并且对与边界周围2行相对应的边界像素进行滤波。
[0285]
解码器检查预测块的高度(blockheight)是否大于2(s2409)。
[0286]
当预测块的高度(blockheight)大于2时，解码器对与边界周围额外2行相对应的边界像素进行滤波(s2410)。否则，解码器终止预测符滤波处理2。
[0287]
当帧内预测模式(intrapredmode)不是模式#66或#2时，解码器对与边界周围1行相对应的边界像素进行滤波(s2411)。
[0288]
预测块的边界像素的滤波方法
[0289]
1)实施方式1
[0290]
本发明的实施方式提出了一种当非正方形块的帧内预测(图片内预测)是dc模式时边界像素的滤波方法。
[0291]
如以上图7和图8中所描述的，在dc模式的情况下，针对左块边界和顶部块边界执行滤波。然而，在hevc中，仅针对块尺寸为16
×
16或更小的亮度(luma)块执行滤波。
[0292]
约束需要适应性地应用于非正方形块。然而，根据以上当前定义的方法，因为边界像素的滤波仅应用于块尺寸16
×
16或更小的块，所以约束可能无法适应性地应用于32
×
4、4
×
32、4
×
32等的宽度长度或高度长度。为了解决这样的问题，提出了一种用于在预测模式是dc模式时根据自适应条件确定是否执行滤波的方法。
[0293]
图25是例示了根据本发明的实施方式的当帧内预测模式是dc模式时用于对边界像素进行滤波的方法的图。
[0294]
参照图25，当dc模式边界像素滤波开始时，解码器检查当前预测块是否是非正方形块(s2501)。
[0295]
当在步骤s2501中当前预测块是非正方形块时，解码器检查预测块的宽度是否是最大滤波尺寸(maximum_filtering_size)或更小(s2502)(即，宽度《＝maximum_filtering_size)。
[0296]
当在步骤s2502中预测块的宽度是最大滤波尺寸(maximum_filtering_size)或更小时，解码器执行对预测块的顶部边界像素的滤波(s2503)。
[0297]
这里，顶部边界像素滤波遵循以上图7和图8中所例示的方法，并且仅对顶部边界像素进行滤波。
[0298]
在步骤s2503执行了顶部边界像素滤波之后或者当在步骤s2502中预测块的宽度超过最大滤波尺寸(maximum_filtering_size)时，解码器检查预测块的高度是否是最大滤波尺寸(maximum_filtering_size)或更小(s2504)(即，高度《＝maximum_filtering_size)。
[0299]
当在步骤s2504中预测块的高度是最大滤波尺寸(maximum_filtering_size)或更小时，解码器执行对预测块的左边界像素的滤波(s2505)。否则，解码器终止dc模式边界像素滤波。
[0300]
这里，左边界像素滤波遵循以上图7和图8中所例示的方法，并且仅对左边界像素进行滤波。
[0301]
此外，在步骤s2501中，在当前预测块不是非正方形块(即，正方形块)时，解码器执行用于dc模式的现有边界像素滤波(s2506)。
[0302]
这里，用于dc模式的现有边界像素滤波遵循以上图7和图8中所例示的方法。
[0303]
2)实施方式2
[0304]
本发明的实施方式提出了当非正方形块的帧内预测模式是水平模式或垂直模式时边界像素的滤波方法。
[0305]
如以上图9中所描述的hevc的水平模式(或者使用67种帧内预测模式的预测方法中的模式#17、#18或#19)以及如以上图10中所描示的hevc的垂直模式(或使用67种帧内预测模式的预测方法中的模式#49、#50或#51)经过块边界像素滤波。
[0306]
然而，不是在所有条件下都执行滤波，并且在以下图26所例示的条件下仅对预测块尺寸为16
×
16或更小的块执行滤波。
[0307]
图26是例示了根据本发明的实施方式的当帧内预测模式是水平/垂直模式时边界像素滤波处理的图。
[0308]
参照图26，当水平/垂直模式(或在使用67种帧内预测模式的预测方法中的模式#17、#18或#19或者#49、#50或#51)的边界像素滤波开始时，解码器检查rdpcm和tq旁通是否未应用于当前预测块(s2601)(即，！(rdpcmenabled&&tq bypass))。
[0309]
当在步骤s2601中rdpcm和tq旁通未应用于当前预测块时，解码器检查预测块是否是亮度(luma)块并且预测块尺寸的大小为16
×
16或更小(s2602)(s2602)(即，luma&&块《＝16
×
16)。
[0310]
当在步骤s2602中预测块是亮度(luma)块并且预测块的尺寸为16
×
16或更小时，解码器执行预测符滤波处理1(s2603)。否则，终止水平/垂直模式(或使用67种帧内预测模式的预测方法中的模式#17、#18、或#19、或者#49、#50、或#51)的边界像素滤波。
[0311]
这里，预测符滤波处理1遵循以上图9或图10中所例示的方法。
[0312]
此外，可以选择性地实现和省略步骤s2601。
[0313]
图26的条件需要适应性地应用于由于qtbt结构的分区而可具有各种尺寸的块。例如，根据图26的条件，在4
×
32、32
×
4等的块中不执行边界像素滤波。
[0314]
为了解决这样的问题，在实施方式中，如以下图27所例示的，可以针对在从左块开始执行预测的模式#17、#18或#19(在定义了67种预测模式的预测方法的情况下)中或者在
hevc的水平模式中预测的16
×
n、8
×
n和4
×
n的块，执行顶部块边界像素的滤波。类似地，可以针对在从顶部块开始执行预测的模式#49、#50或#51中(在定义了67种预测模式的预测方法的情况下)或者在hevc的垂直模式中预测的n
×
4、n
×
8和n
×
16的块，执行左块边界像素的滤波。
[0315]
图27是例示了根据本发明的实施方式的用于对预测块的边界像素进行滤波的方法的图。
[0316]
参照图27，当水平/垂直模式(或在使用67种帧内预测模式的预测方法中的模式#17、#18、或#19、或者#49、#50或#51)的边界像素滤波开始时，解码器检查rdpcm和tq旁通是否未应用于当前预测块，并且当前预测块是否是亮度(luma)块(s2701)(即，！(rdpcmenabled&&tq bypass)&&luma)。
[0317]
当在步骤s2701中，rdpcm和tq bypass未应用于当前预测块并且当前预测块是亮度(luma)块时，解码器检查当前预测块的帧内预测模式的方向性(predintramode)是否属于基于水平帧内预测模式的方向性(intradir(hor))的预定范围(-α到 α)，并且块的宽度(blockwidth)是否等于或小于预定边界像素滤波的最大块尺寸β(s2702)(即，(intradir(hor)-α《＝predintramode《＝intradir(hor) α)&&(blockwidth《＝β))。否则，终止边界像素滤波。
[0318]
这里，α表示帧内方向模式的差，β表示边界滤波的最大块尺寸。
[0319]
当在步骤s2702中当前预测块的帧内预测模式的方向性(predintramode)属于基于水平帧内预测模式的方向性(intradir(hor)的预定范围(-α到 α)并且块的宽度(blockwidth)等于或小于预定的边界像素滤波的最大块尺寸β时，解码器执行预测块的顶部边界像素滤波(s2703)。
[0320]
这里，预测块的顶部边界像素滤波可以采用以上图9中所描述的方法。
[0321]
在执行预测块的顶部边界像素滤波之后或者当在步骤s2702中当前预测块的帧内预测模式的方向性(predintramode)不属于基于水平帧内预测模式的方向性(intradir(hor))的预定范围(-α到 α)或块的宽度blockwidth大于预定的边界像素滤波的最大块尺寸β时，解码器检查当前块的帧内预测模式的方向性(predintramode)是否属于基于垂直帧内预测模式的方向性(intradir(ver))的预定范围(-α到 α)并且块的高度(blockheight)是否等于或小于预定的边界像素滤波的最大块尺寸β(s2704)(即，(intradir(ver)-α《＝predintramode《＝intradir(ver) α)&&(blockheight《＝β))。
[0322]
当在步骤s2704中当前预测块的帧内预测模式的方向性(predintramode)属于基于垂直帧内预测模式的方向性(intradir(ver))的预定范围(-α到 α)并且块的高度(blockheight)等于或小于预定的边界像素滤波的最大块尺寸β时，解码器执行预测块的左边界像素滤波(s2705)。
[0323]
这里，预测块的左边界像素滤波可以采用以上图10中所描述的方法。
[0324]
此外，可以选择性地实现和省略步骤s2701。
[0325]
3)实施方式3
[0326]
本发明的实施方式提出了当在帧内预测模式的总数为35的情况下帧内预测模式为2或34时，以及当在帧内预测模式的总数是67的情况下非正方形块的帧内预测模式为2或66时，预测块的边界像素的滤波方法。
[0327]
如以上图11至图16中所描述的，对属于块边界周围四行的边界像素进行滤波的模式的滤波确定结构被部分变型并应用于当前qtbt结构中。然而，由于在当前qtbt结构中没有优化这种确定结构，所以该实施方式提出了一种可以高效地应用边界像素的滤波的方法。
[0328]
在qtbt结构中，由于二叉树，在亮度的情况下最小块尺寸可以对应于4
×
n或n
×
4，而在色度的情况下最小块尺寸可以对应于2
×
n或n
×
2。因此，如以上图25中所例示的，在应用于qtbt中的滤波结构中，存在以下问题：在尺寸为4
×
n或n
×
4的亮度(luma)块中整个预测块被滤波，以及在色度的情况下2
×
n或n
×
2块的所有预测像素也被滤波。
[0329]
为了解决这样的问题，本发明的实施方式提出了一种根据预测方向和块尺寸来限制边界像素的滤波范围的方法。将参考以下附图对此进行描述。
[0330]
图28和图29是例示了根据本发明的实施方式的用于对预测块的边界像素进行滤波的方法的图。
[0331]
图28例示了当帧内预测模式的总数是35/67时应用模式#2的情况，而图29例示了当帧内预测模式的总数是35时应用模式#34以及当帧内预测模式的总数是67时应用模式#66时的情况。
[0332]
如图28中所例示的，当帧内预测模式为模式#2时，如果块尺寸为8
×
n，则在现有技术中对块的所有像素进行滤波，但是在本实施方式提出的方法中，针对n
×
4块可以仅对预测块边界的两个像素行2801b进行滤波。
[0333]
此外，如图29所例示，当帧内预测模式是模式#34/66时，如果块尺寸是n
×
8，则在现有技术中对块的所有像素进行滤波，但是在本实施方式提出的方法中，针对n
×
4块，可以仅对属于预测块边界的两个像素行的像素2901b进行滤波。
[0334]
这里，用于对属于块边界周围的两个像素行的像素进行滤波的方法可以分为两种方法。
[0335]
如图30所例示，使用现有的滤波方法并且可以仅对边界周围的仅两个像素行进行滤波，或者如图31所例示，可以对相应预测块应用新的弱滤波器。
[0336]
图30是例示了根据本发明的实施方式的用于对预测块的边界像素进行滤波的方法的图。
[0337]
参照图30，当预测符滤波处理2开始时，解码器检查帧内预测模式(intrapredmode)是否是dc模式、大于模式#1且小于模式#11、或者大于模式#58且小于等于模式#66(s3001)(即，intrapredmode(dc)||1《intrapredmode《11||58《intrapredmode《＝66)。
[0338]
当帧内预测模式(intrapredmode)是dc模式、或者大于模式#1且小于模式#11、或者大于模式#58且小于等于模式#66时，解码器检查帧内预测模式(intrapredmode)是否是dc模式(s3002)。否则，解码器终止预测符滤波处理2。
[0339]
当在步骤s3002中帧内预测模式(intrapredmode)是dc模式时，解码器执行边界像素滤波(s3003)。预测块边界像素滤波如图7和图8中所例示的方法那样来执行。
[0340]
相反，当在步骤s3002中帧内预测模式(intrapredmode)不是dc模式时，解码器检查帧内预测模式(intrapredmode)是否是#2或#66(s3004)。
[0341]
当在步骤s3004中帧内预测模式(intrapredmode)是#2或#66时，解码器检查是否
帧内预测模式(intrapredmode)是模式#2且块高度大于4或者是否帧内预测模式(intrapredmode)是模式#66且块宽度大于4(s3005)(即，(intrapredmode(2)&&blockheight》4)||(intrapredmode(66)&&blockwidth》4))。
[0342]
当在步骤s3005中帧内预测模式(intrapredmode)是模式#2且块高度大于4、或者帧内预测模式(intrapredmode)是模式#66且块宽度大于4时，解码器对属于预测块边界周围4行的边界像素进行滤波(s3006)。否则，解码器对属于预测块边界周围2行的边界像素进行滤波。
[0343]
这里，对预测块的边界像素进行滤波可以采用以上图11至图16中描述的方法。然而，在步骤s3007中，可以仅对属于预测块边界周围2行的像素进行滤波。
[0344]
当帧内预测模式(intrapredmode)既不是模式#2也不是模式#66时，解码器对与边界周围1行相对应的边界像素进行滤波(s3008)。
[0345]
这里，对预测块的边界像素进行滤波可以采用以上图17至图22中描述的方法。
[0346]
此外，在步骤s3004之后，在当前块的帧内预测模式(intrapredmode)是模式#2或模式#3到#10时，可以仅在当前块的宽度等于或小于边界滤波的最大块尺寸的情况下应用边界像素的滤波。也就是说，在当前块的宽度等于或小于边界滤波的最大块尺寸时，随后可以执行步骤s3005或s3008。
[0347]
此外，在步骤s3004之后，在当前块的帧内预测模式(intrapredmode)是模式#66或模式#59到#65时，可以仅在当前块的高度等于或小于边界滤波的最大块尺寸的情况下应用边界像素的滤波。也就是说，在当前块的高度等于或小于边界滤波的最大块尺寸的情况下，随后可以执行步骤s3005或s3008。
[0348]
图31是例示了根据本发明的实施方式的用于对预测块的边界像素进行滤波的方法的图。
[0349]
参照图31，当预测符滤波处理2开始时，解码器检查帧内预测模式(intrapredmode)是否是dc模式、大于模式#1且小于模式#11、或大于模式#58且小于等于模式#66(s3101)(即intrapredmode(dc)||1《intrapredmode《11||58《intrapredmode《＝66)。
[0350]
当帧内预测模式(intrapredmode)是dc模式，或者大于模式#1且小于模式#11，或者大于模式#58且小于等于模式#66时，解码器检查帧内预测模式(intrapredmode)是否是dc模式(s3102)。否则，解码器终止预测符滤波处理2。
[0351]
当在步骤s3102中帧内预测模式(intrapredmode)是dc模式时，解码器执行边界像素滤波(s3103)。预测块边界像素滤波如图7和图8中所例示的方法中那样执行。
[0352]
相反，当在步骤s3102中帧内预测模式(intrapredmode)不是dc模式时，解码器检查帧内预测模式(intrapredmode)是否是#2或#66(s3104)。
[0353]
当在步骤s3104中帧内预测模式(intrapredmode)是#2或#66时，解码器检查是否帧内预测模式(intrapredmode)是模式#2且块高度大于4或者是否帧内预测模式(intrapredmode)是模式#66且块宽度大于4(s3105)(即，(intrapredmode(2)&&blockheight》4)||(intrapredmode(66)&&blockwidth》4))。
[0354]
当在步骤s3105中帧内预测模式(intrapredmode)是模式#2且块高度大于4，或者帧内预测模式(intrapredmode)是模式#66且块宽度大于4时，解码器对属于预测块边界周围4行的边界像素进行滤波(s3106)。否则，解码器通过弱滤波器对属于预测块边界周围2行
的边界像素进行滤波(s3107)。
[0355]
这里，在步骤s3106中对预测块的边界像素进行滤波可以采用以上图11至图16中描述的方法。然而，在步骤s3107中，可以仅对属于预测块边界周围2行的像素进行滤波。
[0356]
当帧内预测模式(intrapredmode)既不是模式#2也不是模式#66时，解码器对与边界周围1行相对应的边界像素进行滤波(s3108)。
[0357]
这里，对预测块的边界像素进行滤波可以采用以上图17至图22中描述的方法。
[0358]
此外，在步骤s3104之后，在当前块的帧内预测模式(intrapredmode)是模式#2或模式#3到#10时，可以仅在当前块的宽度等于或小于边界滤波的最大块尺寸的情况下应用边界像素的滤波。也就是说，在当前块的宽度等于或小于边界滤波的最大块尺寸时，随后可以执行步骤s3105或s3108。
[0359]
此外，在步骤s3104之后，在当前块的帧内预测模式(intrapredmode)是模式#66或模式#59到#65时，可以仅在当前块的高度等于或小于边界滤波的最大块尺寸的情况下应用边界像素的滤波。也就是说，在当前块的高度等于或小于边界滤波的最大块尺寸的情况下，随后可以执行步骤s3105或s3108。
[0360]
图32是例示了根据本发明的实施方式的帧内预测方法的图。
[0361]
参照图32，解码器推导出当前块的帧内预测模式(s3201)。
[0362]
如以上图5中所描述的，帧内预测模式可以具有根据预测模式的针对用于预测的参考样本的位置的预测方向性，并且可以不具有方向性。此外，帧内预测模式可以被定义为总共35种模式或者被定义为总共67种模式。
[0363]
解码器可以检查当前块的邻近样本是否可以用于预测，并配置要用于预测的参考样本(s3202)。
[0364]
例如，帧内预测中当前块的邻近样本意味着邻近尺寸为ns
×
ns'的当前处理块的左边界和左下方的总共2
×
ns'个样本、邻近当前块的顶部边界和右上方的总共2
×
ns个样本、以及邻近当前块的左上方的一个样本。
[0365]
在这种情况下，当前处理块的一些邻近样本可能尚未被解码或可能不可用。在这种情况下，解码器可以通过用可用样本替换不可用样本，来配置要用于预测的参考样本。
[0366]
此外，解码器可以基于帧内预测模式对参考样本进行滤波。可以基于当前块的尺寸来确定是否对参考样本进行滤波。此外，参考样本的滤波方法可以由从编码器传送的滤波标志来确定。
[0367]
解码器通过使用参考样本来生成当前块的预测样本(s3203)。
[0368]
解码器根据当前块的帧内预测模式，通过使用邻近当前块的参考样本来生成当前块的预测样本。
[0369]
解码器对预测样本中与当前块的顶部边界和/或左边界相邻的样本进行滤波(s3204)。
[0370]
解码器可以使用以上图5至图31中描述的方法对与当前块的边界相邻的预测样本(即，预测块边界像素)进行滤波。
[0371]
如上所述，在当前块是非正方形块时，可以通过仅考虑当前块的宽度来确定是否对与当前块的顶部边界相邻的样本进行滤波，以及可以通过仅考虑当前块的高度来确定是否对与当前块的左边界相邻的样本进行滤波。
[0372]
例如，在当前块的帧内预测模式是dc模式时，可以在当前块的宽度等于或小于预定尺寸时，执行对与当前块的顶部边界相邻的样本的滤波，以及可以在当前块的高度等于或小于预定尺寸时，执行对与当前块的左边界相邻的样本的滤波。
[0373]
此外，在当前块的帧内预测模式的方向性属于基于水平帧内预测模式的预定范围时，可以在当前块的宽度等于或小于预定尺寸时，执行对与当前块的顶部边界相邻的样本的滤波。
[0374]
此外，在当前块的帧内预测模式的方向性属于基于垂直帧内预测模式的预定范围时，可以在当前块的高度等于或小于预定尺寸时，执行对与当前块的左边界相邻的样本的滤波。
[0375]
此外，在定义了总共67种帧内预测模式的帧内预测模式方法中，在当前块的帧内预测模式为模式#2时，可以在当前块的宽度等于或小于预定尺寸时执行对与当前块的顶部边界相邻的样本的滤波。在这种情况下，在当前块的高度大于4时，可以对属于与当前块的顶部边界相邻的四行的样本进行滤波。相反，在当前块的高度不大于4时，可以仅对属于与当前块的顶部边界相邻的两行的样本进行滤波。
[0376]
此外，在定义了总共67种帧内预测模式的帧内预测模式方法中，在当前块的帧内预测模式是模式#66时，可以在当前块的高度等于或小于预定尺寸时执行对与当前块的左边界相邻的样本的滤波。在这种情况下，在当前块的宽度大于4时，可以对属于与当前块的左边界相邻的四行的样本进行滤波。相反，在当前块的宽度不大于4时，可以仅对属于与当前块的左边界相邻的两行的样本进行滤波。
[0377]
图33是更具体地例示了根据本发明的实施方式的帧内预测单元的图。
[0378]
参照图33，帧内预测单元实现以上图5至图31中提出的功能、过程和/或方法。此外，帧内预测单元与以上图1中所例示的编码器的所有或一些元件组合以实现为编码装置或者与以上图2中所例示的解码器的所有或一些元件相结合以实现为解码装置。
[0379]
具体地，帧内预测单元可以被配置为包括预测模式推导单元3301、参考样本配置单元3302、预测样本生成单元3303和预测样本滤波单元3304。
[0380]
帧内预测模式推导单元3301推导出当前块的帧内预测模式。
[0381]
如以上图5中所描述的，帧内预测模式可以具有根据预测模式的针对用于预测的参考样本的位置的预测方向性，并且可以不具有方向性。此外，帧内预测模式可以被定义为总共35种模式或者被定义为总共67种模式。
[0382]
参考样本配置单元3302检查当前块的邻近样本是否可以用于预测，并配置要用于预测的参考样本。
[0383]
例如，帧内预测中当前块的邻近样本意味着邻近尺寸为ns
×
ns'的当前处理块的左边界和左下方的总共2
×
ns'个样本、邻近当前块的顶部边界和右上方的总共2
×
ns个样本、以及邻近当前块的左上方的一个样本。
[0384]
在这种情况下，当前处理块的一些邻近样本可能尚未被解码或可能不可用。在这种情况下，参考样本配置单元3302可以通过将不可用的样本替换为可用样本来配置要用于预测的参考样本。
[0385]
此外，参考样本配置单元3302可以基于帧内预测模式对参考样本进行滤波。可以基于当前块的尺寸来确定是否对参考样本进行滤波。此外，参考样本的滤波方法可以由从
编码器传送的滤波标志来确定。
[0386]
预测样本生成单元3303通过使用参考样本生成当前块的预测样本。
[0387]
预测样本生成单元3303根据当前块的帧内预测模式，通过使用邻近当前块的参考样本来生成当前块的预测样本。
[0388]
预测样本滤波单元3304对预测样本中与当前块的顶部边界和/或左边界相邻的样本进行滤波。
[0389]
预测样本滤波单元3304可以使用以上图5至图31中描述的方法对与当前块的边界相邻的预测样本(即，预测块边界像素)进行滤波。
[0390]
如上所述，在当前块是非正方形块时，预测样本滤波单元3304可以通过仅考虑当前块的宽度来确定是否对与当前块的顶部边界相邻的样本进行滤波，以及通过仅考虑当前块的高度来确定是否对与当前块的左边界相邻的样本进行滤波。
[0391]
例如，在当前块的帧内预测模式是dc模式时，预测样本滤波单元3304可以在当前块的宽度等于或小于预定尺寸时，执行对与当前块的上边界相邻的样本的滤波，以及在当前块的高度等于或小于预定尺寸时，执行对与当前块的左边界相邻的样本的滤波。
[0392]
此外，在当前块的帧内预测模式的方向性属于基于水平帧内预测模式的预定范围时，预测样本滤波单元3304可以在当前块的宽度等于或小于预定尺寸时，执行对与当前块的顶部边界相邻的样本的滤波。
[0393]
此外，在当前块的帧内预测模式的方向性属于基于垂直帧内预测模式的预定范围时，预测样本滤波单元3304可以在当前块的高度等于或小于预定尺寸时，执行对与当前块的左边界相邻的样本的滤波。
[0394]
此外，在定义了总共67种帧内预测模式的帧内预测模式方法中，在当前块的帧内预测模式为模式#2时，预测样本滤波单元3304可以在当前块的宽度等于或小于预定尺寸时执行对与当前块的顶部边界相邻的样本的滤波。在这种情况下，在当前块的高度大于4时，预测样本滤波单元3304可以对属于与当前块的顶部边界相邻的四行的样本进行滤波。相反，在当前块的高度不大于4时，预测样本滤波单元3304可以仅对属于与当前块的顶部边界相邻的两行的样本进行滤波。
[0395]
此外，在定义了总共67种帧内预测模式的帧内预测模式方法中，在当前块的帧内预测模式是模式#66时，预测样本滤波单元3304可以在当前块的高度等于或小于预定尺寸时执行对与当前块的左边界相邻的样本的滤波。在这种情况下，在当前块的宽度大于4时，预测样本滤波单元3304可以对属于与当前块的左边界相邻的四行的样本进行滤波。相反，在当前块的宽度不大于4时，预测样本滤波单元3304可以仅对属于与当前块的左边界相邻的两行的样本进行滤波。
[0396]
以上描述的实施方式是本发明的元件和特征的组合。除非另有提及，否则可以认为元件或特征是选择性的。每个元件或特征可以在不与其他元件或特征组合的情况下实施。此外，可以通过组合元件和/或特征中的一部分来构造本发明的实施方式。在本发明的实施方式中描述的操作顺序可以重新排列。任何一个实施方式的一些构造可以包括在另一个实施方式中，并且可以用另一个实施方式的相应构造代替。显然，提交申请之后，在所附权利要求中未明确引用的权利要求可以组合呈现来作为本发明的示例性实施方式，或者通过随后的修改作为新的权利要求包括进来。
[0397]
可以通过例如，硬件、固件、软件或其组合的各种手段来实现本发明的实施方式。在硬件配置中，根据本发明的实施方式的方法可以通过一个或更多个asic(专用集成电路)、dsp(数字信号处理器)、dspd(数字信号处理设备)、pld(可编程逻辑器件)、pga(现场可编程门阵列)、处理器、控制器、微控制器、微处理器等来实现。
[0398]
在固件或软件配置中，本发明的实施方式可以以模块、过程、功能等的形式实现。软件代码可以存储在存储器单元中并由处理器执行。存储器单元可以位于处理器的内部或外部，并且可以通过各种已知手段将数据发送到处理器以及从处理器接收数据。
[0399]
本领域技术人员将理解，在不脱离本发明的精神和基本特征的情况下，本发明可以以除了本文所提出之外的其他特定方式实施。因此，上述实施方式在所有方面都被解释为示例性的而非限制性的。本发明的范围应由所附权利要求及其合法等同物来确定，而不是由以上描述确定，并且落入所附权利要求的含义和等同范围内的所有变型都旨在包含在其中。
[0400]
工业实用性
[0401]
本发明的上述优选实施方式仅是示例性的，并非旨在代表本发明的所有方面，并且本领域技术人员应该理解，本发明将覆盖落入本发明的精神和范围内的所有变型、等同物和替代物。