使用线性模型进行帧内预测的方法及装置与流程

技术特征：
1.一种使用线性模型执行帧内预测的方法，其特征在于，所述方法包括：根据色度格式信息，确定下采样滤波器集合，其中，所述色度格式信息表示当前块所属图像的色度格式；使用所述下采样滤波器集合中的各个下采样滤波器，获取所述当前块的亮度块中的重建亮度样本的下采样后亮度样本和所述亮度块的选定亮度参考样本的下采样后亮度参考样本；根据所述下采样后亮度参考样本和与所述下采样后亮度参考样本对应的色度参考样本，确定一个或多个线性模型系数；根据所述一个或多个线性模型系数和所述亮度块中的重建亮度样本的下采样后亮度样本，获取与所述亮度块对应的色度块的预测样本。2.根据权利要求1所述的方法，其特征在于，所述根据色度格式信息，确定下采样滤波器集合包括：根据所述色度格式信息，确定水平方向和垂直方向的子采样比信息；根据所述子采样比信息，确定所述下采样滤波器集合。3.根据权利要求1所述的方法，其特征在于，当所述色度格式为4:2:0色度格式时，将第一下采样滤波器集合用于所述当前块的亮度块；当所述色度格式为4:2:2色度格式时，将第二下采样滤波器集合用于所述当前块的亮度块；或者当所述色度格式为4:4:4色度格式时，将第三下采样滤波器集合用于所述当前块的亮度块。4.根据权利要求1至3中任一项所述的方法，其特征在于，当子采样后色度样本与所述当前块中的对应亮度样本并置时，所述使用所述下采样滤波器集合中的各个下采样滤波器，获取所述当前块的亮度块中的重建亮度样本的下采样后亮度样本和所述亮度块的选定亮度参考样本的下采样后亮度参考样本包括：通过将第一下采样滤波器应用于第一重建亮度样本集合，获取所述亮度块中的重建亮度样本的下采样后亮度样本，其中，所述第一重建亮度样本集合包括位置与所述重建亮度样本的位置水平和/或垂直相邻的重建亮度样本；通过将所述第一下采样滤波器应用于第二重建亮度样本集合，获取至少一个选定参考亮度样本的下采样后亮度参考样本，其中，所述第二重建亮度样本集合包括位置与所述选定参考亮度样本的位置水平和/或垂直相邻的重建亮度样本，所述第一下采样滤波器选自所述下采样滤波器集合。5.根据权利要求1至3中任一项所述的方法，其特征在于，当子采样后色度样本不与所述当前块中的对应亮度样本并置时，所述使用所述下采样滤波器集合中的各个下采样滤波器，获取所述当前块的亮度块中的重建亮度样本的下采样后亮度样本和所述亮度块的选定亮度参考样本的下采样后亮度参考样本包括：通过将第二下采样滤波器应用于第三重建亮度样本集合，获取所述亮度块中的重建亮
度样本的下采样后亮度样本，其中，所述第三重建亮度样本集合包括位置与所述重建亮度样本的位置水平和/或垂直相邻的重建亮度样本；通过将所述第二下采样滤波器应用于第四重建亮度样本集合，获取至少一个选定参考亮度样本的下采样后亮度参考样本，其中，所述第四重建亮度样本集合包括位置与所述选定参考亮度样本的位置水平和/或垂直相邻的重建亮度样本，所述第二下采样滤波器选自所述下采样滤波器集合。6.根据权利要求4所述的方法，其特征在于，当所述子采样后色度样本的色度样本类型包括以下任一种类型时，所述子采样后色度样本与所述当前块中的对应亮度样本并置：色度样本类型2，或者色度样本类型4。7.根据权利要求5所述的方法，其特征在于，当所述子采样后色度样本的色度样本类型包括以下任一种类型时，所述子采样后色度样本不与所述当前块中的对应亮度样本并置：色度样本类型0，色度样本类型1，色度样本类型3，或者色度样本类型5。8.根据权利要求1至7中任一项所述的方法，其特征在于，如果满足包括所述色度格式为4:4:4色度格式的至少一个条件，则所述下采样滤波器集合包括旁路滤波器；或者如果满足包括所述色度格式为4:2:0色度格式的至少一个条件，则所述下采样滤波器集合包括滤波器集合{f2，f3，f5，f6}，其中f3[0]＝1，f3[1]＝2，f3[2]＝1，f5[i][j]＝f6[i][j]＝0，其中，i＝0..2，j＝0..2，f5[0][1]＝1，f5[1][1]＝4，f5[2][1]＝1，f5[1][0]＝1，f5[1][2]＝1，f6[0][1]＝1，f6[1][1]＝2，f6[2][1]＝1，f6[0][2]＝1，f6[1][2]＝2，f6[2][2]＝1，f2[0]＝1，f2[1]＝1；或者如果满足包括所述色度格式为4:2:2色度格式的至少一个条件，则所述下采样滤波器集合包括滤波器集合{f2，f3，f5，f6}，其中f3[0]＝1，f3[1]＝2，f3[2]＝1，f5[i][j]＝f6[i][j]＝0，其中，i＝0..2，j＝0..2，f5[0][1]＝0，f5[1][1]＝8，f5[2][1]＝0，f5[1][0]＝0，f5[1][2]＝0，f6[0][1]＝2，f6[1][1]＝4，f6[2][1]＝2，f6[0][2]＝0，f6[1][2]＝0，f6[2][2]＝0，f2[0]＝2，f2[1]＝0。9.根据权利要求2至7中任一项所述的方法，其特征在于，所述水平方向和垂直方向的子采样比信息分别由变量subwidthc和subheightc的值表示；如果满足包括subwidthc＝＝2且subheightc＝＝2的至少一个条件，则所述下采样滤波器集合包括滤波器集合{f2，f3，f5，f6}，其中
f3[0]＝1，f3[1]＝2，f3[2]＝1，f5[i][j]＝f6[i][j]＝0，其中，i＝0..2，j＝0..2，f5[0][1]＝1，f5[1][1]＝4，f5[2][1]＝1，f5[1][0]＝1，f5[1][2]＝1，f6[0][1]＝1，f6[1][1]＝2，f6[2][1]＝1，f6[0][2]＝1，f6[1][2]＝2，f6[2][2]＝1，f2[0]＝1，f2[1]＝1；如果满足包括subwidthc＝＝2且subheightc＝＝1的至少一个条件，则所述下采样滤波器集合包括滤波器集合{f2，f3，f5，f6}，其中f3[0]＝1，f3[1]＝2，f3[2]＝1，f5[i][j]＝f6[i][j]＝0，其中，i＝0..2，j＝0..2，f5[0][1]＝0，f5[1][1]＝8，f5[2][1]＝0，f5[1][0]＝0，f5[1][2]＝0，f6[0][1]＝2，f6[1][1]＝4，f6[2][1]＝2，f6[0][2]＝0，f6[1][2]＝0，f6[2][2]＝0，f2[0]＝2，f2[1]＝0。10.根据权利要求1至9中任一项所述的方法，其特征在于，所述选定亮度参考样本包括以下项中的至少一项：所述亮度块上方的根据l个可用色度参考样本选择的相邻亮度样本，或者所述亮度块左侧的根据l个可用色度参考样本选择的相邻亮度样本。11.根据权利要求10所述的方法，其特征在于，当使用lm模式且上方和左侧相邻样本都可用时，所述可用色度参考样本的位置表示为s[w'/4,
–
1]、s[3w'/4,
–
1]、s[
–
1,h'/4]和s[
–
1,3h'/4]；当使用lm
‑
a模式或只有上方相邻样本可用时，所述可用色度参考样本的位置表示为s[w'/8,
–
1]、s[3w'/8,
–
1]、s[5w'/8,
–
1]和s[7w'/8,
–
1]；或者当使用lm
‑
l模式或只有左侧相邻样本可用时，所述可用色度参考样本的位置表示为s[
–
1,h'/8]、s[
–
1,3h'/8]、s[
–
1,5h'/8]和s[
–
1,7h'/8]；所述色度块的尺寸为w
×
h，w'和h'根据以下情况进行设置：当使用所述lm模式时，w'＝w，h'＝h；当使用所述lm
‑
a模式时，w'＝w h；当使用所述lm
‑
l模式时，h'＝h w。12.根据权利要求1至11中任一项所述的方法，其特征在于，所述根据所述选定亮度参考样本的下采样后亮度参考样本和与所述下采样后亮度参考样本对应的色度参考样本，确定一个或多个线性模型系数包括：根据所述下采样后亮度参考样本，确定最大亮度值和最小亮度值；至少部分根据与所述最大亮度值相关的一个或多个下采样后亮度参考样本的一个或多个位置，获取第一色度值；至少部分根据与所述最小亮度值相关的一个或多个下采样后亮度参考样本的一个或多个位置，获取第二色度值；根据所述第一色度值、所述第二色度值、所述最大亮度值和所述最小亮度值，计算所述一个或多个线性模型系数。
13.一种使用线性模型进行帧内预测的装置，其特征在于，所述装置包括：确定单元，用于根据色度格式信息，确定下采样滤波器集合，其中，所述色度格式信息表示当前块所属图像的色度格式；滤波单元，用于使用所述下采样滤波器集合中的各个下采样滤波器，获取所述当前块的亮度块中的重建亮度样本的下采样后亮度样本和所述亮度块的选定亮度参考样本的下采样后亮度参考样本；线性模型推导单元，用于根据所述下采样后亮度参考样本和与所述下采样后亮度参考样本对应的色度参考样本，确定一个或多个线性模型系数；预测处理单元，用于根据所述一个或多个线性模型系数和所述亮度块中的所述重建亮度样本的所述下采样后亮度样本，获取与所述亮度块对应的色度块的预测样本。14.根据权利要求13所述的装置，其特征在于，所述确定单元用于：根据所述色度格式信息，确定水平方向和垂直方向的子采样比信息；根据所述子采样比信息，确定所述下采样滤波器集合。15.根据权利要求13所述的装置，其特征在于，当所述色度格式为4:2:0色度格式时，将第一下采样滤波器集合用于所述当前块的所述亮度块；当所述色度格式为4:2:2色度格式时，将第二下采样滤波器集合用于所述当前块的所述亮度块；或者当所述色度格式为4:4:4色度格式时，将第三下采样滤波器集合用于所述当前块的所述亮度块。16.根据权利要求13至15中任一项所述的装置，其特征在于，当子采样后色度样本与所述当前块中的对应亮度样本并置时，所述滤波单元用于：通过将第一下采样滤波器应用于第一重建亮度样本集合，获取所述亮度块中的重建亮度样本的下采样后亮度样本，其中，所述第一重建亮度样本集合包括位置与所述重建亮度样本的位置水平和/或垂直相邻的重建亮度样本；通过将所述第一下采样滤波器应用于第二重建亮度样本集合，获取至少一个选定参考亮度样本的下采样后亮度参考样本，其中，所述第二重建亮度样本集合包括位置与所述选定参考亮度样本的位置水平和/或垂直相邻的重建亮度样本，所述第一下采样滤波器选自所述下采样滤波器集合。17.根据权利要求13至15中任一项所述的装置，其特征在于，当子采样后色度样本不与所述当前块中的对应亮度样本并置时，所述滤波单元用于：通过将第二下采样滤波器应用于第三重建亮度样本集合，获取所述亮度块中的重建亮度样本的下采样后亮度样本，其中，所述第三重建亮度样本集合包括位置与所述重建亮度样本的位置水平和/或垂直相邻的重建亮度样本；通过将所述第二下采样滤波器应用于第四重建亮度样本集合，获取至少一个选定参考亮度样本的下采样后亮度参考样本，其中，所述第四重建亮度样本集合包括位置与所述选定参考亮度样本的位置水平和/或垂直相邻的重建亮度样本，所述第二下采样滤波器选自所述下采样滤波器集合。18.根据权利要求16所述的装置，其特征在于，当所述子采样后色度样本的色度样本类
型包括以下任一种类型时，所述子采样后色度样本与所述当前块中的对应亮度样本并置：色度样本类型2，或者色度样本类型4。19.根据权利要求17所述的装置，其特征在于，当所述子采样后色度样本的色度样本类型包括以下任一种类型时，所述子采样后色度样本不与所述当前块中的对应亮度样本并置：色度样本类型0，色度样本类型1，色度样本类型3，或者色度样本类型5。20.根据权利要求13至19中任一项所述的装置，其特征在于，所述确定单元用于确定所述下采样滤波器集合，其中如果满足包括所述色度格式为4:4:4色度格式的至少一个条件，则所述下采样滤波器集合包括旁路滤波器；或者如果满足包括所述色度格式为4:2:0色度格式的至少一个条件，则所述下采样滤波器集合包括滤波器集合{f2，f3，f5，f6}，其中f3[0]＝1，f3[1]＝2，f3[2]＝1，f5[i][j]＝f6[i][j]＝0，其中，i＝0..2，j＝0..2，f5[0][1]＝1，f5[1][1]＝4，f5[2][1]＝1，f5[1][0]＝1，f5[1][2]＝1，f6[0][1]＝1，f6[1][1]＝2，f6[2][1]＝1，f6[0][2]＝1，f6[1][2]＝2，f6[2][2]＝1，f2[0]＝1，f2[1]＝1；或者如果满足包括所述色度格式为4:2:2色度格式的至少一个条件，则所述下采样滤波器集合包括滤波器集合{f2，f3，f5，f6}，其中f3[0]＝1，f3[1]＝2，f3[2]＝1，f5[i][j]＝f6[i][j]＝0，其中，i＝0..2，j＝0..2，f5[0][1]＝0，f5[1][1]＝8，f5[2][1]＝0，f5[1][0]＝0，f5[1][2]＝0，f6[0][1]＝2，f6[1][1]＝4，f6[2][1]＝2，f6[0][2]＝0，f6[1][2]＝0，f6[2][2]＝0，f2[0]＝2，f2[1]＝0。21.根据权利要求14至19中任一项所述的装置，其特征在于，所述水平方向和垂直方向的子采样比信息分别由变量subwidthc和subheightc的值表示；所述确定单元用于确定所述下采样滤波器集合，其中如果满足包括subwidthc＝＝2且subheightc＝＝2的至少一个条件，则所述下采样滤波器集合包括滤波器集合{f2，f3，f5，f6}，其中f3[0]＝1，f3[1]＝2，f3[2]＝1，f5[i][j]＝f6[i][j]＝0，其中，i＝0..2，j＝0..2，f5[0][1]＝1，f5[1][1]＝4，f5[2][1]＝1，f5[1][0]＝1，f5[1][2]＝1，f6[0][1]＝1，f6[1][1]＝2，f6[2][1]＝1，
f6[0][2]＝1，f6[1][2]＝2，f6[2][2]＝1，f2[0]＝1，f2[1]＝1；如果满足包括subwidthc＝＝2且subheightc＝＝1的至少一个条件，则所述下采样滤波器集合包括滤波器集合{f2，f3，f5，f6}，其中f3[0]＝1，f3[1]＝2，f3[2]＝1，f5[i][j]＝f6[i][j]＝0，其中，i＝0..2，j＝0..2，f5[0][1]＝0，f5[1][1]＝8，f5[2][1]＝0，f5[1][0]＝0，f5[1][2]＝0，f6[0][1]＝2，f6[1][1]＝4，f6[2][1]＝2，f6[0][2]＝0，f6[1][2]＝0，f6[2][2]＝0，f2[0]＝2，f2[1]＝0。22.根据权利要求13至21中任一项所述的装置，其特征在于，所述选定亮度参考样本包括以下项中的至少一项：所述亮度块上方的根据l个可用色度参考样本选择的相邻亮度样本，或者所述亮度块左侧的根据l个可用色度参考样本选择的相邻亮度样本。23.根据权利要求22所述的装置，其特征在于，当使用lm模式且上方和左侧相邻色度样本都可用时，所述可用色度参考样本的位置表示为s[w'/4,
–
1]、s[3w'/4,
–
1]、s[
–
1,h'/4]和s[
–
1,3h'/4]；当使用lm
‑
a模式或只有上方相邻色度样本可用时，所述可用色度参考样本的位置表示为s[w'/8,
–
1]、s[3w'/8,
–
1]、s[5w'/8,
–
1]和s[7w'/8,
–
1]；或者当使用lm
‑
l模式或只有左侧相邻色度样本可用时，所述可用色度参考样本的位置表示为s[
–
1,h'/8]、s[
–
1,3h'/8]、s[
–
1,5h'/8]和s[
–
1,7h'/8]；所述色度块的尺寸为w
×
h，w'和h'根据以下情况进行设置：当使用所述lm模式时，w'＝w，h'＝h；当使用所述lm
‑
a模式时，w'＝w h；当使用所述lm
‑
l模式时，h'＝h w。24.根据权利要求13至23中任一项所述的装置，其特征在于，所述线性模型推导单元用于：根据所述下采样后亮度参考样本，确定最大亮度值和最小亮度值；至少部分根据与所述最大亮度值相关的一个或多个下采样后亮度参考样本的一个或多个位置，获取第一色度值；至少部分根据与所述最小亮度值相关的一个或多个下采样后亮度参考样本的一个或多个位置，获取第二色度值；根据所述第一色度值、所述第二色度值、所述最大亮度值和所述最小亮度值，计算所述一个或多个线性模型系数。25.一种编码器(20)，其特征在于，所述编码器(20)包括处理电路，所述处理电路用于执行根据权利要求1至12中任一项所述的方法。26.一种解码器(30)，其特征在于，所述解码器(30)包括处理电路，所述处理电路用于执行根据权利要求1至12中任一项所述的方法。27.一种计算机程序产品，其特征在于，所述计算机程序产品包括程序代码，所述程序代码用于执行根据权利要求1至12中任一项所述方法。28.一种包括程序代码的非瞬时性计算机可读存储介质，其特征在于，所述程序代码在由计算机设备执行时，使得所述计算机设备执行根据权利要求1至12中任一项所述的方法。
29.一种解码器，其特征在于，所述解码器包括：一个或多个处理器；非瞬时性计算机可读存储介质，与所述一个或多个处理器耦合并存储由所述一个或多个处理器执行的程序，其中，所述程序在由所述一个或多个处理器执行时，配置所述解码器执行根据权利要求1至12中任一项所述的方法。30.一种编码器，其特征在于，所述编码器包括：一个或多个处理器；非瞬时性计算机可读存储介质，与所述一个或多个处理器耦合并存储由所述一个或多个处理器执行的程序，其中，所述程序在由所述一个或多个处理器执行时，配置所述编码器执行根据权利要求1至12中任一项所述的方法。

技术总结
本发明涉及图像处理领域。本发明尤其涉及使用跨分量线性模型(cross component linear model，CCLM)改进帧内预测(例如色度帧内预测)，更具体地，涉及在跨分量线性模型中使用空间滤波以在不同的色度格式下进行帧内预测。本发明提供一种对图像进行跨分量预测的装置、编码器、解码器及对应方法。在所述预测的过程中使用的下采样滤波器集合取决于色度格式，所述色度格式可以是多种支持的色度格式之一。本发明旨在提高译码效率。明旨在提高译码效率。明旨在提高译码效率。


技术研发人员：阿列克谢
受保护的技术使用者：华为技术有限公司
技术研发日：2020.02.24
技术公布日：2021/10/22