在去方块滤波中使用边界强度的制作方法

技术特征：
1.一种视频处理方法，包括：对于视频的当前视频块和所述视频的编解码表示之间的转换，基于规则确定应用于使用去方块滤波器的所述当前视频块的子块边界的边界强度；以及基于所述确定执行所述转换，其中所述规则规定，无论所述子块边界是否为变换块边界，所述边界强度都被设置为等于2。2.根据权利要求1所述的方法，其中所述规则规定，对于不是所述变换块边界的所述子块边界，将所述边界强度设置为等于2。3.根据权利要求1或2所述的方法，其中所述规则规定，使用组合帧间帧内预测(ciip)模式对沿所述边界的两个临近样点中的至少一个进行编解码。4.根据权利要求3所述的方法，其中基于帧间预测样点和帧内预测样点的加权和，使用所述ciip模式来导出预测样点。5.一种视频处理方法，包括：根据规则在视频的当前视频块和所述视频的编解码表示之间执行转换，其中，所述转换使用子块变换(sbt)工具，所述转换包括：在编码期间，将所述当前视频块分割为变换块(tb)并对所述tb应用tb级变换，或者在解码期间，对所述视频的所述编解码表示中的编解码样点应用tb级逆变换，其中，所述规则规定，在水平方向和/或垂直方向上跨越至少三个tb边界启用自适应滤波器。6.根据权利要求5所述的方法，其中所述至少三个tb边界包括所述变换块和所述当前视频块的编解码块边界之间的两个tb边界。7.根据权利要求6所述的方法，其中变换块的尺寸小于所述当前视频块的尺寸。8.根据权利要求6所述的方法，其中是否滤波所述编解码块边界取决于所述编解码块边界是否是所述当前视频块的子块之间的子块边界。9.一种视频处理方法，包括：对于视频的当前视频块和所述视频的编解码表示之间的转换，做出位于所述当前视频块边缘两侧的两个临近样点属于不具有非零变换系数水平的两个变换块的确定；基于所述第一确定，做出将所述当前块边缘的去方块滤波器强度设置为0的第二确定；以及使用所述第一确定和所述第二确定执行所述转换。10.根据权利要求9所述的方法，其中所述两个临近样点中的一个被编解码为几何预测模式，其中所述当前视频块被划分成子分割。11.根据权利要求9所述的方法，其中所述两个临近样点之间的运动矢量差大于阈值t，其中t是整数。12.根据权利要求9所述的方法，其中独立于与运动矢量相关的规则做出关于变换块边界处的所述滤波器强度的所述第二确定。13.一种视频处理方法，包括：使用解码器侧运动矢量细化(dmvr)工具在视频的当前视频块和所述视频的编解码表示之间执行转换；以及
对在所述转换期间生成的重构视频块应用去方块滤波器；其中，所述dmvr工具包括：使用通过细化所述编解码表示中的编解码的运动矢量而生成的细化的运动矢量、通过运动补偿生成所述重构视频块；其中，所述去方块滤波器的参数基于所述细化的运动矢量。14.根据权利要求13所述的方法，其中，所述当前视频块对应于由所述dmvr处理的编解码单元(cu)，并且使用所述当前视频块的子块的所述细化的运动矢量，在所述编解码单元内的子块边界处执行所述去方块处理。15.根据权利要求13所述的方法，其中，所述当前视频块对应于由所述dmvr处理的编解码单元(cu)，并且使用所述cu的信令通知的运动矢量，在cu边界处执行所述去方块处理。16.根据权利要求13所述的方法，其中，所述当前视频块对应于由所述dmvr处理的编解码单元(cu)，并且使用所述cu的信令通知的运动矢量和所述当前视频块的子块的所述细化的运动矢量，在cu边界处执行所述去方块处理。17.一种视频处理方法，包括：对于视频的当前视频块和所述视频的编解码表示之间的转换，基于规则确定用于去方块滤波处理的去方块滤波器强度；以及基于所述确定执行所述转换，并且其中，所述规则规定，所述去方块滤波器强度不取决于所述当前视频块的相邻块的预测模式。18.根据权利要求17所述的方法，其中所述特定编解码模式是帧内块复制(ibc)模式或帧间编解码模式，所述ibc模式使用指向包含所述当前视频块的视频帧的至少一个块矢量来生成预测块，所述帧间编解码模式包括使用时域相关性来表示或重构所述视频。19.根据权利要求17或18所述的方法，其中所述规则还规定，所述去方块滤波器强度取决于所述相邻块中的一个是否使用帧内模式编解码，所述帧内模式包括基于先前处理的视频块表示或重构所述视频。20.一种视频处理方法，包括：对于视频的当前视频块和所述视频的编解码表示之间的转换，基于取决于或独立于边界的类型的规则，确定是否将去方块滤波器应用于所述当前视频块的所述边界和/或在应用所述去方块滤波器的情况下要使用的去方块参数；以及基于所述确定执行所述转换。21.根据权利要求20所述的方法，其中所述边界的类型与所述边界是变换块边界或子块边界有关。22.根据权利要求20或21所述的方法，其中所述规则规定，针对所述变换块边界和所述子块边界，将所述去方块滤波器强度确定为不同的值。23.根据权利要求22所述的方法，其中变换块边界标志存储在第一阵列缓冲器中，并且子块边界标志存储在与所述第一阵列缓冲器不同的第二阵列缓冲器中。24.根据权利要求22所述的方法，其中基于变换系数确定所述变换块边界的所述去方块滤波器强度。25.根据权利要求22所述的方法，其中基于运动矢量、和/或位于所述边界两侧的两个临近像素之间的参考图片来确定所述子块边界的所述去方块滤波器强度。
26.根据权利要求22所述的方法，其中所述规则规定，在以下情况下将所述边界强度设置为等于1或2：1)所述边界是变换块边界，但不是所述子块边界；2)使用组合帧间帧内预测(ciip)模式编解码沿所述边界的两个临近样点中的至少一个，其中x为1或2。27.根据权利要求20所述的方法，其中所述去方块参数包括滤波器强度、滤波器长度或边界强度中的至少一个，并且其中，所述规则规定，对不同类型的所述边界使用相同的参数。28.一种视频处理方法，包括：对于视频的视频区域和所述视频的编解码表示之间的转换，确定在距离水平边界的n个样点的虚拟边界上不应用一个方向的去方块滤波器，其中n是大于0的整数；以及基于所述确定执行所述转换。29.根据权利要求28所述的方法，其中对于对应于亮度分量的所述视频区域，n是4，并且对于对应于色度分量的所述视频区域，n是2。30.根据权利要求28或29所述的方法，其中，所述确定确定不将水平方向的所述去方块滤波器应用于所述当前视频块的变换单元、编解码单元、预测单元或子块的边界、与所述虚拟边界重合的边界。31.根据权利要求28或29所述的方法，其中，所述确定确定将垂直方向的所述去方块滤波器应用于所述当前视频块的变换单元、编解码单元、预测单元或子块的边界、与所述虚拟边界重合的边界。32.一种视频处理方法，包括：对于视频的视频区域和所述视频的编解码表示之间的转换，基于规则确定是否以及如何使用去方块滤波器在去方块处理期间剪裁样点的值，所述规则取决于要由所述去方块滤波器滤波的边界是否与距离所述视频区域的水平边界n个样点的虚拟边界重合，其中n是大于0的整数；以及基于所述确定执行所述转换。33.根据权利要求32所述的方法，其中所述规则规定，通过使用所述去方块滤波器将值为(p)的所述样点修改为不同的值(p’)，其中p’＝p d’，并且d’＝clip3(t1，t2，d)，其中是d在所述转换期间中导出的，并且其中[t1，t2]是剪裁范围，其中t1和t2是整数。34.根据权利要求33所述的方法，其中t1或t2取决于是否将所述去方块滤波器应用于所述虚拟边界。35.根据权利要求33或34所述的方法，其中t1＝-2
n
并且t2＝2
n-1，其中n是整数。36.根据权利要求35所述的方法，其中n取决于颜色分量和/或样点比特深度。37.一种视频处理方法，包括：根据规则确定用于视频的当前视频块和所述视频的编解码表示之间的转换的编解码工具；以及根据所述编解码工具执行所述转换，其中，所述规则规定，子块变换(sbt)工具与基于子块的编解码模式互斥地使用。38.根据权利要求37所述的方法，其中，所述基于子块的编解码模式包括仿射编解码模式或sbtmvp(子块时域运动矢量预测器)模式。39.根据权利要求37或38所述的方法，其中，所述编解码表示不包括由于所述规则而排
除的所述基于子块的编解码模式的语法元素。40.一种视频处理方法，包括：对于根据帧内子块分割(isp)模式的使用而被划分成子分割的当前视频块，确定对所述当前视频块的两个子分割之间的边界应用去方块滤波器；以及基于所述确定，执行视频的所述当前视频块和所述视频的编解码表示之间的转换。41.根据权利要求40所述的方法，其中在x满足x＝m*p offset和/或x<w的情况下，用所述去方块滤波器滤波所述当前视频块的所述两个子分割之间的列x处的垂直边界，其中offset、m和p是正整数，并且w是所述当前视频块的宽度。42.根据权利要求40所述的方法，其中在y满足y＝m*p offset和/或y<h的情况下，用所述去方块滤波器滤波所述当前视频块的所述两个子分割之间的y行处的水平边界，其中offset、m和p是正整数，并且h是所述当前视频块的高度。43.一种视频处理方法，包括：对于使用几何预测模式编解码的当前视频块，确定将去方块滤波器应用于所述当前视频块的两个mxn区域之间的边界，其中所述当前视频块被划分为子分割，其中m和n是整数；以及基于所述确定执行视频的所述当前视频块和所述视频的编解码表示之间的转换。44.根据权利要求43所述的方法，其中mxn等于4x4或8x8。45.一种视频处理方法，包括：对于包括视频块的视频和所述视频的编解码表示之间的转换，确定由于两个相邻视频块中的至少一个使用几何预测模式编解码，将去方块滤波器应用于所述两个相邻视频块之间的边界，其中所述两个相邻视频块中的至少一个被划分为子分割；以及基于所述确定执行所述转换。46.一种视频处理方法，包括：对于视频的当前视频块和所述视频的编解码表示之间的转换，基于所述规则确定在滤波处理中使用的滤波参数；以及基于所述确定执行所述转换，其中，所述规则规定，所述滤波参数取决于i)在运动补偿处理中使用的运动信息，ii)存储在运动存储器中的运动信息，或者iii)在运动矢量预测处理中使用的运动信息。47.根据权利要求46所述的方法，其中，所述规则规定，所述滤波处理基于用几何预测模式编解码的所述当前视频块的所述运动补偿处理中使用的所述运动信息，其中，所述两个相邻视频块中的至少一个被划分成子分割。48.根据权利要求47所述的方法，其中，所述规则还规定，使用在去方块滤波器强度推导处理和/或去方块边界滤波强度设置期间在所述运动补偿处理中使用的运动矢量。49.根据权利要求47所述的方法，其中所述规则还规定，所述当前视频块的存储hxh运动矢量不用于去方块边界滤波强度设置，其中h是大于0的整数。50.根据权利要求47所述的方法，其中所述规则取决于解码信息和/或块维度。51.一种视频处理方法，包括：执行视频和所述视频的编解码表示之间的转换，并且其中，所述编解码表示符合格式规则，
其中，所述格式规则规定是否基于色度格式、与色度分量相关联的编解码模式或色度信息语法元素在所述编解码表示中包括指示色度分量的色度语法元素。52.根据权利要求51所述的方法，其中所述色度语法元素是在根据色度格式采样结构或色度信息语法元素在图片参数集中有条件地信令通知的cb/cr标志。53.根据权利要求51所述的方法，其中，如果chromaarraytype等于真，则信令通知称为x的所述色度语法元素。54.根据权利要求51或52所述的方法，其中，仅针对单色格式的所述色度格式信令通知称为x的所述色度语法元素。55.根据权利要求51或52所述的方法，其中，仅针对4:4:4的所述色度格式、且当单独的颜色标志设置为1时才信令通知称为x的所述色度语法元素。56.根据权利要求51或52所述的方法，其中，仅针对设置为1的所述色度信息语法元素信令通知称为x的所述色度语法元素。57.根据权利要求52-56中任一项所述的方法，其中x是i)pps_cb_qp_offset或ii)pps_cr_qp_offset或iii)pps_joint_cbcr_qp_offset或iv)cu_chroma_qp_offset_enabled_flag或v)pps_slice_chroma_qp_offsets_present_flag。58.根据权利要求1-57中任一项所述的方法，其中所述转换的执行包括从所述当前视频块生成所述编解码表示。59.根据权利要求1-57中任一项所述的方法，其中所述转换的执行包括从所述编解码表示生成所述当前视频块。60.一种视频处理装置，其包括处理器，所述处理器被配置为实现权利要求1-59中任一项或多项所述的方法。61.一种存储程序代码的计算机可读介质，当执行时，所述程序代码使处理器实现权利要求1-59中任一项或多项所述的方法。

技术总结
描述了一种视频处理方法。该方法包括：对于视频的当前视频块和所述视频的编解码表示之间的转换，基于规则确定应用于使用去方块滤波器的所述当前视频块的子块边界的边界强度；以及基于所述确定执行所述转换，其中所述规则规定，无论所述子块边界是否为变换块边界，所述边界强度都被设置为等于2。述边界强度都被设置为等于2。述边界强度都被设置为等于2。


技术研发人员：邓智玭 张莉 张凯 刘鸿彬
受保护的技术使用者：字节跳动有限公司
技术研发日：2020.08.24
技术公布日：2022/4/1