一种帧内预测模式中快速划分方法、编码装置及存储介质与流程
本发明属于视频处理,特别涉及一种帧内预测模式中快速划分方法、编码装置及存储介质。
背景技术:
1、现有技术中,随着高清、超清视频应用需求的急剧增加,现有的视频编码技术已经无法满足。新技术h.265/hevc在保持相同视频质量的同时,将数据传输量减少约一半,并适应更大尺寸的视频,极大提升了编码效率。其核心技术包括块划分、预测技术、变换与量化、熵编码、环路滤波与去块效应处理、多参考帧与运动矢量预测,以及增强的语法结构。
2、h.265/hevc编码器可以灵活地进行cu划分。编码器面对cu块划分,通常使用rdo用于确定最佳的cu划分。整个图像被划分为多个ctu,每个ctu再被划分为多个cu,rdo通过计算不同划分方式的失真和码率代价,选择最优的划分方式。
3、cu划分是帧内预测乃是整个视频压缩编码过程的重要过程。h.265/hevc使用四叉树划分结构,cu划分结构有利于更精确的划分图像结构,更加高效的适配不同分辨率和不同特征的图像编解码。但其在提高编码质量的同时,也带来了巨大的计算复杂度,对编解码实现提出了更高的要求。因此,在设计快速算法时,通常需要针对实际应用场景,在编码质量和编码效率之间寻求平衡。
4、如图1所示,为现有技术中的常规划分:
5、1)开始:流程开始节点
6、2)输入pu8*8块
7、输入一个8x8大小的预测单元(pu)块
8、3)计算pu8块的rdcost
9、计算当前8x8 pu块的率失真代价(rdcost)
10、rdcost=失真(distortion)+λ×码率(rate)
11、其中λ是拉格朗日乘子
12、4)预划分为4个pu4子块
13、将8x8 pu块预划分为4个4x4的子块
14、5)计算pu4子块的rdcost
15、分别计算4个4x4子块的rdcost
16、汇总所有子块的rdcost得到总rdcost
17、6)子块rdcost比较
18、判断条件:子块总rdcost是否小于pu8块的rdcost
19、是:进入7)
20、否:进入8)
21、7)当前最优划分模式为pu4
22、选择4x4子块划分作为最优模式,进入9)
23、8)当前最优划分模式为pu8
24、保持8x8块划分作为最优模式,进入9)
25、9)结束:流程结束节点。
26、因此,现有技术中存在以下缺点:
27、在h.265/hevc编码器进行帧内测试时,pu4的数量要大于其他尺寸的pu,通过rdo判定pu8是否划分为pu4占用大量编码时间,严重影响编码效率,因此非常有必要加速pu8的划分。目前已经提出了许多快速cu划分方法来加速cu划分的编码过程,这些方法可以不同程度得减少编码时间,并且将失真控制在合理的范围内。但是这些方法通常是聚焦于尺寸较大的cu,由于小尺寸预测块梯度信息不足和过高的计算开销、比特率成本等方面限制,对于pu8划分为pu4这一过程的加速效果提升有限。
28、此外,本领域技术术语包括:
29、h.265/hevc:高效视频编码(也称为h.265)是一种旨在减小文件大小同时保持高质量画面的视频压缩标准协议。
30、ctu:是h.265/hevc中独立的编码单元,其尺寸可以为64x64、32x32、16x16。
31、cu:ctu中包含多个编码单元cu,其尺寸可以为64x64、32x32、16x16、8x8。
32、cu四叉树划分:为了适应图像纹理特性,h.265/hevc中,可以将ctu或cu等分成4个子cu;同时也可以不进行划分,更加灵活。
33、pu:一个编码单元(cu)可以根据预测模式的切割类型(splitting type)分割成一个、两个或是四个预测单元,pu只能是叶子节点。pu是进行共享预测信息的基本单元,cu到pu仅允许一层划分,最小的pu为4×4。rdcost:度量失真(distortion)和码率(bitrate)平衡的值,其公式为rdcost=d+λ×b
34、其中d和b分别为原像素值和经过编码解码后像素值的差值和编码当前块所需要的bit数,λ为拉格朗日系数。
35、平坦:cu块内所有像素无变化或变化幅度。
36、纹理:cu块内的物体表面的有规则或无规则的排列花纹或线条。
37、方差:描述数据样本中数据在均值上的波动情况,值越高波动越大,其公式为
38、
39、其中xi为第i个数据的值,为当前数据的均值,n为数据的数量。
技术实现思路
1、为了解决上述问题,本技术的目的在于:针对h.265/hevc编码器在帧内预测pu划分阶段,利用相邻均方误差和子块方差与残差,使用快速划分方法加速pu8划分为pu4这一过程,在保证计算开销和比特率等成本的情况下减少编码时间。
2、具体地,本发明提供一种hevc帧内预测模式中pu8快速划分的方法,所述方法是基于hevc帧内预测模式中pu8快速划分,包括以下步骤:
3、s1,获取目标预测单元pu的尺寸;
4、s2,当所述尺寸等于8时,计算所述pu块的相邻均方误差;
5、s3,若所述相邻均方误差小于第一阈值thnmse,则进一步计算所述pu8×8块的4个子块间方差;
6、s4,若所述子块间方差小于第二阈值thvar,则进一步计算所述4个子块间残差的方差;
7、s5,若所述子块间各残差的高值累加和小于第三阈值threres1或第四阈值threres2,则终止划分;否则,执行常规划分。
8、所述方法进一步包括:
9、s1,输入待划分的pu块,假设为pu8×8块;
10、s2,计算所述当前预测单元pu像素值的相邻均方误差nmsepu8,相邻均方误差的计算方式包括:
11、基于当前pu8×8块内像素差异计算均方误差,其中:
12、
13、n为当前pu的大小,p(a,b)表示pu内坐标为(a,b)点的亮度值,为结合(a,b)点和(a,b)点邻域的平均亮度值;
14、s3,根据所述相邻均方误差,确定目标划分模式;包括:
15、s3.1,若目标pu的相邻均方误差小于预设阈值thnmse,则提前终止划分模式判断;否则将继续执行;
16、s3.2,计算目标pu的四个子块之间的方差varpu4;所述子块间方差的计算方式包括:
17、将pu8×8块预划分为4个pu4×4子块,并计算各子块间的统计方差;varpu4计算如下:
18、varpu4=((avgsubpu0-avgpu8)2+(avgsuvpu1-avgpu8)2+
19、(avgsupu2-avgpu8)2+(avgsubpu3-avgpu8)2)/4
20、
21、avgsubpu0、avgsubpu1、avgsubpu2、avgsubpu3分别为四个pu4子块各自亮度的均值,avgpu8为pu8的均值;avgsubpu为子块均值,subpu为四个子块,n等于16,subpu(a,b)指subpu内坐标为(a,b)点的像素值;根据所述子块之间的方差,确定目标划分模式;
22、根据所述子块之间的方差,确定目标划分模式;
23、s4,根据所述子块之间的方差,确定目标划分模式;
24、s4.1,若目标pu子块间方差小于预设阈值thvar,则提前终止划分模式判断;否则将继续执行;thvar可设置为0-255,优选为20;
25、s4.2,计算pu子块间残差高值的累加和,这里的残差仅是指子块间像素值差值,不是运动补偿残差或变换残差,也并非是方差;
26、对所述4个子块的亮度残差分析;
27、具体计算方式如下:
28、
29、thre1和thre2是预设的残差的高值阈值,(a,b)为pu子块中对应坐标,resl-r、resrt-lb、rest-b、reslt-rb分别为0度、45度、90度、135度四个方向上的纹理相似度,其值越大代表子块间纹理越近似;pul、pur为pu8块的左侧两个子块与右侧两个子块;put、pub为pu8块的上方两个子块与下方两个子块;pult、purb为当前pu8块的左上子块与右下子块;purt、pulb为pu8块的右上子块与左下子块;
30、s5,根据所述子块间残差低值的累加和,确定目标划分模式;
31、若子块间残差的满足下列任意一个条件,则提前终止划分模式判断;否则将执行hevc常规划分模式;
32、具体判断条件如下:
33、resl-r 34、rest-b 35、peslt-rb 36、threres1和threres2为残差高值累计和的预设阈值。 37、所述步骤s2中,所述相邻均方误差反应了目标pu的平坦程度,进而反应目标pu的划分模式是否为最佳划分模式。 38、所述步骤s3.1中,所述目标pu的相邻均方误差的值越小代表其平坦程度越高,此时提前终止划分模式判断;所述步骤s3.2中,所述子块间方差反映了子块间的差异,进而反应目标pu的划分模式是否为最佳划分模式。 39、所述步骤s5中,进一步包括: 40、根据所述子块之间残差高值的累加和,确认是否继续划分;若子块间残差的满足下列任意一个条件,则提前终止划分模式判断:具体判断条件如下: 41、resl-r 42、rest-bh 43、reslt-rb 44、threres1和threres2为残差高值累计和的预设阈值(分别为80、120);若resl-r 45、本技术还涉及一种视频编码装置,所述装置包括处理器和存储器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述任一项所述的一种帧内预测模式中快速划分方法。 46、本技术还涉及一种计算机可读存储介质,所述存储介质存储有计算机指令,所述指令被处理器执行时实现上述任一项所述的一种帧内预测模式中快速划分方法。 47、由此,本方案的优势在于: 48、1、利用方差及残差的累加和等方式判断是否提前终止划分,计算复杂度较小,且有利于并行化实现。 49、2、使用相邻均方误差可以更好地反映局部纹理复杂度。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com