一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

图像质量评估方法、装置、电子设备及存储介质与流程

2022-05-17 23:09:57 来源:中国专利 TAG:


1.本发明涉及图像处理技术领域,特别是涉及一种图像质量评估方法、装置、电子设备及存储介质。


背景技术:

2.随着多媒体技术和互联网技术的发展,图像成为媒体信息传播的主要形式。然而在实际生活中,由于拍摄环境、设备限制或者网络传播失真等因素的影响,图像在生成过程或者媒体传播过程中的清晰度、画质等参差不齐,从而影响观看体验,因而有必要对图像进行客观的质量评估。
3.相关技术中,对图像进行质量评估一般需要对图像进行卷积运算,例如采用ssim(structural similarity,结构相似性)、psnr(peak signal to noise ratio,峰值信噪比)等指标来对图像的质量进行评估。卷积运算一般基于卷积核进行,然而,终端一般会基于当前需求的运算精度来进行卷积运算,当卷积核中卷积系数的有效位数与终端的运算精度不匹配时,终端可能会直接在运算时将卷积系数进行截断处理,导致卷积运算的结果产生偏差,降低了图像质量评估的准确性。


技术实现要素:

4.以下是对本文详细描述的主题的概述。本概述并非是为了限制权利要求的保护范围。
5.本发明实施例提供了一种图像质量评估方法、装置、电子设备及存储介质,能够提高图像质量评估的准确性。
6.一方面,本发明实施例提供了一种图像质量评估方法,包括:获取样本图像;获取待处理卷积核,根据预设位数阈值减小所述待处理卷积核中卷积系数的有效位数,得到修正卷积核;基于所述修正卷积核对所述样本图像进行卷积运算,得到像素均值矩阵;根据所述像素均值矩阵得到所述样本图像的样本质量评估数据;确定所述样本质量评估数据的误差值,当所述误差值小于或者等于预设误差阈值,将所述修正卷积核确定为目标卷积核;获取目标图像,基于所述目标卷积核确定所述目标图像的目标质量评估数据。
7.另一方面,本发明实施例还提供了一种图像质量评估装置,包括:样本图像获取模块,用于获取样本图像;卷积核修正模块,用于获取待处理卷积核,减小所述待处理卷积核中卷积系数的有效位数,得到修正卷积核;卷积运算模块,用于基于所述修正卷积核对所述样本图像进行卷积运算,得到像素均值矩阵;
第一质量评估模块,用于根据所述像素均值矩阵得到所述样本图像的样本质量评估数据;卷积核确定模块,用于确定所述样本质量评估数据的误差值,当所述误差值小于或者等于预设误差阈值,将所述修正卷积核确定为目标卷积核;第二质量评估模块,用于获取目标图像,基于所述目标卷积核确定所述目标图像的目标质量评估数据。
8.进一步,上述卷积核修正模块具体用于:根据预设的遍历顺序从所述待处理卷积核的卷积系数中确定当前遍历的第一卷积系数,根据所述第一卷积系数从所述待处理卷积核的卷积系数中确定目标卷积系数;根据预设位数阈值减小所述目标卷积系数的有效位数,得到修正卷积核。
9.进一步,上述卷积核修正模块具体用于:确定所述第一卷积系数在所述待处理卷积核中的位置信息;根据所述位置信息以及所述第一卷积系数的位置对称关系,从所述待处理卷积核的卷积系数中确定目标卷积系数。
10.进一步,上述卷积核修正模块具体用于:当所述位置信息表征所述第一卷积系数位于除所述待处理卷积核的中间行和中间列以外的其他位置,从所述待处理卷积核中确定与所述第一卷积系数基于所述中间列对称的第二卷积系数,从所述待处理卷积核中确定与所述第一卷积系数基于所述中间行对称的第三卷积系数;从所述待处理卷积核中确定与所述第二卷积系数基于所述中间行对称的第四卷积系数或者从所述待处理卷积核中确定与所述第三卷积系数基于所述中间列对称的第四卷积系数;将所述第一卷积系数、所述第二卷积系数、所述第三卷积系数和所述第四卷积系数作为目标卷积系数。
11.进一步,上述卷积核修正模块具体用于:当所述位置信息表征所述第一卷积系数位于所述待处理卷积核的中间列和中间行,将所述第一卷积系数作为目标卷积系数;当所述位置信息表征所述第一卷积系数位于所述待处理卷积核的中间行但不位于所述待处理卷积核的中间列,从所述待处理卷积核中确定与所述第一卷积系数基于所述中间列对称的第二卷积系数,根据所述第一卷积系数在所述中间行的位置从所述中间列中确定第五卷积系数和第六卷积系数,将所述第一卷积系数、所述第二卷积系数、所述第五卷积系数和所述第六卷积系数作为目标卷积系数;当所述位置信息表征所述第一卷积系数位于所述待处理卷积核的中间列但不位于所述待处理卷积核的中间行,从所述待处理卷积核中确定与所述第一卷积系数基于所述中间行对称的第三卷积系数,根据所述第一卷积系数在所述中间列的位置从所述中间行中确定第七卷积系数和第八卷积系数,将所述第一卷积系数、所述第三卷积系数、所述第七卷积系数和所述第八卷积系数作为目标卷积系数。
12.进一步,上述卷积核修正模块具体用于:根据预设位数阈值从所述目标卷积系数中确定目标数值;
根据所述目标数值对所述目标卷积系数进行进位处理,得到修正卷积核。
13.进一步,上述第一质量评估模块具体用于:提取所述样本图像的像素强度矩阵;根据所述像素强度矩阵和所述像素均值矩阵得到标准差矩阵;根据所述像素强度矩阵与所述像素均值矩阵之间的差值得到残差矩阵;根据所述残差矩阵和所述标准差矩阵之间的商值得到均值对比度归一化系数矩阵;根据所述均值对比度归一化系数矩阵得到所述样本图像的样本质量评估数据。
14.进一步,上述第一质量评估模块具体用于:对所述均值对比度归一化系数矩阵进行高斯分布拟合处理,得到拟合形状特征值、拟合均值、拟合左标准差值和拟合右标准差值;将所述拟合形状特征值、所述拟合均值、所述拟合左标准差值和所述拟合右标准差值输入至预先训练好的质量评估模型,得到样本质量评估数据。
15.进一步,上述第一质量评估模块具体用于:确定所述均值对比度归一化系数矩阵的正数系数个数、负数系数个数、正数系数平方和、负数系数平方和以及系数绝对值和;根据所述正数系数个数、所述负数系数个数、所述正数系数平方和、所述负数系数平方和以及所述系数绝对值和得到拟合形状特征值;根据所述负数系数平方和与所述负数系数个数之间的商值得到拟合左标准差值;根据所述正数系数平方和与所述正数系数个数之间的商值得到拟合右标准差值;根据所述拟合形状特征值、拟合左标准差值、所述拟合右标准差值得到拟合均值。
16.进一步,上述卷积核确定模块具体用于:获取所述样本图像对应的质量评估数据标签;根据所述样本质量评估数据与所述质量评估数据标签确定所述样本质量评估数据的误差值。
17.进一步,所述样本图像为样本视频中其中一个视频帧的帧图像,上述卷积核确定模块具体用于:按照预设步长依次增大所述样本视频的视频码率,确定增大所述视频码率后所述样本图像对应的样本质量评估数据;确定多个所述样本质量评估数据的变化趋势信息;当所述变化趋势信息表征多个所述样本质量评估数据呈递减趋势,将所述修正卷积核确定为目标卷积核。
18.进一步,所述目标图像的数量为多个,上述第二质量评估模块具体用于:基于所述目标卷积核确定所述目标视频中各个所述帧图像的目标质量评估数据;上述第二质量评估模块还用于:根据多个所述帧图像的目标质量评估数据的平均值,得到所述目标视频的视频质量评估数据;向服务器发送目标时间段内多个目标视频的所述视频质量评估数据,以供所述服务器根据多个所述视频质量评估数据生成所述目标时间段内的质量评估图表。
19.另一方面,本发明实施例还提供了一种电子设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述的图像质量评估方法。
20.另一方面,本发明实施例还提供了一种计算机可读存储介质,所述存储介质存储有程序,所述程序被处理器执行实现上述的图像质量评估方法。
21.另一方面,本发明实施例还提供了一种计算机程序产品,该计算机程序产品包括计算机程序,该计算机程序存储在计算机可读存介质中。计算机设备的处理器从计算机可读存储介质读取该计算机程序,处理器执行该计算机程序,使得该计算机设备执行实现上述的图像质量评估方法。
22.本发明实施例至少包括以下有益效果:通过根据预设位数阈值减小待处理卷积核中卷积系数的有效位数,使得待处理卷积核的有效位数可以提前基于预设位数阈值来匹配终端当前需求的运算精度,从而降低终端截断处理所带来的偏差,后续基于修正后的卷积核来对目标图像进行质量评估,可以提高图像质量评估的准确性,另外,减少卷积系数的有效位数也可以降低运算的复杂度,缩短运算时长,提高运算效率。并且,在此基础上,再进一步确定样本质量评估数据的误差值,当误差值小于或者等于预设误差阈值,将修正卷积核确定为目标卷积核,可以使得减小卷积系数的有效位数所带来的误差处于可控范围内,降低减小卷积系数的有效位数所带来的影响。
23.本发明的其他特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点可通过在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。
附图说明
24.附图用来提供对本发明技术方案的进一步理解,并且构成说明书的一部分,与本发明的实施例一起用于解释本发明的技术方案,并不构成对本发明技术方案的限制。
25.图1为本发明实施例提供的相关技术中高斯卷积核的一种示例性的结构示意图;图2为本发明实施例提供的一种实施环境的示意图;图3为本发明实施例提供的另一种实施环境的示意图;图4为本发明实施例提供的图像质量评估方法的流程示意图;图5为本发明实施例提供的卷积核的变化示意图;图6 为本发明实施例提供的mscn系数的计算流程示意图;图7为本发明实施例提供的对mscn系数矩阵进行高斯分布拟合处理的流程示意图;图8为本发明实施例提供的样本质量评估数据的计算流程示意图;图9为本发明实施例提供的质量评估数据上报体系示意图;图10为本发明实施例提供的拍照应用程序的提醒界面示意图;图11为本发明实施例提供的图像质量评估装置的结构示意图;图12为本发明实施例提供的终端部分的结构框图;图13为本发明实施例提供的服务器部分的结构框图。
具体实施方式
26.为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
27.为便于理解本技术实施例提供的技术方案,这里先对本发明实施例使用的一些关键名词进行解释:云计算(cloud computing)指it(internet technology,互联网技术)基础设施的交付和使用模式,指通过网络以按需、易扩展的方式获得所需资源;广义云计算指服务的交付和使用模式,指通过网络以按需、易扩展的方式获得所需服务。这种服务可以是it和软件、互联网相关,也可是其他服务。云计算是网格计算 (grid computing)、分布式计算(distributed computing)、并行计算 (parallel computing)、效用计算 (utility computing)、网络存储(network storage technologies)、虚拟化(virtualization)、负载均衡(load balance)等传统计算机和网络技术发展融合的产物。
28.随着多媒体技术和互联网技术的发展,图像成为媒体信息传播的主要方式。然而在实际生活中,由于拍摄环境、设备限制或者网络传播失真等因素的影响,图像在生成过程或者媒体传播过程中的清晰度、画质等参差不齐,从而影响观看体验,因而有必要对图像进行客观地图像质量评估。
29.相关技术中,对图像进行质量评估一般需要对图像进行卷积运算,例如采用ssim、psnr等指标来对图像的质量进行评估。对图像进行卷积运算一般是基于卷积核完成,卷积运算实际上是计算图像像素的局部均值,例如可以采用大小为7*7、sigma为1.166的高斯卷积核来对图像进行卷积运算,当然,卷积核的大小也可以是3*3、5*5等,本发明实施例不做限定。
30.参照图1,图1为本发明实施例提供的相关技术中高斯卷积核的一种示例性的结构示意图,可见,卷积核实际上是一个矩阵,矩阵里的每一个元素为卷积核的卷积系数,图1所示的卷积核中卷积系数的有效位数大多数为7位或者7位以上,当卷积核中卷积系数的有效位数与终端当前需求的运算精度不匹配时,例如若终端当前需求的运算精度为单精度浮点数,由于单精度浮点数的运算精度为6至7位,终端可能会直接在运算时将卷积系数进行截断处理,例如图1所示的卷积核中第一行第一列的卷积系数“0.000156745”可能会被截断为“0.000156”,导致卷积运算的结果产生偏差,降低了图像质量评估的准确性。
31.可以理解的是,卷积核中卷积系数的有效位数可以不相同,即当卷积核中卷积系数的有效位数与终端的运算精度不匹配时,可能是卷积核中所有的卷积系数均被截断,也可能是卷积核中部分的卷积系数被截断。
32.基于此,本发明实施例提供了一种图像质量评估方法、装置、电子设备及存储介质,能够提高图像质量评估的准确性。
33.参照图2,图2为本发明实施例提供的一种实施环境的示意图,该实施环境包括第一终端201。
34.具体地,第一终端201中安装有拍照应用程序,其中,拍照应用程序中设置有质量评估模块,第一终端201基于拍照应用程序采集了待进行质量评估的目标图像后,将目标图像输入至质量评估模块,质量评估模块设置有目标卷积核,质量评估模块基于目标卷积核
确定目标图像的目标质量评估数据。
35.另外,参照图3,图3为本发明实施例提供的另一种实施环境的示意图,该实施环境包括第二终端301和服务器302,其中,第二终端301和服务器302之间通过通信网络连接。
36.服务器302可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、cdn(content delivery network,内容分发网络)、以及大数据和人工智能平台等基础云计算服务的云服务器。
37.另外,服务器302还可以是区块链网络中的一个节点服务器。
38.具体地,第二终端301中安装有视频通话应用程序,服务器302向第二终端301发送通话视频码流,第二终端301基于视频通话应用程序将通话视频码流进行解码处理得到视频帧对应的目标图像,将目标图像输入至质量评估模块,质量评估模块设置有目标卷积核,质量评估模块基于目标卷积核确定目标图像的目标质量评估数据,然后将目标质量评估数据返回至服务器302中,以供服务器302获知当前的视频通话质量。
39.其中,上述第一终端201和第二终端301可以是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表、车载终端等,但并不局限于此。第二终端301以及服务器302可以通过有线或无线通信方式进行直接或间接地连接,本发明实施例在此不做限制。
40.本发明实施例提供的方法可应用于各种技术领域,包括但不限于多媒体、图像处理、云计算等技术领域。
41.参照图4,图4为本发明实施例提供的图像质量评估方法的流程示意图,该图像质量评估方法可以由终端执行,也可以由终端与服务器配合执行,该图像质量评估方法包括但不限于以下步骤401至步骤406。
42.步骤401:获取样本图像。
43.其中,样本图像主要用于确定目标卷积核,即样本图像可以不是当前应用过程中需要进行质量评估的图像。样本图像可以从本地获取,也可以从云端获取,本发明实施例不做限定。
44.步骤402:获取待处理卷积核,根据预设位数阈值减小待处理卷积核中卷积系数的有效位数,得到修正卷积核。
45.其中,待处理卷积核为待进行修正的卷积核,例如,待处理卷积核可以是图1所示的卷积核。预设位数阈值用于确定对待处理卷积核进行修正后得到的修正卷积核的有效位数,预设位数阈值可以根据实际情况设定,例如可以根据终端当前需求的运算精度而定,若终端是基于单精度浮点数进行运算的,则预设位数阈值可以设置为7,此时修正后得到的修正卷积核的有效位数为7。当然,若终端是基于单精度浮点数进行运算的,预设位数阈值也可以设置为6,又或者,预设位数阈值是可以变化的,根据卷积系数在卷积核中不同的位置对应不同的预设位数阈值;又或者,也可以根据实际的应用需求来确定预设位数阈值,本发明实施例不对预设位数阈值的具体取值做限定。可以理解的是,终端当前需求的运算精度并不一定为终端能够支持的最大运算精度。
46.步骤403:基于修正卷积核对样本图像进行卷积运算,得到像素均值矩阵。
47.其中,样本图像各个像素点均有对应的像素值。在一种可能的实现方式中,对样本图像进行卷积运算,可以利用卷积核在样本图像上滑动,将样本图像各个像素点的像素值
与对应的卷积核上的卷积系数相乘,然后将所有相乘后得到的值相加,作为卷积核中心的卷积系数在样本图像上像素值,并最终滑动完整个样本图像,进而得到像素均值矩阵。
48.步骤404:根据像素均值矩阵得到样本图像的样本质量评估数据。
49.其中,样本质量评估数据为样本图像对应的质量评估数据,用于反映样本图像的图像质量,例如可以为质量得分。在一种可能的实现方式中,得到样本图像的像素均值矩阵后,可以根据像素均值矩阵计算均值对比度归一化(mscn,mean subtracted contrast normalized)系数矩阵,然后根据mscn系数矩阵来确定样本图像的样本质量评估数据。又或者,可以根据像素均值矩阵计算ssim指标来确定样本图像的样本质量评估数据。其中,ssim指标属于有参考的质量评估指标,需要额外获取参考图像来与当前进行质量评估的图像进行指标比对才能确定ssim指标。而mscn属于无参考的质量评估指标,不需要额外获取参考图像来与当前进行质量评估的图像进行指标比对,可以直接通过预先训练好的质量评估模型输出相应的质量评估数据,因此,通过mscn系数矩阵来计算样本质量评估数据可以提高质量评估的效率。
50.可以理解的是,采用不同的评估指标来确定质量评估数据,其取值范围可以不同,例如,采用ssim指标来确定质量评估数据时,质量评估数据的取值一般是0分至100分之间,质量较好时取值一般在90分至100分之间;而采用mscn指标来确定质量评估数据时,质量评估数据的取值一般是20分到30分之间。当然,上述质量评估数据的取值范围仅为示例性说明,本发明实施例不做限定。
51.步骤405:确定样本质量评估数据的误差值,当误差值小于或者等于预设误差阈值,将修正卷积核确定为目标卷积核。
52.其中,由于在步骤402中减小了待处理卷积核中卷积系数的有效位数,会对目标图像的质量评估结果产生一定的影响,因此,通过确定样本质量评估数据的误差值,当误差值小于或者等于预设误差阈值,将修正卷积核确定为目标卷积核,可以使得减小卷积系数的有效位数所带来的误差处于可控范围内,降低减小卷积系数的有效位数所带来的影响。
53.可以理解的是,预设误差阈值可以根据实际情况设定,例如当质量评估数据为质量得分时,预设误差阈值可以为1分、2分等等,本发明实施例不做限定。
54.在一种可能的实现方式中,上述步骤402中,可以多次根据预设位数阈值减小待处理卷积核中卷积系数的有效位数,每次减小有效位数的策略均不相同,因此,最后可以得到多个修正卷积核,再进一步确定不同的修正卷积核对应的误差值,当误差值小于或者等于预设误差阈值,将修正卷积核确定为目标卷积核。可以理解的是,当有多个修正卷积核的误差值小于或者等于预设误差阈值,则将误差值最小的修正卷积核作为目标卷积核,这种方式下,有利于更加精细化地确定目标卷积核。又或者,在减小待处理卷积核中卷积系数的有效位数的过程中,将第一个误差值小于或者等于预设误差阈值的修正卷积核作为目标卷积核,有利于提高确定目标卷积核的效率。
55.步骤406:获取目标图像,基于目标卷积核确定目标图像的目标质量评估数据。
56.其中,目标图像为当前应用过程中需要进行质量评估的图像,即先通过样本图像对待处理卷积核进行修正,根据误差值确定目标卷积核后,后续再基于目标卷积核确定目标图像的目标质量评估数据。
57.在一种可能的实现方式中,步骤401至步骤405可以由应用程序提供商的服务器完
成,具体地,服务器可以基于应用程序适配的终端普遍采用的运算精度,在应用程序中设置目标卷积核,当终端安装应用程序后,需要对目标图像进行图像质量评估时,可以直接使用内置的目标卷积核,即步骤406由终端执行。又或者,步骤401至步骤406可以均由终端执行,应用程序中可以内置有样本图像,需要对目标图像进行图像质量评估时,终端可以读取内置的样本图像,再根据自身当前的运算精度,执行上述步骤401至步骤405来确定目标卷积核,然后,再执行步骤406来对目标图像进行图像质量评估。其中,应用程序中可以内置有预设位数阈值与运算精度之间的对应关系表,终端根据自身当前的运算精度从对应关系表中读取出对应的预设位数阈值。
58.通过根据预设位数阈值减小待处理卷积核中卷积系数的有效位数,使得待处理卷积核的有效位数可以提前基于预设位数阈值来匹配终端当前需求的运算精度,从而降低终端截断处理所带来的偏差,后续基于修正后的卷积核来对目标图像进行质量评估,可以提高图像质量评估的准确性,另外,减少卷积系数的有效位数也可以降低运算的复杂度,缩短运算时长,提高运算效率。
59.可以理解的是,待处理卷积核的有效位数可以是部分卷积系数的有效位数与终端当前需求的运算精度相匹配,也可以是所有卷积系数的有效位数与终端当前需求的运算精度相匹配,下面对不同的情况进行详细说明。
60.在一种可能的实现方式中,上述步骤402中,根据预设位数阈值减小待处理卷积核中卷积系数的有效位数,得到修正卷积核,具体可以根据预设的遍历顺序从待处理卷积核的卷积系数中确定当前遍历的第一卷积系数,根据第一卷积系数从待处理卷积核的卷积系数中确定目标卷积系数,根据预设位数阈值减小目标卷积系数的有效位数,得到修正卷积核。
61.其中,待处理卷积核包括多个卷积系数,在减小有效位数的时候,可以采用根据预设的遍历顺序依次减小卷积系数的有效位数的方式,第一卷积系数为当前遍历的卷积系数,根据遍历的顺序而发生变化。预设的遍历顺序可以为行顺序、列顺序等等,首次开始遍历的卷积系数可以是待处理卷积核第一行第一列的卷积系数、中心位置的卷积系数或者数值最大的卷积系数等等,本发明实施例不做限定。另外,当后续确定的误差值已经达到预期,可以停止遍历,即可以无须减小所有卷积系数的有效位数。可以理解的是,除了采用遍历的方式以外,也可以采用统一将所有卷积系数减小位数的方式,但采用遍历的方式,其精细化程度、准确性更高。
62.例如,以图1所示的卷积核作为例子,第一卷积系数可以为第一行第一列的卷积系数“0.000156745”,预设的遍历顺序可以是行顺序,此时下一个遍历的第一卷积系数可以为第一行第二列的卷积系数“0.000985803”,以此类推。
63.在此基础上,还可以进一步根据当前遍历的第一卷积系数从待处理卷积核的卷积系数中确定目标卷积系数,具体地,除了减小当前遍历的第一卷积系数的有效位数以外,还可以根据位置对称关系减小其他卷积系数的有效位数,第一卷积系数和其他卷积系数均为待减小有效位数的目标卷积系数,即在当前遍历轮次中,减小有效位数的目标卷积系数的数量可以为多个。
64.在一种可能的实现方式中,每个遍历轮次中减小了卷积系数的有效位数后就可以计算一次误差值,当误差值小于或者等于预设误差阈值后可以停止遍历。
65.在一种可能的实现方式中,根据第一卷积系数从待处理卷积核的卷积系数中确定目标卷积系数时,可以确定第一卷积系数在待处理卷积核中的位置信息,根据位置信息以及第一卷积系数的位置对称关系,从待处理卷积核的卷积系数中确定目标卷积系数。
66.其中,位置信息用于表征某个卷积系数在待处理卷积核中的位置,位置信息可以采用坐标表示,例如第一行第一列的卷积系数,其位置信息可以表示为(1,1)。在确定第一卷积系数在待处理卷积核中的位置信息后,即可以根据位置信息以及第一卷积系数的位置对称关系,从待处理卷积核的卷积系数中确定目标卷积系数。
67.其中,卷积核的大小一般为奇数,例如3*3、5*5、7*7等等。此时,待处理卷积核包括中间行和中间列,例如当待处理卷积核的大小为7*7,则该待处理卷积核的中间列为第四列,该待处理卷积核的中间行为第四行;当待处理卷积核的大小为5*5,则该待处理卷积核的中间列为第三列,该待处理卷积核的中间行为第三行,以此类推。
68.其中,位置对称关系可以包括基于中间行对称和基于中间列对称。以图1所示的卷积核作为例子,假设第一卷积系数为第一行第一列的卷积系数“0.000156745”,其位置信息可以表示为(1,1)。则该第一卷积系数基于中间列对称的卷积系数为第一行第七列的卷积系数,其位置信息可以表示为(1,7);而该第一卷积系数基于中间行对称的卷积系数为第七行第一列的卷积系数,其位置信息可以表示为(7,1)。可以理解的是,位置信息除了采用坐标的形式以外,还可以用预先制定的位置标签来表示,本发明实施例不做限定。
69.在此基础上,目标卷积系数可以为第一行第一列的卷积系数和第一行第七列的卷积系数;或者,目标卷积系数可以为第一行第一列的卷积系数和第七行第一列的卷积系数;或者,目标卷积系数可以为第一行第一列的卷积系数、第一行第七列的卷积系数和第七行第一列的卷积系数。基于第一卷积系数的位置对称关系来确定目标卷积系数,既能够在减小有效位数时提高效率,也可以提高得到的目标卷积核的结构完整性,后续利用目标卷积核进行卷积运算时,可以提高像素均值矩阵的准确性,进而提高目标质量评估数据的准确性。
70.下面进一步说明根据位置信息以及第一卷积系数的位置对称关系,从待处理卷积核的卷积系数中确定目标卷积系数存在以下几种情况:基于此,在一种可能的实现方式中,当位置信息表征第一卷积系数位于除待处理卷积核的中间行和中间列以外的其他位置,从待处理卷积核中确定与第一卷积系数基于中间列对称的第二卷积系数,从待处理卷积核中确定与第一卷积系数基于中间行对称的第三卷积系数;从待处理卷积核中确定与第二卷积系数基于中间行对称的第四卷积系数或者从待处理卷积核中确定与第三卷积系数基于中间列对称的第四卷积系数;将第一卷积系数、第二卷积系数、第三卷积系数和第四卷积系数作为目标卷积系数。
71.其中,当位置信息表征第一卷积系数位于除待处理卷积核的中间行和中间列以外的其他位置,即第一卷积系数既不位于待处理卷积核的中间行,也不位于待处理卷积核的中间列。
72.以图1所示的卷积核为例,若第一卷积系数为第一行第一列的卷积系数“0.000156745”时,该卷积系数位于除待处理卷积核的中间行和中间列以外的其他位置,相应地,从待处理卷积核中确定与第一卷积系数基于中间列对称的第二卷积系数,即第二卷积系数为第一行第七列的卷积系数,类似地,从待处理卷积核中确定与第一卷积系数基于
中间行对称的第三卷积系数,即第三卷积系数为第七行第一列的卷积系数。在此基础上,再进一步从待处理卷积核中确定与第二卷积系数基于中间行对称的第四卷积系数或者从待处理卷积核中确定与第三卷积系数基于中间列对称的第四卷积系数,即第四卷积系数为第七行第七列的卷积系数,至此,当前遍历的卷积系数为第一行第一列的卷积系数时,目标卷积系数为第一卷积系数、第二卷积系数、第三卷积系数和第四卷积系数,第一卷积系数、第二卷积系数、第三卷积系数和第四卷积系数构成完整的对称结构,相比于仅将基于中间行对称或者基于中间列对称的卷积系数作为目标卷积系数,可以进一步提高得到的目标卷积核的结构完整性。
73.而当位置信息表征第一卷积系数位于待处理卷积核的中间列和中间行时,将第一卷积系数作为目标卷积系数。
74.其中,当位置信息表征第一卷积系数位于待处理卷积核的中间列和中间行时,表明第一卷积系数处于待处理卷积核的中心位置。
75.以图1所示的卷积核为例,若第一卷积系数为第四行第四列的卷积系数“0.117528”时,该卷积系数位于待处理卷积核的中间列和中间行,相应地,由于该卷积系数的位置特殊,不存在位置对称关系的其他卷积系数,因此这种情况下只将该第一卷积系数作为目标卷积系数。
76.而当位置信息表征第一卷积系数位于待处理卷积核的中间行但不位于待处理卷积核的中间列,从待处理卷积核中确定与第一卷积系数基于中间列对称的第二卷积系数,根据第一卷积系数在中间行的位置从中间列中确定第五卷积系数和第六卷积系数,将第一卷积系数、第二卷积系数、第五卷积系数和第六卷积系数作为目标卷积系数。
77.以图1所示的卷积核为例,若第一卷积系数为第四行第一列的卷积系数“0.00429207”时,该卷积系数位于待处理卷积核的中间行但不位于待处理卷积核的中间列,由于该第一卷积系数位于待处理卷积核的中间行,因此不存在基于中间行对称的其他卷积系数,相应地,从待处理卷积核中确定与第一卷积系数基于中间列对称的第二卷积系数,即第四行第七列的卷积系数。在此基础上,再根据第一卷积系数在中间行的位置从中间列中确定第五卷积系数和第六卷积系数,具体可以根据第一卷积系数与中间行中心位置的卷积系数(即图1中的卷积系数“0.117528”)之间的距离,从中间列中确定第五卷积系数和第六卷积系数,例如,第四行第一列的卷积系数“0.00429207”与中间行中心位置的卷积系数“0.117528”之间的距离为3,则在中间列中确定与中间列中心位置的卷积系数“0.117528”(实质上与中间行中心位置的卷积系数相同)之间的距离为3的第五卷积系数和第六卷积系数,即第五卷积系数为第一行第四列的卷积系数,第六卷积系数为第七行第四列的卷积系数。同理,第一卷积系数、第二卷积系数、第五卷积系数和第六卷积系数构成完整的对称结构,相比于仅将基于中间行对称或者基于中间列对称的卷积系数作为目标卷积系数,可以进一步提高得到的目标卷积核的结构完整性。
78.而位置信息表征第一卷积系数位于待处理卷积核的中间列但不位于待处理卷积核的中间行,从待处理卷积核中确定与第一卷积系数基于中间行对称的第三卷积系数,根据第一卷积系数在中间列的位置从中间行中确定第七卷积系数和第八卷积系数,将第一卷积系数、第三卷积系数、第七卷积系数和第八卷积系数作为目标卷积系数。
79.以图1所示的卷积核为例,若第一卷积系数为第二行第四列的卷积系数“0.0269938”时,该卷积系数位于待处理卷积核的中间列但不位于待处理卷积核的中间行,由于该第一卷积系数位于待处理卷积核的中间列,因此不存在基于中间列对称的其他卷积系数,相应地,从待处理卷积核中确定与第一卷积系数基于中间行对称的第三卷积系数,即第六行第四列的卷积系数。在此基础上,再根据第一卷积系数在中间列的位置从中间行中确定第七卷积系数和第八卷积系数,具体可以根据第一卷积系数与中间列中心位置的卷积系数(即图1中的卷积系数“0.117528”)之间的距离,从中间行中确定第七卷积系数和第八卷积系数,例如,第二行第四列的卷积系数“0.0269938”与中间列中心位置的卷积系数“0.117528”之间的距离为2,则在中间行中确定与中间行中心位置的卷积系数“0.117528”(实质上与中间列中心位置的卷积系数相同)之间的距离为2的第七卷积系数和第八卷积系数,即第七卷积系数为第四行第二列的卷积系数,第八卷积系数为第四行第六列的卷积系数。同理,第一卷积系数、第三卷积系数、第七卷积系数和第八卷积系数构成完整的对称结构,相比于仅将基于中间行对称或者基于中间列对称的卷积系数作为目标卷积系数,可以进一步提高得到的目标卷积核的结构完整性。
80.在一种可能的实现方式中,当待处理卷积核的大小为偶数时,此时待处理卷积核中不存在中间行或者中间列,第一卷积系数在待处理卷积核中的任何位置均存在与第一卷积系数列对称的第二卷积系数、与第一卷积系数行对称的第三卷积系数、以及与第二卷积系数行对称的第四卷积系数或者与第三卷积系数列对称的第四卷积系数,此时将第一卷积系数、第二卷积系数、第三卷积系数和第四卷积系数作为目标卷积系数。
81.在一种可能的实现方式中,确定第一卷积系数是否位于待处理卷积核中间行或者中间列,可以根据待处理卷积核的尺寸大小以及第一卷积系数的位置信息来实现。例如,当位置信息为坐标时,若待处理卷积核的尺寸大小为7*7,并且第一卷积系数的坐标为(4,x),其中,x为1至7中的任意正整数,此时可以确定第一卷积系数位于待处理卷积核中间行,可以理解的是,确定第一卷积系数位于待处理卷积核中间列的原理相类似,在此不再赘述。
82.在一种可能的实现方式中,根据预设位数阈值减小目标卷积系数的有效位数,得到修正卷积核,具体可以根据预设位数阈值从目标卷积系数中确定目标数值,根据目标数值对目标卷积系数进行进位处理,得到修正卷积核。其中,目标数值可以是目标卷积系数中预设位数阈值的后一位的数值,例如,若预设位数阈值为7,目标卷积系数为“0.0269938”,则目标数值为目标卷积系数第八位的数值“8”,进位处理可以为四舍五入处理,基于上述例子,此时减小有效位数后的目标卷积系数为“0.026994”。
83.另外,进位处理除了为四舍五入处理以外,也可以为直接舍弃处理,基于上述例子,此时减小有效位数后的目标卷积系数为“0.026993”。可以理解的是,进位处理的方式可以根据实际的误差情况来决定,本发明实施例不做限定。
84.在一种可能的实现方式中,根据预设位数阈值减小目标卷积系数的有效位数后,可以再进一步计算减小目标卷积系数的有效位数后修正卷积核的模值,其中,当减小目标卷积系数的有效位数后修正卷积核的模值与目标模值之间的差值大于预设差值阈值,则可以再对修正卷积核中的卷积系数进行调整,从而保持修正卷积核的模值在一定的范围内,保持修正卷积核的运算效果,提高后续质量评估的准确性。示例性地,目标模值可以为1,预设差值阈值可以为0.000003、0.000005等等,本发明实施例不做限定。
85.在一种可能的实现方式中,对修正卷积核中的卷积系数进行微调,具体可以是对
与目标卷积系数相邻的卷积系数进行调整,调整的幅度可以根据实际情况而定。
86.以图1所示的卷积核为例,当目标卷积系数位于待处理卷积核的中间列和中间行时,可以对该目标卷积系数行相邻、列相邻的其他卷积系数进行调整,例如第四行第三列、第四行第五列、第三行第四列、第五行第四列的卷积系数进行调整,在未调整前,第四行第三列、第四行第五列、第三行第四列、第五行第四列的卷积系数基于四舍五入处理后应为“0.081362”,而在调整后为“0.081361”。又或者,当目标卷积系数为第一行第一列、第一行第七列、第七行第一列、第七行第七列的卷积系数时,需要调整的卷积系数可以为第一行第二列、第一行第六列、第七行第二列、第七行第六列的卷积系数。
87.在一种可能的实现方式中,也可以从修正卷积核中选择数值最大的卷积系数进行调整。
88.在一种可能的实现方式中,图1所示的卷积核也可以作为原始卷积核,先根据终端最大的运算精度对图1所示的卷积核中所有的卷积系数统一进行预先的四舍五入处理,将四舍五入后的卷积核作为待处理卷积核,参照图5,图5为本发明实施例提供的卷积核的变化示意图,在原始卷积核中卷积系数的有效位数超出终端最大的运算精度的情况下,通过先对原始卷积核进行四舍五入处理得到待处理卷积核,达到待处理卷积核有效位数的预处理效果,可以使得后续的卷积运算更加稳定。
89.具体地,在图5所示的例子中,目标卷积系数为中心位置的卷积系数“0.117528”,减小有效位数后变为“0.11753”,此时实际上目标卷积系数的数值是增大的,在此基础上,为了保持矩阵的模为1,可以根据目标卷积系数增大了的数值来减小相邻的卷积系数的数值,例如将中心位置的卷积系数四周的卷积系数由“0.081362”调整为“0.081361”。
90.在一种可能的实现方式中,上述步骤403中,根据像素均值矩阵得到样本图像的样本质量评估数据,具体可以提取样本图像的像素强度矩阵,根据像素强度矩阵和像素均值矩阵得到标准差矩阵,根据像素强度矩阵与像素均值矩阵之间的差值得到残差矩阵,根据残差矩阵和标准差矩阵之间的商值得到mscn系数矩阵,根据mscn系数矩阵得到样本图像的样本质量评估数据。
91.具体地,参照图6,图6为本发明实施例提供的mscn系数的计算流程示意图,其中,样本图像的像素强度矩阵即样本图像各个像素点的像素值所组成的矩阵,对像素强度矩阵进行高斯模糊处理,得到像素均值矩阵,其中,高斯模糊处理即利用修正卷积核对像素强度矩阵进行卷积运算,再根据像素强度矩阵与像素均值矩阵之间的差值即可得到残差矩阵;另外,对像素强度矩阵进行平方计算处理,得到第一像素平方矩阵,对第一像素平方矩阵进行高斯模糊处理,得到像素平方均值矩阵,对像素均值矩阵进行平方计算处理,得到第二像素平方矩阵,再根据像素平方均值矩阵与第二像素平方矩阵之间的差值得到标准差矩阵,进而根据残差矩阵和标准差矩阵之间的商值得到mscn系数矩阵。上述计算标准差矩阵的方式在原有的标准差矩阵计算方式(即采用标准差数学定义的计算方式)的基础上进行了转化,有利于提高标准差矩阵的计算效率。
92.上述mscn系数矩阵具体可以表示为:其中,表示mscn系数矩阵,表示像素强度矩阵,表示像素均
值矩阵,表示标准差矩阵,为常数,一般取值为1,主要作用是防止分母为0,表示像素值。
93.在一种可能的实现方式中,根据mscn系数矩阵得到样本图像的样本质量评估数据,具体可以是对均值对比度归一化系数矩阵进行高斯分布拟合处理,得到拟合形状特征值、拟合均值、拟合左标准差值和拟合右标准差值,将拟合形状特征值、拟合均值、拟合左标准差值和拟合右标准差值输入至预先训练好的质量评估模型,得到样本质量评估数据。
94.其中,对mscn系数矩阵进行高斯分布拟合处理,得到拟合形状特征值、拟合均值、拟合左标准差值和拟合右标准差值,具体可以是确定mscn系数矩阵的正数系数个数、负数系数个数、正数系数平方和、负数系数平方和以及系数绝对值和;根据正数系数个数、负数系数个数、正数系数平方和、负数系数平方和以及系数绝对值和得到拟合形状特征值;根据负数系数平方和与负数系数个数之间的商值得到拟合左标准差值;根据正数系数平方和与正数系数个数之间的商值得到拟合右标准差值;根据拟合形状特征值、拟合左标准差值、拟合右标准差值得到拟合均值。
95.具体地,参照图7,图7为本发明实施例提供的对mscn系数矩阵进行高斯分布拟合处理的流程示意图,对mscn系数矩阵进行高斯分布拟合处理需要计算出四个参数,分别是拟合形状特征值、拟合左标准差值、拟合右标准差值和拟合均值,其中:拟合左标准差值在负数系数平方和与负数系数个数之间的商值的基础上开平方根处理后得到,具体可以表示为:其中,表示拟合左标准差值,表示负数系数平方和,表示负数系数个数。
96.其中,mscn系数矩阵与mscn系数矩阵对应的mscn系数绝对值矩阵之差除以2即可得到mscn系数矩阵的负数系数矩阵,负数系数矩阵中非零的系数个数即为负数系数个数,负数系数矩阵的平方和即为负数系数平方和。
97.拟合右标准差值在正数系数平方和与正数系数个数之间的商值的基础上开平方根处理后得到,具体可以表示为:其中,表示拟合右标准差值,表示正数系数平方和,表示正数系数个数。
98.其中,mscn系数矩阵与mscn系数绝对值矩阵之和除以2即可得到mscn系数矩阵的正数系数矩阵,正数系数矩阵中非零的系数个数即为正数系数个数,正数系数矩阵的平方和即为正数系数平方和。
99.系数绝对值和可以基于mscn系数绝对值矩阵得到,拟合形状特征值由正数系数个数、负数系数个数、正数系数平方和、负数系数平方和以及系数绝对值和基于非对称广义高斯分布函数计算得到,具体可以表示为:其中,表示拟合形状特征值,表示负数系数平方和,表示负数系数个数,表示正数系数平方和,表示正数系数个数,表示系数绝
对值和,f表示非对称广义高斯分布函数。
100.拟合均值由拟合形状特征值、拟合左标准差值、拟合右标准差值基于均值函数计算得到,具体可以表示为:其中,表示拟合形状特征值,表示拟合左标准差值,表示拟合右标准差值,表示均值函数,表示拟合均值。
101.基于上述计算方式,本发明实施例可以基于eigen库的矩阵计算函数接口来计算出拟合形状特征值、拟合左标准差值、拟合右标准差值和拟合均值,eigen库具有轻便和极易迁移的优点,并且eigen库只包含一系列的头文件,省去了库的管理,可以显著提升矩阵的运算速度。而在相关技术中,一般采用循环的计算方式对mscn系数矩阵中各个元素进行计算,进而得到拟合结果,由于需要进行大量的循环计算,因而计算效率较低。而本发明实施例基于上述计算方式,结合eigen库可以有效提高高斯分布拟合的计算效率。
102.在一种可能的实现方式中,拟合形状特征值、拟合均值、拟合左标准差值和拟合右标准差值作为向量特征值输入至预先训练好的质量评估模型,质量评估模型可以是支持向量机(support vector machine, svm),具有处理效率高的优点。
103.在一种可能的实现方式中,也可以计算mscn系数矩阵的方差以及拟合形状特征值,将mscn系数矩阵的方差以及拟合形状特征值作为向量特征值输入至预先训练好的质量评估模型,可以提高计算效率。
104.在一种可能的实现方式中,在得到mscn系数矩阵以后,还可以进一步对mscn系数矩阵进行偏移操作,具体可以水平(h),垂直(v),左对角线(d1),右对角线(d2)四个不同方向的偏移矩阵,对于水平方向来说,偏移操作即将矩阵的列元素的值加一;对于垂直方向来说,偏移操作即将矩阵的行元素的值加一;对于左对角线方向来说,偏移操作即将矩阵的行元素的值和列元素的值均加一;对于右对角线方向来说,偏移操作即将矩阵的行元素的值加一、列元素的值减一。
105.然后,基于上述原理计算四个不同方向的偏移矩阵对应的拟合形状特征值、拟合均值、拟合左标准差值和拟合右标准差值,然后将mscn系数矩阵以及四个不同方向的偏移矩阵对应的拟合形状特征值、拟合均值、拟合左标准差值和拟合右标准差值作为向量特征值输入至预先训练好的质量评估模型,进而得到样本质量评估数据。通过在mscn系数矩阵对应的向量特征值的基础上增加四个不同方向的偏移矩阵对应的向量特征值,使得输入至预先训练好的质量评估模型的向量特征值更加丰富,有利于提高得到的样本质量评估数据的准确性。
106.在一种可能的实现方式中,还可以对样本图像进行下采样,得到缩小图像,计算缩小图像对应的mscn系数矩阵并进行拟合处理,具体的计算方式和拟合方式与样本图像对应的原理相类似,在此不再赘述。
107.参照图8,图8为本发明实施例提供的样本质量评估数据的计算流程示意图,对于样本图像来说,先计算样本图像的mscn系数矩阵,然后对mscn矩阵进行偏移操作,得到多个不同方向的偏移矩阵,再对mscn系数矩阵和偏移矩阵进行非对称广义高斯分布拟合操作,得到多个向量特征值。类似地,对于缩小图像来说,先计算缩小图像的mscn系数矩阵,然后对mscn矩阵进行偏移操作,得到多个不同方向的偏移矩阵,再对mscn系数矩阵和偏移矩阵
进行非对称广义高斯分布拟合操作,得到多个向量特征值,最后将由样本图像和缩小图像对应的多个向量特征值构成的特征向量输入至支持向量机中,得到最终的样本质量评估数据。
108.在一种可能的实现方式中,上述步骤405中,确定样本质量评估数据的误差值,具体可以获取样本图像对应的质量评估数据标签,根据样本质量评估数据与质量评估数据标签确定样本质量评估数据的误差值。
109.其中,质量评估数据标签可以是对样本图像预先评估得到的分数值,作为误差值计算的参考,根据样本质量评估数据和质量评估数据标签之差即可较快地得到样本质量评估数据的误差值。例如,质量评估数据标签为95分,样本质量评估数据为94分,则误差值为1分。可以理解的是,预设误差阈值可以根据实际情况设置,例如可以为1分、2分等,本发明实施例不做限定。
110.当本发明实施例应用于视频通话场景时,样本图像可以为样本视频中其中一个视频帧的帧图像,上述步骤405中,在误差值小于或者等于预设误差阈值的基础上,将修正卷积核确定为目标卷积核,具体可以按照预设步长依次增大样本视频的视频码率,确定增大视频码率后样本图像对应的样本质量评估数据;确定多个样本质量评估数据的变化趋势信息;当变化趋势信息表征多个样本质量评估数据呈递减趋势,将修正卷积核确定为目标卷积核。
111.其中,当样本视频的视频码率越大,则表明每个视频帧的样本图像的质量越高。当采用上述mscn系数矩阵来计算样本图像的样本质量评估数据时,样本图像的质量越高,样本质量评估数据的数值应该越低。因此,通过确定增大视频码率后样本图像对应的样本质量评估数据,每个视频码率都对应有一个样本质量评估数据,当多个样本质量评估数据随着视频码率的增大而呈递减趋势时,表明当前的修正卷积核的卷积运算是合理的,进而将修正卷积核确定为目标卷积核,从而能够进一步提高目标卷积核的合理性,进一步使得减小卷积系数的有效位数所带来的误差处于可控范围内,降低减小卷积系数的有效位数所带来的影响。
112.在一种可能的实现方式中,变化趋势信息可以是相邻两个视频码率对应的样本质量评估数据之间的差值,通过该差值可以快速地确认多个样本质量评估数据的变化趋势,随着视频码率的增大,当相邻两个视频码率对应的样本质量评估数据之间的差值均保持为负数的时候,表明多个样本质量评估数据呈递减趋势。
113.在确定目标卷积核后,基于目标卷积核确定目标图像的目标质量评估数据,基于目标卷积核确定目标图像的目标质量评估数据与基于修正卷积核确定样本图像的样本质量评估数据的原理相类似,在此不再赘述。
114.当本发明实施例应用于视频通话场景时,目标图像的数量可以为多个,即目标图像为目标视频中对应的视频帧的帧图像。相应地,上述步骤406中,基于目标卷积核确定目标图像的目标质量评估数据,具体可以基于目标卷积核确定目标视频中各个帧图像的目标质量评估数据。在此基础上,还可以进一步根据多个帧图像的目标质量评估数据的平均值,得到目标视频的视频质量评估数据;向服务器发送目标时间段内多个目标视频的视频质量评估数据,以供服务器根据多个视频质量评估数据生成目标时间段内的质量评估图表。
115.具体地,参照图9,图9为本发明实施例提供的质量评估数据上报体系示意图,对于
终端来说,接收到服务器发送的视频码流后,利用解码器对视频码流进行解码处理得到多个视频帧的帧图像,再将帧图像周期性地输入至质量评估器中,分别计算各个帧图像的目标质量评估数据,再计算所有帧图像的目标质量评估数据的平均值,即为该目标视频对应的视频质量评估数据。然后,可以再通过解码器将视频质量评估数据上报至服务器。
116.目标时间段可以是一小时、一天或者一周等等,本发明实施例不做限定。以视频通话应用程序为例,终端可以针对一天内该视频通话应用程序产生的所有目标视频计算视频质量评估数据,并将所有的视频质量评估数据发送至服务器,服务器根据视频质量评估数据对应的时间生成视频质量评估数据随时间变化的曲线,得到质量评估图表。通过生成质量评估图表,可以便于应用程序提供商的运维人员掌握视频通话的质量,在视频通话的质量下降时,可以及时调节视频通话的编码传输参数,改善视频通话的体验。并且,由于本发明实施例采用mscn系数矩阵来生成向量特征值,并通过简单的支持向量机处理得到质量评估数据,相比于采用复杂架构的神经网络模型来处理,能够更容易集成于应用程序中,从而达到实时的质量评估效果。
117.另外,本发明实施例提供的图像质量评估方法中对于质量评估数据的计算可以基于终端的cpu(central processing unit,中央处理器)完成,在一种可能的实现方式中,也可以基于gpu(graphics processing unit,图形处理器)完成,利用gpu大规模并行运算的优势进一步提高运算速度。
118.可以理解的是,本发明实施例提供的卷积核的具体例子仅用于示意性说明,实际上卷积核中各个卷积系数的取值可以根据实际情况调整,本发明实施例不做限定。
119.下面以具体场景说明本发明实施例提供的图像质量评估方法的原理。
120.场景一参照图10,图10为本发明实施例提供的拍照应用程序的提醒示意图,其中,在本场景中,终端安装有拍照应用程序,拍照应用程序内置有经本发明实施例提供的图像质量评估方法中确定目标卷积核。在拍照的过程中,由于抖动、光线等问题,可能会使得照片的成像效果较差,当在生成照片后,终端可以获取生成的照片,基于目标卷积核来生成该照片对应的质量评估数据,当质量评估数据表征该照片的生成质量较低时,可以在应用程序中通过弹窗的方式进行提醒,例如图10中的弹窗提醒“本次拍照的成像质量较低,是否重拍”,拍照者即可根据自身需求选择是否重新拍照,无须再次人工确认照片的成像质量,有利于提高拍照的效率和体验。
121.场景二在本场景中,终端安装有视频通话应用程序,其中,视频通话应用程序可以是即时聊天应用程序、视频会议应用程序等,本发明实施例不做限定。视频通话应用程序内置有经本发明实施例提供的图像质量评估方法中确定目标卷积核,在视频通话的过程中,可以对视频码流进行解码处理,得到每一视频帧的帧图像,基于目标卷积核来生成每个帧图像对应的质量评估数据,再将所有帧图像的质量评估数据进行求平均处理,得到当次视频通话的视频质量评估数据,然后,终端将当次视频通话的视频质量评估数据发送至视频通话应用程序对应的服务器,以供视频通话应用程序提供商实时掌握视频通话质量。
122.可以理解的是,虽然上述各个流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本实施例中有明确的说明,这
些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,上述流程图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时间执行完成,而是可以在不同的时间执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
123.需要说明的是,在本发明的各个具体实施方式中,当涉及到需要根据目标对象属性信息或属性信息集合等与目标对象特性相关的数据进行相关处理时,都会先获得目标对象的许可或者同意,而且,对这些数据的收集、使用和处理等,都会遵守相关国家和地区的相关法律法规和标准。此外,当本发明实施例需要获取目标对象属性信息时,会通过弹窗或者跳转到确认页面等方式获得目标对象的单独许可或者单独同意,在明确获得目标对象的单独许可或者单独同意之后,再获取用于使本发明实施例能够正常运行的必要的目标对象相关数据。
124.参照图11,图11为本发明实施例提供的图像质量评估装置的结构示意图,该图像质量评估装置1100包括:样本图像获取模块1101,用于获取样本图像;卷积核修正模块1102,用于获取待处理卷积核,减小待处理卷积核中卷积系数的有效位数,得到修正卷积核;卷积运算模块1103,用于基于修正卷积核对样本图像进行卷积运算,得到像素均值矩阵;第一质量评估模块1104,用于根据像素均值矩阵得到样本图像的样本质量评估数据;卷积核确定模块1105,用于确定样本质量评估数据的误差值,当误差值小于或者等于预设误差阈值,将修正卷积核确定为目标卷积核;第二质量评估模块1106,用于获取目标图像,基于目标卷积核确定目标图像的目标质量评估数据。
125.进一步,上述卷积核修正模块1102具体用于:根据预设的遍历顺序从待处理卷积核的卷积系数中确定当前遍历的第一卷积系数,根据第一卷积系数从待处理卷积核的卷积系数中确定目标卷积系数;根据预设位数阈值减小目标卷积系数的有效位数,得到修正卷积核。
126.进一步,上述卷积核修正模块1102具体用于:确定第一卷积系数在待处理卷积核中的位置信息;根据位置信息以及第一卷积系数的位置对称关系,从待处理卷积核的卷积系数中确定目标卷积系数。
127.进一步,上述卷积核修正模块1102具体用于:当位置信息表征第一卷积系数位于除待处理卷积核的中间行和中间列以外的其他位置,从待处理卷积核中确定与第一卷积系数基于中间列对称的第二卷积系数,从待处理卷积核中确定与第一卷积系数基于中间行对称的第三卷积系数;从待处理卷积核中确定与第二卷积系数基于中间行对称的第四卷积系数或者从待处理卷积核中确定与第三卷积系数基于中间列对称的第四卷积系数;
将第一卷积系数、第二卷积系数、第三卷积系数和第四卷积系数作为目标卷积系数。
128.进一步,上述卷积核修正模块1102具体用于:当位置信息表征第一卷积系数位于待处理卷积核的中间列和中间行,将第一卷积系数作为目标卷积系数;当位置信息表征第一卷积系数位于待处理卷积核的中间行但不位于待处理卷积核的中间列,从待处理卷积核中确定与第一卷积系数基于中间列对称的第二卷积系数,根据第一卷积系数在中间行的位置从中间列中确定第五卷积系数和第六卷积系数,将第一卷积系数、第二卷积系数、第五卷积系数和第六卷积系数作为目标卷积系数;当位置信息表征第一卷积系数位于待处理卷积核的中间列但不位于待处理卷积核的中间行,从待处理卷积核中确定与第一卷积系数基于中间行对称的第三卷积系数,根据第一卷积系数在中间列的位置从中间行中确定第七卷积系数和第八卷积系数,将第一卷积系数、第三卷积系数、第七卷积系数和第八卷积系数作为目标卷积系数。
129.进一步,上述卷积核修正模块1102具体用于:根据预设位数阈值从目标卷积系数中确定目标数值;根据目标数值对目标卷积系数进行进位处理,得到修正卷积核。
130.进一步,上述第一质量评估模块1104具体用于:提取样本图像的像素强度矩阵;根据像素强度矩阵和像素均值矩阵得到标准差矩阵;根据像素强度矩阵与像素均值矩阵之间的差值得到残差矩阵;根据残差矩阵和标准差矩阵之间的商值得到均值对比度归一化系数矩阵;根据均值对比度归一化系数矩阵得到样本图像的样本质量评估数据。
131.进一步,上述第一质量评估模块1104具体用于:对均值对比度归一化系数矩阵进行高斯分布拟合处理,得到拟合形状特征值、拟合均值、拟合左标准差值和拟合右标准差值;将拟合形状特征值、拟合均值、拟合左标准差值和拟合右标准差值输入至预先训练好的质量评估模型,得到样本质量评估数据。
132.进一步,上述第一质量评估模块1104具体用于:确定均值对比度归一化系数矩阵的正数系数个数、负数系数个数、正数系数平方和、负数系数平方和以及系数绝对值和;根据正数系数个数、负数系数个数、正数系数平方和、负数系数平方和以及系数绝对值和得到拟合形状特征值;根据负数系数平方和与负数系数个数之间的商值得到拟合左标准差值;根据正数系数平方和与正数系数个数之间的商值得到拟合右标准差值;根据拟合形状特征值、拟合左标准差值、拟合右标准差值得到拟合均值。
133.进一步,上述卷积核确定模块1105具体用于:获取样本图像对应的质量评估数据标签;根据样本质量评估数据与质量评估数据标签确定样本质量评估数据的误差值。
134.进一步,样本图像为样本视频中其中一个视频帧的帧图像,上述卷积核确定模块
1105具体用于:按照预设步长依次增大样本视频的视频码率,确定增大视频码率后样本图像对应的样本质量评估数据;确定多个样本质量评估数据的变化趋势信息;当变化趋势信息表征多个样本质量评估数据呈递减趋势,将修正卷积核确定为目标卷积核。
135.进一步,目标图像的数量为多个,上述第二质量评估模块1106具体用于:基于目标卷积核确定目标视频中各个帧图像的目标质量评估数据;上述第二质量评估模块1106还用于:根据多个帧图像的目标质量评估数据的平均值,得到目标视频的视频质量评估数据;向服务器发送目标时间段内多个目标视频的视频质量评估数据,以供服务器根据多个视频质量评估数据生成目标时间段内的质量评估图表。
136.上述图像质量评估装置1100与图像质量评估方法基于相同的发明构思,因此该图像质量评估装置1100通过根据预设位数阈值减小待处理卷积核中卷积系数的有效位数,使得待处理卷积核的有效位数可以提前基于预设位数阈值来匹配终端当前需求的运算精度,从而降低终端截断处理所带来的偏差,后续基于修正后的卷积核来对目标图像进行质量评估,可以提高图像质量评估的准确性,另外,减少卷积系数的有效位数也可以降低运算的复杂度,缩短运算时长,提高运算效率。并且,在此基础上,再进一步确定样本质量评估数据的误差值,当误差值小于或者等于预设误差阈值,将修正卷积核确定为目标卷积核,可以使得减小卷积系数的有效位数所带来的误差处于可控范围内,降低减小卷积系数的有效位数所带来的影响。
137.本发明实施例提供的用于执行上述图像质量评估方法的电子设备可以是终端,参照图12,图12为本发明实施例提供的终端的部分的结构框图,该终端包括:射频(radio frequency,简称rf)电路1210、存储器1212、输入单元1230、显示单元1240、传感器1250、音频电路1260、无线保真(wireless fidelity,简称wifi)模块1270、处理器1280、以及电源1290等部件。本领域技术人员可以理解,图12中示出的终端结构并不构成对手机的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
138.rf电路1210可用于收发信息或通话过程中,信号的接收和发送,特别地,将基站的下行信息接收后,给处理器1280处理;另外,将设计上行的数据发送给基站。
139.存储器1212可用于存储软件程序以及模块,处理器1280通过运行存储在存储器1212的软件程序以及模块,从而执行手机的各种功能应用以及数据处理。
140.输入单元1230可用于接收输入的数字或字符信息,以及产生与手机的设置以及功能控制有关的键信号输入。具体地,输入单元1230可包括触控面板1231以及其他输入装置1232。
141.显示单元1240可用于显示输入的信息或提供的信息以及手机的各种菜单。显示单元1240可包括显示面板1241。
142.音频电路1260、扬声器1261,传声器1262可提供音频接口。
143.在本实施例中,该终端所包括的处理器1280可以执行前面实施例的图像质量评估
方法。
144.本发明实施例提供的用于执行上述图像质量评估方法的电子设备也可以是服务器,参照图13,图13为本发明实施例提供的服务器的部分的结构框图,服务器1300可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上中央处理器(central processing units,简称cpu)1322(例如,一个或一个以上处理器)和存储器1332,一个或一个以上存储应用程序1342或数据1344的存储介质1330(例如一个或一个以上海量存储装置)。其中,存储器1332和存储介质1330可以是短暂存储或持久存储。存储在存储介质1330的程序可以包括一个或一个以上模块(图示没标出),每个模块可以包括对服务器1300中的一系列指令操作。更进一步地,中央处理器1322可以设置为与存储介质1330通信,在服务器1300上执行存储介质1330中的一系列指令操作。
145.服务器1300还可以包括一个或一个以上电源1326,一个或一个以上有线或无线网络接口1350,一个或一个以上输入输出接口1358,和/或,一个或一个以上操作系统1341,例如windows servertm,mac os xtm,unixtm ,linuxtm,freebsdtm等等。
146.服务器1300中的处理器可以用于执行图像质量评估方法。
147.本发明实施例还提供一种计算机可读存储介质,计算机可读存储介质用于存储程序代码,程序代码用于执行前述各个实施例的图像质量评估方法。
148.本发明实施例还提供了一种计算机程序产品,该计算机程序产品包括计算机程序,该计算机程序存储在计算机可读存介质中。计算机设备的处理器从计算机可读存储介质读取该计算机程序,处理器执行该计算机程序,使得该计算机设备执行实现上述的图像质量评估方法。
149.本发明的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例例如能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或装置不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或装置固有的其它步骤或单元。
150.应当理解,在本发明中,“至少一个(项)”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系,例如,“a和/或b”可以表示:只存在a,只存在b以及同时存在a和b三种情况,其中a,b可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b或c中的至少一项(个),可以表示:a,b,c,“a和b”,“a和c”,“b和c”,或“a和b和c”,其中a,b,c可以是单个,也可以是多个。
151.应了解,在本发明实施例的描述中,多个(或多项)的含义是两个以上,大于、小于、超过等理解为不包括本数,以上、以下、以内等理解为包括本数。
152.在本发明所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以
结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
153.作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
154.另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
155.集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机装置(可以是个人计算机,服务器,或者网络装置等)执行本发明各个实施例方法的全部或部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(read-only memory,简称rom)、随机存取存储器(random access memory,简称ram)、磁碟或者光盘等各种可以存储程序代码的介质。
156.还应了解,本发明实施例提供的各种实施方式可以任意进行组合,以实现不同的技术效果。
157.以上是对本发明的较佳实施进行了具体说明,但本发明并不局限于上述实施方式,熟悉本领域的技术人员在不违背本发明精神的共享条件下还可作出种种等同的变形或替换,这些等同的变形或替换均包括在本发明权利要求所限定的范围内。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献