一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

目标图像显示方法、装置及设备与流程

2022-06-15 22:09:23 来源:中国专利 TAG:


1.本技术实施例涉及人工智能(artificial intelligence,ai)技术领域,尤其涉及一种目标图像显示方法、装置及设备。


背景技术:

2.目前在线教育、直播等场景应用非常广泛,在这些场景下,对可能出现“假在线”和“近屏幕”等不良行为进行智能监督至关重要。尤其针对“近屏幕”行为,这将严重影响着用户视力。
3.为了降低或者避免“近屏幕”行为,目前采用语音提示或者文字提示的方式,以提醒用户保证正确坐姿。而这种方式存在用户体验感不佳的问题。


技术实现要素:

4.本技术提供一种目标图像显示方法、装置及设备,从而可以提高用户体验感。
5.第一方面,本技术提供一种目标图像显示方法,包括:获取第一目标图像;当第一目标图像包括人脸图像时,检测人脸与屏幕的远近类别;根据远近类别,在人脸图像的第一预设位置上显示第一预设贴纸;当第一目标图像未包括人脸图像时,在屏幕的第二预设位置上显示第二预设贴纸。
6.第二方面,本技术提供一种目标图像显示装置,包括:第一获取模块、第一检测模块、第一显示模块和第二显示模块,其中第一获取模块用于获取第一目标图像;第一检测模块用于当第一目标图像包括人脸图像时,检测人脸与屏幕的远近类别;第一显示模块用于根据远近类别,在人脸图像的第一预设位置上显示第一预设贴纸;第二显示模块用于当第一目标图像未包括人脸图像时,在屏幕的第二预设位置上显示第二预设贴纸。
7.第三方面,提供了一种终端设备,包括:处理器和存储器,该存储器用于存储计算机程序,该处理器用于调用并运行该存储器中存储的计算机程序,以执行第一方面的方法。
8.第四方面,提供了一种计算机可读存储介质,用于存储计算机程序,该计算机程序使得计算机执行第一方面的方法。
9.综上,在本技术中,以实时互动贴纸的方式展示用户坐姿不正确的问题,可以提升用户体验感。
附图说明
10.为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
11.图1为本技术实施例提供的目标图像显示方法的流程图;
12.图2为本技术实施例提供的一种界面示意图;
13.图3为本技术实施例提供的第一预设贴纸颜色变换示意图;
14.图4为本技术实施例提供的另一种界面示意图;
15.图5为本技术实施例提供的再一种界面示意图;
16.图6为本技术实施例提供的又一种界面示意图;
17.图7为本技术实施例提供的一种界面示意图;
18.图8为本技术实施例提供的一种目标图像显示方法的示意图;
19.图9为本技术实施例提供的一种界面示意图;
20.图10为本技术实施例提供的第二预设贴纸颜色变换示意图;
21.图11为本技术实施例提供的另一种界面示意图;
22.图12为本技术实施例提供的再一种界面示意图;
23.图13是本技术实施例提供的终端设备的示意性框图。
具体实施方式
24.下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
25.需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或服务器不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
26.本技术涉及ai中的计算机视觉技术(computer vision,cv)。
27.ai是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。
28.人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
29.cv计算机视觉是一门研究如何使机器“看”的科学,更进一步的说,就是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉,并进一步做图形处理,使电脑处理成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科,计算机视觉研究相关的理论和技术,试图建立能够从图像或者多维数据中获取信息的人工智能系统。计算机视觉技术通常包括图像处理、图像识别、图像语义理解、图像检索、ocr、视频处理、视频语
义理解、视频内容/行为识别、三维物体重建、3d技术、虚拟现实、增强现实、同步定位与地图构建等技术,还包括常见的人脸识别、指纹识别等生物特征识别技术。
30.如上所述,为了降低或者避免“近屏幕”行为,目前采用语音提示或者文字提示的方式,以提醒用户保证正确坐姿。而这种方式存在用户体验感不佳的问题。
31.为了解决上述技术问题,本技术通过贴纸互动的方式来提醒用户保证正确坐姿,从而提高用户体验感。
32.应理解的是,本技术技术方案可应用于如下场景,但不限于此:在线教育场景、直播场景等。
33.下面将对本技术技术方案进行详细阐述:
34.图1为本技术实施例提供的目标图像显示方法的流程图,如图1所示,该方法包括如下步骤:
35.s110:获取第一目标图像。
36.s120:当第一目标图像包括人脸图像时,检测人脸与屏幕的远近类别。
37.s130:根据远近类别,在人脸图像的第一预设位置上显示第一预设贴纸。
38.s140:当第一目标图像未包括人脸图像时,在屏幕的第二预设位置上显示第二预设贴纸。
39.可选地,终端设备可以通过它的前置摄像头采集上述第一目标图像。其中,终端设备可以按照预设帧率或者频率采集图像。
40.可选地,第一预设位置是固定不变的,或者,第一预设位置跟随人脸图像中的眼睛变化而动态变化。
41.可选地,当人脸与屏幕的远近类别是近类别时,在人脸图像的第一预设位置上显示第一预设贴纸。
42.可选地,第一预设贴纸可以是眼镜形式的贴纸,如图2所示,本技术对此不做限制。
43.可选地,第一预设贴纸可以以动画形式在屏幕上显示。
44.可选地,在检测人脸与屏幕的远近类别为近类别时,获取第三概率,该第三概率是人脸与屏幕的远近类别为近类别的概率。终端设备可以根据第三概率,控制第一预设贴纸在人脸图像上的显示。
45.可选地,第三概率越大,则第一预设贴纸的颜色越深,第三概率越小,则第一预设贴纸的颜色越浅。
46.可选地,图3为本技术实施例提供的第一预设贴纸颜色变换示意图,如图3所示,上述第三概率可以采用线性映射方式得到,也可以采用非线性映射方式得到,例如:采用线性映射方式时,第三概率是上述的|c|/(|c| |d|),采用非线性映射方式时,第三概率是上述的
47.可选地,第一预设贴纸采用rgba四通道,通过上述第三概率可以决定第一预设贴纸的不透明度,而颜色深浅通过不透明度来反映,不透明度越高,则表示颜色越深,不透明度越低,则表示颜色越浅。如图2和图4所示,这两张界面图均是在人脸与屏幕的远近类型为近类型下的界面图,不同的是,图2是在人脸与屏幕的比较近的情况下的界面示意图,该眼
镜贴纸的颜色比较深,但是图4是在人脸与屏幕的更近的情况下的界面示意图,该眼镜贴纸的颜色更深。应理解的是,为了清楚的表示眼镜贴纸的颜色,图2和图4通过眼镜的圈数来表示。
48.可选地,当终端设备继续采集目标图像,如第二目标图像后,终端设备还可以继续检测第二目标图像是否包括人脸图像。在第二目标图像包括人脸图像时,检测人脸与屏幕的远近类别。在检测人脸与屏幕的远近类别为远类别时,在人脸图像上显示反馈图像,以表示用户当前坐姿正确,如图5所示。即在用户恢复正确坐姿之后,屏幕上可以不显示上述第一预设贴纸,这时为了表示用户当前坐姿正确,可以显示反馈图像。
49.可选地,反馈图像可以位于人脸图像的周围,或者位于屏幕的右上角等,本技术对反馈图像的位置不做限制。
50.可选地,如图5所示,反馈图像可以是以下至少一项:烟花图像,带有“good”的图像,本技术对反馈图像不做限制。
51.可选地,反馈图像可以以动画形式在屏幕显示。
52.可选地,考虑到存在“假在线”的不良行为,为了避免这一行为,终端设备可以按照预设帧率或者频率继续采集目标图像,以检测是否存在人脸图像,如果未检测到人脸图像的累计时长达到预设时长时,则推送提示信息,以提示用户观看屏幕内容。
53.可选地,该提示信息可以是以下至少一项,但不限于此:文字提示信息、语音提示信息、视频提示信息等。例如:如图6所示,在屏幕界面上显示ip形象以及文字提示信息“请保持正确坐姿!”。
54.可选地,在用户恢复到正确坐姿之后,可以在人脸图像周围显示反馈图像,并且ip形象可以以动画形式退出界面,如图7所示。
55.可选地,ip形象可以采用任一方式退出界面,但不限于:下滑退出、上滑退出。
56.可选地,在用户恢复到正确坐姿之后,还可以显示反馈图像,以表示用户当前坐姿正确。
57.综上,在本技术中,以实时互动贴纸的方式展示用户坐姿不正确的问题,可以提升用户体验感。
58.可选地,终端设备可以将第一目标图像输入至第一神经网络,以输出【1,2,1,1】的第一特征图,第一个1表示第一特征图的张数,2表示第一特征图的通道数,第二个1表示第一特征图的高,第三个1表示第一特征图的宽;根据第一特征图,得到第一类别或者第二类别;其中,第一类别表示第一目标图像包括人脸图像,第二类别表示第一目标图像不包括人脸图像。或者,终端设备可以采集第一目标图像中的多个特征点,即多个关键点,通过这多个关键点判断第一目标图像是否包括人脸图像。例如:判断这多个关键点与预先存储的人脸图像的多个关键点进行匹配,如果匹配度大于预设值,则确定第一目标图像包括人脸图像,否则,则确定目标图像不包括人脸图像。总之,本技术对如何检测第一目标图像是否包括人脸图像不做限制。
59.可选地,终端设备可以将第一目标图像输入至第二神经网络,以输出【1,2,1,1】的第二特征图,第一个1表示第二特征图的张数,2表示第二特征图的通道数,第二个1表示第二特征图的高,第三个1表示第二特征图的宽;根据第二特征图,确定人脸与屏幕的远近类别。
60.应理解的是,在本技术中,人脸与屏幕的距离被划分为两类,分别为远类别和近类别。其中,对第二神经网络进行训练之后,可以使得第二神经网络输出远类别或者近类别。
61.可选地,可以将人脸与屏幕的距离小于预设距离,称为这种情况对应的类别为近类别。相反,将人脸与屏幕的距离大于或等于该预设距离,称为这种情况对应的类别为远类别。或者,可以根据人脸图像在屏幕中所占比例确定远近类别,例如:当人脸图像在屏幕中所占比例大于预设比例时,确定这种情况下的远近类别是近类别,当人脸图像在屏幕中所占比例小于或等于该预设比例时,确定这种情况下的远近类别是远类别。总之,本技术对如何检测人脸与屏幕的远近类别的方法不做限制。
62.应理解的是,在本技术中,远类别也被称为非近类别,即包括:人脸与屏幕距离正常以及超过正常距离的情况。
63.下面以通过第一神经网络检测第一目标图像是否包括人脸图像,且通过第二神经网络检测人脸与屏幕的远近类别为例,对本技术技术方案进行示例性说明:
64.应理解的是,在本技术中[n,c,w,h]=[batch_size,channel_size,width,height],batch_size表示每次输入的张数,channel_size表示图像的通道数,width表示图像的高,height表述图像的宽。
[0065]
示例性地,图8为本技术实施例提供的一种目标图像显示方法的示意图,如图8所示,假设输入的第一目标图像是[1,3,800,800]。对输入的第一目标图像采用卷积神经网络,如backbone是常见的卷积神经网络,例如resenet,mobilenet等或者其对应的变种。经过卷积神经网络的处理之后,得到[1,128,200,200]的特征图,经过第一神经网络,如face classifier后,直接得到[1,2,1,1]的特征图,用以表示第一目标图像中是否有人脸图像。
[0066]
一种可选方式,在经过第一神经网络得到[1,2,1,1]的第一特征图之后,终端设备可以获取[1,2,1,1]中第一特征图的通道数2对应的特征数值,即第一目标图像中有人脸图像时对应的第一特征数值,以及第一目标图像中没有人脸图像时对应的第二特征数值,根据这两个数值确定第一目标图像中是否有人脸图像,例如:假设第一目标图像中有人脸图像时对应的第一特征数值用a表示,第一目标图像中没有人脸图像时对应的第二特征数值用b表示,那么可以先确定第一目标图像中有人脸图像的第一概率p1=|a|/(|a| |b|),确定第一目标图像中没有人脸图像的第二概率p2=|b|/(|a| |b|),其次,若p1》p2,则得到第一类别;若p1≤p2,则得到第二类别。
[0067]
另一种可选方式,在经过第一神经网络得到[1,2,1,1]的第一特征图之后,终端设备可以获取[1,2,1,1]中第一特征图的通道数2对应的特征数值,即第一目标图像中有人脸图像时对应的第一特征数值,以及第一目标图像中没有人脸图像时对应的第二特征数值,根据这两个数值确定第一目标图像中是否有人脸图像,例如:假设第一目标图像中有人脸图像时对应的第一特征数值用a表示,第一目标图像中没有人脸图像时对应的第二特征数值用b表示,那么可以先确定第一目标图像中有人脸图像的第一概率确定第一目标图像中没有人脸图像的第二概率其次,若p1》p2,则得到第一类
别;若p1≤p2,则得到第二类别。
[0068]
进一步地,如果第一目标图像中有人脸图像,则将[1,128,200,200]的特征图送入第二神经网络,如far/close classifier,得到[1,2,1,1]的第二特征图,用以表示人脸与屏幕的远近类别。
[0069]
一种可选方式,在经过第二神经网络得到[1,2,1,1]的第二特征图之后,终端设备可以获取[1,2,1,1]中第二特征图的通道数2对应的特征数值,即人脸与屏幕的远近类别为近类别时对应的第三特征数值,以及人脸与屏幕的远近类别为远类别时对应的第四特征数值,根据这两个数值确定人脸与屏幕的远近类别,例如:假设人脸与屏幕的远近类别为远类别时对应的第四特征数值用d表示,人脸与屏幕的远近类别为近类别时对应的第三特征数值用c表示,那么可以先确定人脸与屏幕的远近类别为近类别的第三概率p3=|c|/(|c| |d|),确定人脸与屏幕的远近类别为远类别的第四概率p4=|d|/(|c| |d|),其次,若p3》p4,则得到近类别;若p3≤p4,则得到远类别。
[0070]
另一种可选方式,在经过第二神经网络得到[1,2,1,1]的第二特征图之后,终端设备可以获取[1,2,1,1]中第二特征图的通道数2对应的特征数值,即人脸与屏幕的远近类别为近类别时对应的第三特征数值,以及人脸与屏幕的远近类别为远类别时对应的第四特征数值,根据这两个数值确定人脸与屏幕的远近类别,例如:假设人脸与屏幕的远近类别为远类别时对应的第四特征数值用d表示,人脸与屏幕的远近类别为近类别时对应的第三特征数值用c表示,那么可以先确定人脸与屏幕的远近类别为近类别的第三概率为确定人脸与屏幕的远近类别为远类别的第四概率其次,若p3》p4,则得到近类别;若p3≤p4,则得到远类别。
[0071]
现有的人脸检测算法较为复杂,具体表现如下:
[0072]
第一,算法流程太长,前后依赖较多,需要算法的每个环节都有很高的精度和相对合理的阈值,才能保证最终的效果。
[0073]
第二,假定face classifier、bounding box regression、facial landmark localization都由简单的3x3的卷积组成,即k=3,并用浮点运算数(floating point operations,flops)表示。根据卷积的浮点运算数的求解公式:2*k*k*c*h*w*o,其中c表示输入的通道数,o表示输出的通道数,h和w分别表示输出的高度和宽度。则三个分类器或回归器的计算量分别为:
[0074]
2*3*3*128*1*200*200=0.09216gflops=9.216*107flops,
[0075]
2*3*3*128*4*200*200=0.36864gflops=3.6864*108flops,
[0076]
2*3*3*128*10*200*200=0.9216gflops=9.216*108flops。
[0077]
这里由于需要对200x200的每个像素点都进行操作,因此这三个分类器的计算量非常大,而人脸远近任务最终只需要对画面中唯一的人进行操作,这意味着分类器中绝大部分的计算量都是浪费的。
[0078]
第三,以backbone为mobilenetv3_small进行进一步讨论,对于800*800*3的输入,人脸检测网络首先通过mobilenetv3_small进行特征提取和降采样,理论上来说候选预测框的数量越多,越有可能包涵人脸,即人脸检测对200*200的每个像素点进行预测,相比对
25x25的每个像素点进行预测,其准确率会更高。因此,当输入图像通过mobilenetv3_small逐渐降采样后,还会将降采样后的特征图再通过fpn层进行上采样,最终得到宽高为200x200的一些列特征图。可见,这类基于人脸检测的方法,上采样过程也存在较大的性能开销。
[0079]
第四,在得到足够多的预测框之后,还需要通过nms方法进行进一步筛选。nms也存在一定的计算量。
[0080]
可见,现有的人脸检测算法在流程上存在冗余,形成了较高的算法复杂度。因此本技术通过将目标搜索问题转变成分类问题,精简掉冗余的计算,同时避免流程之间的前后依赖,用端到端的方式去对物品的远近进行判断。
[0081]
在本技术中,face classifier与far/close classifier的计算量均为:2*3*3*2*1*1*1=36flops=3.6*101flops,二者之和为72flops=7.2*101flops,相比现有技术中的人脸检测算法中face classifier的9.216*107flops缩小了6个数量级;从而极大地减小了人脸检测算法中face classifier中的冗余计算。
[0082]
值得一提的是,这里backbone的输出[1,128,200,200],是为了方便地跟人脸检测方法进行比较。在实际应用中,经过backbone降采样后可以不进行上采样,例如:经过backbone降采样后的最后一层为[1,360,7,7],可以不依赖人脸检测器中fpn进行上采样,从而去掉了不必要的计算量。另外,这里也无需nms进行计算,可以端到端地直接给出人脸与屏幕的远近类别的输出结果。
[0083]
综上,在本技术中,检测第一目标图像是否包括人脸图像以及检测人脸与屏幕的远近类别均是分类问题,即二分类问题,相对于现有技术中冗余的算法,本技术采用的人脸检测算法较为简单,从而可以提高人脸检测效率。
[0084]
应理解的是,在在线教育、直播等场景下,为了避免“假在线”和“近屏幕”等情况,本技术用直观的提示来告知用户发生了什么问题以及怎么解决,在不打断用户参与在线教育或者直播的情况下,可以矫正用户坐姿,从而提高用户体验感。
[0085]
可选地,在用户进入在线教育或者其他直播间后,可以通过如下方式显示预设贴纸,以提示用户保持正确坐姿,但不限于此:
[0086]
可选方式一:在屏幕的第二预设位置上显示第二预设贴纸,假设第一概率是第一目标图像包括人脸图像的概率,第二概率是第一目标图像不包括人脸图像的概率。那么可以根据第一概率或者第二概率控制第二预设贴纸的显示。
[0087]
可选方式二:在屏幕的第二预设位置上显示第二预设贴纸;获取第二预设贴纸与人脸图像的匹配度;根据该匹配度控制第二预设贴纸的显示。
[0088]
下面针对上述可选方式一进行说明:
[0089]
在用户进入在线教育或者其他直播间后,在屏幕的第二预设位置上可以显示第二预设贴纸。例如:图9为本技术实施例提供的一种界面示意图,如图9所示,在屏幕的中心位置显示人脸框形式的贴纸。可选地,在屏幕上显示人脸框形式的贴纸的同时,还可以显示知识产权(intellectual property,ip)形象以及提示信息,如图9所示,该提示信息提示用户“请保持正确坐姿!”。
[0090]
可选地,假设第一概率是第一目标图像包括人脸图像的概率,第二概率是第一目标图像不包括人脸图像的概率。那么该第二预设贴纸的颜色可以根据该第一概率或者第二
概率发生变化。
[0091]
可选地,第一概率越小,则第二预设贴纸的颜色越浅,第一概率越大,则第二预设贴纸的颜色越深;或者,第二概率越小,则第二预设贴纸的颜色越深,第二概率越大,则第二预设贴纸的颜色越浅。
[0092]
可选地,图10为本技术实施例提供的第二预设贴纸颜色变换示意图,如图10所示,上述第一概率、第二概率可以采用线性映射方式得到,也可以采用非线性映射方式得到,例如:采用线性映射方式时,第一概率是上述的|a|/(|a| |b|),第二概率是|b|/(|a| |b|),采用非线性映射方式时,第一概率是上述的第二概率是
[0093]
可选地,第二预设贴纸采用rgba四通道,其中,rgb表示红绿蓝(red green blue),a表示不透明度,通过上述第一概率或者第二概率可以决定第二预设贴纸的不透明度,而颜色深浅通过不透明度来反映,不透明度越高,则表示颜色越深,不透明度越低,则表示颜色越浅。
[0094]
可选地,第二预设贴纸可以以动画形式在屏幕上显示。
[0095]
下面针对可选方式二进行说明:
[0096]
在用户进入在线教育或者其他直播间后,在屏幕的第二预设位置上可以显示第二预设贴纸。例如:如图9所示,在屏幕的中心位置显示人脸框形式的贴纸。可选地,在屏幕上显示人脸框形式的贴纸的同时,还可以显示ip形象以及提示信息,如图9所示,该提示信息提示用户“请保持正确坐姿!”。
[0097]
可选地,假设第二预设贴纸是如图9所示的人脸框形式的贴纸时,第二预设贴纸与人脸图像的匹配度可以通过人脸框与人脸图像的重合度来反映,例如,图11为本技术实施例提供的另一种界面示意图,图11所示的人脸框与人脸图像的重合度高于图9所示的人脸框与人脸图像的重合度。
[0098]
可选地,当第二预设贴纸与人脸图像的匹配度越大,则第二预设贴纸的颜色越深,匹配度越小,则第二预设贴纸的颜色越浅。
[0099]
可选地,第二预设贴纸采用rgba四通道,通过上述第二预设贴纸与人脸图像的匹配度可以决定第二预设贴纸的不透明度,而颜色深浅通过不透明度来反映,不透明度越高,则表示颜色越深,不透明度越低,则表示颜色越浅。
[0100]
可选地,第二预设贴纸可以以动画形式在屏幕上显示。
[0101]
可选地,当上述第一概率为预设概率时,终端设备还显示反馈图像,以表示用户当前坐姿正确。
[0102]
可选地,反馈图像可以位于人脸图像的周围,或者位于屏幕的右上角等,本技术对反馈图像的位置不做限制。
[0103]
可选地,如图5所示,反馈图像可以是以下至少一项:烟花图像,带有“good”的图像,本技术对反馈图像不做限制。
[0104]
可选地,反馈图像可以以动画形式在屏幕显示。
[0105]
应理解的是,上述预设概率可以是预先设置的,当然也可以动态调整该概率,本技术对此不做限制。
[0106]
可选地,如上所述,终端设备可以按照预设帧率或者频率采集目标图像,针对每张目标图像,终端设备均可以采用上述目标图像显示方法,因此,可能存在连续多张目标图像中均包括人脸图像,并且对应的第一概率为预设概率时,这时屏幕上就会持续显示上述反馈图像,这种情况下,在反馈图像的显示时长达到预设时长时,删除反馈图像,仅显示人脸图像,如图12所示。
[0107]
需要说明的是,上面的目标图像显示方法均是针对一张目标图像而言的,下面将从整个动态角度来阐述该目标图像显示方法:
[0108]
当用户进入在线教育或者其他直播后,这时直播还未开始或者课程还没开始,屏幕上出现如图9所示的界面,即显示第二预设贴纸,当前人脸图像和第一目标图像还没有完全匹配,ip形象可以通过语音或者文字等方式提示用户保持正确坐姿,当用户采用正确坐姿后,这时如图11所示,人脸图像和第二预设贴纸完全匹配,在人脸图像和第二预设贴纸完全匹配之后,可以显示如图5所示的反馈图像,以表示用户当前坐姿正确。进一步地,当用户仍然保持正确坐姿时,如图12所示,这时可以不显示反馈图像。当用户距离屏幕过近时,如图2所示,在人脸图像上显示眼镜贴纸,由于是初次触发显示眼镜贴纸,因此这时眼镜圈数比较少,当用户多次距离屏幕过近或者与屏幕的距离越来越近,这种情况下,如图4所示,眼镜贴纸的圈数变多,进一步地,当用户仍然保持正确坐姿时,如图5所示,这时显示反馈图像。当用户离开屏幕较长时间时,如图6所示,显示ip形象以及提示信息,以提示用户“请保证正确坐姿”,在用户恢复到正确坐姿之后,如图7所示,在人脸图像周围显示反馈图像,ip形象可以采用下滑方式退出,并且最终显示如图5所示的反馈图像。
[0109]
综上,在本技术中,在不打断用户听讲或者观看直播的情况下矫正用户坐姿;并且以实时互动贴纸的方式展示用户出现的问题,可以提升用户体验感。
[0110]
本技术实施例提供一种目标图像显示装置,该装置包括:
[0111]
第一获取模块,用于获取第一目标图像。
[0112]
第一检测模块,用于当第一目标图像包括人脸图像时,检测人脸与屏幕的远近类别。
[0113]
第一显示模块,用于根据远近类别,在人脸图像的第一预设位置上显示第一预设贴纸。
[0114]
第二显示模块,用于当第一目标图像未包括人脸图像时,在屏幕的第二预设位置上显示第二预设贴纸。
[0115]
可选地,还包括:第一处理模块,用于:将第一目标图像输入至第一神经网络,以输出【1,2,1,1】的第一特征图,第一个1表示第一特征图的张数,2表示第一特征图的通道数,第二个1表示第一特征图的高,第三个1表示第一特征图的宽。根据第一特征图,得到第一类别或者第二类别。其中,第一类别表示第一目标图像包括人脸图像,第二类别表示第一目标图像不包括人脸图像。
[0116]
可选地,第一处理模块具体用于:确定第一特征图的通道数对应的第一特征数值和第二特征数值。根据第一特征数值和第二特征数值确定第一概率和第二概率。根据第一概率和第二概率得到第一类别或者第二类别。其中,第一特征数值是第一目标图像中包括人脸图像时对应的数值,第二特征数值是第一目标图像中不包括人脸图像时对应的数值。第一概率是第一目标图像包括人脸图像的概率,第二概率是第一目标图像不包括人脸图像
的概率。
[0117]
可选地,第一处理模块具体用于:若第一概率大于第二概率,则得到第一类别。若第一概率小于或等于第二概率,则得到第二类别。
[0118]
可选地,第一处理模块具体用于:通过如下公式(1)或者公式(2)确定第一概率p1:
[0119]
p1=|a|/(|a| |b|)
ꢀꢀꢀꢀꢀ
(1)
[0120][0121]
通过如下公式(3)或者公式(4)确定第一概率p2:
[0122]
p2=|b|/(|a| |b|)
ꢀꢀꢀꢀꢀ
(3)
[0123][0124]
其中,a表示第一特征数值,b表示第二特征数值。
[0125]
可选地,目标图像显示装置还包括:第二获取模块和第一控制模块,第二获取模块用于获取第一概率或者第二概率。第一控制模块用于根据第一概率或者第二概率控制第二预设贴纸的显示。其中,第一概率是第一目标图像包括人脸图像的概率,第二概率是第一目标图像不包括人脸图像的概率。
[0126]
可选地,第一概率越小,则第二预设贴纸的颜色越浅,第一概率越大,则第二预设贴纸的颜色越深。或者,第二概率越小,则第二预设贴纸的颜色越深,第二概率越大,则第二预设贴纸的颜色越浅。
[0127]
可选地,目标图像显示装置还包括:第三获取模块和第二控制模块,第三获取模块用于获取第二预设贴纸与人脸图像的匹配度。第二控制模块用于根据匹配度控制第二预设贴纸的显示。
[0128]
可选地,匹配度越大,则第二预设贴纸的颜色越深,匹配度越小,则第二预设贴纸的颜色越浅。
[0129]
可选地,目标图像显示装置还包括:第四获取模块和第三显示模块,第四获取模块用于获取第一概率。第三显示模块用于在第一概率为预设概率时,显示反馈图像,以表示用户当前坐姿正确。其中,第一概率是第一目标图像包括人脸图像的概率。
[0130]
可选地,目标图像显示装置还包括:第二处理模块,用于在反馈图像的显示时长达到预设时长时,删除反馈图像,并显示人脸图像。
[0131]
可选地,第一检测模块具体用于:将第一目标图像输入至第二神经网络,以输出【1,2,1,1】的第二特征图,第一个1表示第二特征图的张数,2表示第二特征图的通道数,第二个1表示第二特征图的高,第三个1表示第二特征图的宽。根据第二特征图,确定人脸与屏幕的远近类别。
[0132]
可选地,第一检测模块具体用于:确定第二特征图的通道数对应的第三特征数值和第四特征数值。根据第三特征数值和第四特征数值确定第三概率和第四概率。根据第三概率和第四概率,得到远类别或者近类别。其中,第三特征数值是人脸与屏幕的远近类别为近类别时对应的数值,第四特征数值是人脸与屏幕的远近类别为远类别时对应的数值。第
三概率是人脸与屏幕的远近类别为近类别的概率,第四概率是人脸与屏幕的远近类别为远类别的概率。
[0133]
可选地,第一检测模块具体用于:若第三概率大于第四概率,则得到近类别。若第三概率小于或等于第四概率,则得到远类别。
[0134]
可选地,第一检测模块具体用于:通过如下公式(5)或者公式(6)确定第三概率p3:
[0135]
p3=|c|/(|c| |d|)
ꢀꢀꢀꢀꢀ
(5)
[0136][0137]
通过如下公式(7)或者公式(8)确定第四概率p4:
[0138]
p4=|d|/(|c| |d|)
ꢀꢀꢀꢀꢀ
(7)
[0139][0140]
其中,c表示第三特征数值,d表示第四特征数值。
[0141]
可选地,目标图像显示装置还包括:第五获取模块和第三控制模块,第五获取模块用于在检测人脸与屏幕的远近类别为近类别时,获取第三概率。第三控制模块用于根据第三概率,控制第一预设贴纸在人脸图像上的显示。其中,第三概率是人脸与屏幕的远近类别为近类别的概率。
[0142]
可选地,第三概率越大,则第一预设贴纸的颜色越深,第三概率越小,则第一预设贴纸的颜色越浅。
[0143]
可选地,目标图像显示装置还包括:第六获取模块、第三检测模块、第四显示模块,第六获取模块用于获取第二目标图像。第三检测模块用于当第二目标图像包括人脸图像时,检测人脸与屏幕的远近类别。第四显示模块用于当人脸与屏幕的远近类别为远类别时,在人脸图像上显示反馈图像,以表示用户当前坐姿正确。
[0144]
可选地,目标图像显示装置还包括:推送模块,用于在未检测到人脸图像的累计时长达到预设时长时,则推送提示信息,以提示用户观看屏幕内容。
[0145]
可选地,第一预设位置是固定不变的,或者,第一预设位置跟随人脸图像中的眼睛变化而动态变化。
[0146]
应理解的是,装置实施例与方法实施例可以相互对应,类似的描述可以参照方法实施例。为避免重复,此处不再赘述。具体地,该装置可以执行上述方法实施例,并且装置中的各个模块的前述和其它操作和/或功能分别为了实现上述方法实施例中的相应流程,为了简洁,在此不再赘述。
[0147]
上文中结合附图从功能模块的角度描述了本技术实施例的装置。应理解,该功能模块可以通过硬件形式实现,也可以通过软件形式的指令实现,还可以通过硬件和软件模块组合实现。具体地,本技术实施例中的方法实施例的各步骤可以通过处理器中的硬件的集成逻辑电路和/或软件形式的指令完成,结合本技术实施例公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。可选地,软件模块可以位于随机存储器,闪存、只读存储器、可编程只读存储器、电可擦写可
编程存储器、寄存器等本领域的成熟的存储介质中。该存储介质位于存储器,处理器读取存储器中的信息,结合其硬件完成上述方法实施例中的步骤。
[0148]
图13是本技术实施例提供的终端设备的示意性框图。
[0149]
如图13所示,该终端设备1300可包括:
[0150]
存储器1310和处理器1320,该存储器1310用于存储计算机程序,并将该程序代码传输给该处理器1320。换言之,该处理器1320可以从存储器1310中调用并运行计算机程序,以实现本技术实施例中的方法。
[0151]
例如,该处理器1320可用于根据该计算机程序中的指令执行上述方法实施例。
[0152]
在本技术的一些实施例中,该处理器1320可以包括但不限于:
[0153]
通用处理器、数字信号处理器(digital signal processor,dsp)、专用集成电路(application specific integrated circuit,asic)、现场可编程门阵列(field programmable gate array,fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等等。
[0154]
在本技术的一些实施例中,该存储器1310包括但不限于:
[0155]
易失性存储器和/或非易失性存储器。其中,非易失性存储器可以是只读存储器(read-only memory,rom)、可编程只读存储器(programmable rom,prom)、可擦除可编程只读存储器(erasable prom,eprom)、电可擦除可编程只读存储器(electrically eprom,eeprom)或闪存。易失性存储器可以是随机存取存储器(random access memory,ram),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的ram可用,例如静态随机存取存储器(static ram,sram)、动态随机存取存储器(dynamic ram,dram)、同步动态随机存取存储器(synchrobus dram,sdram)、双倍数据速率同步动态随机存取存储器(double data rate sdram,ddr sdram)、增强型同步动态随机存取存储器(enhanced sdram,esdram)、同步连接动态随机存取存储器(synch link dram,sldram)和直接内存总线随机存取存储器(direct rambus ram,dr ram)。
[0156]
在本技术的一些实施例中,该计算机程序可以被分割成一个或多个模块,该一个或者多个模块被存储在该存储器1310中,并由该处理器1320执行,以完成本技术提供的方法。该一个或多个模块可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述该计算机程序在终端设备中的执行过程。
[0157]
如图13所示,该终端设备还可包括:
[0158]
收发器1330,该收发器1330可连接至该处理器1320或存储器1310。
[0159]
其中,处理器1320可以控制该收发器1330与其他设备进行通信,具体地,可以向其他设备发送信息或数据,或接收其他设备发送的信息或数据。收发器1330可以包括发射机和接收机。收发器1330还可以进一步包括天线,天线的数量可以为一个或多个。
[0160]
应当理解,该终端设备中的各个组件通过总线系统相连,其中,总线系统除包括数据总线之外,还包括电源总线、控制总线和状态信号总线。
[0161]
本技术还提供了一种计算机存储介质,其上存储有计算机程序,该计算机程序被计算机执行时使得该计算机能够执行上述方法实施例的方法。或者说,本技术实施例还提供一种包含指令的计算机程序产品,该指令被计算机执行时使得计算机执行上述方法实施例的方法。
[0162]
当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。该计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行该计算机程序指令时,全部或部分地产生按照本技术实施例该的流程或功能。该计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。该计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,该计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(digital subscriber line,dsl))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。该计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。该可用介质可以是磁性介质(例如,软盘、硬盘、磁带)、光介质(例如数字视频光盘(digital video disc,dvd))、或者半导体介质(例如固态硬盘(solid state disk,ssd))等。
[0163]
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的模块及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本技术的范围。
[0164]
在本技术所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,该模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个模块或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或模块的间接耦合或通信连接,可以是电性,机械或其它的形式。
[0165]
作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理模块,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。例如,在本技术各个实施例中的各功能模块可以集成在一个处理模块中,也可以是各个模块单独物理存在,也可以两个或两个以上模块集成在一个模块中。
[0166]
以上该,仅为本技术的具体实施方式,但本技术的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本技术揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本技术的保护范围之内。因此,本技术的保护范围应以该权利要求的保护范围为准。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献