一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

人体部位的检测方法、动作识别方法、装置和电子设备与流程

2022-06-29 22:32:23 来源:中国专利 TAG:


1.本技术涉及计算机应用技术领域,尤其涉及一种人体部位的检测方法、动作识别方法、装置、电子设备和存储介质。


背景技术:

2.人体部位检测是指从图像中定位人体部位的技术。目前,随着人工智能技术的发展,人体部位检测得到了广泛应用,比如,智能监控场景中,可通过对摄像头采集的图像进行人体部位检测,并根据人体部位的位置识别人类行为是否异常,可实现对人类行为的智能监控和报警。然而,现有技术中的人体部位检测存在准确性低的问题。


技术实现要素:

3.本技术旨在至少在一定程度上解决相关技术中人体部位的检测方法存在准确性低的的技术问题之一。
4.为此,本技术第一方面实施例提出一种人体部位的检测方法,可基于人体部位的特征信息对人体图像进行编码,生成目标人体图像,并基于目标人体图像进行人体部位检测,有助于提高人体部位检测的准确性和适用性。
5.本技术第二方面实施例提出一种动作识别方法,可生成任一人体部位的动作识别结果,丰富了动作识别结果的内容,提高了动作识别的精细度和效率。
6.本技术第三方面实施例提出一种人体部位的检测装置。
7.本技术第四方面实施例提出一种动作识别装置。
8.本技术第五方面实施例提出一种电子设备。
9.本技术第六方面实施例提出一种计算机可读存储介质。
10.本技术第一方面实施例提出了一种人体部位的检测方法,包括:获取待检测的人体图像;从所述人体图像中提取出人体部位的特征信息;基于所述特征信息对所述人体图像进行编码,生成目标人体图像;从所述目标人体图像中检测出所述人体部位的部位边框。
11.根据本技术实施例的人体部位的检测方法,可从人体图像中提取出人体部位的特征信息,并基于人体部位的特征信息对人体图像进行编码,生成目标人体图像,可从目标人体图像中检测出人体部位的部位边框。由此,可基于人体部位的特征信息对人体图像进行编码,生成目标人体图像,并基于目标人体图像进行人体部位检测,有助于提高人体部位检测的准确性和适用性。
12.另外,根据本技术上述实施例的人体部位的检测方法还可以具有如下附加的技术特征:
13.在本技术的一个实施例中,所述特征信息包括用于表征所述人体部位在所述人体图像中所占面积的目标参数,所述从所述人体图像中提取出所述特征信息,包括:获取所述人体图像的图像面积,以及所述人体部位与人体的比例;基于所述图像面积和任一人体部位对应的所述比例,获取所述任一人体部位的所述目标参数。
14.在本技术的一个实施例中,所述人体部位包括关键点和/或骨架,所述骨架用于连接两个关键点,所述目标参数包括所述关键点的半径和/或所述骨架的宽度。
15.在本技术的一个实施例中,所述人体部位包括关键点和/或骨架,所述骨架用于连接两个关键点,所述目标参数包括所述关键点的半径和/或所述骨架的宽度。
16.在本技术的一个实施例中,所述特征信息包括所述人体部位的类别、所述人体部位在所述人体图像中的位置、用于表征所述人体部位在所述人体图像中所占面积的目标参数;所述基于所述特征信息,确定所述人体部位对应的编码颜色、所述人体图像中的编码区域,包括:基于所述人体部位的类别,确定所述人体部位对应的所述编码颜色;基于所述人体部位的所述位置和所述目标参数,确定所述人体部位对应的所述编码区域。
17.在本技术的一个实施例中,所述基于每个人体部位对应的所述编码颜色和所述编码区域,对所述人体图像进行编码,包括:基于任一人体部位对应的所述编码颜色,对所述任一人体部位对应的所述编码区域进行编码。
18.本技术第二方面实施例提出了一种动作识别方法,包括:获取待检测图像中人体部位的目标识别动作;从所述待检测图像中提取出所述人体部位的特征信息;基于所述特征信息对所述待检测图像进行编码,生成目标图像;从目标图像中检测出所述人体部位的部位边框;将任一人体部位的目标识别动作和所述任一人体部位的部位边框进行关联,生成所述任一人体部位的动作识别结果。
19.根据本技术实施例的动作识别方法,可从待检测图像中提取出人体部位的特征信息,基于特征信息对待检测图像进行编码生成目标图像,从目标图像中检测出所述人体部位的部位边框,将任一人体部位的目标识别动作和任一人体部位的部位边框进行关联,生成动作识别结果。由此,可基于人体部位的特征信息对待检测图像进行编码,生成目标图像,并基于目标图像进行人体部位检测,有助于提高人体部位检测的准确性和适用性,并可将任一人体部位的目标识别动作和任一人体部位的部位边框进行关联,生成任一人体部位的动作识别结果,丰富了动作识别结果的内容,提高了动作识别的精细度。
20.另外,根据本技术上述实施例的动作识别方法还可以具有如下附加的技术特征:
21.在本技术的一个实施例中,所述获取待检测图像中人体部位的目标识别动作,包括:获取待检测视频,并从所述待检测视频中获取目标视频片段,其中,所述目标视频片段包括所述待检测图像;对所述目标视频片段进行部位动作识别,以获取所述待检测图像中所述人体部位的目标识别动作。
22.在本技术的一个实施例中,所述基于所述特征信息对所述待检测图像进行编码,生成目标图像,包括:基于所述特征信息,确定所述人体部位对应的编码颜色、所述待检测图像中的编码区域;基于每个人体部位对应的所述编码颜色和所述编码区域,对所述待检测图像进行编码,生成所述目标图像。
23.在本技术的一个实施例中所述特征信息包括所述人体部位的类别、所述人体部位在所述待检测图像中的位置、用于表征所述人体部位在所述待检测图像中所占面积的目标参数;所述基于所述特征信息,确定所述人体部位对应的编码颜色、所述待检测图像中的编码区域,包括:基于所述人体部位的类别,确定所述人体部位对应的所述编码颜色;基于所述人体部位的所述位置和所述目标参数,确定所述人体部位对应的所述编码区域。
24.在本技术的一个实施例中,所述方法还包括:获取所述待检测图像中人体的目标
识别动作和人体边框;将任一人体的目标识别动作和所述任一人体的人体边框进行关联,生成所述任一人体的动作识别结果。
25.在本技术的一个实施例中,所述获取所述待检测图像中人体的目标识别动作,包括:获取待检测视频,其中,所述待检测视频包括所述待检测图像;对所述待检测视频进行人体动作识别,以获取所述待检测图像中所述人体的目标识别动作。
26.本技术第三方面实施例提出了一种人体部位的检测装置,包括:获取模块,用于获取待检测的人体图像;提取模块,用于从所述人体图像中提取出人体部位的特征信息;编码模块,用于基于所述特征信息对所述人体图像进行编码,生成目标人体图像;检测模块,用于从所述目标人体图像中检测出所述人体部位的部位边框。
27.本技术实施例的人体部位的检测装置,可从人体图像中提取出人体部位的特征信息,并基于人体部位的特征信息对人体图像进行编码,生成目标人体图像,从目标人体图像中检测出人体部位的部位边框。由此,可基于人体部位的特征信息对人体图像进行编码,生成目标人体图像,并基于目标人体图像进行人体部位检测,有助于提高人体部位检测的准确性和适用性。
28.另外,根据本技术上述实施例的人体部位的检测装置还可以具有如下附加的技术特征:
29.在本技术的一个实施例中,所述特征信息包括用于表征所述人体部位在所述人体图像中所占面积的目标参数,所述提取模块,包括:第一获取单元,用于获取所述人体图像的图像面积,以及所述人体部位与人体的比例;第二获取单元,用于基于所述图像面积和任一人体部位对应的所述比例,获取所述任一人体部位的所述目标参数。
30.在本技术的一个实施例中,所述人体部位包括关键点和/或骨架,所述骨架用于连接两个关键点,所述目标参数包括所述关键点的半径和/或所述骨架的宽度。
31.在本技术的一个实施例中,所述编码模块,包括:确定单元,用于基于所述特征信息,确定所述人体部位对应的编码颜色、所述人体图像中的编码区域;编码单元,用于基于每个人体部位对应的所述编码颜色和所述编码区域,对所述人体图像进行编码,生成所述目标人体图像。
32.在本技术的一个实施例中,所述特征信息包括所述人体部位的类别、所述人体部位在所述人体图像中的位置、用于表征所述人体部位在所述人体图像中所占面积的目标参数;所述确定单元,还用于:基于所述人体部位的类别,确定所述人体部位对应的所述编码颜色;基于所述人体部位的所述位置和所述目标参数,确定所述人体部位对应的所述编码区域。
33.在本技术的一个实施例中,所述编码单元,还用于:基于任一人体部位对应的所述编码颜色,对所述任一人体部位对应的所述编码区域进行编码。
34.本技术第四方面实施例提出了一种动作识别装置,包括:第一获取模块,用于获取待检测图像中人体部位的目标识别动作;提取模块,用于从所述待检测图像中提取出所述人体部位的特征信息;编码模块,用于基于所述特征信息对所述待检测图像进行编码,生成目标图像;检测模块,用于从目标图像中检测出所述人体部位的部位边框;第一关联模块,用于将任一人体部位的目标识别动作和所述任一人体部位的部位边框进行关联,生成所述任一人体部位的动作识别结果。
35.本技术实施例的动作识别装置,可从待检测图像中提取出人体部位的特征信息,基于特征信息对待检测图像进行编码生成目标图像,从目标图像中检测出所述人体部位的部位边框,将任一人体部位的目标识别动作和任一人体部位的部位边框进行关联,生成动作识别结果。由此,可基于人体部位的特征信息对待检测图像进行编码,生成目标图像,并基于目标图像进行人体部位检测,有助于提高人体部位检测的准确性和适用性,并可将任一人体部位的目标识别动作和任一人体部位的部位边框进行关联,生成任一人体部位的动作识别结果,丰富了动作识别结果的内容,提高了动作识别的精细度。
36.另外,根据本技术上述实施例的动作识别装置还可以具有如下附加的技术特征:
37.在本技术的一个实施例中,所述第一获取模块,包括:第一获取单元,用于获取待检测视频,并从所述待检测视频中获取目标视频片段,其中,所述目标视频片段包括所述待检测图像;第二获取单元,用于对所述目标视频片段进行部位动作识别,以获取所述待检测图像中所述人体部位的目标识别动作。
38.在本技术的一个实施例中,所述编码模块,包括:确定单元,用于基于所述特征信息,确定所述人体部位对应的编码颜色、所述待检测图像中的编码区域;编码单元,用于基于每个人体部位对应的所述编码颜色和所述编码区域,对所述待检测图像进行编码,生成所述目标图像。
39.在本技术的一个实施例中,所述特征信息包括所述人体部位的类别、所述人体部位在所述待检测图像中的位置、用于表征所述人体部位在所述待检测图像中所占面积的目标参数;所述确定单元,还用于:基于所述人体部位的类别,确定所述人体部位对应的所述编码颜色;基于所述人体部位的所述位置和所述目标参数,确定所述人体部位对应的所述编码区域。
40.在本技术的一个实施例中,所述装置还包括:第二获取模块,用于获取所述待检测图像中人体的目标识别动作和人体边框;第二关联模块,用于将任一人体的目标识别动作和所述任一人体的人体边框进行关联,生成所述任一人体的动作识别结果。
41.在本技术的一个实施例中,所述第二获取模块,包括:第三获取单元,用于获取待检测视频,其中,所述待检测视频包括所述待检测图像;识别单元,用于对所述待检测视频进行人体动作识别,以获取所述待检测图像中所述人体的目标识别动作。
42.本技术第五方面实施例提出了一种电子设备,包括:存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时,实现如前述第一方面实施例所述的人体部位的检测方法,或者实现如前述第二方面实施例所述的动作识别方法。
43.本技术实施例的电子设备,通过处理器执行存储在存储器上的计算机程序,可从人体图像中提取出人体部位的特征信息,并基于人体部位的特征信息对人体图像进行编码,生成目标人体图像,可从目标人体图像中检测出人体部位的部位边框。由此,可基于人体部位的特征信息对人体图像进行编码,生成目标人体图像,并基于目标人体图像进行人体部位检测,有助于提高人体部位检测的准确性和适用性。
44.本技术第六方面实施例提出了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时,实现如前述第一方面实施例所述的人体部位的检测方法,或者实现如前述第二方面实施例所述的动作识别方法。
45.本技术实施例的计算机可读存储介质,通过存储计算机程序并被处理器执行,可从人体图像中提取出人体部位的特征信息,并基于人体部位的特征信息对人体图像进行编码,生成目标人体图像,可从目标人体图像中检测出人体部位的部位边框。由此,可基于人体部位的特征信息对人体图像进行编码,生成目标人体图像,并基于目标人体图像进行人体部位检测,有助于提高人体部位检测的准确性和适用性。
46.本技术附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
47.本技术上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
48.图1为根据本技术一个实施例的人体部位的检测方法的流程示意图;
49.图2为人体检测器和基于姿态引导的人体关键部位检测器的示意图;
50.图3为根据本技术一个实施例的人体部位的检测方法中从人体图像中提取出人体部位的特征信息的流程示意图;
51.图4为根据本技术一个实施例的人体部位的检测方法中基于特征信息对人体图像进行编码,生成目标人体图像的流程示意图;
52.图5为根据本技术一个实施例的动作识别方法的流程示意图;
53.图6为视频动作预测和关键部位动作预测的示意图;
54.图7为根据本技术一个实施例的动作识别方法中获取待检测图像中人体部位的目标识别动作的示意图;
55.图8为根据本技术一个实施例的人体部位的检测装置的结构示意图;
56.图9为根据本技术一个实施例的动作识别装置的结构示意图;以及
57.图10为根据本技术一个实施例的电子设备的结构示意图。
具体实施方式
58.下面详细描述本技术的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本技术,而不能理解为对本技术的限制。
59.下面参照附图描述本技术实施例的人体部位的检测方法、动作识别方法、装置、电子设备和存储介质。
60.图1为根据本技术一个实施例的人体部位的检测方法的流程示意图。
61.如图1所示,本技术实施例的人体部位的检测方法,包括:
62.s101,获取待检测的人体图像。
63.需要说明的是,本技术实施例的人体部位的检测方法的执行主体可为人体部位的检测装置,本技术实施例的人体部位的检测装置可以配置在任意电子设备中,以使该电子设备可以执行本技术实施例的人体部位的检测方法。其中,电子设备可以为个人电脑(personal computer,简称pc)、云端设备、移动设备等,移动设备例如可以为手机、平板电脑、个人数字助理、穿戴式设备、车载设备等具有各种操作系统、触摸屏和/或显示屏的硬件
设备。
64.本技术的实施例中,人体图像中可包括至少一个人体。比如,一个人体图像中可包括一个人体,或者,一个人体图像中可包括多个人体。
65.在一种实施方式中,获取待检测的人体图像,可包括获取待检测图像,并从待检测图像中检测出人体边框,将人体边框内的待检测图像作为待检测的人体图像。
66.在一种实施方式中,如图2所示,从待检测图像中检测出人体边框,可包括将待检测图像xf输入至训练好的人体检测器,由人体检测器从待检测图像xf中检测出人体边框(图中未示出)。进一步地,可将人体边框内的待检测图像xf作为待检测的人体图像x
p
。应说明的是,对人体检测器的类别不做过多限定,比如,人体检测器包括但不限于r-cnn(region convolutional neural networks,区域卷积神经网络)、yolof(you only look one-level feature)等。
67.s102,从人体图像中提取出人体部位的特征信息。
68.需要说明的是,对人体部位的类别不做过多限定,比如,人体部位包括但不限于头、左手、右手、左臂、右臂、臀部、左脚、右脚、左腿、右腿等。
69.需要说明的是,对人体部位的特征信息的类别不做过多限定,比如,人体部位的特征信息包括但不限于人体部位的类别、人体部位在人体图像中的位置、用于表征人体部位在人体图像中所占面积的目标参数等。
70.在一种实施方式中,人体部位包括关键点、骨架中的至少一种,骨架用于连接两个关键点。应说明的是,对关键点的类别不做过多限定,比如,关键点可包括关节关键点、骨架关键点等。可以理解的是,一个人体部位可包括至少一个关键点,和/或一个人体部位可包括至少一个骨架。
71.在一种实施方式中,人体部位在人体图像中的位置,可包括人体部位包括的关键点和/或骨架在人体图像中的位置集合,目标参数包括关键点的半径和/或骨架的宽度。
72.在一种实施方式中,如图2所示,从人体图像中提取出人体部位的特征信息,可包括将人体图像x
p
输入至训练好的姿态估计器,由姿态估计器从人体图像中提取出人体部位的特征信息k
p
。应说明的是,对姿态估计器的类别不做过多限定,比如,姿态估计器可包括hrnet(high-resoultion net,高分辨率网络)。
73.s103,基于特征信息对人体图像进行编码,生成目标人体图像。
74.在一种实施方式中,基于特征信息对人体图像进行编码,生成目标人体图像,可包括基于人体部位包括的关键点和/或骨架的特征信息对人体图像进行编码,生成目标人体图像。
75.在一种实施方式中,基于特征信息对人体图像进行编码,生成目标人体图像,可包括基于任一人体部位的特征信息生成rgb圆点,基于rgb圆点对人体图像进行编码,生成目标人体图像。可以理解的是,不同的特征信息可对应不同的rgb圆点。其中,基于任一人体部位的特征信息生成rgb圆点,可包括基于任一人体部位的特征信息,获取rgb圆点的颜色、半径,基于rgb圆点的颜色、半径生成rgb圆点。
76.在一种实施方式中,如图2所示,基于特征信息对人体图像进行编码,生成目标人体图像,可包括将特征信息k
p
和人体图像x
p
输入至姿态编码器,由姿态编码器基于特征信息k
p
对人体图像x
p
进行编码,生成目标人体图像x
t

77.s104,从目标人体图像中检测出人体部位的部位边框。
78.可以理解的是,从目标人体图像中检测出的人体部位的部位边框的数量可为多个,一个人体部位可对应一个部位边框。应说明的是,对人体部位的部位边框的形状不做过多限定,比如,部位边框包括但不限于矩形、正方形、圆形等。不同人体部位的部位边框之间可具有重叠区域。
79.在一种实施方式中,如图2所示,从目标人体图像中检测出人体部位的部位边框,可包括将目标人体图像x
t
输入至训练好的人体部位检测器,由人体部位检测器从目标人体图像x
t
中检测出人体部位的部位边框。如图2所示,可从目标人体图像x
t
中检测出头、左手、右手、臀部、左腿、右腿的部位边框。应说明的是,对人体部位检测器的类别不做过多限定,比如,人体部位检测器包括但不限于r-cnn(region convolutional neural networks,区域卷积神经网络)、yolof(you only look one-level feature)等。
80.综上,根据本技术实施例的人体部位的检测方法,可从人体图像中提取出人体部位的特征信息,并基于人体部位的特征信息对人体图像进行编码,生成目标人体图像,从目标人体图像中检测出人体部位的部位边框。由此,可基于人体部位的特征信息对人体图像进行编码,生成目标人体图像,并基于目标人体图像进行人体部位检测,有助于提高人体部位检测的准确性和适用性。
81.在上述任一实施例的基础上,如图3所示,步骤s102中从人体图像中提取出人体部位的特征信息,包括:
82.s301,获取人体图像的图像面积,以及人体部位与人体的比例。
83.在一种实施方式中,获取人体图像的图像面积,可包括获取人体图像的宽度和长度的乘积,将上述乘积作为人体图像的图像面积。在人体图像的宽度为像素宽度,人体图像的长度为像素长度的情况下,得到的人体图像的图像面积为像素面积。
84.需要说明的是,人体部位与人体的比例,指的是一个人体部位占整个人体中的比例。可以理解的是,一个人体中不同的人体部位可对应不同的比例,不同人体中相同的人体部位可对应不同的比例。
85.在一种实施方式中,获取人体部位与人体的比例,可包括识别人体的类别,根据人体的类别获取人体部位与人体的比例。应说明的是,对人体的类别不做过多限定,比如,人体的类别包括但不限于男性、女性、儿童、青壮年、老年人等。可以理解的是,不同类别的人体,对应的人体部位与人体的比例也不同。
86.在一种实施方式中,根据人体的类别获取人体部位与人体的比例,可包括预先建立人体的类别、人体部位与人体的比例之间的映射关系或者映射表,在获取到人体的类别之后,查询上述映射关系或者映射表,可获取到人体的类别映射的人体部位与人体的比例。应说明的是,对上述映射关系或者映射表不做过多限定。
87.s302,基于图像面积和任一人体部位对应的比例,获取任一人体部位的目标参数。
88.在一种实施方式中,基于图像面积和任一人体部位对应的比例,获取任一人体部位的目标参数,可包括基于图像面积和任一人体部位包括的关键点和/或骨架对应的比例,获取任一人体部位包括的关键点的半径和/或骨架的宽度。
89.在一种实施方式中,基于图像面积和任一人体部位对应的比例,获取任一人体部位的目标参数,可包括获取图像面积和任一人体部位对应的比例的乘积,基于上述乘积确
定任一人体部位的目标参数。
90.比如,人体部位为右手时,右手包括关键点a、b、c和骨架1、2,骨架1用于连接关键点a、b,骨架2用于连接关键点b、c,可基于图像面积和关键点a对应的比例的乘积,确定关键点a的半径,可基于图像面积和关键点b对应的比例的乘积,确定关键点b的半径,可基于图像面积和关键点c对应的比例的乘积,确定关键点c的半径,可基于图像面积和骨架1对应的比例的乘积,确定骨架1的宽度,可基于图像面积和骨架2对应的比例的乘积,确定骨架2的宽度。
91.由此,该方法可基于图像面积和任一人体部位对应的比例,获取任一人体部位的目标参数。
92.在上述任一实施例的基础上,如图4所示,步骤s103中基于特征信息对人体图像进行编码,生成目标人体图像,包括:
93.s401,基于特征信息,确定人体部位对应的编码颜色、人体图像中的编码区域。
94.可以理解的是,不同的特征信息可对应不同的编码颜色和编码区域。
95.在一种实施方式中,基于特征信息,确定人体部位对应的编码颜色,可包括基于人体部位的类别,确定人体部位对应的编码颜色。可以理解的是,不同的人体部位的类别,可对应不同的编码颜色。比如,头、右手、左手对应的编码颜色分别为红色、黄色、绿色。
96.在一种实施方式中,基于特征信息,确定人体部位对应的编码颜色,可包括基于人体部位包括的关键点和/或骨架的类别,确定关键点和/或骨架对应的编码颜色。比如,人体部位为右手时,右手包括关键点a、b、c和骨架1、2,骨架1用于连接关键点a、b,骨架2用于连接关键点b、c,可分别基于关键点a、b、c的类别确定关键点a、b、c对应的编码颜色,可分别基于骨架1、2的类别确定骨架1、2对应的编码颜色。
97.需要说明的是,不同人体部位对应的编码区域之间不重叠。
98.在一种实施方式中,基于特征信息,确定人体图像中的编码区域,可包括基于人体部位的位置和目标参数,确定人体部位对应的编码区域。
99.在一种实施方式中,基于人体部位的位置和目标参数,确定人体部位对应的编码区域,可包括基于目标参数确定人体部位在人体图像中所占面积,将人体图像中以人体部位的位置为中心,按照上述面积向外扩散的区域作为编码区域。
100.在一种实施方式中,基于特征信息,确定人体图像中的编码区域,可包括基于人体部位包括的关键点和/或骨架的位置和目标参数,确定关键点和/或骨架对应的编码区域。应说明的是,人体部位对应的编码区域包括关键点和/或骨架对应的编码区域。
101.比如,人体部位为右手时,右手包括关键点a、b、c和骨架1、2,骨架1用于连接关键点a、b,骨架2用于连接关键点b、c,可分别基于关键点a、b、c的半径确定关键点a、b、c在人体图像中所占面积,可分别基于骨架1、2的宽度确定骨架1、2在人体图像中所占面积,将人体图像中以关键点a的位置为中心,按照关键点a对应的面积向外扩散的区域作为关键点a的编码区域,确定关键点b、c,以及骨架1、2的编码区域的内容可参见上述确定关键点a的编码区域的内容,这里不再赘述。应说明的是,右手的编码区域可包括关键点a、b、c,以及骨架1、2对应的编码区域。
102.s402,基于每个人体部位对应的编码颜色和编码区域,对人体图像进行编码,生成目标人体图像。在一种实施方式中,基于每个人体部位对应的编码颜色和编码区域,对人体
图像进行编码,可包括基于任一人体部位对应的编码颜色,对任一人体部位对应的编码区域进行编码。
103.比如,头、右手、左手对应的编码颜色分别为红色、黄色、绿色,头、右手、左手对应的编码区域分别为编码区域1、2、3,则可基于红色对编码区域1进行编码,可基于黄色对编码区域2进行编码,可基于绿色对编码区域3进行编码。
104.在一种实施方式中,基于每个人体部位对应的编码颜色和编码区域,对人体图像进行编码,可包括基于每个人体部位包括的关键点和/或骨架对应的编码颜色和编码区域,对人体图像进行编码。
105.比如,人体部位为右手时,右手包括关键点a、b、c和骨架1、2,骨架1用于连接关键点a、b,骨架2用于连接关键点b、c,关键点a、b、c对应的编码颜色分别为红色、黄色、绿色,骨架1、2对应的编码颜色均为蓝色,关键点a、b、c、骨架1、2对应的编码区域分别为编码区域1至5,则可基于基于红色对编码区域1进行编码,可基于黄色对编码区域2进行编码,可基于绿色对编码区域3进行编码,可基于蓝色对编码区域4、5进行编码。
106.由此,该方法中可基于特征信,确定人体部位对应的编码颜色、人体图像中的编码区域,并基于每个人体部位对应的编码颜色和编码区域,对人体图像进行编码,生成所述目标人体图像。
107.图5为根据本技术一个实施例的动作识别方法的流程示意图。
108.如图5所示,本技术实施例的动作识别方法,包括:
109.s501,获取待检测图像中人体部位的目标识别动作。
110.需要说明的是,本技术实施例的动作识别方法的执行主体可为动作识别装置,本技术实施例的动作识别装置可以配置在任意电子设备中,以使该电子设备可以执行本技术实施例的动作识别方法。其中,电子设备可以为个人电脑(personal computer,简称pc)、云端设备、移动设备等,移动设备例如可以为手机、平板电脑、个人数字助理、穿戴式设备、车载设备等具有各种操作系统、触摸屏和/或显示屏的硬件设备。
111.可以理解的是,不同人体部位的目标识别动作可能不同。
112.在一种实施方式中,获取待检测图像中人体部位的目标识别动作,可包括对待检测图像进行部位动作识别,获取待检测图像中人体部位的目标识别动作。
113.在一种实施方式中,获取待检测图像中人体部位的目标识别动作,可包括获取待检测视频,并从待检测视频中获取目标视频片段,其中,目标视频片段包括待检测图像,对目标视频片段进行部位动作识别,以获取待检测图像中人体部位的目标识别动作。
114.在一种实施方式中,如图6所示,对目标视频片段进行部位动作识别,可包括将目标视频片段输入至训练好的部位动作识别模型,由部位动作识别模型对目标视频片段进行部位动作识别。应说明的是,对部位动作识别模型的类别不做过多限定。
115.在一种实施方式中,对目标视频片段进行部位动作识别,可包括从目标视频片段包括的多个第一帧图像中选取至少一个第一候选帧图像,对任一第一候选帧图像进行部位动作识别,获取任一第一候选帧图像中人体部位的候选识别动作,基于每个第一候选帧图像中人体部位的候选识别动作,确定待检测图像中人体部位的目标识别动作。
116.在一种实施方式中,至少一个第一候选帧图像的选取方式为随机选取。
117.在一种实施方式中,基于每个第一候选帧图像中人体部位的候选识别动作,确定
待检测图像中人体部位的目标识别动作,可包括针对任一人体部位,将出现次数最多的候选识别动作确定为目标识别动作。比如,第一候选帧图像a、b、c中右手的候选识别动作分别为握、松、握,则可将握确定为右手的目标识别动作。
118.在一种实施方式中,可基于每个第一候选帧图像中人体部位的候选识别动作,确定待检测视频中每个帧图像中人体部位的目标识别动作,由此,该方法中不需要对待检测视频中的每个帧图像进行部位动作识别,有助于节省计算资源。
119.s502,从待检测图像中提取出人体部位的特征信息。
120.s503,基于特征信息对待检测图像进行编码,生成目标图像。
121.在一种实施方式中,基于特征信息对待检测图像进行编码,生成目标图像,可包括基于特征信息,确定人体部位对应的编码颜色、待检测图像中的编码区域,基于每个人体部位对应的编码颜色和编码区域,对待检测图像进行编码,生成目标图像。
122.在一种实施方式中,特征信息包括人体部位的类别、人体部位在待检测图像中的位置、用于表征人体部位在待检测图像中所占面积的目标参数,基于特征信息,确定人体部位对应的编码颜色、待检测图像中的编码区域,可包括基于人体部位的类别,确定人体部位对应的编码颜色,基于人体部位的位置和目标参数,确定人体部位对应的编码区域。
123.s504,从目标图像中检测出人体部位的部位边框。
124.需要说明的是,步骤s502-s504的相关内容可参见上述实施例,这里不再赘述。
125.s505,将任一人体部位的目标识别动作和任一人体部位的部位边框进行关联,生成任一人体部位的动作识别结果。
126.比如,头、左手、右手的目标识别动作分别为目标识别动作a、b、c,头、左手、右手的部位边框分别为部位边框1至3,可将目标识别动作a与部位边框1进行关联,生成头的动作识别结果,将目标识别动作b与部位边框2进行关联,生成左手的动作识别结果,将目标识别动作c与部位边框3进行关联,生成右手的动作识别结果。
127.在一种实施方式中,将任一人体部位的目标识别动作和任一人体部位的部位边框进行关联,可包括将任一人体部位的目标识别动作的第一标识和任一人体部位的部位边框的第二标识进行关联。应说明的是,对第一标识、第二标识的类别均不做过多限定,比如,第一标识、第二标识包括但不限于名称、编号、字符等。
128.在一种实施方式中,将任一人体部位的目标识别动作和任一人体部位的部位边框进行关联,可包括构建任一人体部位的目标识别动作和任一人体部位的部位边框之间的对应关系、映射关系、映射表中的至少一种。
129.综上,根据本技术实施例的动作识别方法,可从待检测图像中提取出人体部位的特征信息,基于特征信息对待检测图像进行编码生成目标图像,从目标图像中检测出所述人体部位的部位边框,将任一人体部位的目标识别动作和任一人体部位的部位边框进行关联,生成动作识别结果。由此,可基于人体部位的特征信息对待检测图像进行编码,生成目标图像,并基于目标图像进行人体部位检测,有助于提高人体部位检测的准确性和适用性,并可将任一人体部位的目标识别动作和任一人体部位的部位边框进行关联,生成任一人体部位的动作识别结果,丰富了动作识别结果的内容,提高了动作识别的精细度。
130.在上述任一实施例的基础上,如图7所示,获取待检测图像的动作识别结果,可包括:
131.s701,获取待检测图像中人体的目标识别动作和人体边框;
132.需要说明的是,获取待检测图像中的人体边框的相关内容,可参见上述实施例,这里不再赘述。
133.在一种实施方式中,获取待检测图像中人体的目标识别动作,可包括对待检测图像进行人体动作识别,获取待检测图像中人体的目标识别动作。
134.在一种实施方式中,获取待检测图像中人体的目标识别动作,可包括获取待检测视频,其中,待检测视频包括待检测图像,对待检测视频进行人体动作识别,以获取待检测图像中人体的目标识别动作。
135.在一种实施方式中,如图6所示,对待检测视频进行人体动作识别,可包括将待检测视频输入至训练好的人体动作识别模型,由人体动作识别模型对待检测视频进行人体动作识别。应说明的是,对人体动作识别模型的类别不做过多限定。
136.在一种实施方式中,对待检测视频进行人体动作识别,可包括从待检测视频包括的多个第二帧图像中选取至少一个第二候选帧图像,对任一第二候选帧图像进行人体动作识别,获取任一第二候选帧图像中人体的候选识别动作,基于每个第二候选帧图像中人体的候选识别动作,确定待检测图像中人体的目标识别动作。
137.在一种实施方式中,可基于每个第二候选帧图像中人体的候选识别动作,确定待检测视频中每个帧图像中人体的目标识别动作。比如,可基于每个第二候选帧图像中人体的候选识别动作,确定待检测视频的视频动作标签。继续以图6为例,待检测视频的视频动作标签为投掷运动。由此,该方法中不需要对待检测视频中的每个帧图像进行人体动作识别,有助于节省计算资源。
138.s702,将任一人体的目标识别动作和任一人体的人体边框进行关联,生成任一人体的动作识别结果。
139.比如,人体1至3的目标识别动作分别为目标识别动作a、b、c,人体1至3的人体边框分别为人体边框1至3,可将目标识别动作a与人体边框1进行关联,生成人体1的动作识别结果,将目标识别动作b与人体边框2进行关联,生成人体2的动作识别结果,将目标识别动作c与人体边框3进行关联,生成人体3的动作识别结果。
140.需要说明的是,将任一人体的目标识别动作和任一人体的人体边框进行关联的相关内容,可参见上述实施例,这里不再赘述。
141.由此,该方法中可将任一人体的目标识别动作和任一人体的人体边框进行关联,生成任一人体的动作识别结果,丰富了动作识别结果的内容,提高了动作识别的精细度。
142.与上述图1至图4实施例提供的人体部位的检测方法相对应,本公开还提供一种人体部位的检测装置,由于本公开实施例提供的人体部位的检测装置与上述图1至图4实施例提供的人体部位的检测方法相对应,因此人体部位的检测方法的实施方式也适用于本公开实施例提供的人体部位的检测装置,在本公开实施例中不再详细描述。
143.图8为根据本技术一个实施例的人体部位的检测装置的结构示意图。
144.如图8所示,本技术实施例的人体部位的检测装置100可以包括:获取模块110、提取模块120、编码模块130和检测模块140。
145.获取模块110,用于获取待检测的人体图像。
146.提取模块120,用于从所述人体图像中提取出人体部位的特征信息。
147.编码模块130,用于基于所述特征信息对所述人体图像进行编码,生成目标人体图像。
148.检测模块140,用于从所述目标人体图像中检测出所述人体部位的部位边框。
149.在本技术的一个实施例中,所述特征信息包括用于表征所述人体部位在所述人体图像中所占面积的目标参数,所述提取模块120,包括:第一获取单元,用于获取所述人体图像的图像面积,以及所述人体部位与人体的比例;第二获取单元,用于基于所述图像面积和任一人体部位对应的所述比例,获取所述任一人体部位的所述目标参数。
150.在本技术的一个实施例中,所述人体部位包括关键点和/或骨架,所述骨架用于连接两个关键点,所述目标参数包括所述关键点的半径和/或所述骨架的宽度。
151.在本技术的一个实施例中,所述编码模块130,包括:确定单元,用于基于所述特征信息,确定所述人体部位对应的编码颜色、所述人体图像中的编码区域;编码单元,用于基于每个人体部位对应的所述编码颜色和所述编码区域,对所述人体图像进行编码,生成所述目标人体图像。
152.在本技术的一个实施例中,所述特征信息包括所述人体部位的类别、所述人体部位在所述人体图像中的位置、用于表征所述人体部位在所述人体图像中所占面积的目标参数;所述确定单元,还用于:基于所述人体部位的类别,确定所述人体部位对应的所述编码颜色;基于所述人体部位的所述位置和所述目标参数,确定所述人体部位对应的所述编码区域。
153.在本技术的一个实施例中,所述编码单元,还用于:基于任一人体部位对应的所述编码颜色,对所述任一人体部位对应的所述编码区域进行编码。
154.本技术实施例的人体部位的检测装置,可从人体图像中提取出人体部位的特征信息,并基于人体部位的特征信息对人体图像进行编码,生成目标人体图像,从目标人体图像中检测出人体部位的部位边框。由此,可基于人体部位的特征信息对人体图像进行编码,生成目标人体图像,并基于目标人体图像进行人体部位检测,有助于提高人体部位检测的准确性和适用性。
155.与上述图5至图7实施例提供的动作识别方法相对应,本公开还提供一种动作识别装置,由于本公开实施例提供的动作识别装置与上述图5至图7实施例提供的动作识别方法相对应,因此动作识别方法的实施方式也适用于本公开实施例提供的动作识别装置,在本公开实施例中不再详细描述。
156.图9为根据本技术一个实施例的动作识别装置的结构示意图。
157.如图9所示,本技术实施例的动作识别装置200可以包括:第一获取模块210、提取模块220、编码模块230、检测模块240和第一关联模块250。
158.第一获取模块210,用于获取待检测图像中人体部位的目标识别动作。
159.提取模块220,用于从所述待检测图像中提取出所述人体部位的特征信息。
160.编码模块230,用于基于所述特征信息对所述待检测图像进行编码,生成目标图像。
161.检测模块240,用于从目标图像中检测出所述人体部位的部位边框。
162.第一关联模块250,用于将任一人体部位的目标识别动作和所述任一人体部位的部位边框进行关联,生成所述任一人体部位的动作识别结果。
163.在本技术的一个实施例中,所述第一获取模块210,包括:第一获取单元,用于获取待检测视频,并从所述待检测视频中获取目标视频片段,其中,所述目标视频片段包括所述待检测图像;第二获取单元,用于对所述目标视频片段进行部位动作识别,以获取所述待检测图像中所述人体部位的目标识别动作。
164.在本技术的一个实施例中,所述编码模块230,包括:确定单元,用于基于所述特征信息,确定所述人体部位对应的编码颜色、所述待检测图像中的编码区域;编码单元,用于基于每个人体部位对应的所述编码颜色和所述编码区域,对所述待检测图像进行编码,生成所述目标图像。
165.在本技术的一个实施例中,所述特征信息包括所述人体部位的类别、所述人体部位在所述待检测图像中的位置、用于表征所述人体部位在所述待检测图像中所占面积的目标参数;所述确定单元,还用于:基于所述人体部位的类别,确定所述人体部位对应的所述编码颜色;基于所述人体部位的所述位置和所述目标参数,确定所述人体部位对应的所述编码区域。
166.在本技术的一个实施例中,所述装置还包括:第二获取模块,用于获取所述待检测图像中人体的目标识别动作和人体边框;第二关联模块,用于将任一人体的目标识别动作和所述任一人体的人体边框进行关联,生成所述任一人体的动作识别结果。
167.在本技术的一个实施例中,所述第二获取模块,包括:第三获取单元,用于获取待检测视频,其中,所述待检测视频包括所述待检测图像;识别单元,用于对所述待检测视频进行人体动作识别,以获取所述待检测图像中所述人体的目标识别动作。
168.本技术实施例的动作识别装置,可从待检测图像中提取出人体部位的特征信息,基于特征信息对待检测图像进行编码生成目标图像,从目标图像中检测出所述人体部位的部位边框,将任一人体部位的目标识别动作和任一人体部位的部位边框进行关联,生成动作识别结果。由此,可基于人体部位的特征信息对待检测图像进行编码,生成目标图像,并基于目标图像进行人体部位检测,有助于提高人体部位检测的准确性和适用性,并可将任一人体部位的目标识别动作和任一人体部位的部位边框进行关联,生成任一人体部位的动作识别结果,丰富了动作识别结果的内容,提高了动作识别的精细度。
169.为了实现上述实施例,如图10所示,本技术还提出一种电子设备300,包括:存储器310、处理器320及存储在存储器310上并可在处理器320上运行的计算机程序,处理器320执行程序时,实现如本技术前述实施例提出的人体部位的检测方法,或者实现如本技术前述实施例提出的动作识别方法。
170.本技术实施例的电子设备,通过处理器执行存储在存储器上的计算机程序,可从人体图像中提取出人体部位的特征信息,并基于特征信息对图像进行编码生成目标人体图像,可从目标人体图像中检测出人体部位的部位边框。由此,可检测出人体部位的部位边框,实现了对更加细粒度的人体关键部位动作的预测,提高了人体部位检测的精细度和效率。
171.为了实现上述实施例,本技术还提出一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时,实现如本技术前述实施例提出的人体部位的检测方法,或者实现如本技术前述实施例提出的动作识别方法。
172.本技术实施例的计算机可读存储介质,通过存储计算机程序并被处理器执行,可
从人体图像中提取出人体部位的特征信息,并基于特征信息对图像进行编码生成目标人体图像,可从目标人体图像中检测出人体部位的部位边框。由此,可检测出人体部位的部位边框,实现了对更加细粒度的人体关键部位动作的预测,提高了人体部位检测的精细度和效率。
173.在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本技术的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
174.此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本技术的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
175.流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本技术的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本技术的实施例所属技术领域的技术人员所理解。
176.在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(ram),只读存储器(rom),可擦除可编辑只读存储器(eprom或闪速存储器),光纤装置,以及便携式光盘只读存储器(cdrom)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
177.应当理解,本技术的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如,如果用硬件来实现和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(pga),现场可编程门阵列(fpga)等。
178.本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步
骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
179.此外,在本技术各个实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
180.上述提到的存储介质可以是只读存储器,磁盘或光盘等。尽管上面已经示出和描述了本技术的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本技术的限制,本领域的普通技术人员在本技术的范围内可以对上述实施例进行变化、修改、替换和变型。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献