一种基于相关节点自动挖掘及统计信息的步态识别方法与流程

1.本发明涉及步态识别技术领域，具体而言，尤其涉及一种基于相关节点自动挖掘及统计信息的步态识别方法。


背景技术：

2.目前步态识别技术在公共安防、身份识别领域得到广泛关注。当前常用的步态识别方法主要包括基于深度学习的步态识别和基于统计信息提取的步态识别。
3.基于深度学习的步态识别方法主要利用使用领域知识显式分配的方法来进行步态特征提取，从而完成深度学习任务。基于统计信息的提取的方法主要使用集合池的方法(即对不同大小的集合进行操作，同时不受集合元素顺序的影响)来聚合集合中元素的步态信息，将基于帧的特征融合为基于集合的特征获得序列的统计信息，有效的提高有用特征的提取。
4.大部分骨架步态识别采用原始图卷积的方法是使用领域知识显式分配的，该方法无法根据网络训练过程中提取的有效特征进行相关关系的自动挖掘。
5.相关步态识别研究表明，时序信息对于序列有效特征的表示意义重大，如：使用长序列的时间信息，但是也有一些研究表明在包含一个步态周期的轮廓序列中，每个位置的轮廓具有独特的外观，即使这些轮廓是乱序的，但只要通过观察它们的外观就能将它们重新排列成正确的顺序，不需要额外的加入时序信息，因此对于时序信息的有效利用不是很明确，因而探寻一种明确有效的特征表示方式。
6.上述方案均可在一定程度上实现步态识别，但是由于使用领域知识显示分配的图卷积而无法根据网络训练过程进行特征的有效提取和对于时序信息的有效利用。


技术实现要素：

7.根据上述提出现有步态识别技术性能不稳定、无法推广到多种应用场景的技术问题，而提供一种基于相关节点自动挖掘及统计信息的步态识别方法。本发明在特征提取过程中结合了相关节点自动挖掘和统计信息特征，进一步提高了步态识别的准确率。
8.本发明采用的技术手段如下：
9.一种基于相关节点自动挖掘及统计信息的步态识别方法，包括：
10.获取使用openpose方法来提取的包含人体信息的骨架关节点序列；
11.将所述骨架关节点序列剪裁成若干大小相同有序的短序列，初始设置为整个骨架序列的1/3
‑
2/3；
12.分别提取各所述短序列的时空信息，基于所述时空信息通过时空图卷积网络获得的、包含时空信息特征的局部时空特征；
13.利用transformer提取各个短序列中的每一帧中各关节点与其他关节点之间的相关性信息；
14.对各个有序短序列之间的局部时空特征使用transformer，从而提取包含整个序
列的特征信息的的全局特征；
15.将所述全局特征作为步态识别网络中的最终特征进行步态识别，从而获取基于相关节点自动挖掘及统计信息的步态识别结果。
16.进一步地，提取各所述短序列的时空信息，包括：将所述短序列输入时空图卷积网络，并将所述时空图卷积网络的输出作为各短序列的时空信息，其中所述时空图卷积网络设置为十层网络结构。
17.进一步地，利用transformer提取每一帧中各关节点与其他关节点之间的相关性信息，包括：
18.对输入transformer网络的数据进行归一化；
19.采用mul
‑
head attention计算各个节点之间的关系；
20.通过两层transformer结构，将包含时间信息的骨架信息作为输入，对各节点之间的关系进行挖掘，其中所述两层transformer结构相同，第一层为一个16
‑
head self
‑
transformer模块，第二层同样为一个16
‑
head self
‑
transformer模块。
21.进一步地，对各个子序列之间的局部时空特征使用transformer，从而提取整个序列的统计信息，包括：
22.通过两层transformer结构，将各个有序短序列作为输入，对子序列之间的相关性进行提取，其中所述两层transformer结构第一层为一个32
‑
head attention transformer模块，第二层为一个32
‑
head
‑
attention transformer模块。
23.较现有技术相比，本发明具有以下优点：
24.本发明在特征提取过程中结合了相关节点自动挖掘和统计信息特征，达到提高步态识别的准确率的效果，使其能够应用在诸如机场、银行、军事安全场所、边境口岸等安全敏感场所，保障城市安全及满足城市的稳定发展和民众的安全需求。
附图说明
25.为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图做以简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
26.图1为本发明步态识别方法流程图。
27.图2为本发明步态识别网络整体架构图。
28.图3为本发明相关性获取网络架构图。
29.图4为本发明统计信息获取网络架构图。
具体实施方式
30.为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。
31.需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
32.如图1所示，本发明提供了一种基于相关节点自动挖掘及统计信息的步态识别方法，包括：
33.s1、获取使用openpose方法来提取的包含人体信息的骨架关节点序列。
34.s2、将所述骨架关节点序列剪裁成若干大小相同有序的短序列，初始设置为整个骨架序列的1/3
‑
2/3。后续根据实验结果动态调节剪裁比例。
35.s3、分别提取各所述短序列的时空信息，并由所述时空信息获取各短序列对应的时间信息特征。
36.进一步地，提取各所述短序列的时空信息，包括：将所述短序列输入时空图卷积网络，并将所述时空图卷积网络的输出作为各短序列的时空信息，其中时空图卷积网络为十层网络结构。
37.具体来说，时空图卷积网络第一层为一个时空图卷积层，时空图卷积网络主要包含空间图卷积和时间图卷积。空间图卷积的卷积核的大小为3，用于提取人体骨架节点的空间特征，时间图卷积的卷积核为9，用于提取序列之间的时间信息，激活函数为relu函数。时空图卷积先经过空间图卷积提取空间特征，然后经过时间图卷积用于提取时间信息，最后使用残差的方式连接输入和输出，通道数由3变为64。第二层为一个时空图卷积层主要包含空间图卷积和时间图卷积。空间图卷积的卷积核的大小为3，时间图卷积的卷积核为9，激活函数为relu函数，通道数由64变为64。第三层为一个时空图卷积层主要包含空间图卷积和时间图卷积。空间图卷积的卷积核的大小为3，时间图卷积的卷积核为9，激活函数为relu函数。通道数由64变为64。第四层为一个时空图卷积层主要包含空间图卷积和时间图卷积。空间图卷积的卷积核的大小为3，时间图卷积的卷积核为9，激活函数为relu函数，通道数由64变为64。第五层为一个时空图卷积层主要包含空间图卷积和时间图卷积。空间图卷积的卷积核的大小为3，时间图卷积的卷积核为9，激活函数为relu函数，通道数由64变为128。第六层为一个时空图卷积层主要包含空间图卷积和时间图卷积。空间图卷积的卷积核的大小为3，时间图卷积的卷积核为9，激活函数为relu函数，通道数由128变为128。第七层为一个时空图卷积层主要包含空间图卷积和时间图卷积。空间图卷积的卷积核的大小为3，时间图卷积的卷积核为9，激活函数为relu函数，通道数由128变为128。第八层为一个时空图卷积层主要包含空间图卷积和时间图卷积。空间图卷积的卷积核的大小为3，时间图卷积的卷积核为9，激活函数为relu函数，通道数由128变为256。第九层为一个时空图卷积层主要包含空间图卷积和时间图卷积。空间图卷积的卷积核的大小为3，时间图卷积的卷积核为9，激活函数为relu函数，通道数由256变为256。第十层为一个时空图卷积层主要包含空间图卷积和时间图卷积。空间图卷积的卷积核的大小为3，时间图卷积的卷积核为9，激活函数为relu函数，通道数由256变为256。
38.s4、利用transformer提取每一帧中各关节点与其他关节点之间的相关性信息，包括：
39.s401、对输入transformer网络的数据进行归一化。
40.s402、采用mul
‑
head attention(多层注意力网络)计算各个节点之间的关系，不同的head关注的点不一样，比如head1关注的是相邻帧之间的短期信息，head2关注的是与当前帧距离较远的帧之间的相关信息即长期信息。计算公式如下：
41.q
i
＝qw
iq
,k
i
＝kw
ik
,v
i
＝vw
iv
,i＝1,...,8
42.head
i
＝attention(q
i
,k
i
,v
i
),i＝1,...,8
43.multihead(q,k,v)＝concact(head1,...,head8)w
o
44.其中，q，k，v来自同一个输入x＝[x1,x2,...x
n
]，经过线性映射得到的，n为输入的个数。
[0045]
s403、通过两层transformer结构，将包含时间信息的骨架信息作为输入对各节点之间的关系进行挖掘，其中所述两层transformer结构第一层为一个16
‑
head self
‑
transformer模块，第二层为一个16
‑
head self
‑
transformer模块。
[0046]
具体来说，获取的子序列的特征表示送入到transformer模块提取特征。节点相关性挖掘使用两层的transformer作用于每一帧，提取各个节点与其他节点的相关性关系，transformer模块主要包含：数据归一化操作，用于降低数据分布变化的影响；mul
‑
head attention，计算各个节点之间的关系，不同的head关注的点不一样，比如head1关注的是短期的信息，head2关注的是长期的信息。节点相关性挖掘部分包含两层：第一层为一个16
‑
head self
‑
transformer模块。第二层为一个16
‑
head self
‑
transformer模块如图3所示，用于获得节点的相关性特征。
[0047]
s5、对各个子序列之间的局部时空特征使用transformer，从而提取整个序列的统计信息，进而获得整个序列的全局特征，包括：
[0048]
s501、通过两层transformer结构对子序列之间的相关性进行提取，其中所述两层transformer结构第一层为一个32
‑
head attention transformer模块，第二层为一个32
‑
head
‑
attention transformer模块。
[0049]
具体来说，统计信息的提取包含两层的transformer，其结构与相关性挖掘部分一样，作用与各个子序列之间，提取子序列之间的相关性，得到整个序列的统计信息。第一层经过实验结果选择为一个32
‑
head attention transformer模块。第二层为一个32
‑
head
‑
attention transformer模块，如图4所示。通过上述网络的信息提取，最终得到人体信息的有效表示。
[0050]
s6、将所述全局特征作为步态识别网络中的最终特征进行步态识别，从而获取基于相关节点自动挖掘及统计信息的步态识别结果。
[0051]
其中步态识别网络的训练过程，包括：获取包含人体信息的骨架关节点序列，选取其中一部分分别作为训练集和测试集。将骨架关节点序列分成大小相同有序的短序列，分别提取每个子序列的时空信息，获得包含时间信息特征，然后使用transformer提取每一帧中各个关节点与其他关节点之间的相关性信息，根据网络训练过程中提取的有效特征进行相关关系的自动挖掘，获得与人体关节点与其他关节点的相关性信息，最后使用transformer作用于各个子序列之间的局部时空特征，提取整个序列的统计信息，获得整个
序列的全局特征。
[0052]
使用训练好的网络模型对测试集进行测试，测试得到对人的在不同角度或条件下的识别率。
[0053]
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
[0054]
在本发明的上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。
[0055]
在本技术所提供的几个实施例中，应该理解到，所揭露的技术内容，可通过其它的方式实现。其中，以上所描述的装置实施例仅仅是示意性的，例如所述单元的划分，可以为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，单元或模块的间接耦合或通信连接，可以是电性或其它的形式。
[0056]
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
[0057]
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
[0058]
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：u盘、只读存储器(rom，read
‑
only memory)、随机存取存储器(ram，random access memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
[0059]
最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。