机器人关键动作检测方法、装置及计算机存储介质

本发明涉及机器人控制与人工智能，特别涉及一种机器人关键动作检测方法、装置及计算机存储介质。

背景技术：

1、在机器人技术与具身智能的演进过程中，机器人跨场景、跨任务的通用操作能力日益受到重视。模仿学习作为实现通用操作的主流范式，通过深度学习算法让机器人从海量演示数据集中学习操作策略。然而，演示数据集中往往包含大量非关键动作，例如停顿、抖动或随意移动，让机器人学习这些动作不仅降低训练效率，还会因嘈杂信号导致最终表现不佳。

2、现有关键动作检测方法主要分为两类。一类基于机器人策略模型的预测误差来判定关键程度，但策略模型的训练目标仅是拟合观测到动作，而非完整地表征在给定任务条件下所有可替代的可行动作，导致评估结果严重受限于特定模型的能力，容易遗漏大量潜在的关键动作，准确度较低。另一类依赖人为设定的规则进行筛选，例如通过夹爪状态或加速度阈值划分关键动作，该类方法在新场景、新任务或新硬件上需重新定义规则，缺乏通用性和自动化能力。

3、上述方法的共同缺陷在于，均未能充分利用演示数据本身蕴含的分布特征，检测结果难以真实反映任务对动作精度的约束需求，进而导致后续训练中对真正关键动作的聚焦不足。

技术实现思路

1、有鉴于此，本发明提供了一种机器人关键动作检测方法、装置及计算机存储介质，用以提升关键动作检测的准确性和通用性。

2、本发明第一方面提供了一种机器人关键动作检测方法，包括：

3、获取机器人演示轨迹；其中，所述演示轨迹包括多个时刻的状态信息和动作信息；

4、对锚点时刻构造历史条件、后验任务结果描述量以及所述锚点时刻之后的动作序列；其中，所述历史条件基于所述锚点时刻之前的状态信息和动作信息构造，所述后验任务结果描述量基于所述锚点时刻之后的状态信息构造；

5、以所述历史条件、所述后验任务结果描述量和所述动作序列构建的样本组训练条件动作分布模型，得到训练后的条件动作分布模型；其中，所述训练后的条件动作分布模型基于所述历史条件和所述后验任务结果描述量，确定动作序列对应的条件动作分布；所述条件动作分布包含多个局部动作模态；

6、根据所述条件动作分布，确定当前演示动作序列所属的局部动作模态；

7、基于所述当前演示动作序列所属的局部动作模态，确定当前演示动作序列所在局部区域的局部可行动作域宽度；

8、基于所述局部可行动作域宽度确定所述锚点时刻的关键程度，并根据所述关键程度确定关键动作区间。

9、可选的，所述以所述历史条件、所述后验任务结果描述量和所述动作序列构建的样本组训练条件动作分布模型，得到训练后的条件动作分布模型，包括：

10、将所述历史条件、所述后验任务结果描述量和所述动作序列构成样本组；

11、利用双向遮蔽transformer模型对所述样本组中的目标动作序列及所述目标动作序列邻近隔离区内的动作数据进行遮蔽处理，得到遮蔽处理后的数据；

12、基于遮蔽处理后的数据训练所述条件动作分布模型，得到训练后的条件动作分布模型。

13、可选的，所述根据所述条件动作分布，确定当前演示动作序列所属的局部动作模态，包括：

14、获取所述当前演示动作序列；

15、计算所述当前演示动作序列相对于所述条件动作分布中每一个局部动作模态的后验责任度；

16、选取最大的后验责任度对应的局部动作模态，作为所述当前演示动作序列所属的局部动作模态。

17、可选的，所述基于所述当前演示动作序列所属的局部动作模态，确定当前演示动作序列所在局部区域的局部可行动作域宽度，包括：

18、获取所述当前演示动作序列所属的局部动作模态内部的方向相关协方差矩阵；

19、根据所述方向相关协方差矩阵的行列式确定所述局部区域的局部可行动作域宽度；其中，所述方向相关协方差矩阵的行列式值越小，对应的所述局部可行动作域宽度越窄。

20、可选的，所述基于所述局部可行动作域宽度确定所述锚点时刻的关键程度，并根据所述关键程度确定关键动作区间，包括：

21、对所述局部可行动作域宽度进行标准化处理，得到所述锚点时刻的关键程度；其中，所述关键程度与所述局部可行动作域宽度负相关；

22、对所述关键程度进行滤波平滑处理，得到平滑处理后的关键程度；

23、根据预设阈值将所述平滑处理后的关键程度划分为关键时刻和非关键时刻；

24、将同一回合内连续的关键时刻合并为候选区间；

25、对所述候选区间进行筛选处理，得到关键动作区间；其中，所述筛选处理包括删除持续时间小于预设时长阈值的候选区间，以及将间隔小于预设间隔阈值的相邻候选区间合并，得到所述关键动作区间。

26、可选的，所述基于所述局部可行动作域宽度确定所述锚点时刻的关键程度之后，还包括：

27、根据所述关键程度生成所述锚点时刻的训练权重；其中，所述训练权重与所述关键程度正相关。

28、可选的，所述根据所述关键程度生成所述锚点时刻的训练权重之后，还包括：

29、将各锚点时刻对应的演示回合标识、帧索引、关键程度、关键动作区间标识和训练权重保存为独立元数据。

30、可选的，所述将各锚点时刻对应的演示回合标识、帧索引、关键程度、关键动作区间标识和训练权重保存为独立元数据之后，还包括：

31、获取所述独立元数据；

32、基于所述独立元数据中的训练权重，对目标机器人策略模型进行训练；其中，所述目标机器人策略模型的网络参数与用于确定所述局部可行动作域宽度的宽度估计器的网络参数相互独立。

33、本发明第二方面提供了一种机器人关键动作检测装置，包括：

34、轨迹获取单元，用于获取机器人演示轨迹；其中，所述演示轨迹包括多个时刻的状态信息和动作信息；

35、数据构造单元，用于对锚点时刻构造历史条件、后验任务结果描述量以及所述锚点时刻之后的动作序列；其中，所述历史条件基于所述锚点时刻之前的状态信息和动作信息构造，所述后验任务结果描述量基于所述锚点时刻之后的状态信息构造；

36、分布训练单元，用于以所述历史条件、所述后验任务结果描述量和所述动作序列构建的样本组训练条件动作分布模型，得到训练后的条件动作分布模型；其中，所述训练后的条件动作分布模型基于所述历史条件和所述后验任务结果描述量，确定动作序列对应的条件动作分布；所述条件动作分布包含多个局部动作模态；

37、模态确定单元，用于根据所述条件动作分布，确定当前演示动作序列所属的局部动作模态；

38、宽度确定单元，用于基于所述当前演示动作序列所属的局部动作模态，确定当前演示动作序列所在局部区域的局部可行动作域宽度；

39、关键动作区间确定单元，用于基于所述局部可行动作域宽度确定所述锚点时刻的关键程度，并根据所述关键程度确定关键动作区间。

40、可选的，所述分布训练单元，包括：

41、样本组构成单元，用于将所述历史条件、所述后验任务结果描述量和所述动作序列构成样本组；

42、遮蔽处理单元，用于利用双向遮蔽transformer模型对所述样本组中的目标动作序列及所述目标动作序列邻近隔离区内的动作数据进行遮蔽处理，得到遮蔽处理后的数据；

43、条件动作分布模型训练单元，用于基于遮蔽处理后的数据训练所述条件动作分布模型，得到训练后的条件动作分布模型。

44、可选的，所述模态确定单元，包括：

45、当前演示动作序列获取单元，用于获取所述当前演示动作序列；

46、后验责任度计算单元，用于计算所述当前演示动作序列相对于所述条件动作分布中每一个局部动作模态的后验责任度；

47、选取单元，用于选取最大的后验责任度对应的局部动作模态，作为所述当前演示动作序列所属的局部动作模态。

48、可选的，所述宽度确定单元，包括：

49、方向相关协方差矩阵获取单元，用于获取所述当前演示动作序列所属的局部动作模态内部的方向相关协方差矩阵；

50、局部可行动作域宽度确定单元，用于根据所述方向相关协方差矩阵的行列式确定所述局部区域的局部可行动作域宽度；其中，所述方向相关协方差矩阵的行列式值越小，对应的所述局部可行动作域宽度越窄。

51、可选的，所述关键动作区间确定单元，包括：

52、标准化处理单元，用于对所述局部可行动作域宽度进行标准化处理，得到所述锚点时刻的关键程度；其中，所述关键程度与所述局部可行动作域宽度负相关；

53、滤波平滑处理单元，用于对所述关键程度进行滤波平滑处理，得到平滑处理后的关键程度；

54、划分单元，用于根据预设阈值将所述平滑处理后的关键程度划分为关键时刻和非关键时刻；

55、合并单元，用于将同一回合内连续的关键时刻合并为候选区间；

56、筛选单元，用于对所述候选区间进行筛选处理，得到关键动作区间；其中，所述筛选处理包括删除持续时间小于预设时长阈值的候选区间，以及将间隔小于预设间隔阈值的相邻候选区间合并，得到所述关键动作区间。

57、可选的，所述机器人关键动作检测装置，还包括：

58、训练权重生成单元，用于根据所述关键程度生成所述锚点时刻的训练权重；其中，所述训练权重与所述关键程度正相关。

59、可选的，所述机器人关键动作检测装置，还包括：

60、保存单元，用于将各锚点时刻对应的演示回合标识、帧索引、关键程度、关键动作区间标识和训练权重保存为独立元数据。

61、可选的，所述机器人关键动作检测装置，还包括：

62、独立元数据获取单元，用于获取所述独立元数据；

63、机器人策略模型训练单元，用于基于所述独立元数据中的训练权重，对目标机器人策略模型进行训练；其中，所述目标机器人策略模型的网络参数与用于确定所述局部可行动作域宽度的宽度估计器的网络参数相互独立。

64、本发明第三方面提供了一种电子设备，包括：

65、一个或多个处理器；

66、存储装置，其上存储有一个或多个程序；

67、当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如第一方面任意一项所述的机器人关键动作检测方法。

68、本发明第四方面提供了一种计算机存储介质，其上存储有计算机程序，其中，所述计算机程序被处理器执行时实现如第一方面任意一项所述的机器人关键动作检测方法。

69、由以上方案可知，本发明提供一种机器人关键动作检测方法、装置及计算机存储介质，通过引入后验任务结果描述量作为条件动作分布模型训练时的约束条件，使模型不再仅基于历史条件预测动作，而是学习在给定历史条件和后验任务结果描述量确定动作序列对应的条件动作分布，在此基础上，利用条件动作分布中的局部动作模态区分出在相同任务结果下可相互替代的不同动作方案，并进一步基于当前演示动作所属的局部动作模态确定其所在局部区域的可行动作域宽度，该宽度直接表征在保持相同任务结果的前提下动作被允许的变化范围，宽度越窄表示任务对该动作的精度约束越严格。由此，无需依赖任何预训练策略模型或人工规则即可从演示数据中自动化地检测关键动作，所检测出的关键动作直接面向任务成败的核心环节，能够有效过滤停顿、抖动等非关键信号。