基于用户交互的多层次AR展示方法、装置和电子设备与流程

基于用户交互的多层次ar展示方法、装置和电子设备
技术领域
1.本公开涉及人工智能与计算机视觉领域，尤其涉及一种基于用户交互的多层次ar展示方法、装置和电子设备。


背景技术：

2.近年来，ar技术在众多应用领域都取得了长足的发展，虚实结合的展示方式可以最大限度地扩展人们的视野，强化人们的认知能力，将不同层面不同形态的知识与信息在同一个画面中综合呈现，实现平面展示无法企及的用户体验。
3.目前的ar展示系统普遍存在与用户的交互不足的问题，ar系统更多地采用独立展示，用户很难对展示的具体流程进行调控。特别是在进行多层次展示的时候，展示形式不够多元化，难以满足用户体验。


技术实现要素：

4.本公开提供了一种基于用户交互的多层次ar展示方法、装置和电子设备。
5.根据本公开的第一方面，提供了一种基于用户交互的多层次ar展示方法。该方法包括：获取用户交互操作；
6.根据所述用户交互操作判断当前需要展示的一个或多个ar模型及其对应的可视状态；
7.将所述一个或多个ar模型根据其对应的可视状态展示给用户。
8.在第一方面的一些实现方式中，获取用户交互操作包括：
9.对所述用户进行体感追踪，根据用户对应部位与ar模型关键部位的位置信息获取对应交互操作。
10.在第一方面的一些实现方式中，所述对所述用户进行体感追踪，根据用户对应部位与ar模型关键部位的位置信息获取对应交互操作包括：
11.判断用户对应部位的位置是否与ar模型上的关键部位发生预定的第一交互；
12.做出第一交互后，连续获取用户对应部位的位置信息，直到判断用户对应部位的位置与ar模型上的关键部位发生预定的第二交互。
13.在第一方面的一些实现方式中，所述根据所述用户交互操作判断当前需要展示的一个或多个ar模型及其对应的可视状态包括：
14.根据获取的用户对应部位的位置信息及其与ar模型的交互状态，实时判断当前需要展示的一个或多个ar模型及其对应的可视状态。
15.在第一方面的一些实现方式中，所述一个或多个ar模型根据层级关系进行组织。
16.在第一方面的一些实现方式中，所述层级关系包括：
17.多个层级，每个层级包括一个或多个ar模型，设置每个层级ar模型的初始放置方式。
18.在第一方面的一些实现方式中，实时判断当前需要展示的一个或多个ar模型及其
对应的可视状态包括：
19.根据获取的用户对应部位的位置信息及其与ar模型的交互状态，确定所述位置信息对应的当前层级，调整当前层级ar模型的放置方式，并对应调整其它层级ar模型的放置方式。
20.在第一方面的一些实现方式中，所述将所述一个或多个ar模型根据其对应的可视状态展示给用户包括：
21.根据用户视角及ar模型的放置方式，将当前层级ar模型的可视状态展示给用户。
22.根据本公开的第二方面，提供了一种基于用户交互的多层次ar展示装置。该装置包括：
23.用户体感跟踪单元，用于获取用户交互操作；
24.ar模型调整单元，用于根据所述用户交互操作判断当前需要展示的一个或多个ar模型及其对应的可视状态；
25.展示单元，用于将所述一个或多个ar模型根据其对应的可视状态展示给用户。
26.根据本公开的第三方面，提供了一种电子设备。该电子设备包括：存储器和处理器，所述存储器上存储有计算机程序，所述处理器执行所述程序时实现如以上所述的方法。
27.本公开根据用户的操作，将一个或多个ar模型根据其对应的可视状态展示给用户，用户可以对实物的实际操作，与环境进行交互，使ar模型可以受到用户的调控，从而呈现出不同层次的内容。
28.应当理解，发明内容部分中所描述的内容并非旨在限定本公开的实施例的关键或重要特征，亦非用于限制本公开的范围。本公开的其它特征将通过以下的描述变得容易理解。
附图说明
29.结合附图并参考以下详细说明，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。附图用于更好地理解本方案，不构成对本公开的限定在附图中，相同或相似的附图标记表示相同或相似的元素，其中：
30.图1是本公开实施例提供的一种基于用户交互的多层次ar展示方法的流程图；
31.图2是本公开实施例提供的一种基于用户交互的多层次ar展示装置的框图；
32.图3是本公开实施例提供的一种基于用户交互的多层次ar展示方法的电子设备的框图。
具体实施方式
33.为使本公开实施例的目的、技术方案和优点更加清楚，下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本公开一部分实施例，而不是全部的实施例。基于本公开中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例，都属于本公开保护的范围。
34.另外，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，a和/或b，可以表示：单独存在a，同时存在a和b，单独存在b这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。
35.近年来，ar技术在众多应用领域都取得了长足的发展，虚实结合的展示方式可以最大限度地扩展人们的视野，强化人们的认知能力，将不同层面不同形态的知识与信息在同一个画面中综合呈现，实现普通展示无法企及的用户体验。
36.然而，目前的ar展示系统普遍存在与用户的交互不足的问题，ar系统更多地采用独立展示，用户很难对展示的具体流程进行调控。为此，本公开试图提升ar呈现的逼真程度和用户体验，具体的，本公开从用户与ar系统中的环境交互入手，特别是在进行多层次展示的时候，用户可以与实物进行体感操作，与环境进行交互，并且让ar模型可以受到用户的调控，进而呈现出不同层次的内容，从而增强用户体验。
37.图1是本公开实施例提供的一种基于用户交互的多层次ar展示方法100的流程图。
38.如图1所示，所述基于用户交互的多层次ar展示方法100包括：
39.s101:获取用户交互操作；
40.其中，所述用户交互操作可以为一个用户交互操作或多个用户同时进行交互操作，当多个用户同时进行交互操作时，在s102中，需要分别根据多个用户交互操作分别判断，对于每一个用户而言，当前需要展示的一个或多个ar模型及其对应的可视状态。同样的，当多个用户同时进行交互操作时，在s103中，需要分别将所述一个或多个ar模型根据其对应的可视状态分别展示给对应的用户。
41.所述ar模型即模拟仿真处理模型，用户根据模拟仿真物体能够联想到对应的实物。
42.获取用户交互操作包括：
43.对所述用户进行体感追踪，根据用户对应部位与ar模型关键部位的位置信息获取用户与ar模型的交互操作。
44.具体的，所述体感追踪可以限定为用户某一部位的追踪，如对用户手部进行追踪，对手部动作追踪可以采用计算机视觉技术，对拍摄画面中ar模型附近部分进行搜索，检测用户手部的存在。如果有必要，用户可以在手部佩戴显著标记，方便系统的检测。检测到用户手部之后，系统判断用户手部位置是否与ar模型上的关键部位发生预定的交互。
45.根据本公开的实施例，对所述用户进行体感追踪来获取用户与ar模型的交互操作，使用户能够通过体感与ar模型进行交互，进一步提高用户与ar模型的交互体验。
46.在一些实施例中，所述对所述用户进行体感追踪，根据用户对应部位的位置信息获取对应交互操作包括：
47.判断用户对应部位的位置是否与ar模型上的关键部位发生预定的第一交互；
48.做出第一交互后，连续获取用户对应部位的位置信息，直到判断用户对应部位的位置与ar模型上的关键部位发生预定的第二交互。
49.所述第一交互即通过对用户对应部位动作的摄像捕获与分析，明确其是否为用户与ar模型的某种特定交互行为的“起始”；所述第二交互即跟踪用户对应部位的位置与姿态，明确其是否为用户与ar模型的某种特定交互行为的“终止”；。例如打开冰箱的动作，第一交互即检测到用户握住冰箱把手，明确其为“开门”这一用户与ar模型交互行为的“起始”；第二交互即用户打开冰箱门后松开把手，明确其为“开门”这一用户与ar模型交互行为的“终止”。
50.根据本公开的实施例，根据第一交互与第二交互判断用户与ar模型的交互操作，
使ar系统提供人机交互驱动的多层次ar模型展示能力，从而解决ar模型展示形式单调、层次不够丰富的问题。
51.在本公开中，ar模型有两种状态，即可视状态与不可视状态，所述可视状态即可以被用户看到的状态，不可视状态即无法被用户看到的状态，其中，不可视状态分为设定不可视状态与自然不可视状态，所述设定不可视状态即由系统设置，将对应的ar模型对用户隐藏；所述自然不可视状态即由于镶嵌，遮挡等视觉上的关系导致的ar模型不可视。例如，若ar模型包括桌面上的一个盒子，其可以设定用户无法看到该盒子，即为设定不可视状态。盒子内部可以放置物品，当盒子处于封闭状态时，用户无法看到盒子内部的物品，即为自然不可视状态。另外，当多个用户时，同一ar模型可能对不同用户呈现不同的状态。如上述盒子的例子中，当多用户与盒子进行交互操作，其中一个用户在打开盒子的过程中，由于盒盖的遮挡，不同用户从不同角度来看，均有部分物品呈现不可视状态。可以看出，ar模型的自然不可视状态可以逼真的还原现场操作，大大提高用户操作体验。
52.s102:根据所述用户交互操作判断当前需要展示的一个或多个ar模型及其对应的可视状态；
53.在一些实施例中，根据获取的用户对应部位的位置信息及其与ar模型的交互状态，实时判断当前需要展示的一个或多个ar模型及其对应的可视状态。
54.即发生预定的第二交互后，根据第二交互判断各ar模型所在的层级以及需要展示的ar模型对应的状态，即可视或不可视状态，如在上述冰箱的例子中，第二交互为用户打开冰箱门后松开冰箱把手，则对应展示的ar模型包括冰箱本身以及冰箱内部放置的物品。其中，冰箱本身这个ar模型的可视状态没有变化，但是其放置方式发生了变化，即门被打开了。冰箱内部放置的物品作为ar模型，其状态(可视/不可视)随着冰箱门的打开而发生了变化，由冰箱门关闭时的不可视状态变为冰箱门打开时的可视状态。
55.应当理解的是，当面对多用户时，对于每位用户需要展示的ar模型可能不同，如在上述冰箱的例子中，用户a用手“打开”冰箱的“门”，并站在门后，用户b位于正对冰箱门的角度，则对于用户a，需要展示的ar模型为冰箱，其状态为可视，摆放方式是冰箱门打开，而冰箱内部的物体对其的状态则为不可视(由于站在门后，被门挡住了视线)。对于用户b，则需要展示的ar模型为冰箱内部的各种物体，状态是可视，当用户b继续移开冰箱内的某个物体，则需要展示的ar模型为该物体后面的，下一层级的物体。这些物体在前面层级的物体移开前，对于用户b的状态是不可视；但是在前面层级的物体移开后，状态就变成了可视。
56.根据本公开的实施例，根据用户对应部位的位置信息判断需要展示的ar模型，并对应调整ar模型的状态，使用户可以通过与不同ar模型的互动看到不同的ar景象，增加互动体验。
57.在一些实施例中，所述一个或多个ar模型根据层级关系进行组织。
58.设置层级关系可以灵活调整ar模型的状态，如上述盒子的例子中，可以将盒子外部与内部的内容设置为不同层级，它们会根据用户在实际环境中的动作，呈现出不同的状态(可视/不可视)。如盒子本身为第一层级，盒子内部物体为第二层级，显然，第二层级嵌套于第一层级内，在第一层级没有被“打开”时，第二层级的物体均为不可视状态。
59.根据本公开的实施例，设置多个层次，便于对不同层级的ar模型进行组织，从而调整不同层级ar模型的状态，提高用户操作体验。
60.在一些实施例中，所述层级关系包括：
61.多个层级，每个层级包括一个或多个ar模型，设置每个层级ar模型的初始放置方式。
62.在本公开中，ar模型可以为可移动的ar模型，如上述盒子可以移动或旋转，因此，需要对ar模型设置初始放置方式。所述ar模型环境中可以引入坐标体系，即可以限制ar模型的坐标来调节ar模型的放置方式。可以理解的是，ar模型的放置方式也在一定程度上影响ar模型的状态，如上述盒子的例子中，若盒子开口向下放置，则即使盒盖从下方打开的情况下，用户从上方也无法看到盒子内部的情况。在一些实施例中，还需要设置每个层级的初始状态，各层级初始状态往往为不可视状态。
63.ar模型的状态和放置方式之间可以设置规则，以保证ar模型的可视状态与真实情况相同。如，在保证各ar模型满足设定不可视状态的前提下，设置各ar模型在自然不可视状态的规则如下：当上一层级的ar模型对本层ar模型完全不遮挡时，本层的ar模型完全可视；当上一层级的ar模型对本层ar模型部分遮挡时，本层的ar模型被遮挡部分不可视，其余部分可视；当上一层级的ar模型对本层ar模型完全遮挡时，本层的ar模型均不可视。可以根据用户视角及各ar模型的坐标判断是否遮挡。
64.根据本公开的实施例，设置每个层级ar模型的初始放置方式，便于在后续交互过程中以初始放置方式为基础进行层级间ar模型状态及放置方式的计算。
65.在一些实施方式中，实时判断当前需要展示的一个或多个ar模型及其对应的可视状态包括：
66.根据获取的用户对应部位的位置信息及其与ar模型的交互状态，确定所述位置信息对应的当前层级，调整当前层级ar模型的放置方式，并对应调整其它层级ar模型的放置方式。
67.可以理解的是，当用户与ar模型发生交互时，对当前层级的ar模型放置方式进行调整时，通常会影响到其他层级ar模型的放置方式，因此应当一并调整。如上述冰箱的例子中，冰箱门为第一层级，冰箱门侧面悬挂的饮料为第二层级，当冰箱门移动时，饮料也一并跟随冰箱门而移动，因此，应当对第二层级也进行对应的调整。
68.根据本公开的实施例，根据用户的操作对不同层级ar模型的放置方式进行调整，使用户获得更加逼真的体验。
69.s103:将所述一个或多个ar模型根据其对应的可视状态展示给用户。
70.在一些实施例中，根据用户视角及ar模型的放置方式，将当前层级ar模型的可视状态展示给用户。
71.本公开所涉及的ar模型由内到外有多个层次，每一个层次呈现不同的内容。靠内的层次被靠外的层次所遮挡，在靠外的层次被打开之前，无法直接看见。ar模型的每个层次都可以被人“打开”。由于ar模型是虚拟对象，实际空间中并无实物存在。所以，模型被“打开”需要依靠ar系统对人的手部动作的摄像捕捉与分析判断来实现。也就是说，人与ar模型的交互，需要借助场景摄像与视频分析来实现。
72.本公开提供一种视频分析系统，所述视频分析系统包括：手部定位与动作识别系统、手部运动跟踪系统和ar模型调节系统。
73.所述的手部动作定位与识别系统采用计算机视觉技术，对拍摄画面中ar模型附近
部分进行搜索，检测用户手部的存在。检测到用户手部之后，系统判断用户手部位置是否与ar模型上的关键部位发生预定的交互，并将判断结果传输到手部运动跟踪系统。
74.所述的手部跟踪系统用于在收到系统关于手部定位的第一交互判断后，开启对手部的跟踪，不间断获取手部的位置信息，并将位置信息实时传递给ar模型调节系统。直到收到系统关于手部定位的第二交互判断为止。
75.所述的ar模型调节系统需要完成两个任务，首先是调整多个ar模型的初始放置方式。这里ar模型间将会按照其大小和位置关系，在不同的视角自然地形成遮挡和可视效果。其次是根据手部跟踪系统传递的手部位置信息，实时解算用户手部交互相关的ar模型的位置和姿态，并予以重新放置。例如，冰箱的门被打开的ar展示中，可以将冰箱门作为单独的ar模型进行处理，然后随着用户手的动作，不断改变冰箱门的放置方式，形成“门被打开”的可视效果。同时，冰箱内事先放置的ar模型，也会随着冰箱门位置的改变而变更其可视状态，让不同视角的用户看见“冰箱内”的情况。
76.需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本公开并不受所描述的动作顺序的限制，因为依据本公开，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于可选实施例，所涉及的动作和模块并不一定是本公开所必须的。
77.以上是关于方法实施例的介绍，以下通过装置实施例，对本公开所述方案进行进一步说明。
78.图2是本公开实施例提供的一种基于用户交互的多层次ar展示装置200的框图。
79.如图2所示，所述基于用户交互的多层次ar展示装置200包括：
80.用户体感跟踪单元201，用于获取用户交互操作；
81.ar模型调整单元202，用于根据所述用户交互操作判断当前需要展示的一个或多个ar模型及其对应的可视状态；
82.展示单元203，用于将所述一个或多个ar模型根据其对应的可视状态展示给用户。
83.所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，所述描述的模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
84.本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。
85.根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
86.图3示出了可以用来实施本公开的实施例的电子设备300的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
87.设备300包括计算单元301，其可以根据存储在只读存储器(rom)302中的计算机程序或者从存储单元308加载到随机访问存储器(ram)303中的计算机程序，来执行各种适当
的动作和处理。在ram 303中，还可存储设备300操作所需的各种程序和数据。计算单元301、rom 302以及ram 303通过总线304彼此相连。输入/输出(i/o)接口305也连接至总线304。
88.设备300中的多个部件连接至i/o接口305，包括：输入单元306，例如键盘、鼠标等；输出单元307，例如各种类型的显示器、扬声器等；存储单元308，例如磁盘、光盘等；以及通信单元309，例如网卡、调制解调器、无线通信收发机等。通信单元309允许设备300通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
89.计算单元301可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元301的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。计算单元301执行上文所描述的各个方法和处理，例如方法100。例如，在一些实施例中，方法100可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元308。在一些实施例中，计算机程序的部分或者全部可以经由rom 302和/或通信单元309而被载入和/或安装到设备300上。当计算机程序加载到ram 303并由计算单元301执行时，可以执行上文描述的方法100的一个或多个步骤。备选地，在其他实施例中，计算单元301可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行方法100。
90.本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、负载可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
91.用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
92.在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
93.为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，crt(阴极射线管)或者lcd(液晶显示器)监视
器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
94.可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(lan)、广域网(wan)和互联网。
95.计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。
96.应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开的技术方案所期望的结果，本文在此不进行限制。
97.上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。