一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

用于增强现实的系统和方法与流程

2022-09-04 03:09:17 来源:中国专利 TAG:

用于增强现实的系统和方法
1.本技术是申请日为2017年2月6日、pct国际申请号为pct/us2017/016722、中国国家阶段申请号为201780010073.0、发明名称为“用于增强现实的系统和方法”的申请的分案申请。
2.相关申请的交叉引用
3.本技术要求2016年2月5日提交的序列号为62/292,185的美国临时专利申请和2016年2月23日提交的序列号为62/298,993的美国临时专利申请的优先权的权益。本技术是2016年3月5日提交的序列号为15/062,104的美国专利申请的部分继续申请,该美国专利申请要求2015年3月5日提交的序列号为62/128,993的美国临时专利申请和2016年2月5日提交的序列号为62/292,185的美国临时专利申请的优先权的权益。本技术还与2016年3月1日提交的序列号为62/301,847的美国临时专利申请相关。上述申请的全部内容通过引用并入本文中。
技术领域
4.本公开涉及在增强现实系统的背景下对一个或多个对象的位置和取向进行定位的系统和方法。


背景技术:

5.现代计算和显示技术促进了用于所谓的“虚拟现实”或“增强现实”体验的系统的发展,其中数字再现的图像或其部分以其看起来是真实的或者可被感知为真实的方式呈现给用户。虚拟现实(或者“vr”)场景通常涉及数字或虚拟图像信息的呈现,而对于其它实际的真实世界的视觉输入不透明;增强现实(或者“ar”)场景通常涉及数字或虚拟图像信息的呈现作为对用户周围的实际世界的可视化的增强。
6.例如,参考图1,描绘了增强现实场景(4),其中ar技术的用户看到以人、树木、背景中的建筑物和混凝土平台(1120)为特征的真实世界公园状设置(6)。除了这些项目之外,ar技术的用户同样感知到他“看到”站在真实世界平台(1120)上的机器人雕像(1110),以及飞过的卡通式化身角色(2),该化身角色看起来是大黄蜂的化身,即使这些元素(2、1110)在真实世界中不存在。事实证明,人类的视觉感知系统是非常复杂的,并且产生有助于连同其他虚拟或真实世界的图像元素一起的虚拟图像元素的舒适、自然、丰富呈现是具有挑战性的。
7.例如,头戴式ar显示器(或头盔式显示器或智能眼镜)通常至少松散地耦接到用户的头部,因此在用户的头部移动时移动。如果显示系统检测到用户的头部运动,则可以更新正显示的数据,以考虑头部姿势的变化。
8.作为示例,如果佩戴头戴式显示器的用户在显示器上观看三维(3d)对象的虚拟表示并且在3d对象出现的区域周围走动,则该3d对象可以对于每一个视点被重新渲染,给用户他或她在占据真实空间的对象周围走动的感觉。如果头戴式显示器被用于在虚拟空间(例如,丰富的虚拟世界)内呈现多个对象,则头部姿势(即,用户头部的位置和取向)的测量可被用于重新渲染场景以匹配用户的动态变化的头部位置和取向并提供增强的在虚拟空
间中的沉浸感。
9.在ar系统中,头部姿势的检测或计算可以便于显示系统渲染虚拟对象,使得它们看起来以对用户有意义的方式占据现实世界中的空间。此外,对与用户头部或ar系统相关的真实对象(诸如手持设备(也可以称为“图腾(totem)”)、触觉设备或其它真实物理对象)的位置和/或取向检测的检测也可以便于显示系统在向用户呈现显示信息时使用户能够有效地与ar系统的特定方面交互。当用户的头部在现实世界中移动时,虚拟对象可以根据头部姿势重新渲染,使得虚拟对象看起来相对于现实世界保持稳定。至少对于ar应用,虚拟对象在空间上相对于物理对象的放置(例如,呈现为在二维或三维中在空间上接近物理对象)可能是非平凡的问题。例如,头部移动可能使虚拟对象在周围环境视图(view)中的放置显著复杂化。无论视图是作为周围环境的图像被捕捉,然后被投影或显示给终端用户,还是终端用户直接感知周围环境的视图,都是如此。例如,头部移动可能导致终端用户的视野改变,这可能需要对各种虚拟对象在终端用户的视野中显示的位置更新。另外,头部移动可以在多种范围和速度内发生。头部移动速度不仅在不同的头部移动之间变化,而且在单个头部移动的范围内或横跨单个头部移动的范围变化。例如,头部移动速度可以最初从起点增加(例如,线性地或非线性地增加),并且可以在达到终点时减小,从而在头部移动的起点与终点之间的某处获得最大速度。快速头部移动甚至可能超过特定显示或投影技术的能力,从而向终端用户呈现看起来均匀和/或平滑运动的图像。
10.头部跟踪准确度和延迟(latency)(即,从用户移动他或她的头部到图像被更新并显示给用户之间的经过时间)对于vr和ar系统来说是一个挑战。特别是对于用虚拟元素填充用户视野的大部分的显示系统,头部跟踪的准确度高并且从对头部运动的第一次检测到由显示器传递给用户视觉系统的光的更新的整体系统延迟非常低是至关重要的。如果延迟很高,则系统会在用户的前庭与视觉感官系统之间产生不匹配,并产生可导致晕动病或模拟器综合征的用户感知场景。如果系统延迟很高,则虚拟对象的明显位置将在快速头部运动期间显得不稳定。
11.除了头戴式显示系统之外,其它显示系统也可受益于准确的且低延迟的头部姿势检测。这些包括头部跟踪显示系统,其中显示器没有穿戴在用户的身体上,而是例如安装在墙壁或其它表面上。头部跟踪显示器就像场景上的窗口,并且当用户相对于“窗口”移动他的头部时,场景被重新渲染以匹配用户的变化视点。其它系统包括头戴式投影系统,其中头戴式显示器将光投射到现实世界中。
12.另外,为了提供逼真的增强现实体验,可以将ar系统设计为与用户交互。例如,多个用户可以使用虚拟球和/或其它虚拟对象进行球赛。一个用户可以“抓住”虚拟球,并将该球扔回给另一用户。在另一实施例中,可以向第一用户提供图腾(例如,通信地耦接到ar系统的真实球棒)以击中虚拟球。在其它实施例中,可以向ar用户呈现虚拟用户界面以允许用户选择许多选项之一。用户可以使用图腾、触觉设备、可穿戴部件,或简单地触摸虚拟屏幕以与系统交互。
13.检测用户的头部姿势和取向,以及检测空间中的真实对象的物理位置使得ar系统能够以有效、愉快的方式显示虚拟内容。然而,虽然这些能力是ar系统的关键,但很难实现。换句话说,ar系统必须识别真实对象(例如,用户的头部、图腾、触觉设备、可穿戴部件、用户的手等)的物理位置,并将真实对象的物理坐标与对应于正向用户显示的一个或多个虚拟
对象的虚拟坐标进行关联。这需要快速跟踪一个或多个对象的位置和取向的高度准确的传感器和传感器识别系统。当前的方法不能以令人满意的速度或精度标准执行定位。
14.因此,存在在ar和vr设备的背景下更好地定位系统的需求。


技术实现要素:

15.本发明的实施例涉及用于便于一个或多个用户的虚拟现实和/或增强现实交互的设备、系统和方法。
16.在一个实施例中,一种增强现实(ar)显示系统包括电磁场发射器,其用于在已知坐标系中发射已知磁场。所述系统还包括电磁传感器,其用于测量与从所述已知磁场产生的在所述电磁传感器处的磁通量相关的参数。所述系统进一步包括深度传感器,其用于测量所述已知坐标系中的距离。另外,所述系统包括控制器,其用于至少部分地基于由所述电磁传感器测量的与所述磁通量相关的所述参数和由所述深度传感器测量的所述距离,确定在所述已知坐标系中所述电磁传感器相对于所述电磁场发射器的姿势信息。此外,所述系统包括显示系统,其用于至少部分地基于所述电磁传感器相对于所述电磁场发射器的所述姿势信息,向用户显示虚拟内容。
17.在一个或多个实施例中,所述深度传感器是被动式立体深度传感器。
18.在一个或多个实施例中,所述深度传感器是主动式深度传感器。所述深度传感器可以是纹理投影立体深度传感器、结构化光投影立体深度传感器、飞行时间深度传感器、激光雷达(lidar)深度传感器或调制发射深度传感器。
19.在一个或多个实施例中,所述深度传感器包括具有第一视场(fov)的深度相机。所述ar显示系统还可以包括世界捕捉相机,其中所述世界捕捉相机具有至少部分地与所述第一fov重叠的第二fov。所述ar显示系统还可以包括图片相机,其中所述图片相机具有至少部分地与所述第一fov和所述第二fov重叠的第三fov。所述深度相机、所述世界捕捉相机和所述图片相机可以具有相应不同的第一分辨率、第二分辨率和第三分辨率。所述深度相机的所述第一分辨率可以为亚vga(sub-vga),所述世界捕捉相机的所述第二分辨率可以为720p,所述图片相机的所述第三分辨率可以为2百万像素。
20.在一个或多个实施例中,所述深度相机、所述世界捕捉相机和所述图片相机被配置为捕捉相应的第一图像、第二图像和第三图像。所述控制器可以被编程为分割所述第二图像和所述第三图像。所述控制器可以被编程为在分割所述第二图像和所述第三图像之后融合所述第二图像和所述第三图像以产生融合图像。测量所述已知坐标系中的距离可以包括通过分析来自所述深度相机的所述第一图像而产生假想距离;以及通过分析所述假想距离和所述融合图像而产生所述距离。所述深度相机、所述世界捕捉相机和所述图片相机形成单个集成传感器。
21.在一个或多个实施例中,所述ar显示系统还包括附加定位资源以提供附加信息。可以至少部分地基于由所述电磁传感器测量的与所述磁通量相关的参数、由所述深度传感器测量的所述距离以及由所述附加定位资源提供的所述附加信息,确定在所述已知坐标系中所述电磁传感器相对于所述电磁场发射器的所述姿势信息。
22.在一个或多个实施例中,所述附加定位资源可以包括wifi收发器、附加电磁发射器或附加电磁传感器。所述附加定位资源可以包括信标。所述信标可以发射辐射。所述辐射
可以是红外辐射,并且所述信标可以包括红外led。所述附加定位资源可以包括反射器。所述反射器可以反射辐射。
23.在一个或多个实施例中,所述附加定位资源可以包括蜂窝网络收发器、雷达发射器、雷达检测器、激光雷达发射器、激光雷达检测器、gps收发器、具有已知可检测图案的海报(poster)、具有已知可检测图案的标志物(marker)、惯性测量单元或应变仪。
24.在一个或多个实施例中,所述电磁场发射器被耦接到所述ar显示系统的可移动部件。所述可移动部件可以是手持式部件、图腾、容纳所述显示系统的头戴式部件、躯干穿戴式部件或腰包(belt-pack)。
25.在一个或多个实施例中,所述电磁场发射器被耦接到所述已知坐标系中的对象,使得所述电磁场发射器具有已知位置和已知取向。所述电磁传感器可以被耦接到所述ar显示系统的可移动部件。所述可移动部件可以是手持式部件、图腾、容纳所述显示系统的头戴式部件、躯干穿戴式部件或腰包。
26.在一个或多个实施例中,所述姿势信息包括在所述已知坐标系中所述电磁传感器相对于所述电磁场发射器的位置和取向。所述控制器可以分析所述姿势信息以确定所述电磁传感器在所述已知坐标系中的位置和取向。
27.在另一实施例中,一种用于显示增强现实的方法包括使用电磁场发射器在已知坐标系中发射已知磁场。所述方法还包括使用电磁传感器测量与从所述已知磁场产生的在所述电磁传感器处的磁通量相关的参数。所述方法进一步包括使用深度传感器测量所述已知坐标系中的距离。另外,所述方法包括至少部分地基于使用所述电磁传感器测量的与所述磁通量相关的所述参数和使用所述深度传感器测量的所述距离,确定在所述已知坐标系中所述电磁传感器相对于所述电磁场发射器的姿势信息。此外,所述方法包括至少部分地基于所述电磁传感器相对于所述电磁场发射器的所述姿势信息,向用户显示虚拟内容。
28.在一个或多个实施例中,所述深度传感器是被动式立体深度传感器。
29.在一个或多个实施例中,所述深度传感器是主动式深度传感器。所述深度传感器可以是纹理投影立体深度传感器、结构化光投影立体深度传感器、飞行时间深度传感器、激光雷达深度传感器或调制发射深度传感器。
30.在一个或多个实施例中,所述深度传感器包括具有第一视场(fov)的深度相机。所述深度传感器还可以包括世界捕捉相机,其中所述世界捕捉相机具有至少部分地与所述第一fov重叠的第二fov。所述深度传感器还可以包括图片相机,其中所述图片相机具有至少部分地与所述第一fov和所述第二fov重叠的第三fov。所述深度相机、所述世界捕捉相机和所述图片相机可以具有相应不同的第一分辨率、第二分辨率和第三分辨率。所述深度相机的所述第一分辨率可以为亚vga,所述世界捕捉相机的所述第二分辨率可以为720p,所述图片相机的所述第三分辨率可以为2百万像素。
31.在一个或多个实施例中,所述方法还包括使用相应的深度相机、世界捕捉相机和图片相机捕捉第一图像、第二图像和第三图像。所述方法还可以包括分割所述第二图像和所述第三图像。所述方法可以进一步包括在分割所述第二图像和所述第三图像之后融合所述第二图像和所述第三图像以产生融合图像。测量所述已知坐标系中的距离可以包括通过分析来自所述深度相机的所述第一图像而产生假想距离;以及通过分析所述假想距离和所述融合图像而产生所述距离。所述深度相机、所述世界捕捉相机和所述图片相机可以形成
单个集成传感器。
32.在一个或多个实施例中,所述方法还包括至少部分地基于使用所述电磁传感器测量的与所述磁通量相关的所述参数、使用所述深度传感器测量的所述距离以及由附加定位资源提供的附加信息,确定在所述已知坐标系中所述电磁传感器相对于所述电磁场发射器的所述姿势信息。
33.在一个或多个实施例中,所述附加定位资源可以包括wifi收发器、附加电磁发射器或附加电磁传感器。所述附加定位资源可以包括信标。所述方法还可以包括发射辐射的信标。所述辐射可以是红外辐射,并且所述信标可以包括红外led。所述附加定位资源可以包括反射器。所述方法还可以包括反射辐射的反射器。
34.在一个或多个实施例中,所述附加定位资源可以包括蜂窝网络收发器、雷达发射器、雷达检测器、激光雷达发射器、激光雷达检测器、gps收发器、具有已知可检测图案的海报、具有已知可检测图案的标志物、惯性测量单元或应变仪。
35.在一个或多个实施例中,所述电磁场发射器被耦接到ar显示系统的可移动部件。所述可移动部件可以是手持式部件、图腾、容纳所述显示系统的头戴式部件、躯干穿戴式部件或腰包。
36.在一个或多个实施例中,所述电磁场发射器被耦接到所述已知坐标系中的对象,使得所述电磁场发射器具有已知位置和已知取向。所述电磁传感器可以被耦接到ar显示系统的可移动部件。所述可移动部件可以是手持式部件、图腾、容纳所述显示系统的头戴式部件、躯干穿戴式部件或腰包。
37.在一个或多个实施例中,所述姿势信息包括在所述已知坐标系中所述电磁传感器相对于所述电磁场发射器的位置和取向。所述方法还可以包括分析所述姿势信息以确定所述电磁传感器在所述已知坐标系中的位置和取向。
38.在又一实施例中,一种增强现实显示系统包括手持式部件,其被耦接到电磁场发射器,所述电磁场发射器发射磁场。所述系统还包括头戴式部件,其具有向用户显示虚拟内容的显示系统。所述头戴式部件被耦接到电磁传感器,所述电磁传感器测量与从所述磁场产生的在所述电磁传感器处的磁通量相关的参数,其中所述头戴式部件在已知坐标系中的头部姿势是已知的。所述系统进一步包括深度传感器,其测量所述已知坐标系中的距离,另外,所述系统包括控制器,其通信地被耦接到所述手持式部件、所述头戴式部件和所述深度传感器。所述控制器从所述头戴式部件接收与所述电磁传感器处的磁通量相关的所述参数并从所述深度传感器接收所述距离。所述控制器至少部分地基于由所述电磁传感器测量的与磁通量相关的所述参数和由所述深度传感器测量的所述距离,确定所述手持式部件的手部姿势。所述系统至少部分地基于所述手部姿势而修改向所述用户显示的所述虚拟内容。
39.在一个或多个实施例中,所述深度传感器是被动式立体深度传感器。
40.在一个或多个实施例中,所述深度传感器是主动式深度传感器。所述深度传感器可以是纹理投影立体深度传感器、结构化光投影立体深度传感器、飞行时间深度传感器、激光雷达深度传感器或调制发射深度传感器。
41.在一个或多个实施例中,所述深度传感器包括具有第一视场(fov)的深度相机。所述ar显示系统还可以包括世界捕捉相机,其中所述世界捕捉相机具有至少部分地与所述第一fov重叠的第二fov。所述ar显示系统还可以包括图片相机,其中所述图片相机具有至少
部分地与所述第一fov和所述第二fov重叠的第三fov。所述深度相机、所述世界捕捉相机和所述图片相机可以具有相应不同的第一分辨率、第二分辨率和第三分辨率。所述深度相机的所述第一分辨率可以为亚vga,所述世界捕捉相机的所述第二分辨率可以为720p,所述图片相机的所述第三分辨率可以为2百万像素。
42.在一个或多个实施例中,所述深度相机、所述世界捕捉相机和所述图片相机被配置为捕捉相应的第一图像、第二图像和第三图像。所述控制器可以被编程为分割所述第二图像和所述第三图像。所述控制器可以被编程为在分割所述第二图像和所述第三图像之后融合所述第二图像和所述第三图像以产生融合图像。测量所述已知坐标系中的距离可以包括通过分析来自所述深度相机的所述第一图像而产生假想距离,以及通过分析所述假想距离和所述融合图像而产生所述距离。所述深度相机、所述世界捕捉相机和所述图片相机可以形成单个集成传感器。
43.在一个或多个实施例中,所述ar显示系统还包括附加定位资源以提供附加信息。所述控制器至少部分地基于由所述电磁传感器测量的与磁通量相关的所述参数、由所述深度传感器测量的所述距离以及由所述附加定位资源提供的所述附加信息,确定所述手持式部件的所述手部姿势。
44.在一个或多个实施例中,所述附加定位资源可以包括wifi收发器、附加电磁发射器或附加电磁传感器。所述附加定位资源可以包括信标。所述信标可以发射辐射。所述辐射可以是红外辐射,并且所述信标可以包括红外led。所述附加定位资源可以包括反射器。所述反射器可以反射辐射。
45.在一个或多个实施例中,所述附加定位资源可以包括蜂窝网络收发器、雷达发射器、雷达检测器、激光雷达发射器、激光雷达检测器、gps收发器、具有已知可检测图案的海报、具有已知可检测图案的标志物、惯性测量单元或应变仪。
46.在一个或多个实施例中,所述电磁场手持式部件是图腾。所述手部姿势信息可以包括所述手持式部件在所述已知坐标系中的位置和取向。
47.本发明的附加或其它的目的、特征和优点在具体实施方式、附图和权利要求中描述。
附图说明
48.附图示例了本发明的各种实施例的设计和效用。应注意,附图并非按比例绘制,并且相似的结构或功能的元件在所有附图中由相同的参考标号表示。为了更好地理解如何获得本发明的各种实施例的上述和其它优点和目的,将通过参考在附图中示例的特定实施例来呈现上面简要描述的本发明的更详细的描述。应当理解,这些附图仅描绘了本发明的典型实施例,因此不被视为对本发明范围的限制,本发明将通过使用附图以附加的特征和细节来描述和解释,在附图中:
49.图1示例出根据一个实施例向ar系统的用户显示的ar场景的平面图。
50.图2a至2d示例出可穿戴ar设备的各种实施例
51.图3示例出与ar系统的一个或多个云服务器交互的可穿戴ar设备的示例性实施例。
52.图4示例出电磁跟踪系统的示例性实施例。
53.图5示例出根据一个示例性实施例确定传感器的位置和取向的示例性方法。
54.图6示例出具有电磁跟踪系统的ar系统的示例性实施例。
55.图7示例出基于检测到的头部姿势向用户传递虚拟内容的示例性方法。
56.图8示例出根据一个实施例的具有电磁发射器和电磁传感器的ar系统的各种部件的示意图。
57.图9a至9f示例出控制和快速释放模块的各种实施例。
58.图10示例出可穿戴ar设备的一个简化实施例。
59.图11a和11b示例出电磁传感器在头戴式ar系统上的放置的各种实施例。
60.图12a至12e示例出待耦接到电磁传感器的铁氧体立方体的各种实施例。
61.图13a至13c示例出用于电磁传感器的数据处理器的各种实施例。
62.图14示例出使用电磁跟踪系统检测头部和手部姿势的示例性方法。
63.图15示例出使用电磁跟踪系统检测头部和手部姿势的另一示例性方法。
64.图16a示例出根据另一实施例的具有深度传感器、电磁发射器和电磁传感器的ar系统的各种部件的示意图。
65.图16b示例出根据又一实施例的具有深度传感器、电磁发射器和电磁传感器的ar系统的各种部件和各种视场的示意图。
具体实施方式
66.参考图2a至2d,示例出一些通用部件选项。在图2a至2d的讨论之后的详细描述的部分中,呈现了各种系统、子系统和部件,用于实现为人类vr和/或ar提供高质量的、舒适感知的显示系统的目标。
67.如图2a所示,ar系统用户(60)被示出为穿戴着头戴式部件(58),该头戴式部件(58)的特征在于框架(64)结构,该框架结构与位于用户眼睛前方的显示系统(62)耦接。扬声器(66)以所示的配置被耦接到框架(64)并且位于用户的耳道附近(在一个实施例中,另一扬声器(未示出)位于用户的另一耳道附近以提供立体声/可塑形声音控制)。显示器(62)可操作地(诸如通过有线引线或无线连接)被耦接(68)到本地处理和数据模块(70),本地处理和数据模块(70)可以以各种配置安装,诸如被固定地附到框架(64)上,如图2b的实施例所示被固定地附到头盔或帽子(80)上,被嵌入头戴耳机内,如图2c的实施例所示以背包式配置可拆卸地附到用户(60)的躯干(82),或者如图2d的实施例所示以带耦接式配置可拆卸地附到用户(60)的臀部(84)。
68.本地处理和数据模块(70)可以包括高功效处理器或控制器以及数字存储器(诸如闪速存储器),这两者都可用于辅助处理、高速缓存和存储以下数据:a)从可以可操作地耦接到框架(64)的传感器捕捉的数据,所述传感器例如为图像捕捉设备(诸如相机)、麦克风、惯性测量单元、加速度计、罗盘、gps单元、无线电设备和/或陀螺仪;和/或b)使用远程处理模块(72)和/或远程数据储存库(74)获取和/或处理的数据,这些数据可以在这样的处理或检索之后被传送到显示器(62)。本地处理和数据模块(70)可以诸如经由有线或无线通信链路可操作地被耦接(76、78)到远程处理模块(72)和远程数据储存库(74),使得这些远程模块(72、74)可操作地彼此耦接并且可用作本地处理和数据模块(70)的资源。
69.在一个实施例中,远程处理模块(72)可以包括一个或多个相对强大的处理器或控
制器,这些处理器或控制器被配置为分析和处理数据和/或图像信息。在一个实施例中,远程数据储存库(74)可以包括相对大规模的数字数据存储设施,该设施可以通过因特网或“云”资源配置中的其它网络配置而可用。在一个实施例中,在本地处理和数据模块中存储所有数据并且执行所有计算,从而允许从任何远程模块完全自主的使用。
70.现在参考图3,示意地示例出云计算资产(46)与本地处理资产之间的协调,本地处理资产例如可以驻留在头戴式部件(58)以及本地处理和数据模块(70)中,头戴式部件(58)被耦接到用户头部(120),本地处理和数据模块(70)被耦接到用户的腰带(308;因此部件70也可以称为“腰包”70),如图3所示。在一个实施例中,云(46)资产(诸如一个或多个服务器系统(110))诸如经由有线或无线网络(无线优选用于移动性,有线优选用于可能需要的特定高带宽或高数据量传输)可操作地直接(40、42)耦接(115)到本地计算资产(例如如上所述被耦接到用户的头部(120)和腰带(308)的处理器和存储器配置)中的一者或两者。用户本地的这些计算资产也可以经由有线和/或无线连接配置(44)可操作地彼此耦接,诸如下面参考图8讨论的有线耦接(68)。在一个实施例中,为了保持安装在用户头部(120)的低惯性和小尺寸子系统,用户与云(46)之间的主要传输可以经由安装在腰带(308)处的子系统与云之间的链路进行,其中头戴式(120)子系统主要使用无线连接(诸如超宽带(“uwb”)连接)将数据系链到基于腰带(308)的子系统,如当前例如在个人计算外设连接应用中采用的那样。
71.通过有效的本地和远程处理协调以及用于用户的适当显示设备(诸如用户接口或图2a所示的用户显示系统(62)或其变型),与用户当前的实际或虚拟位置相关的一个世界的各个方面可以被传输或“传递”给用户并以有效的方式更新。换句话说,可以在存储位置处连续更新世界的地图,该存储位置可以部分地驻留在用户的ar系统上和部分地驻留在云资源中。地图(也称为“可传递的世界模型”)可以是包括光栅图像、3-d和2-d点、参数信息和关于现实世界的其它信息的大型数据库。随着越来越多的ar用户不断地捕捉关于他们的真实环境的信息(例如,通过相机、传感器、imu等),地图变得越来越准确和完善。
72.通过上述其中存在可驻留在云计算资源上并且从云计算资源分发的一个世界模型的配置,这样的世界可以以相对低的带宽“可传递”给一个或多个用户,优选地尝试分发实时视频数据等。站在雕像附近的人的增强体验(即,如图1所示)可以通过基于云的世界模型来告知,该世界模型的子集可以传递给他们和他们的本地显示设备以完成视图。位于远程显示设备旁的人可以像位于桌子上的个人计算机一样简单,可以有效地从云下载相同的信息部分并在他们的显示器上呈现这部分信息。实际上,实际存在于雕像附近的公园里的一个人可能会带位于远方的朋友在那个公园中散步,其中该朋友通过虚拟和增强现实而被加入。系统将需要获知街道的位置、树木的位置、雕像的位置,但是该信息位于云上,加入的朋友可以从云下载场景的各个方面,然后开始作为相对于实际位于公园里的人为本地的增强现实一起散步。
73.可以从环境捕捉3-d点,并且可以确定捕捉这些图像或点的相机的姿势(即,相对于世界的矢量和/或原点位置信息),以便这些点或图像可以用该姿势信息被“标记”,或者与该姿势信息相关联。然后,可以利用由第二相机捕捉的点来确定第二相机的姿势。换句话说,可以基于与来自第一相机的被标记的图像的比较来对第二相机进行定向和/或定位。然后,可以利用这些知识来提取纹理,制作地图,并创建现实世界的虚拟副本(因为那时周围
存在两个被配准的相机)。
74.因此,在基础级,在一个实施例中,可以利用人穿戴的系统来捕捉3-d点和产生这些点的2-d图像,并且这些点和图像可以被发送出去到云存储和处理资源。它们也可以用嵌入的姿势信息在本地缓存(即,缓存被标记的图像);因此,云可以具有准备好的(即,在可用的缓存中)被标记的2-d图像(即,用3-d姿势被标记)以及3-d点。如果用户正在观察动态的东西,他还可以将与运动相关的信息发送到云(例如,如果正在观看另一人的脸部,用户可以拍摄脸部的纹理图并将其推到优化频率,即使周围的世界基本上是静态的)。关于对象识别器和可传递的世界模型的更多信息可以在其全部内容通过引用而并入本文中的序列号为14/205,126、名称为“system and method for augmented and virtual reality(用于增强和虚拟现实的系统和方法)”的美国专利申请以及以下关于诸如由位于佛罗里达州劳德代尔堡的奇跃公司开发的那些的增强现实系统和虚拟现实系统的附加公开中找到:序列号为14/641,376的美国专利申请;序列号为14/555,585的美国专利申请;序列号为14/212,961的美国专利申请;序列号14/690,401的美国专利申请;序列号为13/663,466的美国专利申请;和序列号为13/684,489的美国专利申请。
75.为了捕捉可用于创建“可传递的世界模型”的点,准确地获知用户相对于世界的位置、姿势和取向是有帮助的。更特别地,用户的位置必须被局域到粒度,因为获知用户的头部姿势以及手部姿势(如果用户正抓住手持式部件、正打手势等)可能是非常重要的。在一个或多个实施例中,gps和其它定位信息可被用作这种处理的输入。用户头部、图腾、手势、触觉设备等的高度准确定位对于向用户显示适当的虚拟内容是至关重要的。
76.实现高精度定位的一种途径可以涉及与电磁传感器耦接的电磁场的使用,这些电磁传感器策略性地被放置在用户的ar头部装置、腰包和/或其它辅助设备(例如,图腾、触觉设备、游戏工具等)上。电磁跟踪系统通常包括至少一个电磁场发射器和至少一个电磁场传感器。传感器可以测量具有已知分布的电磁场。基于这些测量,确定场传感器相对于发射器的位置和取向。
77.现在参考图4,其中示例出电磁跟踪系统(例如,由诸如johnson&johnson corporation的biosense(rtm)部门,位于佛蒙特州科尔切斯特的polhemus(rtm),inc.的组织开发,由位于加利福尼亚州洛斯盖多斯的sixense(rtm)entertainment,inc.和其它跟踪公司制造的电磁跟踪系统)的示例性系统图。在一个或多个实施例中,电磁跟踪系统包括电磁场发射器402,其被配置为发射已知磁场。如图4所示,电磁场发射器可以被耦接到电源(例如,电流、电池等)以向发射器402提供电力。
78.在一个或多个实施例中,电磁场发射器402包括产生磁场的若干线圈(例如,至少三个彼此垂直定位以在x、y和z方向上产生场的线圈)。该磁场被用于建立坐标空间。这允许系统映射(map)传感器相对于已知磁场的位置,并帮助确定传感器的位置和/或取向。在一个或多个实施例中,电磁传感器404a、404b等可以被附接到一个或多个真实对象上。电磁传感器404可以包括较小的线圈,在这些线圈中,可以通过所发射的电磁场感应出电流。通常,“传感器”部件(404)可以包括小的线圈或环,例如在诸如立方体或其它容器的小型结构内被耦合在一起的一组三个不同取向(即,诸如相对于彼此正交取向)的线圈,这些线圈被定位/定向来捕捉来自由发射器(402)所发射的磁场的传入磁通量,并通过比较经由这些线圈感应的电流,并且获知这些线圈相对于彼此的相对定位和取向,可以计算传感器相对于发
射器的相对位置和取向。
79.可以测量与可操作地耦接到电磁跟踪传感器的线圈和惯性测量单元(“imu”)部件的行为相关的一个或多个参数,以检测传感器(和传感器所附接到的对象)相对于电磁场发射器所耦接到的坐标系的位置和/或取向。当然,该坐标系可以被转换成世界坐标系,以便确定电磁场发射器在现实世界中的位置或姿势。在一个或多个实施例中,可以相对于电磁发射器使用多个传感器来检测在坐标空间内的每个传感器的位置和取向。
80.应当理解,在一些实施例中,可能已经基于ar系统的头戴式部件上的传感器、以及基于通过头戴式ar系统捕捉的传感器数据和图像数据而执行的slam分析,获知了头部姿势。然而,重要的可能是获知用户的手部(例如,图腾等手持式部件)相对于已知的头部姿势的位置。换句话说,重要的可能是获知相对于头部姿势的手部姿势。一旦头部(假设传感器被放置在头戴式部件上)和手部之间的关系已知,就可以容易地计算出手部相对于世界(例如,世界坐标)的位置。
81.电磁跟踪系统可以提供在三个方向(即,x、y和z方向)上的位置,并且还提供两个或三个取向角上的位置。在一个或多个实施例中,可以将imu的测量结果与线圈的测量结果进行比较,以确定传感器的位置和取向。在一个或多个实施例中,电磁(em)数据和imu数据二者以及各种其它数据源(诸如相机、深度传感器和其它传感器)可以被组合以确定位置和取向。该信息可以被发送(例如,无线通信、蓝牙等)到控制器406。在一个或多个实施例中,可以在传统系统中以相对高的刷新率报告姿势(或位置和取向)。传统上,电磁发射器被耦接到相对稳定的大对象,诸如桌子、手术台、墙壁或天花板,并且一个或多个传感器被耦接到较小的对象,诸如医疗设备、手持式游戏部件等。或者,如下面参考图6所述,可以采用电磁跟踪系统的各种特征来产生这样的配置:其中,可以跟踪相对于更稳定的全局坐标系在空间中移动的两个对象之间的位置和/或取向的改变或差量;换句话说,图6中示出这样的配置:其中,电磁跟踪系统的变化可被用于跟踪头戴式部件和手持式部件之间的位置和取向差量,同时以其他方式,诸如通过使用可被耦接到系统的头戴式部件的向外捕捉相机的同时定位和建图(“slam”)技术,来确定相对于全局坐标系(例如用户本地的房间环境)的头部姿势。
82.控制器406可以控制电磁场发生器402,并且还可以捕捉来自各种电磁传感器404的数据。应当理解,系统的各种部件可以通过任何机电或无线/蓝牙手段彼此耦接。控制器406还可以包括关于已知磁场以及与磁场相关的坐标空间的数据。然后,该信息被用于检测传感器相对于与已知电磁场对应的坐标空间的位置和取向。
83.电磁跟踪系统的一个优点是它们以最小的延迟和高分辨率产生高度准确的跟踪结果。另外,电磁跟踪系统不一定依赖于光学跟踪器,并且可以容易地跟踪不在用户视线中的传感器/对象。
84.应当理解,电磁场v的强度作为距线圈发射器(例如,电磁场发射器402)的距离r的三次函数而下降。因此,可能需要基于离开电磁场发射器的距离的算法。控制器406可以被配置有这样的算法,以确定在离开电磁场发射器的不同距离处的传感器/对象的位置和取向。假设随着移动离开电磁发射器更远而电磁场强度迅速下降,可以在更近的距离处实现在准确度、效率和低延迟方面的最佳结果。在典型的电磁跟踪系统中,电磁场发射器由电流(例如,插入式电源)供电,并且具有位于距电磁场发射器20英尺半径内的传感器。在包括ar
应用的许多应用中,更希望在传感器与场发射器之间的半径较短。
85.现在参考图5,简要描述了示例性流程图,该示例性流程图描述了典型电磁跟踪系统的功能。在502处,发射已知电磁场。在一个或多个实施例中,磁场发射器可以产生磁场,并且每个线圈可以在一个方向(例如,x、y或z)上产生电场。可以以任意波形产生磁场。在一个或多个实施例中,每个轴可以以略微不同的频率振荡。在504处,可确定对应于电磁场的坐标空间。例如,图4的控制器406可以基于电磁场自动确定发射器周围的坐标空间。在506处,可以检测传感器(可以附接到已知对象上)处的线圈的行为。例如,可以计算在线圈处感应的电流。在其它实施例中,可以跟踪和测量线圈的旋转或任何其它可量化的行为。在508处,可以使用该行为检测传感器和/或已知对象的位置和取向。例如,控制器406可以查阅映射表,该映射表将传感器处的线圈的行为与各种位置或取向进行关联。基于这些计算,可以确定传感器的在坐标空间中的位置以及取向。在一些实施例中,可以在传感器处确定姿势/位置信息。在其它实施例中,传感器将在传感器处检测到的数据传送到控制器,并且控制器可以查询映射表以确定相对于已知磁场的姿势信息(例如,相对于手持式部件的坐标)。
86.在ar系统的背景下,可能需要修改电磁跟踪系统的一个或多个部件以便于准确地跟踪可移动部件。如上所述,跟踪用户的头部姿势和取向在许多ar应用中是至关重要的。用户的头部姿势和取向的准确确定允许ar系统向用户显示正确的虚拟内容。例如,虚拟场景可以包括隐藏在真实建筑物后面的怪物。根据用户头部相对于建筑物的姿势和取向,可能需要修改虚拟怪物的视图,以便提供逼真的ar体验。或者,图腾、触觉设备或与虚拟内容交互的一些其它装置的位置和/或取向对于使ar用户能够与ar系统交互可能是重要的。例如,在许多游戏应用中,ar系统必须检测相对于虚拟内容的真实对象的位置和取向。或者,当显示虚拟界面时,必须获知图腾、用户的手部、触觉设备或被配置为与ar系统交互的任何其它真实对象相对于所显示的虚拟界面的位置,以便系统理解命令等。包括光学跟踪和其它方法的传统定位方法通常受到高延迟和低分辨率问题的困扰,这使得在许多增强现实应用中渲染虚拟内容具有挑战性。
87.在一个或多个实施例中,关于图4和图5讨论的电磁跟踪系统可以适于ar系统,以检测一个或多个对象相对于所发射的电磁场的位置和取向。典型的电磁系统倾向于具有大且笨重的电磁发射器(例如,图4中的402),这对于ar设备是有问题的。然而,较小的电磁发射器(例如,在毫米范围内)可被用于在ar系统的背景下发射已知电磁场。
88.现在参考图6,电磁跟踪系统可以与所示的ar系统结合,其中电磁场发射器602作为手持式控制器606的一部分被并入。在一个或多个实施例中,手持式控制器可以是在游戏场景中使用的图腾。在其它实施例中,手持式控制器可以是触觉设备。在另外的实施例中,电磁场发射器可以简单地作为腰包70的一部分被并入。手持式控制器606可以包括电池610或为该电磁场发射器602供电的其它电源。应当理解,电磁场发射器602还可以包括或被耦接到imu 650部件,imu 650部件被配置为帮助确定电磁场发射器602相对于其它部件的位置和/或取向。在场发射器602和传感器(604)都可移动的情况下,这尤其重要。如图6的实施例所示,将电磁场发射器602放置在手持式控制器中而非腰包中确保了电磁场发射器不会争用腰包处的资源,而是在手持式控制器606处使用其自己的电池源。
89.在一个或多个实施例中,电磁传感器(604)可以被放置在用户头戴装置(58)以及其它感测设备(诸如一个或多个imu或附加磁通量捕获线圈(608))上的一个或多个位置处。
例如,如图6所示,传感器(604、608)可以被放置在头戴装置(58)的任一侧。由于这些传感器(604、608)被设计得相当小(因此在某些情况下可能不太灵敏),因此具有多个传感器可以提高效率和精度。
90.在一个或多个实施例中,一个或多个传感器也可以被放置在腰包(620)或用户身体的任何其它部位上。传感器(604、608)可以通过无线的方式或通过蓝牙与计算装置(607,例如控制器)通信,该计算装置确定传感器(604、608)(以及它们所附接到的ar头戴装置(58)相对于由电磁场发射器(602)发射的已知磁场)的姿势和取向。在一个或多个实施例中,计算装置(607)可以驻留在腰包(620)处。在其它实施例中,计算装置(607)可以驻留在头戴装置(58)本身处,甚至驻留在手持式控制器(606)处。计算装置(607)可以接收传感器(604、608)的测量结果,并且确定传感器(604、608)相对于由电磁场发射器(602)发射的已知电磁场的位置和取向。
91.在一个或多个实施例中,计算装置(607)又可以包括映射数据库(632;例如,可传递的世界模型、坐标空间等)以检测姿势,以确定真实对象和虚拟对象的坐标,甚至可以连接到云资源(630)和可传递的世界模型。可以查阅映射数据库(632)以确定传感器(604、608)的位置坐标。在一些实施例中,映射数据库(632)可以驻留在腰包(620)中。在图6所示的实施例中,映射数据库(632)驻留在云资源(630)上。计算装置(607)以无线的方式与云资源(630)通信。然后所确定的姿势信息连同由ar系统收集的点和图像可以被传送到云资源(630),然后被添加到可传递的世界模型(634)。
92.如上所述,传统的电磁发射器对于ar设备而言可能太笨重。因此,与传统系统相比,可以使用更小的线圈将电磁场发射器设计成紧凑型发射器。然而,假设电磁场的强度随着离开场发射器的距离的三次函数而减小,则与传统系统(诸如图4中详述的系统)相比,电磁传感器604与电磁场发射器602之间的较短半径(例如,约3-3.5英尺)可以减小功耗。
93.在一个或多个实施例中,该方面可以被用于延长可以为控制器606和电磁场发射器602供电的电池610的寿命。或者,在其它实施例中,该方面可被用于减小在电磁场发射器602处产生磁场的线圈的尺寸。然而,为了获得相同的磁场强度,可能需要增加功率。这允许使用可以紧凑地安装在手持式控制器606上的紧凑型电磁场发射器单元602。
94.当将电磁跟踪系统用于ar设备时,可以做出若干其它改变。虽然该姿势报告率相当好,但ar系统可能需要更高效的姿势报告率。为此,可以在传感器中使用基于imu的姿势跟踪。至关重要的是,imu必须尽可能保持稳定,以提高姿势检测过程的效率。可以将imu设计为在最高为50至100毫秒的时间内保持稳定。应当理解,一些实施例可以利用外部姿势估计器模块(即,imu可以随时间漂移),该模块使得能够以10至20hz的速率报告姿势更新。通过以合理的速率保持imu稳定,姿势更新的速率可以被显著降低到10至20hz(与传统系统中的较高频率相比)。
95.如果电磁跟踪系统可以以10%的占空比运行(例如,每100毫秒仅为真正的事实(ground truth)进行ping操作),这将是在ar系统处节省功率的另一种方式。这意味着电磁跟踪系统在每100毫秒中的每10毫秒唤醒一次,以产生姿势估计。这直接转化为功耗节省,反过来又可能影响ar设备的尺寸、电池寿命和成本。
96.在一个或多个实施例中,可以通过提供两个手持式控制器(未示出)而不是仅一个手持式控制器来策略性地利用占空比的这种减小。例如,用户可能正在玩需要两个图腾的
游戏等。或者,在多用户游戏中,两个用户可以拥有他们自己的图腾/手持式控制器来玩游戏。当使用两个控制器(例如,用于每只手的对称控制器)而不是一个控制器时,控制器可以以偏移的占空比执行操作。例如,相同的概念也可以应用于由玩多玩家游戏的两个不同用户使用的控制器。
97.现在参考图7,描述了示例性流程图,该示例性流程图在ar设备的背景下描述电磁跟踪系统。在702处,手持式控制器发射磁场。在704处,电磁传感器(被放置在头戴装置、腰包等上)检测磁场。在706处,基于在传感器处的线圈/imu的行为来确定头戴装置/腰带的位置和取向。在708处,将姿势信息传送到计算装置(例如,位于腰包或头戴装置处)。在710处,可选地,可以查阅映射数据库(例如,可传递的世界模型)以将现实世界坐标与虚拟世界坐标进行关联。在712处,可以在ar头戴装置处将虚拟内容传递给用户。应当理解,上述流程图仅用于说明目的,不应理解为限制。
98.有利地,使用与图6中概述的电磁跟踪系统类似的电磁跟踪系统能够进行姿势跟踪(例如,头部位置和取向、图腾以及其它控制器的位置和取向)。与光学跟踪技术相比,这允许ar系统以更高的准确度和非常低的延迟来投影虚拟内容。
99.现在参考图8,示例出了系统配置,其中该系统配置以许多感测部件为特征。头戴式可穿戴部件(58)被示出为可操作地被耦接(68)到本地处理和数据模块(70),诸如腰包,这里使用物理多芯引线进行耦接,该引线还以下面参考图9a至9f描述的控制和快速释放模块(86)为特征。本地处理和数据模块(70)可操作地被耦接(100)到手持式部件(606),这里通过诸如低功率蓝牙的无线连接进行耦接;手持式部件(606)还可以可操作地被直接耦接(94)到头戴式可穿戴部件(58),例如通过诸如低功率蓝牙的无线连接进行耦接。通常,在传递imu数据以协调各种部件的姿势检测的情况下,需要高频连接,例如在数百或数千周期/秒或更高的范围内;每秒数十个周期对于电磁定位感测可能是足够的,诸如通过传感器(604)和发射器(602)配对。还示出了全局坐标系(10),其表示用户周围的现实世界中的固定对象,诸如墙壁(8)。云资源(46)还可以可操作地分别被耦接(42、40、88、90)到本地处理和数据模块(70),到头戴式可穿戴部件(58),到可被耦接到墙壁(8)或相对于全局坐标系(10)固定的其它项目的资源。被耦接到墙壁(8)或具有相对于全局坐标系(10)的已知位置和/或取向的资源可包括wifi收发器(114)、电磁发射器(602)和/或接收器(604)、被配置为发射或反射给定类型的辐射的信标或反射器(112),诸如红外led信标、蜂窝网络收发器(110)、雷达发射器或检测器(108)、激光雷达发射器或检测器(106)、gps收发器(118)、具有已知可检测图案(122)的海报或标志物、以及相机(124)。除了被配置为辅助相机(124)检测器的光发射器(130)(诸如用于红外相机(124)的红外发射器(130))之外,头戴式可穿戴部件(58)还具有与所示例的部件类似的部件的特征;在头戴式可穿戴部件(58)上还具有一个或多个应变仪(116)的特征,应变仪(116)可以被固定地耦接到头戴式可穿戴部件(58)的框架或机械平台上,并被配置为确定位于诸如电磁接收器传感器(604)或显示元件(62)之类的部件之间中的这种平台的偏转,其中了解平台是否发生弯曲可能是有价值的,诸如在平台的较薄部分(诸如图8所示的眼镜状平台上的鼻子上方的部分)处发生弯曲。头戴式可穿戴部件(58)还具有处理器(128)和一个或多个imu(102)的特征。每个部件优选地可操作地被耦接到处理器(128)。手持式部件(606)以及本地处理和数据模块(70)被示例为具有类似的部件的特征。如图8所示,由于具有如此多的感测和连接装置,系统可能很重、耗电、庞大
且相对昂贵。然而,出于说明性目的,可以利用这样的系统来提供非常高水平的连接、系统部件集成和位置/取向跟踪。例如,利用这样的配置,各种主要可移动部件(58、70、606)可以使用wifi、gps或蜂窝信号三角测量就相对于全局坐标系的位置而言进行定位;信标、电磁跟踪(如上所述)、雷达和激光雷达系统可以提供更进一步的位置和/或取向信息和反馈。标志物和相机也可被用于提供关于相对和绝对位置和取向的进一步信息。例如,各种相机部件(124)(诸如被示出为耦接到头戴式可穿戴部件(58)的相机部件)可被用于捕捉可以在同时定位和建图协议或“slam”中使用的数据,以确定部件(58)所在的位置以及部件(58)相对于其它部件如何取向。
100.现在参考图9a至9f,示出了控制和快速释放模块(86)的各个方面。参考图9a,两个外壳部件使用磁耦接配置而被耦接在一起,该磁耦接配置可以通过机械锁定而被增强。可以包括用于操作相关联的系统的按钮(136)。图9b示例出局部剖视图,其中示出了按钮(136)和下面的顶部印刷电路板(138)。参考图9c,在按钮(136)和下面的顶部印刷电路板(138)被移除的情况下,可以看到母接触插针阵列(140)。参考图9d,在壳体(134)的相对部分被移除的情况下,可以看到下部印刷电路板(142)。在下部印刷电路板(142)被移除的情况下,如图9e所示,可以看到公接触插针阵列(144)。参考图9f的横截面图,公插针或母插针中的至少一者被配置为通过弹簧加载,使得它们可以沿每个插针的纵向轴线压下;这些插针可以被称为“弹簧插针”,并且通常包括高导电材料,例如铜或金。当被组装时,所示例的配置使得公插针与母插针46紧密配合,并且整个组件可以通过手动地将其拉开并且克服磁界面(146)载荷而被快速释放解耦一半,该磁界面(146)载荷可以使用在插针阵列(140、144)的周边周围定向的南北磁体而形成。在一个实施例中,通过压缩46个弹簧插针形成的大约2kg的载荷被大约4kg的闭合维持力抵消。该阵列中的插针可以被分隔大约1.3mm,这些插针可以可操作地被耦接到各种类型的导线,例如双绞线或其它组合以支持usb 3.0、hdmi 2.0、i2s信号、gpio和mipi配置,在一个实施例中,针对最高为约4安培/5伏特配置高电流模拟线和地线。
101.参考图10,具有最小化的部件/特征集以便能够最小化各种部件的重量和体积,并且达到相对细长的头戴式部件(例如,诸如图10中的部件(58))是有帮助的。因此,可以使用图8所示例的各种部件的各种排列和组合。
102.参考图11a,电磁感测线圈组件(604,即与壳体耦接的3个单独线圈)被示出为耦接到头戴式部件(58);这样的配置为整个组件增加了额外的几何形状,这可能是不被希望的。参考图11b,不是如图11a的配置那样将线圈容纳在盒子或单个壳体中,而是可以将各个线圈集成到头戴式部件(58)的各种结构中,如图11b所示。例如,x轴线圈(148)可以被放置在头戴式部件(58)的一部分中(例如,框架的中心)。类似地,y轴线圈(150)可以被放置在头戴式部件的另一部分中(58;例如,框架的任一底侧)。类似地,z轴线圈(152)可以被放置在头戴式部件(58)的又一部分中(例如,框架的任一顶侧)。
103.图12a至12e示例出用于表征被耦接到电磁传感器以提高场灵敏度的铁氧体磁芯的各种配置。参考图12a,铁氧体磁芯可以是实心立方体(1202)。尽管实心立方体(1202)在提高场灵敏度方面可能是最有效的,但是与图12b至12e所示的其余配置相比,它也可能是最重的。参考图12b,多个铁氧体磁盘(1204)可以被耦接到电磁传感器。类似地,参考图12c,具有单轴空气芯的实心立方体(1206)可以被耦接到电磁传感器。如图12c所示,可以沿着一
个轴在实心立方体中形成开放空间(即,空气芯)。这可以减小立方体的重量,同时仍然提供必要的场灵敏度。在又一实施例中,参考图12d,具有三轴空气芯的实心立方体(1208)可以被耦接到电磁传感器。在这种配置中,实心立方体沿所有三个轴被挖空,从而显著减小立方体的重量。参考图12e,具有塑料壳体的铁氧体棒(1210)也可以被耦接到电磁传感器。应该理解,图12b至12e的实施例在重量方面比图12a的实芯配置轻,并且如上所述,可用于节省质量。
104.参考图13a至13c,时分多路复用(“tdm”)也可被用于节省质量。例如,参考图13a,示出用于3线圈电磁接收器传感器的传统本地数据处理配置,其中模拟电流来自x、y和z线圈(1302、1304、1306)中的每一者,进入前置放大器(1308),进入带通滤波器(1310)、pa(1312)、经过模数转换(1314),最终进入数字信号处理器(1316)。参考图13b的发射器配置和图13c的接收器配置,可以利用时分复用来共享硬件,以使得每个线圈传感器链不需要其自己的放大器等。这可以通过tdm开关1320实现,如图13b所示,其有助于使用相同的硬件部件组(放大器等)处理来自和去往多个发射器和接收器的信号。除了移除传感器壳体和多路复用以节省硬件开销之外,也可以通过具有多于一组的电磁传感器来提高信噪比,每组电磁传感器相对于单个较大的线圈组相对较小;此外,可以改进通常需要具有多个紧密接近的感测线圈的低侧频率限制以便于带宽需求提升。此外,存在与多路复用的折衷,这是因为多路复用通常会及时地扩展射频信号的接收,这导致通常更脏的信号;因此,多路复用系统可能需要更大的线圈直径。例如,在多路复用系统可能需要9mm边尺寸的立方体线圈传感器盒的情况下,非多路复用系统可能仅需要7mm边尺寸的立方体线圈盒而获得类似的性能;因此,在最小化几何形状和质量方面存在折衷。
105.在其中特定系统部件(诸如头戴式部件(58))具有两个或更多个电磁线圈传感器组的另一实施例中,该系统可被配置为选择性地利用彼此最靠近的传感器和发射器配对,以最优化系统的性能。
106.参考图14,在一个实施例中,在用户给他或她的可穿戴计算系统加电(160)之后,头戴式部件组件可以捕捉imu和相机数据的组合(相机数据被用于例如诸如在可能存在更多原始处理马力的腰包处理器处正slam分析),以确定和更新相对于现实世界全局坐标系的头部姿势(即,位置和取向)(162)。用户还可以激活手持式部件以例如玩增强现实游戏(164),并且手持式部件可以包括可操作地耦接到腰包和头戴式部件中的一者或两者的电磁发射器(166)。与头戴式部件耦接的一个或多个电磁场线圈接收器组(即,每组3个不同取向的单独线圈)捕捉来自发射器的磁通量,该磁通量可被用于确定头戴式部件与手持式部件之间的位置或取向差异(或“差量”)(168)。帮助确定相对于全局坐标系的姿势的头戴式部件和帮助确定手持式部件相对于头戴式部件的相对位置和取向的手持式部件的组合允许系统大致确定每个部件相对于全局坐标系的位置,因此可以跟踪用户的头部姿势和手持姿势,优选地以相对低的延迟跟踪,从而使用手持式部件的移动和旋转来呈现增强现实图像特征和交互(170)。
107.参考图15,示例出与图14的实施例有些类似的实施例,只是系统具有更多可用于帮助确定头戴式部件(172)和手持式部件(176、178)的姿势的感测设备和配置,因此可以跟踪用户的头部姿势和手持姿势,优选地以相对低的延迟跟踪,从而使用手持式部件的移动和旋转来呈现增强现实图像特征和交互(180)。
108.具体而言,在用户给他或她的可穿戴计算系统加电(160)之后,头戴式部件捕捉imu和相机数据的组合以用于slam分析,以便确定和更新相对于现实世界全局坐标系的头部姿势。该系统可以被进一步配置为检测环境中的其它定位资源的存在,例如wi-fi、蜂窝、信标、雷达、激光雷达、gps、标志物和/或可以与全局坐标系的各个方面或一个或多个可移动部件相关联的其它相机(172)。
109.用户还可以激活手持式部件以例如玩增强现实游戏(174),而且手持式部件可以包括可操作地耦接到腰包和或头戴式部件中的一者或两者的电磁发射器(176)。也可以以类似的方式使用其它定位资源。与头戴式部件耦接的一个或多个电磁场线圈接收器组(例如,每组3个不同取向的单独线圈)可被用于捕捉来自电磁发射器的磁通量。该捕捉的磁通量可被用于确定头戴式部件与手持式部件之间的位置或取向差异(或“差量”)(178)。
110.因此,可以以相对低的延迟跟踪用户的头部姿势和手持姿势,以便使用手持式部件的移动或旋转来呈现ar内容和/或与ar系统的交互(180)。
111.参考图16a和16b,示出了与图8的配置类似的配置的各个方面。图16a的配置与图8的配置的不同之处在于,除了激光雷达(106)类型的深度传感器之外,图16a的配置还具有用于说明目的的通用深度相机或深度传感器(154),其例如可以是立体三角测量式深度传感器(诸如被动式立体深度传感器、纹理投影立体深度传感器或结构化光立体深度传感器)或飞行时间式深度传感器(诸如激光雷达深度传感器或调制发射深度传感器);此外,图16a的配置具有附加的前向“世界”相机(124,其可以是灰度相机,具有720p范围分辨率的传感器)以及相对高分辨率的“图片相机”(156,例如可以是全色相机,具有2百万像素或更高分辨率的传感器)。图16b示例出用于说明性目的的图16a的配置的部分正交视图,如下面参考图16b进一步描述的。
112.返回参考图16a和上面提到的立体与飞行时间式深度传感器,这些深度传感器类型中的每一种可以与本文所公开的可穿戴计算解决方案一起使用,尽管每种深度传感器类型都具有各种优点和缺点。例如,许多深度传感器具有黑色表面和闪亮或反射表面的挑战。被动式立体深度感测是利用深度相机或传感器进行三角测量以计算深度的相对简单的方式,但如果需要宽视场(“fov”),则可能会具有挑战,并且可能需要相对重要的计算资源;此外,这种传感器类型可能具有边缘检测的挑战,这对于手头的特定用例可能非常重要。被动式立体可能具有无纹理墙壁、低照明情况和重复图案的挑战。被动式立体深度传感器可从诸如英特尔(rtm)和aquifi(rtm)的制造商获得。具有纹理投影的立体(也称为“主动式立体”)类似于被动式立体,但纹理投影仪将投影图案广播到环境上,并且广播的纹理越多,在用于深度计算的三角测量中可获得的准确度越高。主动式立体也可能需要相对较高的计算资源,当需要宽fov时存在挑战,并且在检测边缘方面有些欠佳,但它确实解决了被动式立体的一些挑战,因为它对无纹理墙壁有效,在低照明下表现良好,并且通常没有重复图案的问题。主动式立体深度传感器可从诸如英特尔(rtm)和aquifi(rtm)的制造商获得。具有结构化光的立体(例如由primesense,inc.(rtm)开发并可以以商品名kinect(rtm)获得的系统,以及可从mantis vision,inc.(rtm)获得的系统)通常使用单个相机/投影仪配对,并且投影仪是专门专用的,因为它被配置为广播已知先验的点图案。本质上,系统知道广播的图案,并且它知道要确定的变量是深度。这样的配置在计算负荷方面可以是相对有效的,并且可以在宽fov需求场景以及具有环境光和从其它附近设备广播的模式的场景方面存在挑
战,但是在许多场景中可以非常有效和高效。利用调制的飞行时间类型的深度传感器(诸如可从pmd technologies(rtm)、a.g.和softkinetic inc.(rtm)获得),发射器可以被配置为发出具有调幅光的波,诸如正弦波;在一些配置中可以被定位在附近甚至重叠的相机部件在相机部件的每个像素上接收返回信号,并且可以确定/计算深度映射。这样的配置在几何上可以相对紧凑,准确度高并且计算负荷低,但是在图像分辨率(诸如在对象的边缘处)、多路径误差(诸如其中传感器瞄准反射或闪亮的拐角,并且检测器最终接收多于一个的返回路径,从而存在一些深度检测混叠)方面可能存在挑战。直接飞行时间传感器(也可被称为上述激光雷达)可从诸如luminar(rtm)和advanced scientific concepts,inc.(rtm)等供应商获得。利用这些飞行时间配置,通常会发出光脉冲(如皮秒、纳秒或飞秒长的光脉冲)以通过该光照沐浴在其周围取向的世界;然后相机传感器上的每个像素等待该脉冲返回,并且知道光速,可以计算每个像素处的距离。这样的配置可能具有调制的飞行时间感器配置的许多优点(没有基线、fov相对宽、高准确度、计算负荷相对低等),并且具有相对高的帧速率,例如达到数万赫兹。它们也可能相对昂贵,分辨率相对低,对亮光敏感,容易出现多路径误差;它们也可能相对较大而且重。
113.参考图16b,示出用于说明目的的局部俯视图,其特征在于用户的眼睛(12)以及具有视场(28、30)的相机(14,诸如红外相机)和指向眼睛(12)以便于眼睛跟踪、观察和/或图像捕捉的光源或辐射源(16,例如红外)。示出三个向外的世界捕捉相机(124),它们具有其fov(18、20、22),深度相机(154)及其fov(24)以及图片相机(156)及其fov(26)也是如此。可以通过使用重叠fov和来自其它前向相机的数据来支持从深度相机(154)获得的深度信息。例如,系统可能最终得到诸如来自深度传感器(154)的亚vga图像,来自世界相机(124)的720p图像,以及偶尔获得来自图片相机(156)的2百万像素彩色图像。这样的配置具有五个共享共同的fov的相机,其中三个具有异质可见光谱图像,一个具有颜色,另一个具有相对低分辨率的深度。该系统可以被配置为在灰度和彩色图像中进行分割,融合这些图像并从它们制作相对高分辨率的图像,获得一些立体对应,使用深度传感器来提供关于立体深度的假设,并使用立体对应而获得更精确的深度图,该深度图明显优于仅从深度传感器获得的深度图。这样的过程可以在本地可移动处理硬件上运行,或者可以使用云计算资源运行,可能也可以与来自该区域中其它(诸如彼此坐在桌子对面的邻近的两个人)的数据一起运行,最终获得相当精确的映射。在另一实施例中,所有上述传感器可以组合成一个集成传感器以实现这种功能。
114.在此描述了本发明的各种示例性实施例。在非限制性意义上参考这些示例。提供这些示例以说明本发明的更广泛的应用方面。可以在不脱离本发明的精神和范围的情况下,可以对所描述的发明进行各种改变并可替换等同物。此外,可以进行许多修改以使特定情况、材料、物质的组成、过程、一个或多个过程动作或一个或多个步骤适应于本发明的一个或多个目的、精神或范围。此外,如本领域技术人员将理解的,在不脱离本发明的范围或精神的情况下,在此所描述和示出的各个变型中的每一个具有分离的组件和特征,其可以容易地与其它若干实施例中的任一特征分离或组合。所有这些修改旨在处于与本公开相关联的权利要求的范围内。
115.本发明包括可以使用主题装置执行的方法。该方法可以包括提供这种合适的装置的动作。这种提供可以由终端用户执行。换句话说,“提供”动作仅仅需要终端用户获得、访
问、接近、定位、设置、激活、开启或以其它方式提供在该方法中的必要装置。在此所述的方法可以按逻辑上可能的所述事件的任何顺序以及按照所记载的事件顺序进行。
116.以上已经阐述了本发明的示例性方面以及关于材料选择和制造的细节。关于本发明的其它细节,可以结合上述参考的专利和出版物以及本领域技术人员通常所知或理解的来理解这些。关于根据本发明的基础方法的方面在通常或逻辑上利用的附加动作方面同样可以成立。
117.另外,虽然已经参考可选地并入各种特征的若干示例描述了本发明,但是本发明不限于针对本发明的每个变型所构想的描述或指示的发明。在不脱离本发明的实际精神和范围的情况下,可以对所描述的本发明进行各种改变,并且可以替代等同物(为了简洁起见,不论在此是否包括)。此外,在提供了值的范围的情况下,应当理解,在该范围的上限和下限之间的每个中间值以及在该所述范围内的任何其它所述或中间值都包含在本发明内。
118.另外,可构想的是所描述的本发明变形的任何可选特征可独立地或与在此所描述的特征中的任何一个或多个相结合来陈述和要求权利。引用单数项包括可能存在相同项的复数。更具体地,如在此和关联权利要求书所使用的,单数形式“一”、“一个”、“所述”和“该”包括复数对象,除非另有明确说明。换句话说,在上述描述以及与本公开关联的权利要求中,允许使用冠词的“至少一个”目标项。进一步应注意,可以起草这种权利要求以排除任何可选要素。因此,结合权利要求要素或使用“负面”限制,本声明旨在作为使用“单独地”、“仅”等排他性术语的先行基础。
119.在不使用这种排他性术语的情况下,与本公开相关联的权利要求中的术语“包括”应允许包括任何附加元素,不考虑在这种权利要求中是否列举了给定数量的要素或添加特征可以被认为是改变在权利要求中所述的元素的性质。除了在此具体定义之外,应在保持权利要求有效性的同时给定在此使用的所有技术和科学术语尽可能广泛的通常理解含义。
120.本发明的广度不限于提供的实施例和/或主题说明书,而是仅由与本公开相关联的权利要求语言的范围限定。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献