一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

一种智能家居系统的制作方法

2022-02-22 03:11:25 来源:中国专利 TAG:


1.本发明涉及智能家居技术领域,尤其涉及一种智能家居系统。


背景技术:

2.智能家居系统是一种利用先进的计算机技术、网络通讯技术和综合布线技术等相关技术,并结合个性化需求,将与家居生活有关的各个部分有机结合在一起,通过网络进行控制和管理的系统。在实际应用中,用户能够通过终端设备对智能家居系统中的相关设备进行相应的控制。
3.然而,目前的智能家居系统往往不够智能,例如,用户可以通过手机app来查看房间内的所有家居设备,但是每一台家居设备的位置需要用户手动设置;在对家居设备进行具体控制时,同样需要用户预先手动设置控制逻辑,并使用人体感应器负责监控周围的家居设备,当人体感应器检测到人体时,就打开或关闭某些家居设备。
4.由此可见,使用这种配置及交互控制方式的智能家居系统,仅仅是机械地获取用户配置,机械地执行用户预设的控制逻辑,并且控制逻辑一般比较简单,当被控设备比较多,控制逻辑比较复杂时,配置过程就会非常繁琐,从而导致智能化程度较低,并且无法准确控制每一个家居设备,用户体验较差。


技术实现要素:

5.本发明实施例所要解决的技术问题在于,提供一种智能家居系统,能够实现复杂的交互控制功能,简化配置过程,从而提高了对智能家居设备进行控制的智能化程度,并且能够更加准确地控制家居设备,提高用户体验。
6.为了解决上述技术问题,本发明实施例提供了一种智能家居系统,所述系统包括传感器、控制中心和家居设备,所述系统还包括移动机器人;
7.所述移动机器人,用于对室内环境进行建图,获得环境栅格地图;还用于根据所述环境栅格地图进行自定位,并将自身的位置信息发送至所述控制中心;
8.所述控制中心,用于通过控制所述移动机器人,并根据所述移动机器人的位置信息和预设的家居设备信息表,对家居设备进行定位及识别;
9.所述传感器,用于采集用户数据,并将所述用户数据发送至所述控制中心;
10.所述控制中心,还用于根据所述用户数据进行指向型动作和控制型动作检测,并基于家居设备的定位及识别结果,根据指向型动作检测结果确定目标家居设备,根据控制型动作检测结果对所述目标家居设备进行控制。
11.进一步地,所述控制中心对家居设备进行定位及识别,具体包括:
12.控制所述移动机器人运动到第一位置,通过所述移动机器人上的摄像头在第一位置采集第一图像,并获取所述移动机器人在第一位置的第一位置信息;
13.控制所述移动机器人运动到第二位置,通过所述移动机器人上的摄像头在第二位置采集第二图像,并获取所述移动机器人在第二位置的第二位置信息;
14.获取所述第一图像中的第一家居设备对应的第一设备类型以及第一目标区域,并获取所述第二图像中的第二家居设备对应的第二设备类型以及第二目标区域;
15.当所述第一设备类型与所述第二设备类型相同时,对所述第一目标区域和所述第二目标区域进行特征点提取及匹配,获取匹配特征点;
16.根据所述第一位置信息和所述第二位置信息,获取所述匹配特征点的三维空间坐标值;
17.根据所述第一设备类型查询所述家居设备信息表;其中,所述家居设备信息表中包括若干台家居设备及其对应的设备信息,所述设备信息至少包括设备类型;
18.当所述家居设备信息表中与所述第一设备类型相同的设备类型所对应的家居设备有且仅有一台时,根据该家居设备对应的设备信息确定所述第一家居设备的设备信息,根据所述匹配特征点的三维空间坐标值确定所述第一家居设备的三维空间坐标值。
19.进一步地,所述移动机器人,还用于将所述环境栅格地图发送至所述控制中心;
20.则,所述控制中心对家居设备进行定位及识别,还包括:
21.当所述家居设备信息表中与所述第一设备类型相同的设备类型所对应的家居设备有m台时,获取m台家居设备对应的三维空间坐标值,并获取所述第一家居设备的工作状态;其中,m》1;
22.当所述第一家居设备正在运行时,获取用户的三维空间坐标值;
23.根据所述环境栅格地图、所述m台家居设备对应的三维空间坐标值和所述用户的三维空间坐标值,找出所述m台家居设备中与所述用户处于同一房间的家居设备;
24.根据找出的家居设备对应的设备信息确定所述第一家居设备的设备信息,根据所述匹配特征点的三维空间坐标值确定所述第一家居设备的三维空间坐标值。
25.进一步地,所述系统包括至少两个所述传感器;
26.则,所述控制中心获取用户的三维空间坐标值,具体包括:
27.基于所述用户,构建室内环境对应的概率栅格地图;
28.根据室内环境对应的占据栅格地图和监控栅格地图,对所述概率栅格地图进行初始化标记;
29.当任一所述传感器检测到所述用户时,获取所述用户在所述监控栅格地图中所在的第一目标栅格;
30.将所述第一目标栅格在标记后的概率栅格地图中对应的栅格的标记值更新为1,并将所述标记后的概率栅格地图中的除了更新为1的栅格之外的其他所有栅格的标记值均更新为0;
31.根据更新后的概率栅格地图获取所述用户的三维空间坐标值;
32.其中,所述占据栅格地图通过对所述环境栅格地图进行标记获得,所述占据栅格地图中的存在障碍物的栅格的标记值为1,不存在障碍物的栅格的标记值为0;所述监控栅格地图通过对所述环境栅格地图进行标记获得,所述监控栅格地图中的可被监控的栅格的标记值为1,不可被监控的栅格的标记值为0;所述标记后的概率栅格地图中的每一个栅格的标记值对应表示所述用户存在的概率值。
33.进一步地,所述控制中心获取用户的三维空间坐标值,还包括:
34.当每一个所述传感器均未检测到所述用户时,根据上一时刻所述用户的三维空间
坐标值获取所述用户在上一时刻更新后的概率栅格地图中所在的第二目标栅格以及所述第二目标栅格对应的标记值;
35.根据预设的移动速率、所述第二目标栅格和所述第二目标栅格对应的标记值,对上一时刻更新后的概率栅格地图进行再次更新;
36.根据再次更新后的概率栅格地图获取所述用户的三维空间坐标值。
37.进一步地,所述控制中心根据预设的移动速率、所述第二目标栅格和所述第二目标栅格对应的标记值,对上一时刻更新后的概率栅格地图进行再次更新,具体包括:
38.根据所述移动速率和所述第二目标栅格,并结合所述占据栅格地图和所述监控栅格地图,获取所述用户在上一时刻更新后的概率栅格地图中对应的可行域;其中,所述可行域包括s个栅格,所述可行域表示所述用户在当前时刻可能存在的位置区域,s>0;
39.将所述s个栅格中的每一个栅格的标记值均更新为t/s,并将上一时刻更新后的概率栅格地图中的除了更新为t/s的栅格之外的其他所有栅格的标记值均更新为0;其中,t表示所述第二目标栅格对应的标记值,0<t≤1。
40.进一步地,所述控制中心根据所述用户数据进行指向型动作和控制型动作检测,并基于家居设备的定位及识别结果,根据指向型动作检测结果确定目标家居设备,根据控制型动作检测结果对所述目标家居设备进行控制,具体包括:
41.对所述用户数据进行人体骨骼关键点检测,获取骨骼关键点的三维图像坐标值;
42.根据所述传感器在世界坐标系下的位姿参数对所述骨骼关键点的三维图像坐标值进行坐标转换,获得所述骨骼关键点的三维空间坐标值;
43.根据所述骨骼关键点的三维空间坐标值进行指向型动作检测,并基于家居设备的定位及识别结果,根据指向型动作检测结果确定所述目标家居设备;
44.根据所述骨骼关键点的三维空间坐标值进行控制型动作检测,并根据控制型动作检测结果对所述目标家居设备进行控制。
45.进一步地,所述控制中心根据所述骨骼关键点的三维空间坐标值进行指向型动作检测,并基于家居设备的定位及识别结果,根据指向型动作检测结果确定所述目标家居设备,具体包括:
46.基于家居设备的定位及识别结果,根据所述环境栅格地图和所述骨骼关键点的三维空间坐标值,找出与所述用户处于同一房间的q台家居设备;其中,q》0;
47.根据所述骨骼关键点的三维空间坐标值获取预设的起点关键点的三维空间坐标值和预设的终点关键点的三维空间坐标值;
48.根据所述起点关键点的三维空间坐标值、所述终点关键点的三维空间坐标值和所述q台家居设备的三维空间坐标值,分别获取所述q台家居设备中每一台家居设备的位置与所述用户的位置之间的夹角;
49.根据最小夹角对应的家居设备的三维空间坐标值以及设备信息,确定所述目标家居设备。
50.进一步地,所述控制中心具体用于通过以下步骤获取所述传感器在世界坐标系下的位姿参数:
51.当所述传感器的监控视野内不存在所述移动机器人时,通过所述传感器获取背景图像;
52.控制所述移动机器人运动至所述传感器的监控视野内,通过所述传感器获取所述移动机器人在n个不同位置所对应的n张运动图像,并获取所述移动机器人在n个不同位置对应的n个位置信息;其中,n》1;
53.将所述背景图像分别与每一张运动图像进行帧差计算,对应获得n张帧差图像;
54.根据预设的深度阈值分别对每一张帧差图像进行处理,对应获得n张掩码图像;
55.分别对每一张掩码图像上的所有标记为1的像素点的坐标值及深度值进行平均值计算,对应获得n个聚类中心;其中,第i张掩码图像对应的聚类中心为pi=(ui,vi,di),(ui,vi)表示第i张掩码图像上的所有标记为1的像素点的平均坐标值,di表示第i张掩码图像上的所有标记为1的像素点的平均深度值,i=1,2,

,n;
56.根据所述n个位置信息、所述n个聚类中心和所述传感器的内参矩阵,计算获得所述传感器在世界坐标系下的位姿参数。
57.进一步地,所述控制中心根据所述n个位置信息、所述n个聚类中心和所述传感器的内参矩阵,计算获得所述传感器在世界坐标系下的位姿参数,具体包括:
58.根据公式进行求解,相应获得所述传感器在世界坐标系下的位姿参数hd;其中,pi表示所述移动机器人在第i个位置所对应的第i个位置信息,表示将第i个聚类中心转换到世界坐标系下的位置信息,ks表示所述传感器的内参矩阵。
59.与现有技术相比,本发明实施例提供了一种智能家居系统,由传感器、控制中心、家居设备和移动机器人构成;所述移动机器人,用于对室内环境进行建图,获得环境栅格地图;还用于根据所述环境栅格地图进行自定位,并将自身的位置信息发送至所述控制中心;所述控制中心,用于通过控制所述移动机器人,并根据所述移动机器人的位置信息和预设的家居设备信息表,对家居设备进行定位及识别;所述传感器,用于采集用户数据,并将所述用户数据发送至所述控制中心;所述控制中心,还用于根据所述用户数据进行指向型动作和控制型动作检测,并基于家居设备的定位及识别结果,根据指向型动作检测结果确定目标家居设备,根据控制型动作检测结果对所述目标家居设备进行控制;该智能家居系统能够实现复杂的交互控制功能,简化配置过程,从而提高了对智能家居设备进行控制的智能化程度,并且能够更加准确地控制家居设备,提高用户体验。
附图说明
60.图1是本发明提供的一种智能家居系统的一个优选实施例的结构框图;
61.图2是本发明实施例提供的控制中心对家居设备进行定位及识别时计算匹配特征点的三维空间坐标值的示意图;
62.图3是本发明实施例提供的控制中心获取用户的三维空间坐标值时对概率栅格地图进行更新的示意图。
具体实施方式
63.下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本技术领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
64.本发明实施例提供了一种智能家居系统,参见图1所示,是本发明提供的一种智能家居系统的一个优选实施例的结构框图,所述系统包括传感器、控制中心和家居设备,所述系统还包括移动机器人;
65.所述移动机器人,用于对室内环境进行建图,获得环境栅格地图;还用于根据所述环境栅格地图进行自定位,并将自身的位置信息发送至所述控制中心;
66.所述控制中心,用于通过控制所述移动机器人,并根据所述移动机器人的位置信息和预设的家居设备信息表,对家居设备进行定位及识别;
67.所述传感器,用于采集用户数据,并将所述用户数据发送至所述控制中心;
68.所述控制中心,还用于根据所述用户数据进行指向型动作和控制型动作检测,并基于家居设备的定位及识别结果,根据指向型动作检测结果确定目标家居设备,根据控制型动作检测结果对所述目标家居设备进行控制。
69.本发明实施例中的智能家居系统主要由传感器、控制中心、家居设备和移动机器人组成,传感器、家居设备和移动机器人分别与控制中心进行通信;在具体实施时:
70.移动机器人可以采用slam算法(simultaneous localization and mapping,同步定位与地图构建算法)对室内环境进行建图,相应获得环境栅格地图,并确定世界坐标系,进一步的,移动机器人根据构建好的环境栅格地图以及slam定位功能即可实现自定位,即确定自身在世界坐标系下的位置信息(例如移动机器人相对于世界坐标系的位姿参数),并且将自身的位置信息通过无线通信方式发送至控制中心;
71.控制中心可以控制移动机器人在室内运动,移动机器人运动到不同的位置时,可以进行自定位,并将自身的位置信息反馈给控制中心,控制中心在接收到移动机器人发送的位置信息之后,结合移动机器人的位置信息和预先设置的家居设备信息表,可以对室内的家居设备进行定位及识别,相应获得室内每一台家居设备的位置信息及其对应的设备信息;
72.传感器可以采集室内用户的用户数据,并且将采集到的用户数据发送至控制中心;可以理解的,传感器的主要作用是采集用户数据,以获取用户信息,而为了更好地获得用户信息,也可以通过移动机器人来采集用户信息,例如,将移动机器人设置为跟随模式,时刻跟随用户,从而采集用户信息;
73.控制中心在接收到传感器发送的用户数据之后,根据接收到的用户数据对用户动作分别进行指向型动作检测和控制型动作检测,并且基于对家居设备进行定位及识别之后相应获得的定位及识别结果,可以根据指向型动作检测结果确定室内所有家居设备中的目标家居设备,根据控制型动作检测结果对确定的目标家居设备进行相应控制。
74.需要说明的是,对于家居设备,控制中心中预先设置了家居设备信息表,家居设备信息表中记录了室内的若干台家居设备以及每一台家居设备所对应的设备信息,设备信息至少包括设备类型(例如,空调、电视等)和设备功能等;其中,控制中心可以发现并收集室
内所有家居设备的设备信息,例如,家居设备开机后就自动根据网络协议寻找控制中心,并向控制中心上报自身的设备信息,与控制中心建立通信连接,控制中心则根据收集到的每一台家居设备上报的设备信息相应获得家居设备信息表;家居设备信息表中的家居设备与设备信息之间具有一一对应的关系;控制中心在完成对某一台家居设备的定位及识别之后,可以将获得的该家居设备的定位及识别结果也对应添加到家居设备信息表中,相应的,家居设备信息表中的家居设备、设备信息、位置信息这三者之间也具有一一对应的关系。
75.对于传感器,控制中心还可以发现并收集室内所有的传感器信息,传感器信息至少包括传感器类型,例如,传感器可以是相机、深度传感器、激光雷达等;与家居设备类似,传感器开机后同样可以自动根据网络协议寻找控制中心,并向控制中心上报自身的传感器信息,与控制中心建立通信连接,因此,控制中心可以根据收集到的传感器信息获知各个传感器的存在。
76.对于对家居设备的控制,可以将一个完整的用户动作拆分为两种类型的动作,即指向型动作和控制型动作,检测指向型动作的目的是为了确定被控家居设备的方向,以根据被控家居设备的方向确定被控制的目标家居设备,检测控制型动作的目的是为了确定将要对目标家居设备执行的控制动作,以根据控制动作对目标家居设备进行相应控制,控制型动作一般为特殊的动作控制姿势,例如,设置右手握拳及“five”型手势分别表示开及关两个控制动作;完整的用户动作必须既包含指向型动作,又包含控制型动作,保证准确控制家居设备;其中,指向型动作和控制型动作可以先后发出,也可以同时发出,例如,用户可以先发出指向型动作,再发出控制型动作,也可以先发出控制型动作,再发出指向型动作,还可以指向型动作和控制型动作同时发出。
77.可以理解的,图1所示的智能家居系统中仅包括一个传感器、一个控制中心、一台家居设备和一台移动机器人,而在实际应用中,可以包括多个传感器、多台家居设备等情况,图1结构框图仅仅是上述智能家居系统的组成示例,并不构成对智能家居系统的限定,可以包括比图示更多或更少的部件,本发明实施例不作具体限定。
78.本发明实施例所提供的一种智能家居系统,通过移动机器人进行室内建图及自定位,以通过控制中心根据移动机器人的位置信息和家居设备信息表对家居设备进行定位及识别,通过传感器采集用户数据,以通过控制中心基于家居设备的定位及识别结果,根据用户数据进行指向型动作和控制型动作检测,并根据指向型动作检测结果确定目标家居设备,根据控制型动作检测结果对目标家居设备进行控制,能够实现复杂的交互控制功能,简化配置过程,从而提高了对智能家居设备进行控制的智能化程度,并且能够更加准确地控制家居设备,提高用户体验。
79.在另一个优选实施例中,所述控制中心对家居设备进行定位及识别,具体包括:
80.控制所述移动机器人运动到第一位置,通过所述移动机器人上的摄像头在第一位置采集第一图像,并获取所述移动机器人在第一位置的第一位置信息;
81.控制所述移动机器人运动到第二位置,通过所述移动机器人上的摄像头在第二位置采集第二图像,并获取所述移动机器人在第二位置的第二位置信息;
82.获取所述第一图像中的第一家居设备对应的第一设备类型以及第一目标区域,并获取所述第二图像中的第二家居设备对应的第二设备类型以及第二目标区域;
83.当所述第一设备类型与所述第二设备类型相同时,对所述第一目标区域和所述第
二目标区域进行特征点提取及匹配,获取匹配特征点;
84.根据所述第一位置信息和所述第二位置信息,获取所述匹配特征点的三维空间坐标值;
85.根据所述第一设备类型查询所述家居设备信息表;其中,所述家居设备信息表中包括若干台家居设备及其对应的设备信息,所述设备信息至少包括设备类型;
86.当所述家居设备信息表中与所述第一设备类型相同的设备类型所对应的家居设备有且仅有一台时,根据该家居设备对应的设备信息确定所述第一家居设备的设备信息,根据所述匹配特征点的三维空间坐标值确定所述第一家居设备的三维空间坐标值。
87.具体的,结合上述实施例,首先,控制中心控制移动机器人运动到室内的第一位置处,并通过移动机器人上的摄像头在第一位置处拍摄包含家居设备的第一图像,移动机器人在第一位置处进行自定位,相应获得第一位置处的第一位置信息,并反馈给控制中心,控制中心获得移动机器人在第一位置处的第一位置信息,第一位置信息具体包括移动机器人在世界坐标系下的第一位姿参数s1={r1|t1}及其对应的三维空间坐标值;同理,控制中心控制移动机器人运动到室内的第二位置处,相应获得在第二位置处拍摄的包含家居设备的第二图像和移动机器人在第二位置处的第二位置信息,第二位置信息具体包括移动机器人在世界坐标系下的第二位姿参数s2={r2|t2}及其对应的三维空间坐标值;其中,第一位姿参数s1和第二位姿参数s2均为世界坐标系下的值,位姿参数s具体表示空间变换矩阵或位姿变换矩阵,既包括旋转分量r,又包括平移分量t(即世界坐标);
88.其次,控制中心采用现有技术提供的图像识别方法对第一图像进行图像识别,相应识别出第一图像中的第一家居设备所对应的第一设备类型,以及,采用现有技术提供的运动目标检测方法对第一图像进行运动目标检测,相应检测出第一图像中的第一家居设备所对应的第一目标区域;同理,获得第二图像中的第二家居设备所对应的第二设备类型以及第二目标区域;
89.接着,控制中心判断获得的第一设备类型和第二设备类型是否相同,当判定第一设备类型与第二设备类型相同(即第一家居设备与第二家居设备为同一台家居设备)时,可以采用sift算法(scale invariant feature transform,尺度不变特征转换算法)或surf算法(speeded up robust features,加速稳健特征算法),对第一目标区域内的局部图像和第二目标区域内的局部图像进行特征点提取,并根据提取到的第一目标区域对应的特征点和第二目标区域对应的特征点进行特征点匹配,相应获得第一目标区域和第二目标区域的匹配特征点;
90.然后,控制中心根据获得的第一位置信息和第二位置信息,计算获得匹配特征点对应的三维空间坐标值;例如,结合图2所示,是本发明实施例提供的控制中心对家居设备进行定位及识别时计算匹配特征点的三维空间坐标值的示意图,在获得匹配特征点之后,由于匹配特征点是基于图像坐标系下的特征点,因此,需要先通过拍摄图像时所使用的摄像头对应的相机成像模型将匹配特征点转换为三维相机坐标系下的第一匹配特征点,再通过获得的第一位姿参数s1将第一匹配特征点转换到世界坐标系(即图2中的坐标系w)下,并且相应形成了以第一位置为起点的第一射线(即图2中的射线l1),同理,通过获得的第二位姿参数s2将第一匹配特征点转换到世界坐标系下,并且相应形成了以第二位置为起点的第二射线(即图2中的射线l2),利用三角交汇法,根据第一位置对应的三维空间坐标值和第二
位置对应的三维空间坐标值,求取第一射线和第二射线的交点(即图2中的交点o)对应的三维空间坐标值,即获得匹配特征点(即为图2中的交点o)对应的三维空间坐标值;
91.最后,控制中心根据第一设备类型查询预先设置的家居设备信息表,家居设备信息表中记录了室内的若干台家居设备以及每一台家居设备对应的设备信息(例如,设备类型、设备功能等相关设备信息),以找出在家居设备信息表中设备类型与第一设备类型相同的家居设备;当在家居设备信息表中找到的与第一设备类型相同的设备类型所对应的家居设备有且仅有一台时,相应的,找到的家居设备即为第一家居设备,则将找到的家居设备对应的设备信息作为第一家居设备的设备信息,并且将获得的匹配特征点的三维空间坐标值作为第一家居设备的三维空间坐标值,从而将家居设备的设备信息与三维空间坐标值一一对应关联起来,同时实现了家居设备的定位以及家居设备的识别。
92.可以理解的,只有当基于第一图像识别出的第一家居设备与基于第二图像识别出的第二家居设备为同一台家居设备时,才能相应获得同一台家居设备在不同拍摄位置所对应的两组信息,并根据这两组信息完成对同一台家居设备的定位及识别;当基于第一图像识别出的第一家居设备与基于第二图像识别出的第二家居设备不为同一台家居设备时,若以第一家居设备作为待定位及识别的家居设备,可以在第二位置处重新拍摄包含第一家居设备的第二图像并进行相应处理,也在其他位置处重新拍摄包含第一家居设备的图像并进行后续处理,本发明实施例不作具体限定。
93.本发明实施例所提供的一种智能家居系统,通过在不同位置处拍摄同一台家居设备对应的两组图像,并基于这两组图像的相关信息以及预先设置的家居设备信息表,确定家居设备所对应的设备信息和三维空间坐标值,将家居设备的设备信息与三维空间坐标值对应关联起来,从而能够同时实现家居设备的定位以及家居设备的识别,无需增加额外成本。
94.作为上述方案的改进,所述移动机器人,还用于将所述环境栅格地图发送至所述控制中心;
95.则,所述控制中心对家居设备进行定位及识别,还包括:
96.当所述家居设备信息表中与所述第一设备类型相同的设备类型所对应的家居设备有m台时,获取m台家居设备对应的三维空间坐标值,并获取所述第一家居设备的工作状态;其中,m》1;
97.当所述第一家居设备正在运行时,获取用户的三维空间坐标值;
98.根据所述环境栅格地图、所述m台家居设备对应的三维空间坐标值和所述用户的三维空间坐标值,找出所述m台家居设备中与所述用户处于同一房间的家居设备;
99.根据找出的家居设备对应的设备信息确定所述第一家居设备的设备信息,根据所述匹配特征点的三维空间坐标值确定所述第一家居设备的三维空间坐标值。
100.具体的,结合上述实施例,移动机器人在获得环境栅格地图之后,还将环境栅格地图发送至控制中心,控制中心在接收到环境栅格地图之后,可以将环境栅格地图转换为室内房间户型图,从而获得室内的房间信息;控制中心在根据第一设备类型查询预先设置的家居设备信息表时,如果家居设备信息表中找到的与第一设备类型相同的设备类型所对应的家居设备有m台(m》1),即相同设备类型的家居设备有多台,则进一步获取m台家居设备所对应的三维空间坐标值,并根据预先设置的通信协议与室内的家居设备进行通信,相应获
得第一家居设备当前所处的工作状态,以判断第一家居设备当前是否正在运行;当判定第一家居设备当前正在运行时,获取室内的用户所对应的三维空间坐标值,根据m台家居设备的三维空间坐标值和用户的三维空间坐标值,结合室内的房间信息,确定m台家居设备中与用户处于同一房间的家居设备,并将确定的家居设备作为第一目标家居设备,第一目标家居设备即为第一家居设备,则将第一目标家居设备对应的设备信息作为第一家居设备的设备信息,并且将获得的匹配特征点的三维空间坐标值作为第一家居设备的三维空间坐标值。
101.在又一个优选实施例中,所述系统包括至少两个所述传感器;
102.则,所述控制中心获取用户的三维空间坐标值,具体包括:
103.基于所述用户,构建室内环境对应的概率栅格地图;
104.根据室内环境对应的占据栅格地图和监控栅格地图,对所述概率栅格地图进行初始化标记;
105.当任一所述传感器检测到所述用户时,获取所述用户在所述监控栅格地图中所在的第一目标栅格;
106.将所述第一目标栅格在标记后的概率栅格地图中对应的栅格的标记值更新为1,并将所述标记后的概率栅格地图中的除了更新为1的栅格之外的其他所有栅格的标记值均更新为0;
107.根据更新后的概率栅格地图获取所述用户的三维空间坐标值;
108.其中,所述占据栅格地图通过对所述环境栅格地图进行标记获得,所述占据栅格地图中的存在障碍物的栅格的标记值为1,不存在障碍物的栅格的标记值为0;所述监控栅格地图通过对所述环境栅格地图进行标记获得,所述监控栅格地图中的可被监控的栅格的标记值为1,不可被监控的栅格的标记值为0;所述标记后的概率栅格地图中的每一个栅格的标记值对应表示所述用户存在的概率值。
109.需要说明的是,本发明实施例中的智能家居系统包括至少两个传感器,用于实现协同定位;在具体执行本实施例的步骤之前,控制中心根据环境栅格地图预先获取了室内环境所对应的占据栅格地图和监控栅格地图;对于占据栅格地图,基于室内的障碍物的实际位置确定障碍物在环境栅格地图中的对应栅格,将环境栅格地图中的所有存在障碍物的栅格均标记为1,并将环境栅格地图中的所有不存在障碍物的栅格均标记为0,从而根据标记后的环境栅格地图获得室内环境所对应的占据栅格地图,相应的,占据栅格地图中的每一个栅格的标记值表示该栅格在室内所对应的实际位置处是否存在障碍物;对于监控栅格地图,先获取每一个传感器在已经获取的占据栅格地图中所在的栅格位置以及每一个传感器所对应的监控视野(即监控视场角),再根据每一个传感器在占据栅格地图中所对应的栅格位置和监控视野,并基于占据栅格地图中存在障碍物的栅格,分别获取每一个传感器在占据栅格地图中的可被监控的栅格,将所有可被监控的栅格在环境栅格地图中所对应的栅格均标记为1,并将所有不可被监控的栅格在环境栅格地图中所对应的栅格均标记为0,从而根据标记后的环境栅格地图获得室内环境所对应的监控栅格地图,相应的,监控栅格地图中的每一个栅格的标记值表示该栅格在室内所对应的实际位置处是否可被监控(即是否能被室内任意一个传感器监控到)。
110.在具体执行本实施例的步骤获得室内的用户所对应的三维空间坐标值时,结合上
述实施例,控制中心基于用户本身,构建室内环境所对应的概率栅格地图,并根据预先获得的室内环境所对应的占据栅格地图中的栅格的标记值,对构建的概率栅格地图中的对应栅格的标记值进行初始化标记,以及根据预先获得的室内环境所对应的监控栅格地图中的栅格的标记值,对构建的概率栅格地图中的对应栅格的标记值进行初始化标记,相应的,初始化标记后的概率栅格地图中的每一个栅格的标记值对应表示用户存在的概率值,即表示用户出现在该栅格在室内对应的实际位置处的概率值;室内设置了至少两个传感器(例如激光传感器、深度传感器、相机、摄像头等),当任意一个传感器检测到用户时,确定用户的实际位置对应到监控栅格地图中所在的栅格,并将确定的栅格作为第一目标栅格;根据确定的第一目标栅格对初始化标记后的概率栅格地图中的对应栅格的标记值进行相应更新,将第一目标栅格在初始化标记后的概率栅格地图中所对应的栅格的标记值更新为1,再将初始化标记后的概率栅格地图中的除了更新为1的栅格之外的其他所有栅格的标记值均更新为0,从而根据更新后的概率栅格地图中的栅格的标记值获取用户的定位结果,相应的,概率栅格地图中的某一个栅格的标记值越大,表示用户出现在该栅格在室内对应的实际位置处的概率值越大,可以将标记值最大的栅格在室内对应的实际位置处的三维空间坐标值作为用户的定位结果,即获得用户的三维空间坐标值。
111.其中,在根据占据栅格地图和监控栅格地图对构建的概率栅格地图进行初始化标记时,本领域技术人员可以理解,占据栅格地图中存在障碍物的栅格位置处肯定不会有用户出现,因此,将占据栅格地图中的所有标记值为1的栅格在构建的概率栅格地图中所对应的栅格均标记为0;监控栅格地图中可被监控的栅格虽然能被某一个传感器监控到,但是初始化默认所有的传感器都没有检测到用户,因此,将监控栅格地图中的所有标记值为1的栅格在构建的概率栅格地图中所对应的栅格均标记为0;在构建的概率栅格地图中,除了根据占据栅格地图和监控栅格地图已经初始化标记为0的栅格之外,还剩下若干个未标记的栅格,则获取构建的概率栅格地图中的除了标记为0的栅格之外的其他所有未标记栅格,假设未标记栅格共有x个,x>0,将x个栅格中的每一个栅格均标记为1/x,表示初始化时,用户出现在这x个未标记栅格中的每一个栅格位置处的概率值相等。
112.本发明实施例所提供的一种智能家居系统,通过设置至少两个传感器能够实现多传感器协同定位,并且通过概率栅格地图能够更加直观的显示监控区域内的用户的空间位置以及可能出现的区域,从而快速、方便的对移动体进行跟踪定位。
113.作为上述方案的改进,所述控制中心获取用户的三维空间坐标值,还包括:
114.当每一个所述传感器均未检测到所述用户时,根据上一时刻所述用户的三维空间坐标值获取所述用户在上一时刻更新后的概率栅格地图中所在的第二目标栅格以及所述第二目标栅格对应的标记值;
115.根据预设的移动速率、所述第二目标栅格和所述第二目标栅格对应的标记值,对上一时刻更新后的概率栅格地图进行再次更新;
116.根据再次更新后的概率栅格地图获取所述用户的三维空间坐标值。
117.具体的,结合上述实施例,当设置的至少两个传感器都没有检测到用户时,说明用户从传感器的监控视野内进入了监控死角,此时可以根据上一时刻获得的用户的三维空间坐标值预测用户可能存在的位置;在具体实施时,控制中心先根据上一时刻获得的用户的三维空间坐标值确定用户在上一时刻更新后的概率栅格地图中所在的第二目标栅格以及
第二目标栅格所对应的标记值,再根据预先设置的用户的移动速率、确定的第二目标栅格和第二目标栅格所对应的标记值,对上一时刻更新后的概率栅格地图进行再次更新,从而根据再次更新后的概率栅格地图相应获取用户的三维空间坐标值。
118.作为上述方案的改进,所述控制中心根据预设的移动速率、所述第二目标栅格和所述第二目标栅格对应的标记值,对上一时刻更新后的概率栅格地图进行再次更新,具体包括:
119.根据所述移动速率和所述第二目标栅格,并结合所述占据栅格地图和所述监控栅格地图,获取所述用户在上一时刻更新后的概率栅格地图中对应的可行域;其中,所述可行域包括s个栅格,所述可行域表示所述用户在当前时刻可能存在的位置区域,s>0;
120.将所述s个栅格中的每一个栅格的标记值均更新为t/s,并将上一时刻更新后的概率栅格地图中的除了更新为t/s的栅格之外的其他所有栅格的标记值均更新为0;其中,t表示所述第二目标栅格对应的标记值,0<t≤1。
121.具体的,结合上述实施例,在对上一时刻更新后的概率栅格地图进行再次更新时,控制中心可以根据预先设置的移动速率和确定的第二目标栅格,并结合预先获取的占据栅格地图和监控栅格地图,获取用户在上一时刻更新后的概率栅格地图中所对应的可行域,可行域具体表示用户在当前时刻可能存在的位置区域,假设可行域包括s个栅格,s>0,确定的第二目标栅格所对应的标记值为t,0<t≤1,则将这s个栅格中的每一个栅格的标记值均更新为t/s,并将上一时刻更新后的概率栅格地图中的除了更新为t/s的栅格之外的其他所有栅格的标记值均更新为0。
122.参见图3所示,是本发明实施例提供的控制中心获取用户的三维空间坐标值时对概率栅格地图进行更新的示意图,假设室内有两个传感器,分别为图3中的c1和c2,传感器c1的监控视角为以c1所在的栅格位置中心为原点的平面直角坐标系的第一象限,图3中的灰色区域内的栅格表示有障碍物的栅格,以传感器c1所在的栅格位置中心为起点,在第一象限内发出若干条射线,直到碰到障碍物为止,射线能够穿过(或能够到达)的栅格即表示该栅格可以被传感器c1监控到;在t时刻,传感器c1监控到用户的位置为图3中的a点处,且a点处的栅格的标记值为p(a)=1,概率栅格地图中的其他栅格的标记值均为0,在t 1时刻,c1和c2均无法监控到用户,设用户在单位时间内的最大移动距离为2个栅格,则在除了有障碍物的栅格以及可被监控的栅格之外,可以确定用户在t时刻更新后的概率栅格地图中所对应的可行域为图3中的阴影区域,阴影区域内的4个栅格即表示用户在t 1时刻可能存在的栅格位置,则将p(a)=1平均分配给这4个栅格,即这4个栅格中的每一个栅格的标记值均更新为0.25。
123.可以理解的,如果在t 2时刻,传感器c1和传感器c2仍然无法监控到用户,则可以根据t 1时刻获得的用户的位置继续确定用户在t 1时刻更新后的概率栅格地图中所对应的可行域,即根据阴影区域内的4个栅格中的每一个栅格分别确定对应的可行域,并将栅格的标记值0.25平均分配给对应的可行域内的每一个栅格,如果某一个栅格同时处在多个可行域内,则将分配给该栅格的概率值累加即可。
124.在又一个优选实施例中,所述控制中心根据所述用户数据进行指向型动作和控制型动作检测,并基于家居设备的定位及识别结果,根据指向型动作检测结果确定目标家居设备,根据控制型动作检测结果对所述目标家居设备进行控制,具体包括:
125.对所述用户数据进行人体骨骼关键点检测,获取骨骼关键点的三维图像坐标值;
126.根据所述传感器在世界坐标系下的位姿参数对所述骨骼关键点的三维图像坐标值进行坐标转换,获得所述骨骼关键点的三维空间坐标值;
127.根据所述骨骼关键点的三维空间坐标值进行指向型动作检测,并基于家居设备的定位及识别结果,根据指向型动作检测结果确定所述目标家居设备;
128.根据所述骨骼关键点的三维空间坐标值进行控制型动作检测,并根据控制型动作检测结果对所述目标家居设备进行控制。
129.具体的,结合上述实施例,控制中心在接收到传感器发送的用户数据之后,先对用户数据进行人体骨骼关键点检测,获取人体骨骼关键点的三维图像坐标值,并根据预先获得的传感器在世界坐标系下的位姿参数,将获得的人体骨骼关键点的三维图像坐标值转换到世界坐标系下,相应获得人体骨骼关键点的三维空间坐标值;再根据获得的人体骨骼关键点的三维空间坐标值对用户动作进行指向型动作检测,以根据指向型动作检测结果确定室内所有家居设备中的目标家居设备,并根据获得的人体骨骼关键点的三维空间坐标值对用户动作进行控制型动作检测,以根据控制型动作检测结果对确定的目标家居设备进行相应控制。
130.其中,人体骨骼关键点可以包括人体的头部、脖子、右肩、右肘、右手腕、左肩、左肘、左手腕、胸部、骨盆、左髋、右髋、左膝盖、左脚踝、右膝盖和右脚踝等;控制中心在进行控制型动作检测时,可以预先设置若干个控制动作模板,不同的控制动作模板分别表示向家居设备发出的不同的控制命令,则将获得的人体骨骼关键点的三维空间坐标值与预先设置的控制动作模板进行匹配,可以根据匹配成功的控制动作模板确定用户发出的控制动作,即相应确定对应的控制命令,结合指向型动作检测结果确定的目标家居设备以及控制型动作检测结果确定的用户的控制动作,即可以根据确定的用户的控制动作对目标家居设备进行相应控制。
131.作为上述方案的改进,所述控制中心根据所述骨骼关键点的三维空间坐标值进行指向型动作检测,并基于家居设备的定位及识别结果,根据指向型动作检测结果确定所述目标家居设备,具体包括:
132.基于家居设备的定位及识别结果,根据所述环境栅格地图和所述骨骼关键点的三维空间坐标值,找出与所述用户处于同一房间的q台家居设备;其中,q》0;
133.根据所述骨骼关键点的三维空间坐标值获取预设的起点关键点的三维空间坐标值和预设的终点关键点的三维空间坐标值;
134.根据所述起点关键点的三维空间坐标值、所述终点关键点的三维空间坐标值和所述q台家居设备的三维空间坐标值,分别获取所述q台家居设备中每一台家居设备的位置与所述用户的位置之间的夹角;
135.根据最小夹角对应的家居设备的三维空间坐标值以及设备信息,确定所述目标家居设备。
136.具体的,结合上述实施例,控制中心在进行指向型动作检测时,首先,根据对家居设备进行定位及识别之后相应获得的定位及识别结果(即家居设备在世界坐标系下的三维空间坐标值及其对应的设备信息),并结合获得的环境栅格地图和人体骨骼关键点的三维空间坐标值,找出室内所有家居设备中,与用户处于同一房间内的q台家居设备,q》0;接着,
预先选择人体骨骼关键点中的任意两个骨骼关键点分别作为起点关键点和终点关键点,根据获得的所有的人体骨骼关键点的三维空间坐标值相应获得起点关键点的三维空间坐标值和终点关键点的三维空间坐标值,并根据获得的起点关键点的三维空间坐标值、终点关键点的三维空间坐标值以及q台家居设备的三维空间坐标值,分别计算q台家居设备中的每一台家居设备的位置与用户所处位置之间的夹角,选出其中的最小夹角,则将最小夹角对应的家居设备作为目标家居设备,最小夹角对应的家居设备的三维空间坐标值以及设备信息,即为目标家居设备的三维空间坐标值以及设备信息。
137.例如,令pstart与pend分别表示起点关键点和终点关键点,假设q台家居设备在世界坐标系下的三维空间坐标值对应为v1、v2、

、vq,对于第i(i=1,2,

,q)台家居设备,计算向量(vi-pstart)与(pend-pstart)之间的夹角(或者也可以计算其他两个向量之间的夹角),则这两个三维向量的夹角即可以表示为第i台家居设备的位置与用户位置之间的夹角,同理可以获得q台家居设备的位置与人体位置之间对应的q个夹角,找出其中夹角最小的家居设备作为目标家居设备。
138.本发明实施例所提供的一种智能家居系统,通过将人体骨骼关键点的三维图像坐标值转换到世界坐标系下,以将人体骨骼关键点坐标数据与环境数据统一到同一坐标系中,并且根据世界坐标系下的人体骨骼关键点的坐标数据进行指向型动作以及控制型动作检测,以根据指向型动作检测结果以及控制型动作检测结果对确定的目标家居设备进行相应控制,从而提高了家居设备控制的准确性。
139.在又一个优选实施例中,所述控制中心具体用于通过以下步骤获取所述传感器在世界坐标系下的位姿参数:
140.当所述传感器的监控视野内不存在所述移动机器人时,通过所述传感器获取背景图像;
141.控制所述移动机器人运动至所述传感器的监控视野内,通过所述传感器获取所述移动机器人在n个不同位置所对应的n张运动图像,并获取所述移动机器人在n个不同位置对应的n个位置信息;其中,n》1;
142.将所述背景图像分别与每一张运动图像进行帧差计算,对应获得n张帧差图像;
143.根据预设的深度阈值分别对每一张帧差图像进行处理,对应获得n张掩码图像;
144.分别对每一张掩码图像上的所有标记为1的像素点的坐标值及深度值进行平均值计算,对应获得n个聚类中心;其中,第i张掩码图像对应的聚类中心为pi=(ui,vi,di),(ui,vi)表示第i张掩码图像上的所有标记为1的像素点的平均坐标值,di表示第i张掩码图像上的所有标记为1的像素点的平均深度值,i=1,2,

,n;
145.根据所述n个位置信息、所述n个聚类中心和所述传感器的内参矩阵,计算获得所述传感器在世界坐标系下的位姿参数。
146.具体的,结合上述实施例,控制中心可以控制移动机器人在室内运动,则,首先,控制移动机器人运动到传感器的视野之外,当传感器的视野内不存在移动机器人时,通过传感器采集获取视野内的背景图像;控制移动机器人运动到传感器的视野之内,并分别运动到n(n》1)个不同位置,当传感器的视野内存在移动机器人时,通过传感器采集获取移动机器人在n个不同位置所对应的n张图像,并且通过移动机器人的自定位,分别获取移动机器人在n个不同位置所对应的n个位置信息;
147.接着,控制中心将获得的背景图像分别与n张图像中的每一张运动图像进行帧差计算,对应获得n张帧差图像,并根据预先设置的深度阈值分别对每一张帧差图像进行相应处理,对应获得n张掩码图像;其中,对每一张帧差图像的处理方法相同,这里以第i张帧差图像的处理方法为例,将第i张帧差图像上的每一个像素点的深度值分别与预先设置的深度阈值进行比较,当判定任意一个像素点的深度值大于预先设置的深度阈值时,将该像素点标记为1,当判定任意一个像素点的深度值不大于预先设置的深度阈值时,将该像素点标记为0,相应的,在对第i张帧差图像上的每一个像素点进行1或0的标记之后,根据标记处理后的第i张帧差图像对应获得第i张掩码图像;
148.然后,控制中心分别对获得的n张掩码图像中的每一张掩码图像上的所有标记为1的像素点的坐标值及深度值进行平均值计算,对应获得n个聚类中心;其中,以第i张掩码图像的处理方法为例,对第i张掩码图像上的所有标记为1的像素点的uv坐标值及深度值d进行求平均值计算,相应获得第i张掩码图像对应的聚类中心表示为pi=(ui,vi,di),(ui,vi)表示第i张掩码图像上的所有标记为1的像素点的平均坐标值,di表示第i张掩码图像上的所有标记为1的像素点的平均深度值,i=1,2,

,n;
149.最后,控制中心根据获得的移动机器人对应的n个位置信息、n个聚类中心和传感器的内参矩阵,计算获得传感器在世界坐标系下的的位姿参数;其中,传感器的内参矩阵一般由厂家给定或事先标定,属于已知参数。
150.需要说明的是,本实施例中涉及了深度阈值、对图像上的像素点的深度值进行求平均值处理等内容,均是以深度传感器为例来阐述对传感器进行标定的具体方案;若为其他类型的传感器,则可以采用现有技术提供的其他标定方案来对应获得传感器在世界坐标系下的的位姿参数。
151.作为上述方案的改进,所述控制中心根据所述n个位置信息、所述n个聚类中心和所述传感器的内参矩阵,计算获得所述传感器在世界坐标系下的位姿参数,具体包括:
152.根据公式进行求解,相应获得所述传感器在世界坐标系下的位姿参数hd;其中,pi表示所述移动机器人在第i个位置所对应的第i个位置信息,表示将第i个聚类中心转换到世界坐标系下的位置信息,ks表示所述传感器的内参矩阵。
153.具体的,结合上述实施例,控制中心可以根据公式进行求解,相应获得传感器在世界坐标系下的的位姿参数hd,pi表示移动机器人在第i个位置所对应的第i个位置信息,表示将第i个聚类中心pi=(ui,vi,di)转换到世界坐标系下的位置
信息,ks表示传感器的内参矩阵,表示两个三维向量的欧氏距离。
154.本发明实施例所提供的一种智能家居系统,通过获取传感器的监控视野内的背景图像和n张运动图像,并分别获取每一张运动图像对应的移动机器人在世界坐标系下的位置信息,以根据背景图像和n张运动图像计算获得n张掩码图像,并根据移动体对应的n个位置信息、n张掩码图像和传感器的内参矩阵,计算获得传感器的位姿参数,能够大大减少人工调整测试位置所带来的误差,从而提高传感器的位姿标定的准确度。
155.以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明技术原理的前提下,还可以做出若干改进和变形,这些改进和变形也应视为本发明的保护范围。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献