基于持续学习的WiFi感知方法

摘要: 本发明涉及无线信号感知与机器学习,具体涉及基于持续学习的wifi感知方法。背景技术:1、wifi感知利用无线信号传播过程中因人体活动产生的反射、散射及多径变化,...
基于持续学习的WiFi感知方法

本发明涉及无线信号感知与机器学习,具体涉及基于持续学习的wifi感知方法。

背景技术:

1、wifi感知利用无线信号传播过程中因人体活动产生的反射、散射及多径变化,实现对人体活动或环境状态的非接触式检测。在采用正交频分复用的wifi系统中,信道状态信息能够反映不同子载波上的信道频率响应。人体活动会改变无线信号的多径传播状态,使信道状态信息的幅度和相位随时间发生变化。通过提取这些变化特征,可以识别行走、坐下、躺下及其他人体活动。

2、现有wifi人体活动识别方法通常对采集到的信道状态信息进行去噪、分割、降维或时频转换,再使用卷积神经网络、残差网络、支持向量机或概率模型进行分类。这类方法可以在训练数据与测试数据分布接近的情况下取得识别结果,但通常采用一次性训练方式。模型训练完成并部署后,其特征提取参数和分类参数保持固定。

3、在相关目标识别技术中,中国发明专利申请cn118823597a(申请公布日2024年10月22日),名称为《基于尺度不变特征变换的雷达目标识别方法、装置及设备》,针对长尾合成孔径雷达图像构建由尺度不变特征变换模块、编码器、投影头和分类器组成的识别模型。该方案分别提取雷达图像的散射特征和纹理特征,将两类特征拼接,并通过监督对比学习训练编码器和投影头,再训练分类器完成目标识别。该方案能够改善不平衡样本条件下的特征表征,但其训练对象是固定的雷达图像数据集,未形成面向连续任务的数据增量更新流程。

4、中国发明专利申请cn118658181a(申请公布日2024年9月17日),名称为《基于参数校正的持续自进化目标重识别建模方法》,将旧任务训练所得模型冻结为原始模型,并复制形成用于学习新数据域的动态模型。该方案通过计算冻结模型与动态模型中动态卷积参数的kl散度,对动态模型的参数更新进行约束,并对冻结模型分类器与动态模型分类器进行线性融合,以减缓模型在学习新数据域时对旧数据域知识的遗忘。该方案仍需要持续训练动态神经网络,并依赖旧模型与新模型之间的参数约束和分类器参数融合。

5、wifi感知系统在长期运行过程中,收发设备位置、室内布局、门窗状态、人体动作速度及设备运行状态均可能发生变化。这些变化会改变无线信号的多径传播模式,使后续采集的信道状态信息与初始训练数据之间出现分布差异。固定模型难以持续适应上述变化。若仅使用新任务数据继续训练模型,模型参数会向新数据分布偏移,并可能降低对历史任务的识别能力。若重新汇集全部历史数据进行训练,则会增加原始数据存储、数据传输和模型训练开销。

6、部分持续学习方法通过正则化、知识蒸馏、历史样本回放或网络结构扩展减缓遗忘。正则化和知识蒸馏通常需要持续更新神经网络参数。历史样本回放需要保存历史原始数据。网络结构扩展则会使模型规模随任务数量增加。对于包含人体活动信息的原始csi数据,长期保存和反复调用还会增加数据存储和信息暴露风险。

7、因此,如何使wifi感知模型在环境和数据分布持续变化的条件下利用新任务数据完成增量适应,同时降低历史任务遗忘,并减少历史原始数据存储和重复训练开销,成为亟待解决的技术问题。

技术实现思路

1、本发明的主要目的是提供一种基于持续学习的wifi感知方法,旨在使wifi感知模型在环境和数据分布持续变化的条件下利用新任务数据完成增量适应,同时降低历史任务遗忘,并减少历史原始数据存储和重复训练开销。

2、为了实现上述目的,本发明提出一种基于持续学习的wifi感知方法,包括:按照任务顺序依次获取具有活动类别标签的各任务wifi信道状态信息csi,对所述csi进行预处理,得到csi时序样本;

3、将首个任务的csi时序样本输入参数冻结的预训练时序基础模型,得到原始时序特征,所述投影头包括骨干网络和投影层,利用所述首个任务的活动类别标签和监督对比损失训练所述骨干网络和投影层,并在训练完成后冻结所述投影头,将所述骨干网络输出作为各任务的低维特征;

4、针对所述活动类别两两构建二元分类器,针对每一二元分类器,计算各已见任务中对应两个活动类别的低维特征的样本数量、经验均值向量、经验协方差矩阵和样本比例,将所述样本数量、经验均值向量、经验协方差矩阵和样本比例作为历史任务统计量予以存储,供后续任务更新使用,而不保留历史任务的原始csi数据;

5、基于全部已见任务的所述历史任务统计量解析各二元分类器在各已见任务上的分类误差,以覆盖全部已见任务的组合标签向量为优化变量、跨任务加权分类误差为优化目标进行标签优化,并根据优化后的组合标签向量建立各二元分类器的线性投影决策函数;

6、获取新任务的csi时序样本时,保持所述预训练时序基础模型和投影头的参数冻结,计算新任务的所述历史任务统计量并追加至已存储的历史任务统计量,扩展所述组合标签向量后重新进行所述标签优化,以更新各二元分类器;

7、将待识别csi时序样本依次输入所述预训练时序基础模型、所述投影头的骨干网络和更新后的各二元分类器,根据各二元分类器的分类结果进行多数投票,确定人体活动类别。

8、优选地,对所述csi进行预处理,包括:从所述csi中提取52个有效传统长训练字段l-ltf子载波的复数信道响应;以各时间步为中心截取长度为个时间步的滑动窗口,得到包含52个子载波的窗口样本,其中,为正整数;对所述窗口样本中的复数信道响应取幅度,得到具有52个变量和个时间步的实数csi时序样本。

9、优选地,利用所述首个任务训练所述投影头时,对所述首个任务的csi时序样本随机实施数据增强,所述数据增强包括高斯噪声注入、时间反转、幅度随机缩放、子载波随机丢弃和时间平移。

10、优选地,所述预训练时序基础模型为单变量时序基础模型,将所述csi时序样本输入所述单变量时序基础模型,包括:按照物理频率相邻关系将各子载波划分为多个分组,每个分组包含个子载波,其中,为正整数,在子载波总数不能被整除时,复制最后一个有效子载波的数据,直至补齐后的子载波总数能够被整除;对各分组内的子载波序列沿通道维度求均值,得到多条组级时间序列;将所述多条组级时间序列首尾拼接为单一输入序列,并将所述单一输入序列输入所述单变量时序基础模型;从所述单变量时序基础模型最后层分别提取隐藏状态向量,并沿特征维度拼接所述隐藏状态向量,得到所述原始时序特征,其中,为不大于所述单变量时序基础模型层数的正整数。

11、当所述特征处理层输出包含多个时间位置或多个令牌时,隐藏状态向量按照该预训练模型公开定义的定长样本表示位置选取;具有专用汇聚令牌时选取所述汇聚令牌,不具有专用汇聚令牌而采用自回归令牌序列时选取末位有效令牌。对于同一持续学习系统的全部任务,隐藏状态向量的选取位置和汇聚规则保持不变。

12、优选地,所述单变量时序基础模型为time-moe-50m时序混合专家模型,,将52个子载波复制补齐至55个子载波后划分为11个分组,并提取所述time-moe-50m时序混合专家模型最后4层中每一层的最后一个令牌隐藏状态进行拼接,得到3072维的原始时序特征。

13、优选地,所述预训练时序基础模型为多变量时序基础模型,将所述csi时序样本的52个子载波分别作为52个变量直接输入所述多变量时序基础模型,并提取所述多变量时序基础模型的预设编码器层中的汇聚令牌隐藏状态,将所述汇聚令牌隐藏状态作为所述原始时序特征。

14、所采用的多变量时序基础模型具有能够对全部输入变量进行联合编码的预设编码器层及可输出定长样本表示的汇聚令牌;所述预设编码器层和汇聚令牌位置在首个任务之前确定,并在全部后续任务中保持不变。

15、优选地,所述多变量时序基础模型为chronos 2多变量时序基础模型,所述汇聚令牌为回归令牌,提取所述chronos 2多变量时序基础模型的第11层编码器中的回归令牌隐藏状态,得到768维的原始时序特征。

16、优选地,所述骨干网络依次包括将所述原始时序特征映射至512维的第一线性层、第一批归一化层、第一relu激活层、将512维特征映射至256维的第二线性层、第二批归一化层和第二relu激活层;所述投影层包括将所述骨干网络输出的256维特征映射至128维的第三线性层和l2归一化层;训练所述投影头时依次使用所述骨干网络和投影层,训练完成后的特征提取阶段仅使用所述骨干网络输出的256维低维特征。

17、优选地,所述监督对比损失按照相应计算式计算:

18、

19、其中,为批大小,为样本经所述投影层获得的归一化嵌入,为样本的活动类别标签,为与样本具有相同活动类别标签的正样本索引集合,为温度超参数。

20、优选地,基于全部已见任务的所述历史任务统计量解析各二元分类器在各已见任务上的分类误差,包括:根据所述样本数量、经验均值向量、经验协方差矩阵和样本比例,确定任务中类别的线性投影决策得分所服从的高斯近似分布,其中,;按照相应计算式计算任务的分类误差:

21、

22、其中,为标准正态累积分布函数,为对应任务中两个活动类别的高斯近似分布之间的决策阈值,和分别为任务中类别的线性投影决策得分的理论均值和标准差。

23、优选地,以覆盖全部已见任务的所述组合标签向量为优化变量、跨任务加权分类误差为优化目标进行标签优化,包括按照相应计算式求解最优组合标签向量:

24、

25、其中,为已见任务总数,为覆盖全部已见任务的组合标签向量,为采用所述组合标签向量时任务的分类误差,为任务对应的任务权重。

26、优选地,采用l-bfgs-b算法求解所述最优组合标签向量。

27、优选地,扩展所述组合标签向量后重新进行所述标签优化,包括:在已学习个任务并获得对应的旧最优组合标签向量时,在所述旧最优组合标签向量的末尾增设与第个任务中对应两个活动类别相对应的两个组合标签参数,将所述两个组合标签参数初始化为零,形成扩展组合标签向量;将所述扩展组合标签向量作为扩展后的参数空间中的可行解,在所述扩展后的参数空间中重新求解覆盖前个任务的最优组合标签向量;根据重新求解的最优组合标签向量更新所述线性投影决策函数。

28、采用上述技术方案具有以下优点:

29、本技术采用参数冻结的预训练时序基础模型提取csi时序特征,并在首个任务完成监督对比训练后冻结投影头,使不同任务的样本按照一致的映射关系进入同一低维特征空间,能够维持历史任务统计量与新任务统计量之间的可比性。监督对比训练使同一活动类别的特征趋于聚集,不同活动类别的特征趋于分离,有利于线性投影分类器形成类别边界。针对每个已见任务和活动类别,存储样本数量、经验均值向量、经验协方差矩阵和样本比例,无需在后续更新中保留或调用历史任务的原始csi数据,从而降低历史数据存储开销和原始活动数据暴露风险。新任务到来时,通过追加新任务统计量、扩展组合标签向量并重新优化跨任务加权分类误差,可以在不持续训练时序基础模型和投影头的情况下更新二元分类器,降低重复反向传播训练的计算开销,并减缓学习新任务时对历史任务识别能力的影响。多个二元分类器通过多数投票输出人体活动类别,使所述持续学习机制能够用于多类别人体活动识别。

30、具体实施例中记载的识别精度、遗忘率和存储空间数值仅对应相应数据集、任务划分、模型权重和训练配置,用于说明可实施效果,不作为全部实施方式均必然达到的数值限定。