一种国产UWB芯片端侧轻量化体征融合方法与流程

摘要: 本发明属于边缘智能计算与智慧康养,尤其是涉及一种国产uwb芯片端侧轻量化体征融合方法。背景技术:1、非接触式uwb雷达体征监测可以实现心率、呼吸、睡眠分期、体动...
一种国产UWB芯片端侧轻量化体征融合方法与流程

本发明属于边缘智能计算与智慧康养,尤其是涉及一种国产uwb芯片端侧轻量化体征融合方法。

背景技术:

1、非接触式uwb雷达体征监测可以实现心率、呼吸、睡眠分期、体动、离床检测,广泛应用于居家智慧康养场景。现有商用uwb康养监测方案大多依赖进口高算力主控芯片运行体征融合算法。国产uwb主控芯片多采用arm cortex-m33内核架构,芯片无外置dram,仅依靠片上sram、片内otp/rom完成程序与模型存储,算力以及片上存储资源受限。

2、现有技术存在如下缺陷:第一,多参量体征融合ai模型在云端服务器完成训练,原始模型参数量大、计算冗余高,直接烧录部署至cortex-m33内核国产uwb-soc,会产生算力不足、推理延迟、本地测算卡顿,无法实现端侧实时推理。第二,常规模型轻量化手段仅开展软件层面剪枝、量化,未结合国产uwb芯片硬件架构与指令集开展协同适配,压缩后易造成体征识别精度劣化,难以兼顾推理速度与监测精度。第三,通用tinyml推理框架tensorflow-lite-micro默认算子未充分调用cortex-m33内核simd-dsp扩展指令,算子执行效率低下,进一步加剧终端推理时延。第四,现有方案大多采用终端采集uwb原始回波、上传云端完成体征推断,无法实现端侧闭环处理;原始雷达数据外传带来网络时延、用户生理隐私泄露风险,同时对进口算法存在较强技术依赖。第五,在低算力国产芯片平台,难以同时满足多体征同步监测以及医疗级指标,缺少遵循aasm3.0判读标准的睡眠分期端侧实现,心率、呼吸监测误差、睡眠分期准确率难以达到临床可用水平。

技术实现思路

1、本发明的目的是提供一种国产uwb芯片端侧轻量化体征融合方法,解决了现有国产低算力uwb芯片无法部署高精度体征融合模型、模型轻量化精度劣化严重、硬件适配性差、依赖云端运算与进口算法的技术痛点,通过模型轻量化优化、硬件指令级适配、动态内存调度和全链路精度校验机制,实现了多体征监测算法的端侧高效、高精度、安全部署,适配国产化智慧康养终端应用场景。

2、为实现上述目的,本发明提供了一种国产uwb芯片端侧轻量化体征融合方法,包括以下步骤:

3、s1、构建多体征融合基础模型,并进行训练,得到fp32精度的原始模型;

4、s2、基于滤波器l1范数重要性准则执行滤波器级结构化剪枝对原始模型进行剪枝操作,得到剪枝后fp32模型;

5、s3、对剪枝后fp32模型执行基于kl散度校准的int8对称量化压缩,得到int8轻量化模型;

6、s4、对剪枝后fp32模型进行模块拆分以及静态内存池任务调度;

7、s5、结合int8轻量化模型和s4的结果进行国产uwb芯片cmsis-nn指令级适配调优;

8、s6、进行全链路精度的闭环约束校验;

9、s7、校验完成之后进行国产uwb芯片端侧闭环部署运行。

10、优选的,s1的过程如下:

11、s11、构建多体征融合cnn时序模型,向多体征融合cnn时序模型中输入uwb雷达回波时序信号,得到包括心率、呼吸率、睡眠分期、体动强度和离床事件的输出;

12、s12、采用包含uwb雷达回波和psg真值标注的公开数据集完成多体征融合cnn时序模型的训练与验证;

13、s13、计算训练后的模型的平均绝对误差,以作为心率、呼吸率的评价指标,得到训练收敛后的fp32精度原始模型并保存。

14、优选的,s13中平均绝对误差的计算过程如下:

15、;

16、其中表示验证集样本总数量;表示模型第个样本预测输出值;表示psg金标准对应的第个样本参考真值。

17、优选的,s2的过程如下:

18、s21、在fp32精度原始模型中遍历cnn全部卷积层,并逐卷积滤波器计算l1范数重要性得分,过程如下:

19、;

20、其中表示第个卷积滤波器的重要性得分;表示第个卷积滤波器第输入通道权重;表示卷积层输入通道总数;

21、s22、设定全局剪枝阈值,并剔除重要性得分低于全局剪枝阈值的卷积滤波器,保留对呼吸谐波、心率谐波敏感的卷积通道;

22、s23、对剪枝后网络做微调训练,并在云端验证集计算心率mae和呼吸mae;

23、s24、预设精度劣化允许阈值,若心率mae和呼吸mae中的任一数据超出阈值则降低剪枝比例、返回s21重新执行剪枝流程,否则得到剪枝后fp32模型。

24、优选的,s3的过程如下:

25、s31、采用真实场景uwb雷达的回波样本构建量化校准数据集,并将其输入剪枝后fp32模型,进行正向推理采集每一层权重、激活值的浮点数值分布;

26、s32、遍历若干组候选缩放系数,并分别完成浮点数据的映射量化;

27、s33、通过kl散度对比量化前后数据概率分布差异,筛选得到分布差异最小、信息保留度最高的最优缩放因子scale,kl散度的计算过程如下:

28、;

29、其中表示原始浮点数值概率分布;表示量化后int8数值的概率分布;表示分布之间kl散度;

30、s34、依据最优scale对剪枝后fp32模型的全部权重和激活值执行int8对称量化映射,将大范围浮点数值压缩至设定的整型区间,完成整体模型从fp32浮点模型到int8轻量化模型的转换;

31、s35、将量化后的int8模型权重数据转换为专用二进制存储格式,适配国产uwb芯片片内只读存储的固化要求。

32、优选的,s34中完成整体模型从fp32浮点模型到int8轻量化模型的转换的变换公式如下:

33、;

34、其中表示浮点型输入数值;表示最优缩放因子;表示设定的整型区间内的int8整型数值。

35、优选的,s4的过程如下:

36、s41、对经云端训练、剪枝、量化优化后的一体化多体征融合算法整体逻辑进行功能拆解,拆分整理为六大独立、接口标准化的子模块,包括uwb回波预处理模块、特征提取模块、心率呼吸推理模块、睡眠分期推理模块、体动与离床事件判别模块和结果输出与校验模块;

37、s42、逐一明确各子模块的输入、输出张量规格与数据格式,统计全推理链路中所有张量的最大尺寸,并精准测算算法运行所需的峰值内存占用;

38、s43、在芯片上电初始化阶段,在片上sram中统一开辟专属静态内存池,对所有推理张量缓冲区进行一次性预分配、固定划分;

39、s44、依据体征监测任务的行业运行规范与实时性需求,配置分级调度策略,过程如下:

40、uwb回波预处理、心率呼吸推理任务采用高频调度;

41、睡眠分期任务遵循通用医疗睡眠判读规范;

42、体动、离床事件检测跟随心率呼吸任务同步触发;

43、结果校验模块统一接收所有子模块输出数据,完成汇总校验和结果输出。

44、优选的,s5的过程如下:

45、s51、解析int8轻量化模型的完整网络拓扑结构,精准识别模型推理过程中的核心计算算子,包括卷积层、池化层高频运算算子,并明确各高频运算算子的运算逻辑和输入输出数据规格;

46、s52、将模型的卷积、池化核心计算算子,一对一映射适配至国产uwb芯片原生支持的神经网络硬件加速专用接口,依托芯片内置的simd-dsp并行运算能力实现算子硬件级加速;

47、s53、针对推理过程中占用算力最高的高频计算算子,采用循环展开、算子融合的方式进行代码级优化,减少循环迭代开销与指令调用次数;

48、s54、对模型中间特征张量进行存储限定,强制所有中间运算数据仅存放于片上sram;

49、s55、关闭芯片运行过程中未参与运算的闲置浮点运算单元;仅在结果输出与校验模块需要浮点数值校准计算的场景下,临时开启浮点运算单元,实现算力资源按需调度。

50、优选的,s6的具体过程如下:

51、s61、分别在剪枝完成后、量化完成后和指令适配完成后设置三个校验节点,并且每一个节点均采用验证子集开展模型测试;

52、s62、在各校验节点分别计算三项核心医疗级评价指标,包括心率平均绝对误差、呼吸平均绝对误差和睡眠分期准确率;

53、s63、预设固定精度阈值约束条件,包括睡眠分期准确率阈值、心率mae阈值和呼吸mae阈值,若任一项指标超出阈值,则判定当前优化强度过高、精度劣化超标,主动降低剪枝比例、量化压缩强度和硬件适配优化力度,重新进行迭代优化;

54、若全部指标均满足预设精度阈值,则判定本轮优化合规、精度可控,进入最终芯片端侧闭环部署环节。

55、优选的,s7的过程如下:

56、s71、将经过剪枝、量化、指令适配和精度校验达标后的int8轻量化模型二进制权重文件,以及模块化拆分后的完整业务程序固件,统一烧录固化至国产uwb芯片的存储区域,完成算法模型与硬件设备的绑定部署;

57、s72、国产uwb芯片上电启动,通过uwb射频模块实时采集雷达回波原始信号,依次完成回波预处理、特征提取、多体征融合智能推理和结果校验修正的全闭环端侧运算;

58、s73、设备在全程不向外传输任何原始雷达数据,仅在端侧本地输出标准化监测结果,包括实时心率、呼吸率、睡眠分期结果、体动强度参数和离床异常事件告警。

59、因此,本发明采用上述的一种国产uwb芯片端侧轻量化体征融合方法,具有以下优点:

60、1、采用滤波器级结构化剪枝结合kl散度校准int8量化的轻量化方案,基于公开学术算法模型完成优化,在可控精度损耗的前提下大幅降低模型参数量与计算量,完美适配cortex-m33内核国产uwb-soc芯片有限的片上存储与算力资源,解决了传统大模型无法端侧部署的难题。

61、2、通过算法模块化拆分结合静态内存池调度机制,摒弃了动态内存分配方式,消除mcu端推理过程中的内存碎片与随机时延,针对不同体征监测任务配置差异化调度周期,有效解决低算力芯片算法运行卡顿、延迟不稳定的问题。

62、3、基于cmsis-nn v5.8库实现算子指令级硬件适配,充分调用cortex-m33内核simd-dsp并行加速指令,最大化挖掘国产芯片硬件算力,显著提升端侧模型推理效率,降低设备运行功耗。

63、4、设置剪枝、量化、指令适配三重全链路精度闭环校验机制,建立了明确的精度阈值约束,避免盲目轻量化导致的医疗级监测精度劣化,实现模型优化全过程精度可控、可回溯、可调整。

64、5、实现了uwb体征监测全流程端侧闭环处理,原始雷达回波数据无需上传云端,有效规避网络传输时延与用户生理隐私泄露风险,摆脱了对进口算法与云端算力的依赖。

65、6、严格遵循aasm3.0国际睡眠分期判读标准,以psg多导睡眠监测金标准完成模型训练与校验,可在低算力国产uwb芯片上同步实现心率、呼吸、睡眠、体动、离床多维度体征监测,监测精度达到临床可用医疗级标准,具备极高的产业化落地价值,可广泛应用于居家康养、养老机构、智能监护等场景。

66、下面通过附图和实施例,对本发明的技术方案做进一步的详细描述。