面向一维信号分类的轻量化一维残差神经网络模型结构

摘要: 本发明涉及卷积神经网络,尤其涉及一种面向一维信号分类的轻量化一维残差神经网络模型结构。背景技术:1、一维时序信号广泛存在于工业振动监测、语音识别、心电信号分析、...
面向一维信号分类的轻量化一维残差神经网络模型结构

本发明涉及卷积神经网络,尤其涉及一种面向一维信号分类的轻量化一维残差神经网络模型结构。

背景技术:

1、一维时序信号广泛存在于工业振动监测、语音识别、心电信号分析、<设备状态检测等应用场景中。该类信号通常沿时间轴连续变化,数据中既包含短时间局部波动,也包含较长时间范围内的趋势变化和状态转移特征。如何在保持较低计算复杂度的前提下提取一维时序信号中的有效局部模式和深层语义特征,是一维信号分类和异常识别任务中的重要技术问题。

2、现有一维信号分类方法主要包括传统机器学习方法、循环神经网络方法、一维卷积神经网络方法以及将二维图像模型迁移到一维信号的方法。传统机器学习方法通常需要人工提取均值、方差、频谱能量、峰度、偏度等统计特征,再利用支持向量机、随机森林等分类器完成识别。该类方法可解释性较强,但对人工特征依赖较大,不同数据集和不同采样条件下需要重新设计特征。

3、循环神经网络及其变体如rnn、lstm、gru能够建模时序依赖关系,但训练过程通常难以充分并行,计算开销较大;当序列较长时,普通rnn容易出现梯度消失或梯度爆炸,lstm和gru虽然缓解了该问题,但结构更复杂,参数量较多,难以满足轻量化部署需求。

4、一维卷积神经网络能够利用卷积核沿时间维滑动,提取局部时序模式,计算效率较高,适合处理一维序列数据。但是,普通一维cnn在网络加深后容易出现梯度退化、浅层局部特征衰减、训练收敛不稳定等问题,导致模型难以通过增加层数获得更强表达能力。

5、二维残差网络(resnet)通过残差连接解决了深层卷积网络训练中的退化问题,在图像识别领域取得了较好效果。然而,二维resnet直接用于一维时序信号时,通常需要将一维信号转换为二维图像或时频图,这可能增加预处理复杂度、破坏原始时间结构,并导致模型参数量和计算量增大。

6、虽然部分研究尝试将残差学习机制扩展至一维信号领域(如语音情感识别、心电信号分类等),但现有的一维残差扩展形式通常直接移植二维残差块的通道数、卷积核尺寸和下采样策略,未针对一维时序信号的特性进行专门优化。具体而言,现有技术存在以下问题:

7、(1)未充分利用一维卷积的并行计算优势替代循环结构;(2)残差块内部的一维卷积层数、通道扩展策略和维度匹配方式缺乏针对性设计;(3)未结合一维信号分类任务的轻量化部署需求,全局平均池化与全连接层的衔接方式未优化。

8、因此,现有技术仍缺少一种能够直接面向一维时序信号、兼具局部特征提取能力、深层残差表达能力、训练稳定性和轻量化部署能力的神经网络模型结构。

技术实现思路

1、针对上述技术问题,本发明提供了一种面向一维信号分类的轻量化一维残差神经网络模型结构。

2、本发明是采用以下技术方案实现的:面向一维信号分类的轻量化一维残差神经网络模型结构,包括依次连接的:

3、输入层,用于接收一维信号的多通道输入数据;

4、一维卷积特征提取层,用于对输入的一维信号进行初始局部特征提取;

5、残差特征提取模块,由多个残差块堆叠构成,用于对局部特征进一步提取深层特征,并输出特征图;

6、全局平均池化层,用于对所述残差特征提取模块输出的特征图沿时间维进行平均池化,生成固定长度的特征向量;

7、全连接分类层,用于将特征向量映射至目标类别空间,进行分类;

8、输出层,用于输出分类结果。

9、进一步的,所述一维信号包括:全球卫星导航系统(gnss)信号、机械振动信号、心电信号、语音序列或工业传感器时间序列中的一种或多种。

10、进一步的,所述一维卷积特征提取层采用一维卷积层conv1d,卷积核尺寸为k×1,padding设置为(k-1)/2,以在保持序列长度不变的条件下提取相邻局部时序特征;所述一维卷积层之后依次连接批量归一化层和relu激活函数层。

11、进一步的,所述一维卷积层沿时间维对输入序列进行滑动卷积运算,其相邻局部时序特征映射过程表示为:

12、其中,表示输入时序信号在第i+k个时间位置的特征值,i为当前输出特征所对应的时间索引,k为卷积核内的相对偏移量,为卷积核权重,k为卷积核尺寸,b为偏置项,为输出特征;

13、批量归一化层表示为:

14、;

15、其中,表示经批量归一化处理后的归一化特征值,x表示原始激活值,为当前批量数据均值,为当前批量数据方差,为防止分母为零的极小常数;

16、relu激活函数层表示为:

17、;

18、其中,表示relu激活函数的输出激活值。

19、进一步的,所述残差块包括主分支和捷径分支;

20、所述主分支依次包括:第一一维卷积层、第一批量归一化层、relu激活层、第二一维卷积层和第二批量归一化层;

21、所述捷径分支用于将输入特征直接传递至输出端,并与主分支输出进行逐元素相加,形成残差连接。

22、进一步的,当残差块的输入特征与输出特征在通道数或长度维度上不一致时,所述捷径分支通过1×1的一维卷积层进行通道数匹配;当网络中存在时间维下采样操作导致时间维长度变化时,所述捷径分支相应调整采样率或采用线性插值进行长度匹配。

23、进一步的,所述全局平均池化层对每个通道的时间维特征进行平均压缩,其计算公式为:

24、;

25、其中,为第c个通道的池化输出,为时间序列长度,为第c个通道在第i个时间位置的特征值。

26、进一步的,所述输出层采用sigmoid函数实现二分类输出,或采用softmax函数实现多分类输出。

27、进一步的,所述模型结构的训练方法包括:根据二分类或多分类任务选择相应的损失函数,利用梯度优化算法进行参数更新,并结合验证集早停或最优权重保存机制提高训练稳定性。

28、进一步的,所述模型结构用于一维信号分类任务的处理流程包括:对原始一维信号进行采样、分段和标准化处理,将处理后的数据输入所述模型,由模型输出分类概率或类别标签。

29、本发明的有益效果在于:

30、本发明通过在一维信号分类任务中引入轻量化的一维卷积结构与残差连接机制,在保证特征提取能力的同时减少网络参数量,提高模型训练稳定性与分类性能,适用于机械振动信号、心电信号、语音序列以及工业传感器时间序列等多种一维信号分类场景。

1.面向一维信号分类的轻量化一维残差神经网络模型结构,其特征在于,包括依次连接的:

2.如权利要求1所述的面向一维信号分类的轻量化一维残差神经网络模型结构,其特征在于,所述一维信号包括:全球卫星导航系统信号、机械振动信号、心电信号、语音序列或工业传感器时间序列中的一种或多种。

3.如权利要求1所述的面向一维信号分类的轻量化一维残差神经网络模型结构,其特征在于,所述一维卷积特征提取层采用一维卷积层conv1d,卷积核尺寸为k×1,padding设置为(k-1)/2,以在保持序列长度不变的条件下提取相邻局部时序特征;所述一维卷积层之后依次连接批量归一化层和relu激活函数层。

4.如权利要求3所述的面向一维信号分类的轻量化一维残差神经网络模型结构,其特征在于,所述一维卷积层沿时间维对输入序列进行滑动卷积运算,其相邻局部时序特征映射过程表示为:

5.如权利要求1所述的面向一维信号分类的轻量化一维残差神经网络模型结构,其特征在于,所述残差块包括主分支和捷径分支;

6.如权利要求5所述的面向一维信号分类的轻量化一维残差神经网络模型结构,其特征在于,当残差块的输入特征与输出特征在通道数或长度维度上不一致时,所述捷径分支通过1×1的一维卷积层进行通道数匹配;当网络中存在时间维下采样操作导致时间维长度变化时,所述捷径分支相应调整采样率或采用线性插值进行长度匹配。

7.如权利要求1所述的面向一维信号分类的轻量化一维残差神经网络模型结构,其特征在于,所述全局平均池化层对每个通道的时间维特征进行平均压缩,其计算公式为:

8.如权利要求1所述的面向一维信号分类的轻量化一维残差神经网络模型结构,其特征在于,所述输出层采用sigmoid函数实现二分类输出,或采用softmax函数实现多分类输出。