自适应动态神经元的电磁目标类别增量学习方法及装置与流程
本发明涉及电磁目标的智能分类,具体涉及一种自适应动态神经元的电磁目标类别增量学习方法及装置。
背景技术:
1、随着开放电磁空间中电磁目标类型持续增长,电磁目标的持续智能分类需求不断提升,类别增量学习是实现开放环境下电磁目标分类模型迭代的核心技术。
2、现有类别增量学习(class incremental learning, cil)方法通常基于原有数据构建范例样本集,结合新类别样本进行增广训练,并调整原分类网络结构以适配新增类别。在电磁目标分类场景中,新旧类别样本量极不均衡,新类别通常仅存在少量样本,且不同类别电磁信号的特征分布跨度大、类别增量频繁。采用现有方案进行增量训练时,易出现新类别过拟合与旧类别知识灾难遗忘的问题;同时全量增量训练运算量高,难以满足电磁目标频繁快速增量的工程应用需求。
技术实现思路
1、鉴于上述问题,本发明提供一种自适应动态神经元的电磁目标类别增量学习方法及装置,通过自编码器预训练保留旧类别特征知识,结合自适应聚合动态神经元结构实现小样本下的类别增量,缓解灾难遗忘问题,降低增量训练运算量。
2、第一方面,本发明实施例提供了一种自适应动态神经元的电磁目标类别增量学习方法,所述方法包括:
3、对电磁目标样本数据进行归一化处理;
4、利用归一化后的旧类别电磁目标样本,联合训练自编码器与分类器,得到原始分类模型;
5、当新增类别电磁目标样本输入时,在所述原始分类模型的分类网络中构建自适应聚合动态神经元结构,拓展新增神经元并引入缩放因子分配原有神经元与新增神经元的权重,完成类别增量训练。
6、在一些实施例中,所述对电磁目标样本数据进行归一化处理,包括:
7、针对电磁脉冲的频率、脉宽、脉冲间隔三类物理量,分别对每一类物理量进行独立的归一化计算。
8、在一些实施例中,所述联合训练自编码器与分类器,包括:
9、自编码器采用编码端与解码端对称的网络结构,编码端依次经卷积层、权重聚合层、归一化层处理后输出编码特征,解码端依次经卷积层、权重聚合层、归一化层处理后输出与输入样本维度一致的重构特征;
10、分类器由多层堆叠的一维卷积层和自适应权重放缩层构成,对编码特征进行分类计算。
11、在一些实施例中,所述分类器还包括softmax层;编码特征经线性层、自适应权重放缩层和归一化层处理后,输入softmax层输出分类结果。
12、在一些实施例中,所述自适应聚合动态神经元结构包括稳定块与增量块;
13、所述稳定块对应原始分类模型中的原有神经元,保留原有权重参数;
14、所述增量块对应拓展的新增神经元,用于适配新增类别样本。
15、在一些实施例中,所述拓展新增神经元并引入缩放因子分配原有神经元与新增神经元的权重,包括:
16、引入可学习的缩放因子,将缩放因子与稳定块的权重、增量块的权重进行逐元素相乘,实现权重分配;
17、所述缩放因子满足求和为1的约束条件;
18、所述稳定块采用第一更新参数控制权重更新幅度,所述增量块采用第二更新参数控制权重更新幅度,所述第一更新参数对应的权重更新幅度小于第二更新参数对应的权重更新幅度。
19、在一些实施例中,所述完成类别增量训练的过程中,冻结原始分类模型中自编码器的特征提取模块参数,对分类网络中的自适应聚合动态神经元结构进行参数更新。
20、第二方面,本发明实施例提供了一种自适应动态神经元的电磁目标类别增量学习装置,所述装置,包括:
21、归一化模块,用于对电磁目标样本数据进行归一化处理;
22、预训练模块,用于利用归一化后的旧类别电磁目标样本,联合训练自编码器与分类器,得到原始分类模型;
23、增量训练模块,用于当新增类别电磁目标样本输入时,在所述原始分类模型的分类网络中构建自适应聚合动态神经元结构,拓展新增神经元并引入缩放因子分配原有神经元与新增神经元的权重,完成类别增量训练。
24、第三方面,本发明实施例提供一种电子设备,包括存储器和处理器,所述存储器上存储有可在所述处理器上运行的程序代码,所述程序代码被所述处理器执行时,实现如第一方面任一项实施方式所介绍的一种自适应动态神经元的电磁目标类别增量学习方法。
25、第四方面,本发明实施例提供一种计算机存储介质,该计算机存储介质储存有一个或多个程序,一个或者多个程序可被如第三方面介绍的电子设备执行,以实现如第一方面任一项实施方式所介绍的一种自适应动态神经元的电磁目标类别增量学习方法。
26、本发明利用自编码器完成旧样本的特征学习,用于保证对旧类别目标分类知识的记忆和蒸馏,避免灾难遗忘;同时经自编码器特征变化后,在分类网络中设计了自适应聚合网络的动态调整机制,使特征提取及分类网络的主要权重同时兼顾新类的适应性和旧类的知识继承,避免新类少量样本带来分类网络的剧烈变化。从而完成复杂变化的电磁目标在频繁增加类别、新旧类别样本量差异悬殊的小样本新类别增量学习,在运算量较小的条件下,使增量后的新模型既保证旧类别的分类性能下降极小,同时对新类别的适应性也呈现优异性能。
27、应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
1.一种自适应动态神经元的电磁目标类别增量学习方法,其特征在于,所述方法包括:
2.根据权利要求1所述的一种自适应动态神经元的电磁目标类别增量学习方法,其特征在于,所述对电磁目标样本数据进行归一化处理,包括:
3.根据权利要求1所述的一种自适应动态神经元的电磁目标类别增量学习方法,其特征在于,所述联合训练自编码器与分类器,包括:
4.根据权利要求3所述的一种自适应动态神经元的电磁目标类别增量学习方法,其特征在于,所述分类器还包括softmax层;编码特征经线性层、自适应权重放缩层和归一化层处理后,输入softmax层输出分类结果。
5.根据权利要求1所述的一种自适应动态神经元的电磁目标类别增量学习方法,其特征在于,所述自适应聚合动态神经元结构包括稳定块与增量块;
6.根据权利要求5所述的一种自适应动态神经元的电磁目标类别增量学习方法,其特征在于,所述拓展新增神经元并引入缩放因子分配原有神经元与新增神经元的权重,包括:
7.根据权利要求1所述的一种自适应动态神经元的电磁目标类别增量学习方法,其特征在于,所述完成类别增量训练的过程中,冻结原始分类模型中自编码器的特征提取模块参数,对分类网络中的自适应聚合动态神经元结构进行参数更新。
8.一种自适应动态神经元的电磁目标类别增量学习装置,其特征在于,包括:
9.一种电子设备,其特征在于,所述电子设备包括存储器和处理器,所述存储器上存储有可在所述处理器上运行的程序代码,所述程序代码被所述处理器执行时,实现如权利要求1-7中任一项所述的一种自适应动态神经元的电磁目标类别增量学习方法。
10.一种计算机可读存储介质,其特征在于,该所述计算机可读存储介质存储有程序代码,所述程序代码可被一个或多个处理器调用执行如权利要求1-7中任一项所述的一种自适应动态神经元的电磁目标类别增量学习方法。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com