一种基于多专家网络的甲骨文识别方法、系统、电子设备及存储介质

摘要: 一、本发明涉及计算机视觉、深度学习、模式识别以及古文字智能识别,尤其涉及一种基于多专家网络的甲骨文识别方法、系统、电子设备及计算机可读存储介质。该方法针对甲骨文...
一种基于多专家网络的甲骨文识别方法、系统、电子设备及存储介质

一、本发明涉及计算机视觉、深度学习、模式识别以及古文字智能识别,尤其涉及一种基于多专家网络的甲骨文识别方法、系统、电子设备及计算机可读存储介质。该方法针对甲骨文图像中存在的字形类内形态变化显著、类别样本分布不均衡以及低频类别识别困难等问题,通过构建多专家协同学习网络,实现对复杂甲骨文字形特征的有效提取与分类识别,可广泛应用于数字文化遗产保护、古文字自动释读、智慧考古以及古籍文献数字化等应用场景。

背景技术:

0、二、背景技术

1、甲骨文是目前已发现的中国最早成熟文字体系之一,承载了丰富的社会、历史和文化信息。随着人工智能技术的发展,利用计算机视觉方法对甲骨文图像进行自动识别,能够有效降低人工释读成本,提高古文字研究效率,对于数字文化遗产保护和中华文明传承具有重要意义。然而,由于甲骨文形成年代久远,其图像通常存在较大的字形变化和类别不均衡问题。一方面,由于受到刻写载体、保存环境以及不同书写风格影响,同一甲骨文字在不同样本中可能呈现明显的结构变化,使传统识别方法难以学习稳定的判别特征;另一方面,甲骨文字类别通常具有明显的长尾分布特点,部分常见字符拥有大量训练样本,而大量低频字符仅包含少量样本,导致模型训练过程中容易偏向高频类别,从而降低少样本类别的识别能力。

2、现有甲骨文识别方法主要基于卷积神经网络或视觉transformer模型,通过自动学习图像特征提高识别性能。然而,单一网络结构通常采用统一特征表示方式,难以针对不同类型甲骨文字形变化学习具有差异性的判别特征。同时,在长尾数据分布条件下,模型分类边界容易受到高频类别影响,使低频类别特征空间受到压缩,导致识别性能下降。

3、近年来,部分方法尝试利用数据增强、多尺度特征融合以及长尾学习策略改善甲骨文识别效果,但仍存在以下不足:

4、(1)现有方法通常依赖单一特征表示,难以充分挖掘不同甲骨文字形之间具有差异性的判别信息;

5、(2)传统分类头结构容易导致不同类别特征表示趋同,限制了多样化特征学习能力;

6、(3)针对长尾类别问题的方法主要通过调整类别权重缓解数据不平衡,但缺少针对专家特征学习过程的解耦机制,难以同时兼顾高频类别和低频类别识别性能。

7、因此,亟需一种能够利用多个专家网络学习互补特征,并通过特征解耦机制提高长尾类别识别能力的甲骨文智能识别方法。

技术实现思路

0、三、 技术实现要素:

1、(一)发明目的

2、本发明的目的在于克服现有甲骨文识别方法中存在的字形类内形态变化显著、类别样本分布不均衡以及低频类别识别能力不足等问题,提供一种基于多专家网络的甲骨文识别方法、系统、电子设备及存储介质。本发明通过构建共享特征提取骨干网络与多专家协同学习框架,使不同专家分支能够针对甲骨文字形的不同判别特征进行学习;通过设计解耦专家通道-空间适配模块,实现不同专家之间的特征差异化建模;同时引入专家解耦损失函数,缓解长尾类别分布导致的分类偏置,提高模型对于复杂形态变化字符以及低频类别字符的识别准确性和鲁棒性。

3、(二)技术方案:

4、为实现上述目的,本发明采用如下技术方案:

5、1. 一种基于多专家网络的甲骨文识别方法,包括如下步骤:

6、步骤s1:获取甲骨文图像并进行预处理

7、获取待识别的甲骨文图像,对输入图像进行尺寸调整、归一化以及数据增强处理,获得适用于网络输入的标准化图像数据。优选地,可采用随机裁剪、随机翻转、亮度调整等方式增强训练样本多样性,提高模型对于不同图像质量和字形变化的适应能力。

8、步骤s2:构建共享特征提取骨干网络并获取共享特征表示

9、将预处理后的甲骨文图像输入共享特征提取骨干网络,通过多阶段层次化结构逐步提取不同尺度的字形特征。

10、所述共享特征提取骨干网络包括浅层特征提取阶段和深层语义增强阶段。在浅层阶段,通过卷积操作提取甲骨文字形中的局部纹理、笔画以及边缘结构信息;在深层阶段,引入注意力增强模块(attention-4d),通过建立长距离空间依赖关系,提高模型对甲骨文字形整体拓扑结构和全局语义信息的感知能力。

11、具体地,对于输入特征x,通过卷积操作获得查询特征、键特征和值特征:。

12、进一步利用注意力机制建立不同区域之间的信息关联,获得增强后的全局特征表示:。

13、其中,表示通过局部卷积获得的局部结构信息,用于增强模型对甲骨文细粒度笔画特征的感知能力。

14、步骤s3:构建多专家网络并进行专家特征解耦

15、将步骤s2获得的共享特征表示输入多个并行设置的专家分支,每个专家分支包括解耦专家通道-空间适配模块(decsa)以及分类预测模块。

16、由于不同甲骨文字形具有不同的结构变化特点,本发明通过多个专家分支学习不同角度下的判别特征,使各专家能够关注互补的特征子空间。

17、其中,所述解耦专家通道-空间适配模块包括:

18、(1)通道特征校准过程;

19、将共享特征沿通道方向进行划分,一部分特征用于提取局部结构响应,另一部分特征根据全局统计信息生成通道权重,通过通道权重调整不同特征通道的重要程度。

20、其过程表示为:,其中,表示局部结构特征,表示通道校准权重。

21、(2)空间特征调制过程;

22、对通道校准后的特征进一步进行空间区域增强,通过生成空间响应权重突出甲骨文字形关键区域,同时抑制背景冗余信息。

23、经过上述处理后,不同专家分支获得具有差异性的专家特征表示。

24、步骤s4:利用专家解耦损失函数优化网络训练

25、为了降低甲骨文数据长尾分布对模型训练造成的不利影响,本发明设计专家解耦损失函数(de-loss)对多专家网络进行联合优化。

26、所述专家解耦损失函数包括:

27、(1)类别分布感知边界调整项;

28、根据不同类别样本数量动态调整分类边界,使样本数量较少的低频类别获得更充分的特征判别空间。

29、(2)专家多样性约束项;

30、通过约束不同专家分支输出特征或预测分布之间的差异,使不同专家学习互补特征,避免多个专家学习相同表示。

31、整体优化目标表示为:。其中,表示分类损失,表示专家多样性约束损失,表示约束权重。

32、步骤s5:融合专家预测结果并输出识别结果

33、经过多个专家分支预测后,对各专家输出结果进行融合,获得最终甲骨文类别预测结果。

34、优选地,可采用平均融合方式:。其中,m示专家数量,表示第i个专家输出的类别概率。

35、根据融合后的概率结果,选择最大概率对应类别作为最终识别结果。

36、在模型训练阶段,对所述多专家网络进行端到端监督优化。优选地,采用交叉熵损失函数作为基础分类损失函数,对各专家分支输出结果与真实类别标签之间的差异进行约束。进一步地,为降低甲骨文数据集中类别样本数量差异导致的分类偏置问题,引入专家解耦损失函数(de-loss)对模型进行优化。所述专家解耦损失函数包括类别分布感知边界调整项和专家多样性约束项。其中,类别分布感知边界调整项根据不同类别样本数量动态调整分类决策边界,使样本数量较少的低频类别获得更大的特征判别空间,降低模型对于高频类别的偏向。专家多样性约束项通过约束不同专家分支输出特征或预测概率分布之间的差异,使多个专家学习具有互补性的特征表示,避免不同专家之间产生相似的特征学习结果。

37、优选地,在训练过程中采用adamw优化器对网络参数进行更新,并结合学习率调整策略提高模型收敛速度和泛化能力。

38、3. 一种基于多专家网络的甲骨文识别系统

39、本发明还提供一种基于多专家网络的甲骨文识别系统,包括:

40、图像获取模块,用于获取待识别的甲骨文图像,并对输入图像进行尺寸调整、归一化以及数据增强处理;共享特征提取模块,用于通过共享特征提取骨干网络对输入图像进行多阶段特征提取,并利用注意力增强模块获取包含局部结构信息和全局语义信息的共享特征表示;多专家特征解耦模块,用于将共享特征输入多个专家分支,通过解耦专家通道-空间适配模块(decsa)对不同专家进行特征调整,使不同专家学习互补的判别特征子空间;损失优化模块,用于利用专家解耦损失函数对多专家网络进行联合训练,通过类别分布感知边界调整和专家多样性约束优化模型参数;识别结果输出模块,用于融合多个专家分支输出结果,并输出最终甲骨文识别结果。

41、本发明还提供一种电子设备,包括处理器、存储器以及存储于所述存储器中的计算机程序。所述计算机程序在被所述处理器执行时,使所述电子设备执行上述基于多专家网络的甲骨文识别方法。所述电子设备可以为服务器、计算机、边缘计算设备或者其他具备数据处理能力的智能终端设备。

42、本发明还提供一种计算机可读存储介质,其上存储有计算机程序。所述计算机程序在被处理器执行时,实现上述基于多专家网络的甲骨文识别方法。所述计算机可读存储介质包括但不限于磁存储介质、光存储介质以及半导体存储介质。

43、(三)有益效果

44、与现有技术相比,本发明至少具有如下有益效果:

45、1.本发明通过构建共享特征提取骨干网络与多专家协同学习框架,使不同专家分支能够针对甲骨文字形变化特点学习具有差异性的判别特征,有效提升模型对复杂字形变化的适应能力;

46、2.本发明通过在共享特征提取网络中引入注意力增强模块,利用长距离依赖关系建模甲骨文字形整体拓扑结构,同时结合局部结构信息,提高模型对于甲骨文字形全局语义信息和细粒度笔画特征的提取能力;

47、3.本发明设计了解耦专家通道-空间适配模块(decsa),通过通道维度特征校准和空间维度特征调制,对不同专家分支进行特征差异化调整,使不同专家关注互补的特征子空间,避免多个专家学习过程中产生特征表示趋同的问题;

48、4.本发明通过引入专家解耦损失函数(de-loss),利用类别分布感知边界调整机制缓解长尾类别分布导致的分类偏置,并通过专家多样性约束增强不同专家之间的互补性,提高低频类别甲骨文字符的识别能力;

49、5.本发明能够有效适应甲骨文图像中存在的字形高度相似、结构变化明显以及类别样本数量差异较大的复杂场景,提高甲骨文自动识别的准确性、稳定性和泛化能力;

50、6.本发明可部署于云端计算平台、边缘计算设备以及智慧考古系统中,在数字文化遗产保护、古文字自动释读以及古籍文献数字化等领域具有良好的应用前景。