应用于领域大模型的低秩适配参数冻结方法及系统与流程

摘要: 本申请涉及金融科技与人工智能交叉,具体而言,涉及一种应用于领域大模型的低秩适配参数冻结方法及系统。背景技术:1、随着金融行业数字化转型的深入推进,金融交易凭证的...
应用于领域大模型的低秩适配参数冻结方法及系统与流程

本申请涉及金融科技与人工智能交叉,具体而言,涉及一种应用于领域大模型的低秩适配参数冻结方法及系统。

背景技术:

1、随着金融行业数字化转型的深入推进,金融交易凭证的自动化识别与风险管控成为金融科技领域的核心需求。金融交易凭证涵盖银行转账回单、电子发票、汇票、支票、保险单据等多种类型,其版面布局复杂、字体格式多样、印章与手写信息交织,传统的光学字符识别技术和基于规则的模板匹配方法难以有效应对凭证种类的高度异质性和版式的非结构化特征。近年来,基于大规模预训练模型的领域适配技术逐渐被引入金融风控场景,通过在通用大语言模型或多模态大模型基础上引入低秩适配参数进行领域微调,以较低的参数更新成本实现对金融风控任务的专业化能力迁移。然而,现有的低秩适配微调方案通常将金融交易凭证视为整体图像输入,对模型全部适配参数层进行统一的增量更新,这种方式存在以下突出问题:其一,金融交易凭证图像包含凭证头信息区、交易明细区、金额汇总区、印章签名区、二维码条形码区等多个语义差异显著的区域,统一更新策略导致不同语义区域对应的适配参数相互干扰,模型在特定语义区域上的判别能力被稀释;其二,全量适配参数的增量更新带来较大的计算资源消耗和存储开销,在面对高频次、多批次的金融凭证持续流入场景时,模型迭代效率低下且存在灾难性遗忘风险;其三,现有技术尚未建立将凭证图像按语义区域解构后与领域大模型适配参数层进行精细化拓扑对应的手段,无法在参数层面实现对不同凭证语义区域的差异化冻结与增量更新策略。

技术实现思路

1、有鉴于此,本申请的目的在于提供一种应用于领域大模型的低秩适配参数冻结方法及系统。

2、依据本申请的第一方面,提供一种应用于领域大模型的低秩适配参数冻结方法,所述方法包括:

3、获取金融交易凭证图像流,所述金融交易凭证图像流包含按采集时序排列的多帧金融交易凭证图像,每帧金融交易凭证图像标注有采集时序编号和凭证来源渠道标识;

4、对所述金融交易凭证图像流进行图像区域语义解构处理,将每帧金融交易凭证图像按照语义区域划分规则拆解为多个图像语义区域单元,并为每个图像语义区域单元分配语义类型标签和区域位置编码;

5、调用所述金融风控领域大模型对应于各语义类型标签的适配参数层,依据每个图像语义区域单元的区域位置编码和语义类型标签构建参数冻结拓扑模板,并将所述参数冻结拓扑模板投射至所述金融风控领域大模型的适配参数层中划定冻结参数区域;

6、对所述金融风控领域大模型的适配参数层中所述冻结参数区域以外的未冻结低秩适配参数区进行增量更新处理,生成适配参数增量数据包,并将所述适配参数增量数据包写入所述金融风控领域大模型的低秩适配参数存储空间。

7、依据本申请的第二方面,提供一种应用于领域大模型的低秩适配参数冻结系统,所述应用于领域大模型的低秩适配参数冻结系统包括机器可读存储介质及处理器,所述机器可读存储介质存储有机器可执行指令,所述处理器在执行所述机器可执行指令时,该应用于领域大模型的低秩适配参数冻结系统实现前述的应用于领域大模型的低秩适配参数冻结方法。

8、依据上述任意一个方面,本申请的技术效果在于:

9、首先通过获取带有采集时序编号和凭证来源渠道标识的金融交易凭证图像流,继而通过图像区域语义解构处理将每帧凭证图像按照语义区域划分规则拆解为多个具有语义类型标签和区域位置编码的图像语义区域单元,使得原本作为整体输入的非结构化凭证图像被转化为具有明确语义分类和空间定位信息的结构化表征单元,在此基础上,调用金融风控领域大模型对应于各语义类型标签的适配参数层,依据区域位置编码和语义类型标签构建参数冻结拓扑模板并投射至适配参数层中划定冻结参数区域,实现了在参数空间维度上将与特定凭证语义区域强关联的适配参数进行冻结,既保留了领域大模型已有的通用金融风控知识,又避免了不同语义区域适配参数之间的交叉干扰;最终仅对冻结参数区域以外的未冻结低秩适配参数区进行增量更新并生成适配参数增量数据包写入存储空间,使得模型在维持核心参数稳定性的同时以极低的计算和存储代价完成对新增凭证语义模式的快速适配,实现了在金融凭证高频持续流入场景下对领域大模型进行语义感知型差异化参数管控的能力,显著提升了金融风控领域大模型在多类型凭证识别任务中的适配效率、参数稳定性和泛化判别精度。

1.一种应用于领域大模型的低秩适配参数冻结方法,其特征在于,所述方法包括:

2.根据权利要求1所述的应用于领域大模型的低秩适配参数冻结方法,其特征在于,所述对所述金融交易凭证图像流进行图像区域语义解构处理,将每帧金融交易凭证图像按照语义区域划分规则拆解为多个图像语义区域单元,并为每个图像语义区域单元分配语义类型标签和区域位置编码,包括:

3.根据权利要求1所述的应用于领域大模型的低秩适配参数冻结方法,其特征在于,所述调用所述金融风控领域大模型对应于各语义类型标签的适配参数层,依据每个图像语义区域单元的区域位置编码和语义类型标签构建参数冻结拓扑模板,并将所述参数冻结拓扑模板投射至所述金融风控领域大模型的适配参数层中划定冻结参数区域,包括:

4.根据权利要求1所述的应用于领域大模型的低秩适配参数冻结方法,其特征在于,所述对所述金融风控领域大模型的适配参数层中所述冻结参数区域以外的未冻结低秩适配参数区进行增量更新处理,生成适配参数增量数据包,并将所述适配参数增量数据包写入所述金融风控领域大模型的低秩适配参数存储空间,包括:

5.根据权利要求1所述的应用于领域大模型的低秩适配参数冻结方法,其特征在于,所述方法还包括:

6.根据权利要求1所述的应用于领域大模型的低秩适配参数冻结方法,其特征在于,所述方法还包括:

7.根据权利要求5所述的应用于领域大模型的低秩适配参数冻结方法,其特征在于,所述方法还包括:

8.根据权利要求6所述的应用于领域大模型的低秩适配参数冻结方法,其特征在于,所述方法还包括:

9.根据权利要求1所述的应用于领域大模型的低秩适配参数冻结方法,其特征在于,所述方法还包括:

10.一种应用于领域大模型的低秩适配参数冻结系统,其特征在于,包括处理器以及计算机可读存储介质,所述计算机可读存储介质存储有机器可执行指令,所述机器可执行指令被处理器执行时实现权利要求1-9中任意一项所述的应用于领域大模型的低秩适配参数冻结方法。