一种基于敏感区域划分的叉车领域大模型高效微调方法
本方法涉及人工智能领域,尤其涉及一种基于敏感区域划分的叉车领域大模型高效微调方法。
背景技术:
1、随着现代仓储物流与工业制造的快速发展,叉车作为核心的物料搬运设备,其保有量相当大。然而,叉车维修保护领域具有设备型号多、故障类型复杂、专业术语密集以及维修知识具有强领域依赖性的特点,通用大语言模型直接应用时存在专业知识理解不足的问题。
2、近年来,大语言模型在通用问答领域表现卓越,但在面对叉车维护这种垂直且专业的工业领域时,由于缺乏专门的领域术语与诊断逻辑,常常出现“幻觉”或给出宽泛无用的建议。为了让大模型掌握叉车维护知识,常规的全参数微调面临极高的算力与显存成本。目前工业界常采用参数高效微调(peft)技术,如 lora(低秩自适应)技术和 dora(权重分解低秩自适应)技术。然而,在将大模型向叉车维修领域迁移时,现有 peft 技术暴露出以下严重缺陷:
3、(1)行业专业术语拟合困难;
4、叉车领域训练语料具备通用句法框架固定、语义高度专业化的特征,模型浅层网络侧重通用语法特征提取,对叉车专属业务数据敏感度低;深层网络负责专业术语、故障逻辑映射,任务敏感度高。现有参数高效微调方法(如lora、dora)通常采用统一秩配置方式,即不同transformer层使用相同规模的低秩适配参数。该方式未考虑不同网络层对于叉车专业知识迁移的重要程度差异,容易导致部分承载故障逻辑、维修知识推理功能的网络区域参数容量不足,同时使部分低敏感区域产生参数冗余。
5、(2)浅层网络易引入高频特征噪声;
6、现有基于敏感度的动态秩调整方法虽然能够依据模型参数重要程度进行资源分配,但通常采用敏感度排序方式,将网络层按照敏感度大小排列,并选择部分高敏感层进行适配器配置。该方式忽略了transformer网络不同深度区域存在连续功能差异的问题,无法充分体现叉车领域模型中不同区域承担的通用语言表达、领域语义映射以及专业知识推理功能差异。
7、(3)现有自适应秩优化算法在叉车数据集适配效果不佳;
8、adalora 依靠奇异值分解与正交约束实现动态秩自适应分配,其动态秩搜索过程引入额外计算开销,在资源受限的大模型领域迁移场景下增加优化复杂度,并可能降低参数更新效率,存在不足。
9、综上所述,如何针对叉车领域大模型中不同网络区域的知识表征特点,在有限参数预算约束下实现区域化、连续化的低秩参数配置,是目前需要解决的技术问题。
技术实现思路
1、以下是对本文详细描述的主题的概述。
2、本技术的目的在于至少一定程度上解决相关技术中存在的技术问题之一,本技术实施例提供了一种基于敏感区域划分的叉车领域大模型高效微调方法。
3、本技术的第一方面的实施例,一种基于敏感区域划分的叉车领域大模型高效微调方法,包括:
4、将下游任务微调数据集输入预训练的大语言模型,所述大语言模型接有配置基础秩的权重分解低秩模块;
5、从所述下游任务微调数据集筛选敏感度探针数据集进行探针试验,计算得到权重梯度矩阵的敏感度;
6、依据敏感度沿网络深度方向的变化趋势,将连续网络层划分为多个敏感区域;
7、基于不同敏感区域的重要程度确定单层秩分配基准比例,根据敏感区域的层数和所述单层秩分配基准比例计算单一层级分配秩;
8、根据所述单一层级分配秩对各敏感区域构建对应维度的低秩分解矩阵,融合所述低秩分解矩阵与大语言模型的原始权重得到融合权重;
9、将所述融合权重分解为幅度向量与由非对称低秩分解矩阵表征的方向矩阵,使用叉车领域微调数据集训练大语言模型,在训练过程中冻结原始权重并对所述幅度向量、所述非对称低秩分解矩阵进行迭代更新,得到微调后的大语言模型。
10、根据本技术的第一方面的某些实施例,采用敏感度探针数据集中的叉车维修保护数据集进行探针试验,计算得到权重梯度矩阵的敏感度,包括:
11、选取总训练步数预设比例的训练批次,执行前向传播与反向梯度求解,全程冻结全部模型参数,不执行参数迭代更新;
12、采集各个transformer层的权重梯度矩阵;
13、计算权重梯度矩阵的梯度范数作为对应网络层对叉车维保任务的拟合敏感度。
14、根据本技术的第一方面的某些实施例,所述权重梯度矩阵的敏感度通过式子表示为:
15、;
16、式中,为第i层网络的权重梯度矩阵的敏感度,为第i层网络的权重梯度矩阵,表示f范数计算,表示第i层网络的权重梯度矩阵的第x行第y列元素。
17、根据本技术的第一方面的某些实施例,所述敏感区域的分区判定规则,包括:
18、当相邻网络层敏感度变化趋势保持相对稳定时,划分为同一敏感区域;
19、当敏感度变化趋势发生明显变化时,作为区域边界;
20、区域数量和边界位置由敏感度变化趋势确定。
21、根据本技术的第一方面的某些实施例,所述单层秩分配基准比例的分配原则为:
22、高敏感区域的低秩参数容量大于中敏感区域和低敏感区域的低秩参数容量;
23、中敏感区域的低秩参数容量在预设容量范围内;
24、低敏感区域具有非零秩配置。
25、根据本技术的第一方面的某些实施例,所述单层秩分配基准比例通过式子表示为:
26、;其中,;
27、式中,为第个敏感区域的单层秩分配基准比例,为敏感区域的数量,为第个敏感区域的平均敏感度,为第个敏感区域,为第个敏感区域的第个敏感度。
28、根据本技术的第一方面的某些实施例,原始权重按照以下式子进行更新:
29、;
30、式中,为更新后的原始权重,为原始权重,为低秩增量矩阵,m为可学习的幅值参数,为矩阵归一化操作。
31、根据本技术的第一方面的某些实施例,所述下游任务微调数据集包括叉车维护知识、零部件名称、故障现象描述、故障原因分析以及维修方案的领域知识样本。
32、本技术的第二方面的实施例,一种电子设备,包括:存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如本技术的第一方面的实施例所述的基于敏感区域划分的叉车领域大模型高效微调方法。
33、本技术的第三方面的实施例,一种计算机存储介质,其特征在于,存储有计算机可执行指令,所述计算机可执行指令用于执行如本技术的第一方面的实施例所述的基于敏感区域划分的叉车领域大模型高效微调方法。
34、上述方案至少具有以下的有益效果:
35、(1)基于敏感区域划分替代敏感度排序,提高领域知识分配准确性:本方法通过分析transformer网络层敏感度沿网络深度方向的连续变化规律,将网络层划分为不同敏感区域,而非按照单层敏感度大小进行全局排序选择。相较于现有基于敏感度排序的低秩适配方法,本方法能够保留transformer网络层级结构关系,避免不同功能层仅因敏感度数值接近而被视为等价的问题,使承担叉车故障逻辑推理、专业知识映射的区域获得更加精准的参数资源配置。
36、(2)连续非零秩配置,提高低敏感区域领域适应能力:本方法提出比例化秩配置机制,根据不同敏感区域的重要程度分配不同容量的低秩参数,并保证所有敏感区域均具有非零秩配置。相比现有根据敏感度选择部分网络层配置适配器、其余层保持冻结的离散式参数分配方式,本方法避免低敏感区域完全冻结导致的领域表达能力下降,使模型能够同时保持通用语言能力和叉车专业表达适应能力。
37、(3)有限参数预算下,提高专业知识学习效率:在总训练参数预算保持不变的条件下,本方法根据叉车领域任务敏感区域进行参数容量重新分配,使更多可训练参数用于故障诊断、维修逻辑和零部件关联等专业知识表征区域,减少低价值参数更新,提高有限参数条件下的领域知识学习效率。
38、(4)降低低敏感区域无效参数更新:本方法对低敏感区域配置较小秩参数,限制低敏感区域中过量自由参数产生的无效拟合,使模型减少对叉车训练数据中偶然噪声特征的学习,提高模型生成结果稳定性和泛化能力。
39、(5)降低动态秩优化计算复杂度:相较于基于奇异值分解和正交约束的动态秩优化方法,本方法通过一次敏感度探针实验获得区域划分结果,并依据区域比例完成秩配置,无需在训练过程中持续执行复杂的动态秩搜索和约束优化,因此降低了参数调整过程中的额外计算开销,提高了大规模叉车领域模型微调效率。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com