一种面向电力多任务与信创硬件的大模型动态微调方法与流程

摘要: 本发明属于人工智能大语言模型与电力行业数字化,具体涉及一种面向电力多任务与信创硬件的大模型动态微调方法。背景技术:1、随着新型电力系统建设持续推进,源网荷储协同...
一种面向电力多任务与信创硬件的大模型动态微调方法与流程

本发明属于人工智能大语言模型与电力行业数字化,具体涉及一种面向电力多任务与信创硬件的大模型动态微调方法。

背景技术:

1、随着新型电力系统建设持续推进,源网荷储协同互动、多专业业务协同的需求不断提升,电力行业已逐步将大语言模型应用于设备运维、调度分析、科研管理、标准检索等多个业务场景;通用大语言模型具备较强的语义理解与生成能力,但缺乏电力领域专业知识储备与业务规则约束,直接应用时存在专业术语理解偏差、输出结果不符合行业规范等问题,通常需要结合电力领域语料与任务样本开展领域微调,以提升模型对电力业务场景的适配能力。

2、传统大模型微调多采用全量参数更新方式,虽能实现较好的领域适配效果,但对算力资源、显存容量与训练时长要求较高;当前电力企业普遍采用国产化信创硬件开展私有化部署,国产算力芯片的显存容量与单卡算力相对有限,全量微调的资源开销难以适配信创环境的实际条件;同时电力业务场景丰富、任务类型多样,全量统一训练易引发不同任务间的相互干扰,为每个任务独立训练完整模型又会造成参数冗余与资源浪费,提升模型版本管理与运维部署的成本。

3、参数高效微调技术通过在冻结模型主干参数的前提下,引入少量可训练参数完成任务适配,可显著降低训练资源开销;现有参数高效微调方案多面向通用单一场景设计,未针对电力多任务场景构建参数级的共性知识共享与任务特性适配机制,难以兼顾跨任务的知识迁移效率与单任务的个性化适配需求;部分多任务微调方案缺少动态权重调节能力,无法根据任务相似度、训练收敛状态与资源负载灵活调整参数共享比例,易出现多任务负迁移、不同任务训练收益不均衡的问题。

4、与此同时,现有参数高效微调方法大多基于通用算力环境设计,未结合国产信创硬件的资源特性建立显存、参数量、训练时延的约束机制,无法在资源受限条件下实现参数预算的动态分配与任务调度;部署阶段也缺少轻量化的适配器管理与动态加载方案,难以适配电力企业私有化环境下的模型安全管控、版本迭代与多任务按需扩展需求。

技术实现思路

1、为解决现有技术中存在的上述问题,本发明提供了一种面向电力多任务与信创硬件的大模型动态微调方法,本发明的目的可以通过以下技术方案实现:

2、包括:

3、s1:构建覆盖多类电力业务场景的技术研发语料库,抽取面向不同电力业务环节的训练样本并按具体业务输出范式划分独立任务集;提取任务的数据模态、知识密度、计算开销与时效要求进行统一向量化编码表征,同步采集信创算力环境的显存余量、算力吞吐与通信带宽实时状态,划定硬件资源约束边界;

4、s2:基于资源约束边界,选取预训练的大语言模型为数据基座,冻结全部主干网络参数;在微调层植入轻量化适配模块,采用参数高效微调架构对可训练参数进行解耦拆分,构建全局共享的领域共性参数与单任务独立的任务专属参数;

5、s3:结合任务属性编码计算任务间综合相似度,联动训练收敛差异、电力业务数据样本复杂度与实时硬件负载,构造平滑加权函数动态生成共享权重系数;融合领域共性参数与任务专属参数,并按资源约束边界与任务优先级自适应调整参数规模与训练数据采样比例,基于融合损失函数迭代更新可训练参数;

6、s4:训练完成后将领域共性参数固化为电力通用适配器,任务专属参数固化为业务专用适配器;推理时通过任务路由模块识别实际业务指令输入类型,按需执行对应适配器组合的动态加载与权重融合。

7、具体地,所述抽取面向不同电力业务环节的训练样本并按具体业务输出范式划分独立任务集的具体过程为:

8、从技术研发语料库中归集包含调度规程、设备缺陷记录、标准规范、专利文本、科研报告、运行分析材料在内的多类文本资料,执行样本清洗与格式归一化处理;

9、同步进行样本去重与异常内容过滤,剔除格式错乱与内容残缺的无效条目,根据每类样本对应的具体业务输出范式进行归类聚合,形成边界清晰的多组任务集合,每组集合内样本具备一致的应用目标与输出范式。

10、具体地,所述提取任务的数据模态、知识密度、计算开销与时效要求等特征维度进行统一向量化编码表征的具体过程为:

11、针对每一组任务集合,分别提取任务的数据模态、知识密度、计算开销与时效要求等特征维度,编码过程统一采用数值映射规则;

12、离散属性转换归一化标量,连续属性执行区间缩放处理,对各项特征维度执行量化映射后拼接为固定维度的向量表征,生成标准化的任务特征向量。

13、具体地,所述划定资源约束边界的具体过程为:

14、对部署环境中的信创计算节点执行显存余量、算力吞吐与通信带宽等实时状态采集,资源状态采集按固定周期执行,同步记录算力节点的实时负载波动情况;

15、统计包括可用算力、内存容量、显存容量、存储空间、训练框架支撑能力在内的多项基础指标,分别预设多项阈值;

16、各项阈值依据信创硬件标称参数与实际运行余量综合设定,整合形成统一的资源约束边界。

17、具体地,所述选取预训练的大语言模型为数据基座的具体过程为:

18、结合资源约束边界与电力业务适配需求,筛选经过通用预训练或电力领域继续预训练的大语言模型,校验大语言模型主干网络架构与算力环境的兼容性,加载完整的预训练权重文件;

19、加载完成后执行主干参数冻结校验,确认所有主干层权重均处于不可更新状态,保留主干网络完整结构与原有计算逻辑,作为后续微调训练的数据基座。

20、具体地,所述在微调层植入轻量化适配模块的具体过程为:

21、所述大语言模型包括输入嵌入层、多头自注意力层、前馈网络层、层归一化层、输出投影层,各层级按串行顺序衔接构成完整的主干计算链路;

22、在注意力投影层、前馈网络层、输出投影层中选定微调植入位置,植入位置优先选取大语言模型中后段的注意力层与前馈网络层;

23、在不修改原有网络权重的前提下,插入采用旁路并行结构的轻量化适配模块,轻量化适配模块输入输出维度与原层隐状态维度保持一致,轻量化适配模块对接对应层级的隐状态输入与输出,不介入主干网络的原有前向计算链路。

24、具体地,所述采用参数高效微调架构对可训练参数进行解耦拆分的具体过程为:

25、采用低秩适配的参数高效微调架构,将轻量化适配模块内的可训练参数拆解为两组独立的低秩矩阵组;

26、拆分过程为两组低秩矩阵分别设置独立的参数初始化规则,一组对应全局共享的参数空间,另一组对应单任务独立的参数空间;

27、两组低秩矩阵对应参数的计算链路相互隔离,支持独立更新与独立存储管理,互不干扰各自的参数迭代过程。

28、具体地,所述构建全局共享的领域共性参数与单任务独立的任务专属参数的具体过程为:

29、将全局共享的低秩矩阵组设定为领域共性参数,全程参与全部电力任务的训练更新流程,将单任务独立的低秩矩阵组设定为任务专属参数,仅参与对应单一任务的训练更新流程;

30、训练过程中为两类参数设置独立的梯度更新通道,两类参数分别承载领域通用知识与任务专属特征的适配职能,对应不同层级的知识适配需求。

31、具体地,所述计算任务间综合相似度的具体过程为:

32、基于各任务的任务特征向量计算余弦相似度得到语义相似度,获取不同任务在领域共性参数上的梯度向量计算梯度方向相似度;

33、计算完成后对语义相似度和梯度方向相似度分别执行归一化处理,将数值映射至同一取值区间,为语义相似度和梯度方向相似度分配对应平衡系数后执行加权求和运算,输出任务两两之间的综合相似度数值,用于衡量不同任务的知识共性程度。

34、具体地,所述构造平滑加权函数动态生成共享权重系数的具体过程为:

35、以任务平均相似度、训练收敛差异、电力业务数据样本复杂度、信创算力节点实时负载作为输入变量,为各输入变量分配对应调节系数;

36、平滑加权函数内设置平滑因子控制权重更新幅度,通过非线性平滑激活函数执行映射计算,输出处于预设上下限区间内的共享权重系数,共享权重系数随训练轮次实时动态更新。

37、具体地,所述自适应调整参数规模与采样比例的具体过程为:

38、结合当前共享权重系数与任务重要度系数,在资源约束边界的限定范围内,动态调整各任务专属参数对应的低秩秩值;

39、每次调整后均执行资源占用校验,控制总参数量与显存占用不超出约束边界,同时依据上一轮训练损失下降幅度、业务价值评分与样本稀缺程度,动态调整各类任务在训练批次中的训练数据采样占比。

40、具体地,所述按需执行对应适配器组合的动态加载与权重融合的具体过程为:

41、推理阶段识别输入内容对应的实际业务指令类型,通过任务路由模块匹配对应的适配器组合,加载过程支持热切换操作,无需重启模型服务即可完成适配器组合的切换;

42、针对单一任务同步加载电力通用适配器与对应业务专用适配器,针对复合任务加载多组业务专用适配器并按预设权重执行参数融合计算,适配不同业务场景的推理需求。

43、本发明的有益效果为:

44、(1)通过设置有领域共性参数与任务专属参数双轨解耦的参数高效微调架构,结合任务相似度驱动的平滑加权动态赋权机制,可在冻结模型主干参数的前提下实现电力多任务的协同训练,既保障领域通用知识在多任务间的高效迁移,又能针对不同业务任务的差异化需求进行专属适配,有效缓解多任务训练中的负迁移效应,提升不同业务任务的训练收益均衡性与整体适配效果;

45、(2)通过设置有信创硬件感知的资源约束机制与适配器化动态部署架构,可结合国产算力环境的资源状态动态分配参数预算与任务采样比例,在资源受限条件下优先保障核心业务任务的训练效果,训练后形成的轻量化适配器资产支持按需动态加载与热切换,显著降低大模型训练与部署的算力、显存开销,适配电力企业私有化信创环境下的模型运维管控与业务扩展需求。