一种基于低秩适配微调语言模型的无人机集群网络意图转译方法
本发明属于无人机集群组网与意图驱动网络领域,特别涉及基于低秩适配微调语言模型的无人机集群网络意图转译方法。
背景技术:
1、随着无人机在侦察、中继、护航、打击和巡逻等军事与民用任务中的广泛部署,由多架无人机组成的飞行自组织网络(flying ad-hoc networks,fanets)正逐步成为新型机载组网范式。在动态任务场景中,指挥员往往以自然语言下达高层任务指令,而底层网络需要据此生成可执行的服务质量和路由偏好等结构化配置。如何将“高层任务意图-底层网络配置”之间的语义鸿沟自动闭合,是意图驱动网络面向无人机集群应用必须解决的核心问题。
2、现有的意图转译方法主要分为两类。第一类是基于关键字匹配、正则规则或本体的符号化方法,其优点是确定性强、部署成本低,缺点是对自然语言的同义改写、省略、复杂条件子句等表达鲁棒性差,覆盖任务类型受限,扩展能力弱。第二类是基于大规模语言模型的方法。该类方法虽然具有较强语义理解能力,但通常需要较高算力资源或云端推理环境,难以直接部署于无人机机载节点等算力受限的边缘节点。
3、参数量较小的语言模型结合低秩适配微调,可在降低训练与推理开销的同时提升领域任务适配能力。然而,现有公开方案中仍缺乏一种面向无人机集群网络意图对象,兼顾边缘部署能力,结构化输出合规性和复杂自然语言鲁棒性的轻量化意图转译方法。此外,小型语言模型在结构化输出方面容易出现键缺失、逗号缺失或错误生成、大括号未闭合等格式错误,需要专门的解码与后处理机制以保证工程可用性。
技术实现思路
1、本发明的目的是针对无人机集群意图驱动网络场景,提出一种基于低秩适配微调语言模型的无人机集群网络意图转译方法,在满足边缘节点部署需求的同时,将指挥员下达的自然语言任务指令转译为符合预定义模式的结构化网络意图对象。为了实现该目的,本发明所采用的步骤是:
2、步骤1:构造面向无人机集群任务指令的领域监督训练语料。
3、搜集无人机集群任务场景下的自然语言任务指令,并以自然语言任务指令和结构化网络意图对象结对的形式建立原始训练集。所述自然语言任务指令包括侦察、打击、中继、反干扰、巡逻和护航任务场景中的指挥员指令中的至少一种。所述结构化网络意图对象按照预定义网络意图模式进行标注,用于描述无人机集群网络配置所需的任务类型、节点信息、业务服务、网络约束、路由偏好和射频约束。
4、所述无人机集群网络意图模式包括mission_type、nodes_involved、service_profile、network_constraints、routing_preference和rf_constraint字段。其中,mission_type用于表示任务类型;nodes_involved用于表示源节点、目的节点和任务区域;service_profile用于表示主业务、次级业务和可降级业务;network_constraints用于表示时延等级和可靠性等级;routing_preference用于表示预测性切换和稳定路径偏好;rf_constraint用于表示射频发射约束。
5、对每条自然语言任务指令样本进行大小写归一化处理,并匹配预先定义的触发词表。所述触发词表包括静默或电磁管控触发词集合、降级发射触发词集合、预测性切换触发词集合、稳定路由触发词集合、视频业务触发词集合、业务降级触发词集合和目的地触发词集合中的至少一种。根据触发词匹配结果,对结构化网络意图对象中的射频约束字段、路由偏好字段、业务服务字段和节点信息字段中的至少一种进行自动重写。
6、针对训练样本中数量不足的任务类型、业务类型、路由偏好和射频约束的组合,构造参数化任务指令模板;通过替换所述参数化任务指令模板中的无人机编号、任务区域编号、业务描述短语或约束描述短语,生成增强样本;将增强样本与原始训练样本合并,形成增强后的领域监督训练语料。
7、在训练阶段,将每条训练样本拼装为统一的提示词字符串,其形式如式(1)所示:
8、t(c,j)=s0||c||s1||j (1)
9、式中,t(c,j)表示训练阶段生成的提示词字符串,c表示自然语言任务指令文本,j表示目标json字符串,s0表示预设的指令提示词前缀,s1表示响应锚点“json:\n”,||表示字符串拼接操作。在线推理阶段,由于目标json字符串未知,仅使用式(1)中目标json字符串之前的部分构造推理提示词,即p(c)=s0||c||s1,其中p(c)表示输入语言模型的推理提示词字符串。
10、步骤2:对基模型进行低秩适配微调。
11、加载预训练语言模型作为基模型,保持基模型原始参数冻结,并在基模型中被选中的线性投影层注入低秩适配器。所述线性投影层包括注意力投影层和前馈投影层中的至少一种。对于每一个被选中的线性投影层,设其原始权重矩阵为输入向量为引入秩为r的低秩增量矩阵δw,其中则该层前向计算变为:
12、
13、式中,dm表示输入维度,dout表示输出维度,w0表示被冻结的原始权重矩阵,x表示输入向量,δw表示低秩权重增量。表示线性投影层输出向量,α表示lora放缩系数,r表示低秩分解秩。a与b表示可训练的低秩适配矩阵。通过仅训练矩阵a与b,在保持原始权重w0冻结的条件下实现对基模型的领域适配。
14、对于步骤1得到的训练样本,将提示词字符串经分词器编码为token序列,并以下一token预测的自回归方式计算交叉熵损失。为避免模型重复学习指令前缀,引入仅对响应区段计算损失的掩码策略,即仅对位于响应锚点“json:\n”之后的token位置计算损失,对响应锚点之前的指令前缀位置不计算损失。所述损失函数如式(3)所示:
15、
16、式中,l(θ0,δθ)表示训练损失函数,n表示训练样本数量,i表示训练样本序号,t表示token位置索引,θ0表示冻结的原始模型参数,δθ表示可训练的lora适配器参数,表示第i条样本中位于响应锚点“json:\n”之后的token索引集合,表示该索引集合中的token数量,yi,t表示第i条样本中第t个目标token,yi,<t表示第i条样本中第t个token之前的上下文token序列,表示模型在给定前文token条件下生成目标tokenyi,t的条件概率。
17、训练过程中,根据所述损失函数对lora适配器参数进行反向传播更新。训练完成后,保存lora适配器权重和分词器配置,得到面向无人机集群网络意图转译任务的微调适配器。在部署阶段,将该微调适配器加载到原始基模型之上形成完整推理模型,或者在边缘节点先加载基模型再热挂载该微调适配器。
18、步骤3:执行边缘鲁棒推理,并抽取意图对象。
19、在线推理阶段,对指挥员输入的自然语言任务指令c,按照推理提示词p(c)进行提示词组装;当提示词长度超过模型上下文窗口时,保留自然语言任务指令尾部完整片段,并对前缀进行令牌级裁剪。将所述推理提示词输入加载有所述微调适配器的语言模型进行受控自回归解码,得到原始输出字符序列。所述受控自回归解码根据预设的温度参数、核采样参数、最大生成令牌数和重复惩罚系数进行;当需要确定性输出时,关闭采样过程并采用贪心解码。
20、设模型输出的字符序列为o=(o1,o2,...,om),其中m表示输出字符序列长度,oi表示第i个字符。首先定位第一个左大括号位置s=min{i|oi={},然后按照(4)式,以堆栈计数函数对o进行扫描:
21、ci=ci-1+1(oi={)-1(oi=}),cs-1=0,i≥s
22、e=min{i|i≥s,ci=0} (4)
23、式中,ci表示扫描至第i个字符时的括号堆栈计数值,1(·)表示指示函数,当括号内条件成立时取值为1,否则取值为0,e表示与第一个左大括号匹配的右大括号位置。若e存在,则取子串o[s:e]作为候选json字符串j′;若e不存在,则判定为大括号未闭合的失败模式,进入重试或回退策略。
24、针对候选json字符串中相邻字段之间缺失逗号的格式错误,对候选json字符串j′应用式(5)和式(6)所示的正则替换:
25、j(1)=regreplace(j′,p1,r1) (5)
26、j(2)=regreplace(j(1),p2,r2) (6)
27、式中,j(1)表示第一次正则修复后的中间json字符串,j(2)表示第二次正则修复后的json字符串,regreplace(u,p,r)表示在字符串u中查找与正则模式p匹配的内容,并将其替换为替换字符串r的操作,p1表示用于识别对象结束符后缺失逗号情形的正则模式,r1表示对应的替换字符串,p2表示用于识别数组结束符后缺失逗号情形的正则模式,r2表示对应的替换字符串。
28、修复完成后,将j(2)输入严格json解析器进行解析;若解析失败,则记录原始输出并返回失败状态;若解析成功,则将解析得到的意图对象按照预定义的无人机集群网络意图模式逐字段校验。校验内容包括任务类型字段、节点信息字段、业务服务字段、网络约束字段、路由偏好字段和射频约束字段。校验通过的意图对象作为最终机器可读网络意图对象输出。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com