一种基于结构化推理链微调与多智能体协同的决策方法

摘要: 本发明涉及计算机数据处理及人工智能,具体涉及一种基于结构化推理链微调与多智能体协同的决策方法。背景技术:1、随着大语言模型及智能体技术在平台业务管理、合规审核和...
一种基于结构化推理链微调与多智能体协同的决策方法

本发明涉及计算机数据处理及人工智能,具体涉及一种基于结构化推理链微调与多智能体协同的决策方法。

背景技术:

1、随着大语言模型及智能体技术在平台业务管理、合规审核和业务判断等场景中的应用,基于用户问题自动检索专业资料并生成决策支持报告,已成为提高复杂业务信息处理效率的重要方式。然而,平台业务问题通常具有表达不规范、上下文跨轮次、参与主体较多、约束条件叠加以及专业依据分散等特征,现有平台业务处理系统和通用大语言模型难以稳定完成从问题理解到报告输出的连续处理。

2、现有技术主要存在以下技术缺陷:

3、(1)用户意图和业务约束解析不充分:传统平台业务系统多依赖关键词匹配或固定规则,通用大语言模型则多直接基于提示词生成回答,均缺少对问题类型、目标结果、关键子问题、参与主体、分析对象和约束条件的统一结构化表示,容易造成主问题识别偏差、约束遗漏和多轮对话信息丢失;

4、(2)复杂场景专用模型训练与评测不足:在真实历史问答数据不足的冷启动条件下,通用大语言模型缺少面向平台业务场景的监督样本,难以稳定输出字段完整且可解析的中间链路;同时,现有方案通常只评价最终文本,缺少针对结构完整性、字段准确性和资料需求描述符合程度的可量化对比机制;

5、(3)专业资料检索精度与来源一致性不足:单纯关键词检索难以召回用词不同但语义相关的资料,单纯向量检索又容易遗漏法律名称、主体名称和专业术语等精确词项;当原始文件、文档级来源信息和片段级检索索引分散管理时,还容易产生检索结果与原文来源无法准确对应的问题;

6、(4)报告内容与专业依据相脱离:现有生成式系统往往允许模型根据自身参数记忆补写外部事实、法律规则、研究结论或案例内容,缺少对实际使用片段及其文档标识、页码和来源地址的强制关联,在资料不足时也不能可靠标记待核验内容,导致报告依据难以回溯;

7、(5)各处理环节缺少协同反馈:现有方案通常将意图理解、资料检索和报告生成作为相互独立的串行环节,前序环节产生的识别错误或召回不足会直接传递至最终报告;报告未达到要求时,系统难以根据失分原因定向返回相应环节重新处理,也无法形成具有限次控制和人工复核出口的质量优化闭环。

8、因此,如何在历史数据不足的条件下,使模型稳定生成能够表征问题目标、业务场景和资料需求的结构化中间链路,并基于所述中间链路协同完成可溯源公开资料检索、结构化报告生成、客观评估和定向反馈,是复杂平台业务决策支持过程中亟须解决的技术问题。

技术实现思路

1、鉴于上述的分析,本发明实施例旨在提供一种基于结构化推理链微调与多智能体协同的决策方法及系统,用以解决现有方法中意图解析不充分、模型训练不稳定、检索精度与来源一致性不足、报告内容与依据相脱离以及缺乏闭环反馈的技术问题。

2、本发明的目的主要是通过以下技术方案实现的:

3、本发明提供了一种基于结构化推理链微调与多智能体协同的决策方法,包括如下步骤:

4、步骤s1,基于冷启动对话数据集中的每一条用户对话样本,生成对应的三维结构化链路;将每个用户对话样本与对应的三维结构化链路配对,构建监督训练样本集;

5、步骤s2,利用所述监督训练样本集对基座大语言模型进行监督微调,得到第一模型;其中,所述第一模型用于基于输入的自然语言的用户对话,实时生成对应的三维结构化链路;

6、步骤s3,利用预构建的公开资料知识库,基于当前用户对话及所述第一模型实时生成的三维结构化链路,分别生成加权关键词查询和语义向量查询,并行执行bm25关键词召回和hnsw向量语义召回,基于两路召回结果生成对应的专业上下文;

7、步骤s4,基于当前用户对话、三维结构化链路和专业上下文,进行多智能体协同生成决策支持报告;对所述决策支持报告进行量化评估;若评估结果未达到评估阈值时,基于评估结果返回步骤s2、s3或s4进行重处理,直至达到预设条件得到最终决策支持报告。

8、进一步地,基于所述冷启动对话数据集中的每一条用户对话样本,生成对应的三维结构化链路,包括:

9、基于用户单轮对话或多轮对话,利用预设的链路生成模板约束,将每个用户对话样本进行问题识别、场景识别和依据需求描述识别,得到对应的三维结构化链路;其中,用户对话样本包括用户问题、补充条件、历史追问信息、业务约束信息和期望输出目标;

10、所述三维结构化链路包括问题维信息、场景维信息和依据维信息;

11、所述问题维信息包括用户问题类型、目标结果、关键子问题集合和问题优先级:

12、所述场景维信息包括场景类型、提问用户角色、相关参与方集合、分析对象和约束条件集合;

13、所述依据维信息为依据需求描述,用于表示后续公开资料检索应关注的资料方向,不表示具体证据内容,不限定具体资料来源,不包括平台内部业务数据。

14、进一步地,所述预设的链路生成模板约束,包括顶层结构约束、字段级格式约束、内容边界约束和序列化格式约束;

15、所述顶层结构约束,用于强制所述三维结构化链路包含问题维信息、场景维信息和依据维信息三个维度且顺序固定,不得缺少任一维度,也不得增加未定义的额外字段;

16、所述字段级格式约束,用于为所述问题维信息、场景维信息和依据维信息中的每个字段规定数据类型和取值规范;

17、所述内容边界约束,用于禁止所述依据维信息包含具体证据内容,并禁止在所述场景维信息的约束条件集合中,禁止在用户未明确给出约束时自行补造;

18、所述序列化格式约束,用于要求所述三维结构化链路按固定字段顺序序列化为可解析的数据格式。

19、进一步地,将每个用户对话样本与对应的三维结构化链路配对,构建监督训练样本集,包括:

20、每条所述监督训练样本包括输入数据和输出数据;

21、其中,所述输入数据为用户单轮对话或多轮对话;所述输出数据为与所述输入数据对应的三维结构化链路;

22、将全部监督训练样本按预设比例划分为训练集和测试集;所述训练集用于第一模型训练时更新模型参数,所述测试集用于第一模型训练完成后进行效果评测。

23、进一步地,利用所述监督训练样本集对基座大语言模型进行监督微调,得到第一模型,包括:

24、以所述训练集中样本作为训练数据,以所述输入数据作为基座大语言模型的输入,以所述输出数据作为基座大语言模型的监督目标输出,使所述基座大语言模型学习从自然语言的用户对话到标准化链路数据的映射关系;

25、将所述监督目标输出转换为标记序列,所述标记序列由所述监督目标输出按顺序拆分而成的多个标记组成;

26、采用交叉熵损失函数,对于所述监督目标输出中的每个标记位置,计算模型预测该位置为正确标记的概率,将全部标记位置的预测概率进行汇总后取负对数,得到所述训练样本的损失值;所述损失值用于量化模型预测结果与标准输出之间的差异;

27、基于所述损失值通过反向传播更新所述基座大语言模型的参数,以最小化所述损失值为目标迭代训练,当完成预设训练轮数后保存模型参数,得到所述第一模型。

28、进一步地,基于当前用户对话及所述第一模型实时生成的三维结构化链路,分别生成加权关键词查询和语义向量查询,包括:

29、从所述三维结构化链路中读取问题维信息、场景维信息和依据维信息中的字段,对读取的字段内容执行中文分词和停用词过滤,根据预设权重规则对分词后的词项赋予权重,形成加权关键词查询;

30、按照预设顺序将所述三维结构化链路中的非空字段拼接为语义查询文本,在所述语义查询文本前附加固定检索指令后输入预训练文本嵌入模型,生成语义向量查询;

31、所述加权关键词查询用于在所述公开资料知识库中执行bm25关键词召回,所述语义向量查询用于在所述公开资料知识库中执行hnsw向量语义召回。

32、进一步地,并行执行bm25关键词召回和hnsw向量语义召回,基于两路召回结果生成对应的专业上下文,包括:

33、基于所述三维结构化链路中依据维信息中的依据需求描述,以及所述场景维中的约束条件集合明确资料类型,生成资料类型过滤条件;

34、基于所述资料类型过滤条件,采用bm25算法对所述加权关键词查询执行关键词召回,得到bm25关键词召回列表;并行地,基于所述资料类型过滤条件,采用hnsw算法对所述语义向量查询执行向量语义召回,得到语义召回列表;

35、采用倒数排名融合算法对所述bm25关键词召回列表和语义召回列表进行融合排序;所述倒数排名融合算法仅利用各片段在所述bm25关键词召回列表和语义召回列表中的排名计算融合得分,对于仅出现在一路召回列表中的片段,仅使用该路排名计算得分;对于同时出现在所述bm25关键词召回列表和语义召回列表两路召回结果中的片段,对两路排名对应的得分累加;按融合得分从高到低对全部片段进行融合排序;

36、对融合排序后的结果依次执行来源完整性校验、文本哈希去重、向量余弦相似度近重复过滤和同源片段数量控制;基于融合得分选取不超过五个片段,生成对应的专业上下文。

37、进一步地,预构建的公开资料知识库,通过如下方式获得:

38、采用自动下载、接口调用抽取或人工导入的方式获取公开资料;所述公开资料至少包括学术论文、专业教材、公开专业案例、法律法规及公开规则文件中的一种或多种;

39、对获得的每一份公开资料生成唯一文档标识,并记录文档标题、作者、发布机构、资料类型、发布日期、来源地址、获取时间及原始文件哈希值;当多份原始文件的哈希值相同时,保留获取时间最早者;

40、对所述公开资料依次执行文档格式识别和文本抽取,得到文档正文;

41、对所述文档正文进行片段切分,将每一文档切分为若干个文档片段,每个片段正文控制在预设字数范围内;

42、为每一文档片段生成唯一片段标识,记录其所属文档标识、作者、发布机构、页码、资料类型和来源地址,形成标准化片段正文;

43、利用预训练中文文本嵌入模型对所述标准化片段正文进行编码,经l2归一化后得到片段向量,并在片段检索索引中建立所述标准化片段正文的关键词倒排索引和所述片段向量的向量索引;所述关键词索引和所述向量索引通过同一片段标识指向同一片段。

44、进一步地,基于当前用户对话、三维结构化链路和专业上下文,进行多智能体协同生成决策支持报告,包括:

45、将所述三维结构化链路中的目标结果、关键子问题、问题优先级和约束条件集合写入预设报告模板;

46、将所述专业上下文中的片段正文作为外部事实和专业依据的唯一限定来源,调用报告生成智能体按照所述预设报告模板生成决策支持报告;所述报告生成智能体在使用所述专业上下文中的专业片段时,同步输出该片段对应的片段标识;

47、基于所述报告生成智能体实际使用的片段标识,从片段检索索引和文档来源索引中获取对应文档标题、作者或发布机构、页码和来源地址,形成资料来源列表;所述资料来源列表基于索引记录生成,不由所述报告生成智能体自由填写;

48、当所述专业上下文为空或不足以支撑任一关键子问题时,在决策支持报告对应位置标记专业资料不足或待核验,所述报告生成智能体不得利用自身参数记忆补写未提供的专业事实;

49、调用评估反馈智能体对所述决策支持报告进行量化评估,获得所述决策支持报告在各评估指标上的评估结果。

50、进一步地,若评估结果未达到评估阈值时,基于评估结果返回步骤s2、s3或s4进行重处理,直至达到预设条件得到最终决策支持报告,包括:

51、所述量化评估包括以下三个评估指标:

52、内容完整率,用于检查所述决策支持报告是否逐项回答所述三维结构化链路中的关键子问题并保留用户明确的约束条件;

53、专业依据覆盖率,用于检查所述决策支持报告中需要使用外部事实、法律规则、研究结论或案例内容的分析项是否关联所述专业上下文中的文档片段;

54、引用可追溯率,用于检查所述决策支持报告中的引用是否能够通过片段标识和文档标识溯源定位到用户对话对应的原始文档;

55、对所述内容完整率、专业依据覆盖率和引用可追溯率按照预设权重加权求和得到评估结果;

56、当所述评估结果不低于预设阈值且所述引用可追溯率为百分之百时,所述决策支持报告通过评估;

57、当所述内容完整率未达到预设阈值时,判定为关键子问题或约束条件缺失,将处理流程返回所述步骤s4重新生成决策支持报告;

58、当所述专业依据覆盖率未达到预设阈值时,判定为所需专业依据未进入所述专业上下文,将对应关键子问题和依据需求返回所述步骤s3重新检索;

59、当所述问题维信息或场景维信息中的字段与用户的原始对话明显不符时,判定为问题目标或场景信息识别错误,返回所述步骤s2重新生成三维结构化链路;

60、当返回重新执行的次数达到预设上限仍未通过评估时,停止自动循环并转为人工复核。

61、与现有技术相比,本发明至少可实现如下有益效果之一:

62、1.本发明提高复杂用户意图解析的完整性:通过问题维、场景维和依据维对用户单轮或多轮对话进行统一结构化表达,能够明确问题目标、关键子问题、相关参与方、分析对象、约束条件及公开资料需求,减少仅依赖关键词或自由文本生成造成的主问题偏离和约束遗漏;

63、2.本发明提高冷启动场景下模型输出的稳定性:利用场景化冷启动对话样本与三维结构化链路构成监督数据,使基座模型学习从自然语言对话到固定字段链路的映射关系,并通过结构完整率、字段准确率和依据需求描述符合率进行量化评测,便于客观验证微调效果并控制线上输出格式;

64、3.本发明兼顾专业资料召回的准确性和覆盖度:采用bm25(一种在信息检索搜索引擎中广泛使用的词袋检索模型,用于评估一个文档与给定查询的相关程度。)关键词召回与hnsw(hierarchical navigable small world,分层可导航小世界网络,是一种高效的近似最近邻搜索算法)向量语义召回相结合的双路检索方式,并通过rrf(reciprocal rankfusion,倒数排名融合,是一种无需分数归一化的排序融合算法,专门用于将多路检索结果,例如bm25的关键词召回列表和hnsw的向量召回列表,合并成一个统一的、更优的排序列表)融合、资料类型过滤及多级去重处理,既能够保留法律名称、主体名称和专业术语的精确匹配能力,又能够召回近义表达和整体语义相关的资料;

65、4.本发明增强专业依据的可追溯性:通过文档中的片段id(chunk_id)和文档id(doc_id)将片段检索索引、文档来源索引及原始文件层关联起来,报告中的资料来源根据实际使用片段生成;当专业资料不足时明确输出缺失或待核验标记,降低模型补造专业事实或生成无法回溯来源的风险;

66、5.本发明实现报告质量的可量化闭环优化:从内容完整性、专业依据覆盖和引用可追溯性三个方面对报告进行统一评估,并依据失分原因将任务定向返回链路生成、资料检索或报告生成环节重新处理,使错误能够定位到具体处理阶段,避免无目标重复生成;

67、6.本发明提高决策支持报告生成效率和系统扩展能力:通过多智能体之间的标准化数据传递,形成从用户问题解析、专业资料检索到报告生成、评估和人工复核出口的连续处理流程,减少人工逐项理解问题、跨来源搜索资料和整理引用的工作量;通过扩充场景样本、更新公开资料知识库和配置评测阈值,可适配不同平台业务场景。

68、本发明中,上述各技术方案之间还可以相互组合,以实现更多的优选组合方案。本发明的其他特征和优点将在随后的说明书中阐述,并且,部分优点可从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点可通过说明书以及附图中所特别指出的内容中来实现和获得。