一种大语言模型输出有用性评估方法
本发明属于自然语言处理,具体涉及一种大语言模型输出有用性评估方法。
背景技术:
1、大语言模型(large language model,llm)具有自然语言理解、知识推理和内容生成能力,已应用于智能问答、代码生成、智能办公、知识服务及智能体等场景。随着应用任务复杂度提高,用户输入的提示词通常同时包含多个任务目标、执行步骤、约束条件和输出要求,大语言模型生成的响应内容能否满足上述要求,直接影响后续业务处理结果。因而,有用性检测逐渐成为大语言模型输出质量检测的重要环节。这里的有用性是指响应内容满足提示词中任务目标、执行逻辑、约束条件及输出要求的综合程度。
2、相关技术中的有用性检测方案主要包括统计度量、端到端黑盒评测以及逻辑或规则校验。统计度量方案通过词汇重叠程度或语义相似度评价响应内容,通常依赖参考文本,且难以反映任务执行顺序和约束满足情况。端到端黑盒评测利用其他大语言模型直接给出评分,评测结果容易受到评判模型能力、提示词设计和生成随机性的影响。逻辑或规则校验能够识别部分事实错误或逻辑冲突,但受规则库或知识库覆盖范围限制,并且难以连续量化响应内容对各项用户需求的满足程度。
3、上述方案通常未对用户需求结构、响应内容结构及二者之间的全局对应关系进行统一建模。面对包含多个子任务的复杂提示词时,整体语义相似并不意味着各项需求均已完成;局部语义相似也可能对应错误的执行顺序、依赖关系或约束条件。同时,只输出整体评分难以定位未满足的需求和相应的响应片段。
技术实现思路
1、为了解决现有技术中存在的上述问题,本发明提供了一种大语言模型输出有用性评估方法。本发明要解决的技术问题通过以下技术方案实现:
2、第一方面,本发明提供了一种大语言模型输出有用性评估方法,包括:
3、获取用户输入的提示词及大语言模型基于所述提示词生成的响应内容;
4、根据所述提示词构建需求图和需求约束集合,并根据所述响应内容构建响应图和响应约束集合;
5、根据所述需求图、所述需求约束集合、所述响应图和所述响应约束集合,基于所述需求图中的需求节点与所述响应图中的响应节点之间的语义一致性、局部拓扑一致性及约束属性一致性确定结构约束先验矩阵,并基于所述需求节点与所述响应节点之间的语义距离确定运输成本矩阵;
6、根据所述运输成本矩阵和所述结构约束先验矩阵,通过贝叶斯最优传输模型确定所述需求节点与所述响应节点之间的最优运输矩阵;
7、根据所述最优运输矩阵和所述结构约束先验矩阵构建需求满足图,根据所述需求满足图确定各所述需求节点的需求满足状态和所述响应内容的有用性评分;输出包括所述需求满足状态及所述有用性评分的有用性检测结果。
8、在本发明的一个实施例中,所述根据所述提示词构建需求图和需求约束集合,包括:
9、根据语义边界将所述提示词划分为多个原子需求,并从各所述原子需求中提取任务实体、执行动作和约束条件,得到需求节点;
10、根据各所述原子需求之间的执行顺序、依赖关系和层级关系确定需求边,并根据所述需求节点和所述需求边构建所述需求图;
11、从所述提示词中提取输出格式约束和安全限制约束,并根据所述输出格式约束和所述安全限制约束构建所述需求约束集合。
12、在本发明的一个实施例中,根据所述响应内容构建响应图和响应约束集合,包括:
13、根据语义边界将所述响应内容划分为多个响应片段,并从各所述响应片段中提取任务实体、执行动作和约束条件,得到响应节点;
14、根据各所述响应片段之间的执行顺序、依赖关系和层级关系确定响应边,并根据所述响应节点和所述响应边构建所述响应图;
15、从各所述响应片段中提取执行约束,并根据各所述执行约束构建所述响应约束集合。
16、在本发明的一个实施例中,所述基于所述需求图中的需求节点与所述响应图中的响应节点之间的语义一致性、局部拓扑一致性及约束属性一致性确定结构约束先验矩阵,包括:
17、分别根据所述需求节点和所述响应节点的邻域结构、执行动作及约束属性构建节点结构表示;
18、根据所述需求节点的语义表示及所述响应节点的语义表示确定所述语义一致性,根据所述需求节点的邻域结构及所述响应节点的邻域结构确定所述局部拓扑一致性,根据所述需求节点的约束属性及所述响应节点的约束属性确定所述约束属性一致性;
19、对所述语义一致性、所述局部拓扑一致性和所述约束属性一致性进行加权,得到所述需求节点与所述响应节点的结构匹配程度,根据所述结构匹配程度构建所述结构约束先验矩阵。
20、在本发明的一个实施例中,基于所述需求节点与所述响应节点之间的语义距离确定运输成本矩阵,包括:
21、通过统一编码器分别对所述需求节点和所述响应节点进行编码,得到需求节点语义表示和响应节点语义表示;
22、根据所述需求节点语义表示与所述响应节点语义表示之间的余弦相似度确定所述需求节点与所述响应节点之间的语义距离,并根据所述语义距离构建所述运输成本矩阵。
23、在本发明的一个实施例中,所述根据所述运输成本矩阵和所述结构约束先验矩阵,通过贝叶斯最优传输模型确定所述需求节点与所述响应节点之间的最优运输矩阵,包括:
24、根据所述需求节点与所述响应节点之间的匹配权重构建运输矩阵;
25、根据所述运输成本矩阵确定语义观测似然,并根据所述结构约束先验矩阵确定所述运输矩阵的结构约束先验;
26、以最小化运输总代价、最小化所述运输矩阵相对于所述结构约束先验矩阵的信息损失以及最大化所述运输矩阵的平滑性为优化目标,在边缘约束下通过sinkhorn迭代算法求解所述运输矩阵,得到所述最优运输矩阵。
27、在本发明的一个实施例中,所述根据所述最优运输矩阵和所述结构约束先验矩阵构建需求满足图,根据所述需求满足图确定各所述需求节点的需求满足状态和所述响应内容的有用性评分,包括:
28、将各所述需求节点和所述响应节点作为满足图节点;
29、在任一所述需求节点与任一所述响应节点之间的最优运输权重大于预设阈值且所述结构约束先验矩阵中的对应矩阵元素满足预设结构约束时,在所述需求节点与所述响应节点之间建立以所述最优运输权重为边权的满足图边,得到所述需求满足图;
30、对各关联于同一所述需求节点的最优运输权重求和,得到所述需求节点的满足程度,根据各所述需求节点的满足程度确定对应的需求满足状态;
31、基于各所述需求节点的重要性权重对各所述满足程度进行加权求和,得到所述有用性评分。
32、在本发明的一个实施例中,所述输出包括所述需求满足状态及所述有用性评分的有用性检测结果,包括:
33、从所述需求满足图中获取连接各所述需求节点与各所述响应节点的满足图边,根据各所述满足图边确定各所述需求节点对应的响应片段,并根据各所述满足图边的边权确定各所述响应片段对对应需求节点的贡献程度;
34、根据所述需求图中的执行顺序、依赖关系和约束条件对所述对应关系进行验证,得到判定依据;
35、将所述有用性评分、各所述需求节点对应的响应片段、所述需求满足状态、所述贡献程度及所述判定依据组合为所述有用性检测结果,输出所述有用性检测结果。
36、第二方面,本发明提供了一种大语言模型输出有用性评估装置,包括:
37、数据获取模块,用于获取用户输入的提示词及大语言模型基于所述提示词生成的响应内容;
38、约束集合构建模块,用于根据所述提示词构建需求图和需求约束集合,并根据所述响应内容构建响应图和响应约束集合;
39、运输成本确定模块,用于根据所述需求图、所述需求约束集合、所述响应图和所述响应约束集合,基于所述需求图中的需求节点与所述响应图中的响应节点之间的语义一致性、局部拓扑一致性及约束属性一致性确定结构约束先验矩阵,并基于所述需求节点与所述响应节点之间的语义距离确定运输成本矩阵;
40、最优运输确定模块,用于根据所述运输成本矩阵和所述结构约束先验矩阵,通过贝叶斯最优传输模型确定所述需求节点与所述响应节点之间的最优运输矩阵;
41、检测结果确定模块,用于根据所述最优运输矩阵和所述结构约束先验矩阵构建需求满足图,根据所述需求满足图确定各所述需求节点的需求满足状态和所述响应内容的有用性评分;输出包括所述需求满足状态及所述有用性评分的有用性检测结果。
42、第三方面,本发明提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,所述处理器,所述通信接口,所述存储器通过所述通信总线完成相互间的通信;
43、所述存储器,用于存放计算机程序;
44、所述处理器,用于执行所述存储器上所存放的计算机程序时,实现第一方面提供的大语言模型输出有用性评估方法的步骤。
45、与现有技术相比,本发明的有益效果:
46、本发明提供的大语言模型输出有用性评估方法,通过分别构建提示词对应的需求图和需求约束集合以及响应内容对应的响应图和响应约束集合,使分散在自然语言中的任务信息具有统一的结构化表示,以便建立用户需求与响应内容之间的整体对应关系;基于需求图中的需求节点与响应图中的响应节点之间的语义一致性、局部拓扑一致性及约束属性一致性确定结构约束先验矩阵,并基于需求节点与响应节点之间的语义距离确定运输成本矩阵,使语义相关性和任务逻辑均能参与节点匹配;以运输成本矩阵作为语义观测信息、以结构约束先验矩阵作为结构先验信息,利用贝叶斯最优传输模型确定需求节点与响应节点之间的最优运输矩阵,减少局部语义相似但整体逻辑不一致所造成的错误匹配;根据最优运输矩阵和结构约束先验矩阵构建需求满足图,根据需求满足图确定各需求节点的需求满足状态和响应内容的有用性评分,并输出包括需求满足状态及有用性评分的有用性检测结果,使评估结果能够反映各需求的满足程度及整体有用性。最终,本发明能够在复杂任务场景下实现全局需求匹配以及语义与逻辑的联合分析,提高大语言模型输出有用性评估的准确性、可靠性和可解释性。
47、以下将结合附图及实施例对本发明做进一步详细说明。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com