基于模型动态路由的任务执行方法、装置及计算机设备与流程
本技术涉及数据处理的,特别是涉及一种基于模型动态路由的任务执行方法、装置及计算机设备。
背景技术:
1、当前,企业级人工智能应用常需要集成多个大语言模型以及多个业务智能体。在相关技术中,执行用户的任务请求的逻辑通常为,从多个模型以及智能体中择一选择出任务模型,并利用任务模型执行用户的任务请求。择一选择任务模型的一种方式可以为,利用离线训练的奖励模型对各模型和智能体进行评分,将评分最高的模型/智能体确定为任务模型。
2、但是,相关技术中的这种方式,任务执行结果的优劣,则完全取决于奖励模型的评分逻辑;而评分逻辑无法适配多类型的任务请求,也就是在某些情况下,会因任务模型的选择不够精准,从而导致最终的执行结果的质量较差;这种情况导致了,相关技术中任务执行结果的质量不够稳定。
3、因此,如何提高任务执行结果质量的稳定性,是一个亟需解决的技术问题。
技术实现思路
1、基于此,有必要针对上述技术问题,提供一种能够提高任务执行结果质量的稳定性的基于模型动态路由的任务执行方法、装置及计算机设备。
2、第一方面,本技术提供了一种基于模型动态路由的任务执行方法,包括:
3、根据任务请求的请求类型以及路由规则,确定所述任务请求对应的路由树;所述路由树包括各候选模型,以及各所述候选模型之间的执行关系;
4、根据所述执行关系调用各所述候选模型处理所述任务请求,得到各所述候选模型的执行结果;
5、根据所述候选模型对应的静态优先级、所述执行结果与所述任务请求的关联度以及所述执行结果的负面应答率,确定各所述执行结果的质量分数;所述负面应答率表征所述执行结果的完整性;
6、根据所述质量分数从各所述执行结果中确定目标执行结果,并输出所述目标执行结果。
7、在其中一个实施例中,所述任务请求包括当前轮次用户输入的请求文本,所述根据所述执行关系调用各所述候选模型处理所述任务请求,得到各所述候选模型的执行结果,包括:
8、调用过滤规则链对所述任务请求进行过滤加工,得到任务数据;所述过滤加工至少包括对所述请求文本的脱敏处理以及补充上下文信息中的至少一项;
9、基于所述任务数据构建任务模板,并根据所述执行关系调用各所述候选模型处理所述任务模板,得到各所述候选模型的执行结果。
10、在其中一个实施例中,所述执行关系包括并行关系、轮询关系以及故障切换关系中的至少一类,所述根据所述执行关系调用各所述候选模型处理所述任务模板,包括:
11、调用所述并行关系指示的各所述候选模型,分别处理所述任务模板;和/或,
12、从所述轮询关系指示的各所述候选模型中,确定目标模型,并调用所述目标模型处理所述任务模板;和/或,
13、在任一所述候选模型调用失败时,根据所述故障切换关系指示的切换顺序,调用其余所述候选模型处理所述任务模板。
14、在其中一个实施例中,所述任务请求包括当前轮次用户输入的请求文本,所述方法还包括:
15、对每一所述执行结果,确定所述执行结果与所述请求文本之间的语义相似度;
16、根据所述执行结果对参照表的命中分数,以及所述语义相似度,确定所述关联度;所述参照表包括将所述请求文本与关键词表进行匹配确定的各目标关键词;所述命中分数是根据所述执行结果对所述参照表中所述目标关键词的命中数量以及基础分数确定的。
17、在其中一个实施例中,所述方法还包括:
18、对每一所述执行结果,将所述执行结果与负面模板进行相似度计算,并根据相似度计算结果确定所述执行结果的所述负面应答率;所述负面模板包括多个负面词组,和/或,负面语句。
19、在其中一个实施例中,所述根据所述候选模型对应的静态优先级、所述执行结果与所述任务请求的关联度以及所述执行结果的负面应答率,确定各所述执行结果的质量分数,包括:
20、根据所述负面应答率,将各所述执行结果划分为正面执行结果以及负面执行结果;
21、针对每一所述正面执行结果,根据所述静态优先级以及所述执行结果与所述任务请求的所述关联度,确定所述质量分数;
22、针对每一所述负面执行结果,根据所述静态优先级和所述负面应答率,确定所述质量分数。
23、第二方面,本技术还提供了一种基于模型动态路由的任务执行装置,包括路由模块、执行模块、质量审核模块以及输出模块,其中:
24、所述路由模块,用于根据任务请求的请求类型以及路由规则,确定所述任务请求对应的路由树;所述路由树包括各候选模型,以及各所述候选模型之间的执行关系;
25、所述执行模块,用于根据所述执行关系调用各所述候选模型处理所述任务请求,得到各所述候选模型的执行结果;
26、所述质量审核模块,用于根据所述候选模型对应的静态优先级、所述执行结果与所述任务请求的关联度以及所述执行结果的负面应答率,确定各所述执行结果的质量分数;所述负面应答率表征所述执行结果的完整性;
27、所述输出模块,用于根据所述质量分数从各所述执行结果中确定目标执行结果,并输出所述目标执行结果。
28、第三方面,本技术还提供了一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现如上述第一方面中任一项所述的基于模型动态路由的任务执行方法的步骤。
29、第四方面,本技术还提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上述第一方面中任一项所述的基于模型动态路由的任务执行方法的步骤。
30、第五方面,本技术还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现如上述第一方面中任一项所述的基于模型动态路由的任务执行方法的步骤。
31、上述基于模型动态路由的任务执行方法、装置及计算机设备,一方面,针对不同的请求类型预先设定了对应的路由树,以指示对应的候选模型;也就是说,对每个请求类型,将适合处理该请求类型的任务的各任务模型均作为候选模型构建为了路由树,这样不仅缩小了候选模型的范围,同时又能够避免适合的候选模型在筛选时被排除的情况出现;另一方面,在调用各候选模型执行任务请求得到的执行结果后,针对每一执行结果的质量分数,是从完整性(负面应答率)、候选模型的综合能力(静态优先级)以及执行结果自身的质量(与任务请求的关联度)这三个维度综合确定的,也就是说,质量分数即表征了执行结果的质量好坏。进一步,将质量分数最大的执行结果作为输出至用户的目标执行结果,从而以更好的契合用户的实际需求。
32、由于本技术的方式,是调用多个候选模型均执行任务请求,因此,不存在相关技术中选择模型不精准的情况;另一方面,即使有某一模型在执行任务请求的过程中生成的执行结果不稳定,但是,其余各候选模型仍能够正常执行任务请求;而最终的目标执行结果是根据多维度综合确定的质量分数所抉择的,因此,最终输出的目标执行结果的质量能够保持相对的稳定性。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com