处理方法和设备与流程

摘要: 本申请涉及信息处理技术,尤其涉及处理方法和设备。背景技术:1、随着大语言模型(largelanguagemodel,llm)在智能体、对话系统以及任务处理系统中...
处理方法和设备与流程

本申请涉及信息处理技术,尤其涉及处理方法和设备。

背景技术:

1、随着大语言模型(large language model,llm)在智能体、对话系统以及任务处理系统中的应用增多,系统通常需要结合用户的历史交互数据、历史行为数据或其他历史经验数据,对用户当前输入的任务数据进行处理。为了使大语言模型能够生成更符合用户需求的反馈内容,相关系统通常会在获得用户当前的任务数据后,从记忆库中检索与该任务数据相关的历史记忆数据,并将检索得到的历史记忆数据与当前任务数据一并提供给大语言模型。

2、相关技术中,记忆数据的使用方式通常较为简单。例如,系统可以基于当前任务数据与记忆库中各历史记忆数据之间的相似度,从记忆库中召回若干相关记忆数据,然后将召回的相关记忆数据与当前任务数据直接拼接为输入内容,提供给大语言模型进行处理。该方式虽然能够使大语言模型获得一定的历史上下文信息,但召回得到的记忆数据可能在类型、作用以及与当前任务的匹配关系上存在差异,导致输出内容与当前任务不匹配。

技术实现思路

1、本申请实施例至少提供了一种处理方法和设备。

2、本申请的技术方案是这样实现的:

3、第一方面,本申请提供了一种处理方法,该方法至少包括:

4、响应于获得任务数据,获得与任务数据对应的目标记忆数据集,目标记忆数据集包括从记忆库中筛选得到的至少一条历史记忆数据;获得多个推理模板,每个推理模板分别用于限定大语言模型针对任务数据进行推理的推理框架以及记忆组织方式;基于任务数据和目标记忆数据集,从多个推理模板中选择与任务数据匹配的目标推理模板;基于目标推理模板构造系统提示词;将系统提示词提供给大语言模型,以使大语言模型基于系统提示词生成针对任务数据的反馈数据。

5、第二方面,本申请提供了一种处理装置,至少包括:

6、第一获得单元,用于响应于获得任务数据,获得与任务数据对应的目标记忆数据集,目标记忆数据集包括从记忆库中筛选得到的至少一条历史记忆数据;

7、第二获得单元,用于获得多个推理模板,每个推理模板分别用于限定大语言模型针对任务数据进行推理的推理框架以及记忆组织方式;

8、处理单元,用于基于任务数据和目标记忆数据集,从多个推理模板中选择与任务数据匹配的目标推理模板;

9、构造单元,用于基于目标推理模板构造系统提示词;

10、输出单元,用于将系统提示词提供给大语言模型,以使大语言模型基于系统提示词生成针对任务数据的反馈数据。

11、第三方面,本申请提供了一种电子设备,电子设备包括:

12、输入元件,用于获得任务数据;

13、处理器,用于响应于获得任务数据,获得与任务数据对应的目标记忆数据集,目标记忆数据集包括从记忆库中筛选得到的至少一条历史记忆数据;基于任务数据以及目标记忆数据集,确定与任务数据匹配的记忆使用方式,记忆使用方式用于限定大语言模型针对任务数据进行推理的推理框架;基于记忆使用方式处理目标记忆数据集,生成记忆使用报告,记忆使用报告包括基于推理框架对目标记忆数据集进行分析得到的记忆分析结果;基于任务数据和记忆使用报告,构成用于提供给大语言模型的提示信息;提示信息用于提供给大语言模型,以使大语言模型基于记忆使用报告生成针对任务数据的反馈数据;

14、输出元件,用于输出反馈数据。

15、第四方面,本申请提供一种计算机可读性存储介质,该存储介质上存储有计算机程序或者指令,该计算机程序或者指令被处理器执行时,实现上述第一方面提供的方法。

16、第五方面,本申请提供一种计算机程序产品,该计算机程序产品包括计算机程序或者指令,该计算机程序或者指令被处理器执行时,实现上述第一方面提供的方法。

1.一种处理方法,包括:

2.根据权利要求1所述的方法,所述多个推理模板分别对应不同的任务处理类型。

3.根据权利要求2所述的方法,所述推理模板包括推理指令区和记忆填充区;

4.根据权利要求1所述的方法,所述基于所述任务数据以及所述目标记忆数据集,从所述多个推理模板中选择与所述任务数据匹配的目标推理模板,包括:

5.根据权利要求4所述的方法,基于所述任务意图,从所述多个推理模板中确定目标候选推理模板包括:

6.根据权利要求5所述的方法,基于所述目标记忆数据集对所述多个候选推理模板进行匹配评分包括:

7.根据权利要求3或6,所述的方法,所述基于所述记忆槽位对应的记忆类别,从所述目标记忆数据集中确定对应的目标记忆数据,包括:

8.根据权利要求7所述的方法,所述基于目标推理模板构造系统提示词,包括:

9.根据权利要求1-3任一项所述的方法,所述获得与所述任务数据对应的目标记忆数据集,包括:

10.一种电子设备,包括: