大模型双重记忆处理方法及装置与流程

摘要: 本申请涉及人工智能,尤其涉及一种大模型双重记忆处理方法及装置。背景技术:1、在长周期用户中心型智能体任务领域,大语言模型通常配备外部记忆系统来存储历史信息,以辅...
大模型双重记忆处理方法及装置与流程

本申请涉及人工智能,尤其涉及一种大模型双重记忆处理方法及装置。

背景技术:

1、在长周期用户中心型智能体任务领域,大语言模型通常配备外部记忆系统来存储历史信息,以辅助生成个性化响应。传统的个性化建模方案主要包括基于扁平化架构的孤立记忆系统、基于强化学习的记忆管理框架,以及基于传统的模型微调或检索增强生成技术。

2、现有技术主要是将历史信息作为独立片段进行混合保存,并在面临查询时依赖单一机制进行直接检索;或者在系统演化时仅关注任务维度的成功率。然而,随着交互周期的延长和历史数据的积累,上述机制在处理复杂请求时,往往会导致召回大量冗余噪声数据,且难以将长期的历史交互经验转化为指导后续检索的高级执行策略,使得生成的响应结果容易与用户的长期偏好和个体约束不一致,个性化对齐程度较低。

3、因此,如何实现长周期交互场景下记忆信息的精准调用与个性化的持续演进,是当前亟待解决的技术问题。

技术实现思路

1、本申请提供一种大模型个性化双重记忆自演化框架,用以解决现有技术中长周期交互场景下记忆调用准确性不足且系统性能难以持续改善的技术问题,实现历史信息的精准调用与系统性能的持续优化。

2、第一方面,本申请提供一种大模型双重记忆处理方法,包括如下步骤:

3、获取用户与智能体的历史交互数据,并基于历史交互数据分别构建用户侧记忆信息和智能体侧历史记忆信息;

4、接收当前用户查询,从智能体侧历史记忆信息中检索与当前用户查询匹配的历史处理策略;

5、根据检索到的历史处理策略,从用户侧记忆信息中获取与当前用户查询相关的目标用户特征信息;

6、根据当前用户查询、历史处理策略和目标用户特征信息,生成响应结果;

7、获取响应结果对应的交互反馈,并根据交互反馈更新用户侧记忆信息和/或智能体侧历史记忆信息。

8、根据本申请提供的一种大模型双重记忆处理方法,构建用户侧记忆信息,包括:

9、提取与用户属性关联的对话交互数据,从对话交互数据中提取特征项,特征项包括交互主题、用户语义记忆和用户情景记忆;

10、以用户标识节点为根节点构建层级化图谱结构,创建与各交互主题对应的主题节点,将用户语义记忆实例化为语义信息节点,将用户情景记忆实例化为情景信息节点,并将语义信息节点和情景信息节点关联至对应的主题节点下。

11、根据本申请提供的一种大模型双重记忆处理方法,构建用户侧记忆信息,上述方法还包括:

12、响应于获取到新增对话交互数据,基于新增对话交互数据对层级化图谱结构执行动态维护,动态维护包括以下至少一项:节点的添加、节点属性的更新或节点间关联关系的调整。

13、根据本申请提供的一种大模型双重记忆处理方法,构建智能体侧历史记忆信息,包括:

14、将历史交互数据中与任务交互相关的数据聚合为闭环轨迹记录,闭环轨迹记录包括历史查询、推理过程、历史响应及历史反馈中的至少一项;

15、将闭环轨迹记录存入轨迹集合;

16、对轨迹集合中同主题的多个闭环轨迹记录进行聚类,提取共性处理模式,生成历史处理策略;

17、基于轨迹集合中的闭环轨迹记录及历史处理策略,得到智能体侧历史记忆信息。

18、根据本申请提供的一种大模型双重记忆处理方法,根据检索到的历史处理策略,从用户侧记忆信息中获取与当前用户查询相关的目标用户特征信息,包括:

19、根据检索到的历史处理策略,确定对用户侧记忆信息进行检索的调用条件;

20、根据调用条件,对用户侧记忆信息执行至少一轮检索;

21、在每一轮检索完成后,根据当前轮次返回的检索结果调整下一轮检索的调用条件,直到满足预设的检索终止条件;

22、将多轮检索得到的检索结果进行筛选和聚合,得到目标用户特征信息。

23、根据本申请提供的一种大模型双重记忆处理方法,上述方法还包括:

24、对智能体侧历史记忆信息中的各闭环轨迹记录执行质量评估,质量评估基于时间因素、重要性因素和可学习性因素中的至少两种;

25、根据质量评估的结果,对各闭环轨迹记录执行保留、合并、降权或删除处理。

26、根据本申请提供的一种大模型双重记忆处理方法,根据交互反馈更新用户侧记忆信息和/或智能体侧历史记忆信息之后,方法还包括:

27、从更新后的智能体侧历史记忆信息中提取闭环交互轨迹,并结合对应的用户侧记忆信息调用结果,共同构建为训练样本;

28、针对训练样本中的同一用户查询,生成多个候选响应轨迹;

29、针对各候选响应轨迹,分别计算评估任务完成度的第一奖励信号,以及评估与用户侧记忆信息一致程度的第二奖励信号,并将第一奖励信号与第二奖励信号组合,得到各候选响应轨迹对应的复合奖励信号;

30、根据各候选响应轨迹的复合奖励信号之间的相对比较结果,更新大模型的网络参数。

31、第二方面,本申请还提供一种大模型双重记忆处理装置,包括如下模块:

32、记忆构建模块,用于获取用户与智能体的历史交互数据,并基于历史交互数据分别构建用户侧记忆信息和智能体侧历史记忆信息;

33、策略检索模块,用于接收当前用户查询,从智能体侧历史记忆信息中检索与当前用户查询匹配的历史处理策略;

34、特征检索模块,用于根据检索到的历史处理策略,从用户侧记忆信息中获取与当前用户查询相关的目标用户特征信息;

35、响应生成模块,用于根据当前用户查询、历史处理策略和目标用户特征信息,生成响应结果;

36、反馈演进模块,用于获取响应结果对应的交互反馈,并根据交互反馈更新用户侧记忆信息和/或智能体侧历史记忆信息。

37、第三方面,本申请还提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行计算机程序时实现如上述任一种大模型双重记忆处理方法。

38、第四方面,本申请还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如上述任一种大模型双重记忆处理方法。

39、第五方面,本申请还提供一种计算机程序产品,包括计算机程序,计算机程序被处理器执行时实现如上述任一种大模型双重记忆处理方法。

40、本申请提供的一种大模型双重记忆处理方法及装置,通过分别构建用户侧记忆信息与智能体侧历史记忆信息,并利用历史处理策略引导用户信息检索,最后通过交互反馈同步更新用户侧记忆信息与智能体侧历史记忆信息,能够提高长周期交互中历史记忆信息调用的准确性;同时,通过交互反馈对两侧记忆的同步更新,使系统在长期运行中响应与用户偏好的一致性持续改善,实现系统性能的持续优化。

1.一种大模型双重记忆处理方法,其特征在于,所述方法包括:

2.根据权利要求1所述的大模型双重记忆处理方法,其特征在于,所述构建用户侧记忆信息,包括:

3.根据权利要求2所述的大模型双重记忆处理方法,其特征在于,所述方法还包括:

4.根据权利要求1所述的大模型双重记忆处理方法,其特征在于,所述构建智能体侧历史记忆信息,包括:

5.根据权利要求1所述的大模型双重记忆处理方法,其特征在于,所述根据检索到的所述历史处理策略,从所述用户侧记忆信息中获取与所述当前用户查询相关的目标用户特征信息,包括:

6.根据权利要求1所述的大模型双重记忆处理方法,其特征在于,所述方法还包括:

7.根据权利要求1所述的大模型双重记忆处理方法,其特征在于,所述根据所述交互反馈更新所述用户侧记忆信息和/或所述智能体侧历史记忆信息之后,所述方法还包括:

8.一种大模型双重记忆处理装置,其特征在于,包括:

9.一种电子设备,包括处理器和存储有计算机程序的存储器,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7任一项所述的大模型双重记忆处理方法。

10.一种处理器可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7任一项所述的大模型双重记忆处理方法。

11.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7任一项所述的大模型双重记忆处理方法。