用户记忆的层次化校准优化方法及系统

摘要: 本发明涉及智能体长期记忆,具体涉及一种用户记忆的层次化校准优化方法及系统。背景技术:1、层次记忆是适配大模型长文本任务的分层结构化记忆架构,可保留多层级语义信息...
用户记忆的层次化校准优化方法及系统

本发明涉及智能体长期记忆,具体涉及一种用户记忆的层次化校准优化方法及系统。

背景技术:

1、层次记忆是适配大模型长文本任务的分层结构化记忆架构,可保留多层级语义信息,广泛应用于智能问答、知识库检索、文献及行业资料解析等ai场景中。

2、现有层次记忆的利用体系虽可实现分层记忆的检索与复用,但整体技术方案存在固有缺陷,核心体现为层次记忆的利用模式单一、调控能力缺失。当前所有主流技术方案均将已召回的多层级层次记忆作为被动上下文统一处理,仅能实现“记忆筛选”的单一功能,即仅可控制何种层级、何种内容的记忆信息进入上下文,无法对已注入上下文的不同粒度记忆进行差异化、自适应的影响强度调控,粗粒度与细粒度记忆信息被模型无差别统一“消费”和使用。

3、该技术模式直接引发两类核心问题:其一,粗粒度记忆的全局先验干扰不可控,高层级全局概要虽可提供基础全局背景信息,但会形成过强且无约束的先验引导,驱使模型生成内容偏向宽泛化、表面化,无法聚焦细粒度关键证据,极易出现内容空洞、细节缺失、语义偏离等问题,严重稀释精准细粒度证据对生成结果的核心指导作用;其二,缺乏分层动态调控机制,现有技术无法根据查询任务类型、推理难度、语义需求按需抑制粗粒度冗余先验、放大高价值细粒度关键证据,无法实现多层级记忆权重的动态适配,导致层次记忆的分层结构优势无法充分发挥,大幅降低了大模型生成内容的精准度、专业性与贴合度,难以满足高精度知识问答、精细化推理、专业文档解析等高阶业务场景的使用需求。

4、基于此,亟需提出一种用户记忆的层次化校准优化方法,以期解决现有技术在利用层次记忆时所存在的问题。

技术实现思路

1、(一)解决的技术问题

2、针对现有技术的不足,本发明提供了一种用户记忆的层次化校准优化方法及系统,至少解决了上述提到的一个或者多个技术问题。

3、(二)技术方案

4、为实现以上目的,本发明通过以下技术方案予以实现:

5、第一方面,本技术首先提出一种用户记忆的层次化校准优化方法,所述方法包括:

6、基于层次记忆构造记忆完整视图和记忆粗视图;

7、在当前解码步下获取记忆完整视图所对应的完整视图对数概率和记忆粗视图所对应的粗视图对数概率;

8、将完整视图对数概率减去按自适应系数加权的粗视图对数概率,获取校准分数;

9、将当前解码步中所述校准分数最高的候选词作为校准优化结果。

10、在一个实施例中,所述基于层次记忆构造记忆完整视图和记忆粗视图,包括:

11、基于层次记忆,利用同一预训练大语言模型并采用提示词拼接技术构造记忆完整视图和记忆粗视图。

12、在一个实施例中,获取所述自适应系数时,包括利用如下公式计算得到:

13、

14、

15、

16、

17、

18、其中,表示自适应于逐解码步的校准强度;表示以基强度为参数的有界单调映射;表示完整视图相对粗视图越确定程度;表示概率分布的熵;表示以记忆粗视图为条件时的下一词概率分布;表示以记忆完整视图为条件时的下一词概率分布;表示词表中候选词token;v表示词表;表示自然指数函数;表示完整视图对数概率;表示粗视图对数概率。

19、优选的,所述有界单调映射包括双曲正切调制形式,用公式可表示为:

20、

21、其中,为预设的基强度参数;为预设的调制幅度参数;为预设的平滑参数。

22、在一个实施例中,所述层次记忆的构建方法包括:

23、基于多档粒度将原始记忆分为多层;

24、将新引入的用户交互按照多层架构分别抽取为对应层的候选记忆,所述候选记忆满足证据门控时上浮,且针对上浮至高层的候选记忆维护证据账本;

25、基于所述证据账本计算每条记忆的可信度并进行冲突消解;

26、对比所述可信度与预设的可信度维持阈值,对记忆执行双向层级移动,获取最终的层次记忆。

27、在一个实施例中,所述多层包括:

28、情景层,存储原始用户交互;

29、语义层,存储由情景层派生的跨情景事实与规律;

30、偏好层,存储由语义层进一步蒸馏的稳定偏好与用户画像。

31、在一个实施例中,所述将新引入的用户交互按照多层架构分别抽取为对应层的候选记忆,包括:

32、基于大语言模型或基于文本聚类从原始用户交互中抽取候选跨情景事实与规律和候选偏好。

33、在一个实施例中,所述候选记忆满足证据门控时上浮,包括:

34、候选跨情景事实与规律的上浮条件为:在相互独立来源中印证候选跨情景事实与规律的来源数达到第一阈值时,候选跨情景事实与规律上浮到语义层;

35、候选偏好的上浮条件为:在相互独立来源中印证候选偏好的来源数达到第二阈值,同时满足候选偏好倾向方向一致,且强度超过第三阈值时,候选偏好上浮到偏好层;

36、所述第二阈值大于等于第一阈值。

37、在一个实施例中,所述可信度按照以下公式计算:

38、

39、其中,表示上浮后的跨情景事实与规律或稳定偏好的可信度;表示证据e的时近度权重;为证据e距当前时刻的时长;t为预设时间尺度;为预设衰减因子;c表示任一候选记忆;、分别表示候选记忆c的支持证据集、反对证据集。

40、第二方面,本技术还提出了一种用户记忆的层次化校准优化系统,所述系统包括:

41、记忆视图构建模块,被配置为基于层次记忆构造记忆完整视图和记忆粗视图;

42、视图概率获取模块,被配置为在当前解码步下获取记忆完整视图所对应的完整视图对数概率和记忆粗视图所对应的粗视图对数概率;

43、校准分数获取模块,被配置为将完整视图对数概率减去按自适应系数加权的粗视图对数概率,获取校准分数;

44、校准优化结果生成模块,被配置为将当前解码步中所述校准分数最高的候选词作为校准优化结果。

45、(三)有益效果

46、本发明提供了一种用户记忆的层次化校准优化方法及系统。与现有技术相比,具备以下有益效果:

47、1、本技术提出的用户记忆的层次化校准优化方法,首先,基于层次记忆构造记忆完整视图和记忆粗视图;然后,获取记忆完整视图所对应的完整视图对数概率和记忆粗视图所对应的粗视图对数概率,并将完整视图对数概率减去按自适应系数加权的粗视图对数概率,获取校准分数;最后将校准分数最高的候选词作为校准优化结果。该方法在保留完整层次记忆的前提下,分级、自适应地调节各层(尤其粗粒度)记忆对生成的影响强度,从而抑制过强先验,放大关键证据,对用户记忆进行层次化校准优化,提升了回答的具体性与正确性。

48、2、本技术提出的用户记忆的层次化校准优化方法,适配市面上所有分层记忆系统,可直接搭配使用,不用改动原有记忆检索、搭建逻辑,适配性极强,鲁棒性更好,落地成本低。

49、3、本技术提出的用户记忆的层次化校准优化方法,设置校准强度的自适应变化,可针对不同候选词(字与字之间)和不同类型问题(问题与问题之间)自动匹配,避免固定力度顾此失彼,输出更为准确的答案。

50、4、本技术层次记忆的构建方法,使高层知识仅接纳经足够独立证据支撑的内容、可量化并排序其可靠性、并能随新证据被修订甚至降级回退,从而抑制噪声入侵、避免长期与多会话使用中的画像漂移,保持记忆长期可信、可溯源、可审计。通过该方法构建的层次记忆,记忆库更干净、长期聊天不跑偏;一次性随口话、过时信息无法混入长期用户画像,大幅减少画像腐烂;有完整证据记录,每条偏好都能溯源,能直观判断靠谱程度;出现矛盾信息可以自动降级修正,长时间多轮对话后,用户习惯识别准确率远高于老方案。