一种处理方法及电子设备与流程
本申请涉及计算机,尤其涉及一种处理方法及电子设备。
背景技术:
1、现有智能体的记忆管理方案通常基于固定时间窗口、语义相似度检索或静态加权打分机制。这些方案的核心缺陷在于记忆的检索与淘汰策略缺乏自适应优化能力,无法根据任务的实际执行反馈动态调整记忆的评估标准,导致在不同任务场景下难以稳定保留最优记忆集合。
技术实现思路
1、本申请提供的技术方案如下:
2、本申请第一方面提供一种处理方法,包括:
3、获取执行第一任务对应的状态参数,以及记忆池中各个第一候选记忆在多个属性参数上的属性值;
4、获取所述第一任务的执行反馈信息;
5、至少根据所述状态参数、所述执行反馈信息以及各个所述第一候选记忆在多个属性参数上的属性值,对所述多个属性参数各自对应的第一权重系数进行调整,得到第二权重系数;
6、基于所述第二权重系数,处理所述记忆池中各个第二候选记忆在所述多个属性参数上的属性值,确定各个所述第二候选记忆的属性因子。
7、在一种可能的实现中,所述至少根据所述状态参数、所述执行反馈信息以及各个所述第一候选记忆在多个属性参数上的属性值,对所述多个属性参数各自对应的第一权重系数进行调整,得到第二权重系数,包括:
8、获取各个所述第一候选记忆的属性因子;所述第一候选记忆的属性因子是基于所述第一权重系数,对所述第一候选记忆在多个属性参数上的属性值进行处理得到的;
9、根据所述状态参数、所述执行反馈信息、各个所述第一候选记忆在多个属性参数上的属性值以及各个所述第一候选记忆的属性因子,对所述多个属性参数各自对应的第一权重系数进行调整,得到第二权重系数。
10、在一种可能的实现中,所述获取所述第一任务的执行反馈信息,包括:
11、获取所述第一任务对应的任务成功率、记忆池存储开销、检索耗时和工具调用成功率中的至少一种;
12、基于所述任务成功率、所述记忆池存储开销、所述检索耗时和所述工具调用成功率中至少一种,生成奖励值。
13、在一种可能的实现中,所述基于所述任务成功率、所述记忆池存储开销、所述检索耗时和所述工具调用成功率中至少一种,生成奖励值,包括:
14、获取所述任务成功率对应的第一奖励权重、所述记忆池存储开销对应的第二奖励权重、所述检索耗时对应的第三奖励权重,以及所述工具调用成功率对应的第四奖励权重;
15、根据所述第一奖励权重、所述第二奖励权重、所述第三奖励权重和所述第四奖励权重,分别对所述任务成功率、所述记忆池存储开销、所述检索耗时和所述工具调用成功率进行处理,得到所述奖励值;
16、其中,所述第一奖励权重和所述第四奖励权重用于使所述任务成功率和所述工具调用成功率产生正向奖励,所述第二奖励权重和所述第三奖励权重用于使所述记忆池存储开销和所述检索耗时产生负向奖励。
17、在一种可能的实现中,其中,所述获取所述第一任务的执行反馈信息,包括:
18、获取所述第一任务对应的即时奖励、过程奖励和终态奖励;
19、对所述即时奖励、所述过程奖励和所述终态奖励进行加权处理,得到总奖励值;
20、其中,所述即时奖励根据所述第一任务对应的记忆检索结果采用率、检索结果冗余度和检索结果相关度中的至少一个确定;
21、所述过程奖励根据所述第一任务对应的工具调用成功率、重复调用惩罚和失败经验规避奖励中的至少一个确定;
22、所述终态奖励根据所述第一任务对应的任务成功率和记忆效率奖励确定。
23、在一种可能的实现中,所述获取执行第一任务对应的状态参数,包括以下至少之一:
24、获取第一任务的类型,作为执行第一任务对应的状态参数;
25、确定所述记忆池的占用率,作为执行第一任务对应的状态参数。
26、在一种可能的实现中,所述确定所述记忆池的占用率,包括以下任意一项:
27、确定所述记忆池的已用存储空间与总存储空间的比值,作为所述记忆池的占用率;
28、确定所述记忆池中已存储记忆的数量与最大可存储数量的比值,作为所述记忆池的占用率。
29、在一种可能的实现中,所述处理方法还包括:
30、至少根据所述状态参数、所述执行反馈信息以及各个所述第一候选记忆在多个属性参数上的属性值,对所述记忆池中的部分第一候选记忆执行更新操作,得到第二候选记忆。
31、在一种可能的实现中,所述多个属性参数,包括以下任意多项:
32、第一属性参数,用于反映所述记忆池中对应候选记忆的存储时长;
33、第二属性参数,用于反映所述记忆池中对应候选记忆与对应任务的语义相似度;
34、第三属性参数,用于反映所述记忆池中对应候选记忆的数据来源的可靠程度;
35、第四属性参数,用于反映所述记忆池中对应候选记忆在历史任务中被调用的频繁程度;
36、第五属性参数,用于反映所述记忆池中对应候选记忆丢失后导致对应任务执行失败的风险程度。
37、本申请另一方面提供一种电子设备,包括:
38、处理器;
39、存储器;
40、所述存储器中存储有计算机程序,所述计算机程序被所述处理器执行时,使得所述电子设备实现以下方法步骤:
41、获取执行第一任务对应的状态参数,以及记忆池中各个第一候选记忆在多个属性参数上的属性值;
42、获取所述第一任务的执行反馈信息;
43、至少根据所述状态参数、所述执行反馈信息以及各个所述第一候选记忆在多个属性参数上的属性值,对所述多个属性参数各自对应的第一权重系数进行调整,得到第二权重系数;
44、基于所述第二权重系数,处理所述记忆池中各个第二候选记忆在所述多个属性参数上的属性值,确定各个所述第二候选记忆的属性因子。
1.一种处理方法,包括:
2.根据权利要求1所述的处理方法,所述至少根据所述状态参数、所述执行反馈信息以及各个所述第一候选记忆在多个属性参数上的属性值,对所述多个属性参数各自对应的第一权重系数进行调整,得到第二权重系数,包括:
3.根据权利要求1所述的处理方法,所述获取所述第一任务的执行反馈信息,包括:
4.根据权利要求3所述的处理方法,所述基于所述任务成功率、所述记忆池存储开销、所述检索耗时和所述工具调用成功率中至少一种,生成奖励值,包括:
5.根据权利要求1所述的处理方法,其中,所述获取所述第一任务的执行反馈信息,包括:
6.根据权利要求1所述的处理方法,所述获取执行第一任务对应的状态参数,包括以下至少之一:
7.根据权利要求6所述的处理方法,所述确定所述记忆池的占用率,包括以下任意一项:
8.根据权利要求1所述的处理方法,所述处理方法还包括:
9.根据权利要求1所述的处理方法,所述多个属性参数,包括以下任意多项:
10.一种电子设备,包括:
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com