面向智能体会话的上下文压缩方法、系统、装置及存储介质与流程

本技术属于人工智能，尤其涉及一种面向智能体会话的上下文压缩方法、系统、装置及存储介质。

背景技术：

1、随着大型语言模型技术的快速发展，基于llm的智能体系统已广泛应用于代码生成、任务自动化、多步骤推理等复杂场景。智能体系统在执行任务时会产生多轮用户消息、模型回复以及工具调用结果，这些内容共同构成了对话上下文。随着任务复杂度和对话轮次的增加，上下文长度持续增长，导致token消耗剧增、上下文溢出风险、信息冗余累积以及推理性能下降等技术问题。

2、现有技术中，例如基于token数量阈值的简单截断方法、基于语言模型摘要的压缩方法或者基于规则的信息提取方法等又均存在以下一个或多个技术问题：缺乏对智能体工具调用场景的特殊处理、缺乏分层递进的压缩策略体系、缺乏对压缩操作本身的风险控制或者缺乏压缩后状态的智能恢复能力等等缺陷。

3、因此，如何提供一种面向智能体会话的上下文压缩方法、系统、装置及存储介质，以解决现有技术中存在的上述技术问题，成为本领域亟待解决的课题。

4、上述陈述仅用于提供与本技术有关的背景技术信息，除非在此指出，否则在本部分中描述的内容对于本技术其它部分内容而言不是现有技术。

技术实现思路

1、本发明提出了一种面向智能体会话的上下文压缩方法、系统、装置及存储介质，以解决现有技术中存在的上述技术问题。本发明通过构建分层递进的压缩架构，针对智能体工具调用场景的特殊性设计api轮次感知分组策略，并引入包括ptl重试截断保护、熔断保护在内的多重压缩保护机制，以及压缩后智能文件恢复策略，实现对智能体长程对话上下文的高效、可控、可恢复压缩。

2、根据本技术实施例的第一个方面，提供了一种面向智能体会话的上下文压缩方法，包括：

3、接收智能体与用户之间的多轮对话消息序列，对话消息序列包含用户消息、模型消息以及工具调用相关消息；

4、基于api轮次边界对对话消息序列进行分组，其中，api轮次边界根据用户消息的交互角色、模型消息和工具调用标识确定，将属于同一工具调用周期的一组对话消息划分至同一分组；

5、根据预设触发条件，从分层压缩策略集合中选择执行微压缩策略和/或完整压缩策略，对同一分组内的对话消息序列执行压缩；

6、微压缩策略包括对超过时间阈值的工具调用结果消息进行内容清理；

7、完整压缩策略包括调用语言模型对至少一个分组内的对话消息生成结构化摘要，结构化摘要包含任务状态和工具使用记录，并在压缩位置创建压缩边界标记；将压缩后的摘要消息与未压缩的保留消息重组为新的对话上下文。

8、在本技术一些实施方式中，基于api轮次边界对对话消息序列进行分组，具体包括：

9、当检测到模型消息中包含工具调用内容时，在该模型消息处创建分组边界，该模型消息独立形成第一分组作为工具调用的发起标记；

10、当检测到用户消息是对前一工具调用结果的响应时，将该用户消息与其前一消息划分至同一第二分组；

11、当检测到模型消息不包含工具调用内容时，将该模型消息与其前一用户消息划分至同一第三分组；

12、系统消息和元数据消息独立形成第四分组，不与其他消息合并。

13、在本技术一些实施方式中，压缩方法进一步包括：

14、对完成分组后的对话消息序列，设置禁止跨分组执行压缩操作，以确保工具调用的发起消息、结果返回消息和后续确认消息保留在同一压缩单元内。

15、在本技术一些实施方式中，完整压缩策略包括自动压缩层和会话记忆压缩层；分层压缩策略集合整体包括微压缩层、自动压缩层和会话记忆压缩层；其中：

16、微压缩层为低层压缩机制，在检测到满足时间触发条件或缓存编辑条件时，对单条消息粒度执行即时清理；

17、自动压缩层为中间层压缩机制，在检测到上下文token数量超过第一预设阈值或连续对话轮次超过预设值时触发，以对话分组为粒度生成结构化摘要；

18、会话记忆压缩层为高层压缩机制，在检测到会话活跃度下降超过预设时间或接收用户主动触发指令时触发，以整个会话为粒度生成会话记忆摘要。

19、在本技术一些实施方式中，微压缩策略包括：

20、对消息分配初始价值，并基于时间衰减和引用增强因子计算消息的当前价值：

21、；

22、其中，为消息初始价值，为根据消息类型设定的衰减系数，为消息创建时间，为该消息被后续消息引用的次数，

β为引用增益系数；

23、当前价值低于预设价值阈值时，对该消息执行清理操作。

24、在本技术一些实施方式中，微压缩层、自动压缩层和会话记忆压缩层的触发条件根据压缩紧迫度评分u确定：

25、；

26、其中，为当前token占用率，为触发阈值，

c为连续未压缩轮次，为最大容忍轮次，δ

l为平均响应延迟增长率，

α1、α2、

α3为权重系数；

27、当压缩紧迫度评分u落入微压缩层、自动压缩层和会话记忆压缩层相应层级预设区间时，触发对应层级的压缩操作。

28、在本技术一些实施方式中，当执行完整压缩策略时，若压缩请求本身超出语言模型的上下文窗口限制，则触发上下文超长重试截断保护机制，该机制包括：

29、获取已压缩分组的范围，识别未压缩的分组；

30、按分组时间顺序从旧到新，逐组丢弃完整分组，直至累积丢弃的token数量满足截断需求；

31、若丢弃所有可丢弃分组后仍不满足需求，对最新分组内的消息进行逐条截断，优先保留用户消息和工具调用结果消息；

32、使用截断后的消息序列重新发起压缩请求。

33、在本技术一些实施方式中，方法进一步包括：

34、当压缩操作连续失败次数达到预设最大阈值时，触发熔断保护，自动暂停压缩操作；

35、进入冷却等待状态，当冷却时间超过预设冷却周期后，进入半开状态尝试一次压缩请求；

36、若该次压缩请求成功，则重置失败计数器并恢复正常压缩状态；若该次压缩请求再次失败，则重新进入熔断状态并延长冷却周期。

37、在本技术一些实施方式中，在上下文被压缩后，进一步包括智能文件恢复步骤：

38、从文件状态缓存中获取已读取的文件列表，按预设排除规则过滤后，根据文件恢复优先级评分排序：

39、；

40、其中，为文件最近访问时间，为访问频次，表示文件是否被修改，为文件与当前任务的相关度，

η1,

η2,

η3,

η4为权重系数；

41、在token预算约束下，按优先级评分降序选择恢复文件并添加至压缩后的消息序列中。

42、在本技术一些实施方式中，在触发压缩操作时，进一步包括提示词缓存复用步骤：

43、检测主会话是否已建立缓存前缀，缓存前缀包括系统提示词、工具定义及上下文消息；

44、若已建立有效缓存前缀，则将压缩请求的缓存参数设置为主会话的缓存参数，使压缩请求复用缓存前缀，仅对新增对话部分进行token计费。

45、根据本技术实施例的第二个方面，提供了一种面向智能体会话的上下文压缩系统，包括：

46、消息接收模块，用于接收智能体与用户之间的多轮对话消息序列，对话消息序列包含用户消息、模型消息以及工具调用相关消息；

47、解析分组模块，用于基于api轮次边界对对话消息序列进行分组，其中，api轮次边界根据用户消息的交互角色、模型消息和工具调用标识确定，将属于同一工具调用周期的一组对话消息划分至同一分组；

48、分层压缩模块，用于根据预设触发条件，从分层压缩策略集合中选择执行微压缩策略和/或完整压缩策略，对同一分组内的对话消息序列执行压缩；

49、微压缩策略包括对超过时间阈值的工具调用结果消息进行内容清理；

50、完整压缩策略包括调用语言模型对至少一个分组内的对话消息生成结构化摘要，结构化摘要包含任务状态和工具使用记录，并在压缩位置创建压缩边界标记；将压缩后的摘要消息与未压缩的保留消息重组为新的对话上下文。

51、根据本技术实施例的第三个方面，提供了一种面向智能体会话的上下文压缩装置，包括：存储单元，用于存储可执行指令；以及处理单元，用于与存储器连接以执行可执行指令从而完成面向智能体会话的上下文压缩方法。

52、根据本技术实施例的第四个方面，提供了一种计算机可读存储介质，其上存储有计算机程序；计算机程序被处理器执行以实现面向智能体会话的上下文压缩方法。

53、采用本技术的一种面向智能体会话的上下文压缩方法、系统、装置及存储介质，方法包括接收智能体与用户之间的多轮对话消息序列，对话消息序列包含用户消息、模型消息以及工具调用相关消息；基于api轮次边界对对话消息序列进行分组，其中，api轮次边界根据用户消息的交互角色、模型消息和工具调用标识确定，将属于同一工具调用周期的一组对话消息划分至同一分组；根据预设触发条件，从分层压缩策略集合中选择执行微压缩策略和/或完整压缩策略，对同一分组内的对话消息序列执行压缩。本技术通过构建分层递进的压缩架构，针对智能体工具调用场景的特殊性设计api轮次感知分组策略，实现对智能体长程对话上下文的高效、可控、可恢复压缩。

54、与现有技术相比，本发明的有益效果在于：

55、（1）通过引入api轮次感知分组机制，基于消息的交互角色和工具调用标识进行分组，确保工具调用周期的原子性和完整性，解决了现有技术未考虑工具调用链保护的技术问题。

56、（2）通过构建微压缩层、自动压缩层和会话记忆压缩层的三层递进压缩架构，实现从即时清理到深度压缩的分级处理，并引入压缩紧迫度评分公式进行量化决策，解决了现有技术中单一压缩策略无法适应不同对话阶段需求的问题。

57、（3）通过上下文超长重试截断保护机制，在压缩请求本身超限时，基于分组价值评分进行结构化截断而非无差别比例压缩，优先保护高价值分组，解决了现有技术中压缩操作本身可能失败的问题。

58、（4）通过引入熔断保护机制与自适应阈值调整，防止连续失败的压缩操作浪费系统资源，解决了现有技术中缺乏压缩风险控制的问题。

59、（5）通过压缩后智能文件恢复的多因素优先级评分机制，以及提示词缓存复用机制，在压缩效率、信息完整性和系统成本之间取得平衡，提升了用户体验和系统稳定性。