一种用于大语言模型多轮长对话的结构化内容保真压缩方法和装置与流程

本技术涉及大语言模型对话，尤其涉及一种用于大语言模型多轮长对话的结构化内容保真压缩方法和装置。

背景技术：

1、近年来，随着人工智能技术的迅猛发展，尤其是大语言模型的应用日益广泛，其在自然语言处理、智能问答、代码生成与理解、数据分析等领域的表现显著提升了生产效率和用户体验。由于大语言模型的架构设计、计算复杂度以及存储和计算资源的限制，它们针对输入文本通常设定有最大上下文窗口，即最大token数量阈值，token是文本的基本处理单元。

2、基于大语言模型的对话业务普遍要求对话系统具备多轮对话的能力，在智能数据查询、商业智能助手等垂直场景中，单次会话往往涉及数十轮甚至上百轮的交互。一方面，多轮对话的形式使得大语言模型能够通过对上下文的理解，捕捉对话中的关键词和语境，增强模型对用户意图的识别能力，支持复杂的增量式分析任务。另一方面，由于对话系统在进行多轮对话时，普遍把所有轮次的提问和回答添加在一起作为新一轮对话中大语言模型的输入，累积增加了大语言模型的输入token数量，造成历史数据膨胀。在长时间的对话中，累积的token数量可能会超过大语言模型的最大上下文窗口阈值，导致大语言模型无法有效处理后续对话。现有的摘要式压缩方案虽然能够在一定程度上压缩历史对话的token数量，但大语言模型在生成摘要时倾向于将历史消息中嵌入的结构化内容（如sql查询语句）自然语言化，导致原始结构化内容丢失，使得后续轮次中无法复跑或基于原有结构化内容进行增量分析，同时也无法满足审计合规的要求，严重影响对话系统的性能和用户体验。

3、因此，亟需一种应用于大语言模型多轮长对话的结构化内容保真压缩方法，以在压缩历史对话token数量的同时，保留其中嵌入的结构化内容的原始形态，从而优化对话系统的运行效率并保证结构化内容的完整性和可复用性。

技术实现思路

1、本技术的目的在于提供一种用于大语言模型多轮长对话的结构化内容保真压缩方法和装置，能够有效解决大语言模型多轮长对话中的token膨胀问题，同时保持结构化查询语句的精确语法和语义信息，支持后续轮次的复跑操作与增量分析，提升对话系统的功能完整性和用户体验。

2、第一方面，本技术提出了一种用于大语言模型多轮长对话的结构化内容保真压缩方法，包括以下步骤：

3、将多轮对话历史编码为因果有向无环图，所述因果有向无环图的节点包括用户意图节点、结构化锚点节点、实体节点、约束节点，节点之间的有向边表示因果依赖关系；其中所述结构化锚点节点对应对话中的结构化查询语句，具有符号不可压缩属性；

4、基于变分信息瓶颈框架，在预设token预算约束下对所述因果有向无环图执行剪枝，保留与后续对话意图互信息量满足预设条件的子图作为压缩表示；

5、对剪枝后的因果子图执行神经符号混合保真校验，神经侧通过大语言模型验证语义一致性，符号侧通过可满足性模理论求解器验证结构化锚点节点的逻辑等价性；

6、采用双阶段压缩机制，第一阶段为在线增量剪枝阶段，随对话推进实时更新因果图并执行轻量剪枝；第二阶段为离线记忆巩固阶段，在对话空闲期执行因果图重构与节点合并；

7、将校验通过的因果子图转换为文本表示后，写入与状态机检查点逻辑隔离的因果记忆存储。

8、可选地，所述将多轮对话历史编码为因果有向无环图，具体包括：

9、通过基于条件独立性检验的因果发现算法，识别对话中各信息单元之间的因果依赖关系，生成初始因果图结构；

10、通过正则表达式与语法解析识别对话中的结构化查询语句，将所述结构化查询语句标记为结构化锚点节点，为每个所述结构化锚点节点分配不可压缩标记；

11、为每个节点计算因果重要性评分，所述因果重要性评分为该节点到所有后续意图节点的因果路径数量的归一化值。

12、可选地，所述基于变分信息瓶颈框架执行剪枝，具体包括：

13、将剪枝后的子图作为压缩表示随机变量，将后续对话意图作为目标随机变量；

14、采用双层降级策略估算当前对话历史的token总量，第一层加载tokenizer编码器执行精确计数，第二层在tokenizer不可用时按字符数乘以预设系数执行启发式估算，将所述token总量作为token预算约束的依据；

15、通过变分推断求解信息瓶颈优化目标，在所述token预算约束下确定保留的节点与边集合。

16、可选地，所述结构化锚点节点嵌入有语义水印，所述语义水印的生成与检测包括：

17、在不改变结构化查询语句语义等价性的前提下，调整子句排列顺序、插入恒真条件、修改表别名，生成水印版本；

18、保真校验时，通过检测所述语义水印是否存在，判断结构化锚点节点是否被篡改；

19、同时通过中文字符正则匹配检测结构化锚点节点中是否出现自然语言翻译内容，作为损坏判定的辅助依据。

20、可选地，所述神经符号混合保真校验，具体包括：

21、神经侧：将剪枝前后的因果子图转换为自然语言描述，调用大语言模型输出语义一致性判断结果；

22、符号侧：对结构化锚点节点对应的结构化查询语句，通过可满足性模理论求解器输出逻辑等价性判断结果；

23、当两侧校验均通过时，判定压缩结果保真；当任一侧校验未通过时，触发结构化内容还原流程，依次执行位置匹配还原、表名集合匹配度还原、长度比兜底还原三级降级处理。

24、可选地，所述双阶段压缩机制，具体包括：

25、在线增量剪枝阶段：每新增一轮对话即更新因果图，当待处理消息数量超过预设批大小时，按所述预设批大小执行分批递归处理，批与批之间采用增量摘要传递机制，将前一批生成的因果子图作为下一批的已有记忆输入；调用大语言模型时启用重试机制，当返回错误信息包含长度限制关键字时，对待处理消息执行自适应截断后重试；

26、离线记忆巩固阶段：在对话空闲期或显式触发时，执行深度图重构，包括合并语义冗余节点、重估因果边权重、提炼高阶抽象意图节点；

27、所述离线记忆巩固阶段的计算资源消耗高于所述在线增量剪枝阶段。

28、可选地，当神经符号混合保真校验检测到结构化锚点节点损坏且三级还原均失败时，执行基于条件扩散模型的结构化内容重建：以损坏的结构化内容为初始条件，以因果图中相邻节点的语义信息为上下文引导，通过预训练的结构化扩散模型逐步去噪，生成语义等价的重建结果；所述预训练的结构化扩散模型在大规模结构化查询语句数据集上训练。

29、可选地，所述写入与状态机检查点逻辑隔离的因果记忆存储，具体包括：

30、将因果子图以图数据库格式持久化存储，通过会话标识与状态机检查点进行关联；

31、在人机交互中断恢复后，状态机节点优先从所述因果记忆存储读取压缩后的因果子图；

32、所述因果记忆存储的读写操作不修改状态机检查点的内部状态数据；

33、压缩过程中记录压缩前token数、压缩后token数、压缩比、结构化内容修复条数、压缩耗时、各步骤执行状态，生成审计日志。

34、第二方面，本技术还提出了一种用于大语言模型多轮长对话的结构化内容保真压缩装置，包括：

35、因果图构建模块，用于将多轮对话历史编码为因果有向无环图，识别结构化锚点节点并嵌入语义水印，计算各节点的因果重要性评分；

36、信息瓶颈剪枝模块，用于基于变分信息瓶颈框架，在预设token预算约束下对因果有向无环图执行剪枝；

37、token估算模块，用于采用双层降级策略估算对话历史的token总量，为token预算约束提供依据；

38、神经符号校验模块，用于对剪枝后的因果子图执行神经侧语义一致性校验与符号侧逻辑等价性校验；

39、双阶段调度模块，用于调度在线增量剪枝阶段与离线记忆巩固阶段的执行，支持分批递归、增量摘要传递与输出超限重试；

40、结构化还原模块，用于在校验检测到损坏时，依次执行三级降级还原与扩散模型重建；

41、因果记忆存储模块，用于将校验通过的因果子图以图格式持久化存储，与状态机检查点逻辑隔离；

42、审计模块，用于记录压缩过程的关键指标与执行状态，生成审计日志。

43、可选地，所述系统集成有结构化内容保真压缩装置，使得在多轮自然语言数据查询过程中，历史对话以因果有向无环图形式存储与压缩，结构化查询语句作为锚点节点保持逻辑等价性，支持后续轮次中的复跑操作与增量分析操作。

44、相对于现有技术，本技术提供的一种用于大语言模型多轮长对话的结构化内容保真压缩方法和装置，通过将对话历史编码为因果有向无环图并执行信息瓶颈剪枝和神经符号校验，有效压缩token数量同时保真结构化内容，能够有效解决大语言模型多轮长对话中的token膨胀问题，同时保持结构化查询语句的精确语法和语义信息，支持后续轮次的复跑操作与增量分析，提升对话系统的功能完整性和用户体验。