多智能体推理中的用户意图偏转处理方法及装置与流程

本技术涉及人工智能，具体而言，涉及一种多智能体推理中的用户意图偏转处理方法及装置。

背景技术：

1、随着人工智能技术的飞速发展，基于大语言模型的多智能体协同系统在智能客服、智能家居及工业决策等领域得到了广泛应用。在多智能体协同推理过程中，系统通常将用户请求解析为一系列原子任务，并通过主控智能体串行分发至各子智能体执行，形成一条固定的线性推理管道。各子智能体通过同步阻塞调用依次完成任务，从任务分发到结果输出构成一条单向、不可逆的有向线段。

2、然而，现有技术在处理用户动态交互场景时存在显著缺陷。首先，推理链路缺乏柔性，当用户意图偏转时，系统无法在保留已有推理成果的基础上进行分支演进，而是必须销毁整个推理管道并从头重建，这种硬中断机制导致交互界面出现明显的断层感，用户需重新等待生成，严重影响了人机交互的连贯性与体验。其次，由于硬中断机制彻底销毁了所有中间推理状态，若新旧指令存在逻辑交集（如仅将目的地从杭州变更为苏州，其余行程规划逻辑不变），系统仍需消耗大量算力重新计算全部内容，无法实现推理中间态的跨分支复用，这不仅降低了系统响应效率，也造成了计算资源的极大冗余与浪费。

3、针对上述的问题，目前尚未提出有效的解决方案。

技术实现思路

1、本技术实施例提供了一种多智能体推理中的用户意图偏转处理方法及装置，以至少解决传统多智能体推理方案中遇到用户意图偏转只能从头重新推理，浪费计算资源的技术问题。

2、根据本技术实施例的一个方面，提供了一种多智能体推理中的用户意图偏转处理方法，包括：获取目标任务对应的思维流图谱，其中，目标任务被解析为多个子任务，思维流图谱中包括：用于反映子任务推理状态的节点、以及用于反映子任务间推理依赖关系的有向边；响应于用户的意图偏转指令，确定思维流图谱中当前活跃的目标活跃节点与意图偏转指令对应的公共祖先节点，并将目标活跃节点调整为保留推理中间态的挂起状态；确定意图偏转指令与思维流图谱中多个历史挂起节点之间的语义相似度；若存在语义相似度高于第一预设阈值的目标历史挂起节点，建立公共祖先节点至目标历史挂起节点的有向边，基于目标历史挂起节点继续进行推理；若不存在语义相似度高于第一预设阈值的目标历史挂起节点，基于意图偏转指令在公共祖先节点处创建新的分支节点，基于新的分支节点继续进行推理。

3、可选地，获取目标任务对应的思维流图谱，包括：接收目标任务，从目标任务中提取初始意图语义向量和初始任务参数，并将初始意图语义向量和初始任务参数封装为初始上下文；基于初始上下文将目标任务拆分为多个子任务，并确定各个子任务间的推理依赖关系；创建根节点，将初始上下文序列化为快照存储至根节点，标记根节点的状态为运行中；创建每个子任务对应的子任务节点，标记各个子任务节点的状态为待执行；基于各个子任务间的推理依赖关系构建各个子任务节点之间的有向边，以及根节点至最高层级子任务节点的有向边，得到初始思维流图谱；调度多个智能体执行各个子任务，并在推理过程中更新对应子任务节点的状态。

4、可选地，响应于用户的意图偏转指令，确定思维流图谱中当前活跃的目标活跃节点与意图偏转指令对应的公共祖先节点，包括：接收用户在推理过程中输入的意图偏转指令，并从意图偏转指令中提取目标意图语义向量和目标任务参数；以思维流图谱中的目标活跃节点为起点，沿有向边向父节点方向逐层回溯，确定回溯路径上的各个节点的上下文语义向量与目标意图语义向量之间的语义偏离度，并确定语义偏离度低于第二预设阈值的节点中层级最深的节点作为候选公共祖先节点；检验候选公共祖先节点对应的任务参数与目标任务参数是否冲突，若无冲突，确定候选公共祖先节点为公共祖先节点。

5、可选地，将目标活跃节点调整为保留推理中间态的挂起状态，包括：将目标活跃节点的状态调整为挂起状态；异步触发将目标活跃节点在计算设备显存中的推理中间态序列化为快照存储至目标存储区域；在预设时长内，保留推理中间态在计算设备显存中的指针；经过预设时长后，释放推理中间态在计算设备显存中的指针。

6、可选地，建立公共祖先节点至目标历史挂起节点的有向边，基于目标历史挂起节点继续进行推理，包括：建立公共祖先节点至目标历史挂起节点的嫁接边；将系统活跃指针重定向至目标历史挂起节点以复用目标历史挂起节点的推理状态。

7、可选地，基于意图偏转指令在公共祖先节点处创建新的分支节点，基于新的分支节点继续进行推理，包括：基于意图偏转指令创建新的分支节点，其中，新的分支节点继承公共祖先节点的上下文信息；建立公共祖先节点至新的分支节点的分叉边；将系统活跃指针重定向至新的分支节点以进行推理。

8、可选地，重定向系统活跃指针，包括：通过双缓冲消息队列解耦推理数据的生产流与前端输出的消费流，其中，双缓冲消息队列包括：生产缓冲区和消费缓冲区；在切换推理路径分支时，向生产缓冲区发送无效化信号，其中，无效化信号用于指示停止目标活跃节点的推理数据生产；监控消费缓冲区中的输出令牌，在检测到句子结束标志时，执行原子性指针切换，将系统活跃指针从目标活跃节点重定向至目标历史挂起节点或新的分支节点；将预设的衔接过渡文本写入消费缓冲区，以供前端渲染输出。

9、可选地，周期性对思维流图谱中的各个目标推理分支进行子图拓扑同构检测，其中，目标推理分支的类型包括以下至少之一：已完成推理分支、已挂起推理分支；若存在拓扑同构的子图，对于拓扑同构的子图中的每对同构节点对，确定一个节点为保留节点，另一个节点为冗余节点；将指向冗余节点的所有入边目标指针重定向至保留节点；合并冗余节点与保留节点的输出缓冲区并执行去重处理；释放冗余节点占用的计算设备显存资源，并记录合并操作日志。

10、可选地，周期性对思维流图谱中的各个目标推理分支进行子图拓扑同构检测，包括：周期性将思维流图谱中的所有目标推理分支两两分组得到多组推理分支对；对于每组推理分支对中的每个目标推理分支，分别确定目标推理分支中的各个节点的拓扑特征哈希值，并组成拓扑特征哈希值集合，其中，每个节点的拓扑特征哈希值是基于节点的任务类型、语义向量、任务参数及对应的子节点的拓扑特征哈希值递归生成；确定推理分支对对应的两个拓扑特征哈希值集合的交集，并确定交集中的每个拓扑特征哈希值对应的两个节点作为一组候选同构节点对；对于每组候选同构节点对，确定候选同构节点对中两个节点的语义相似度，若语义相似度高于第三预设阈值，递归比较两个节点对应的子节点数量、边类型序列以及子节点拓扑结构，若递归比较结果均一致，确定候选同构节点对对应的两个子图同构，其中，子图中包括：候选同构节点及对应的所有子节点。

11、可选地，基于新的分支节点继续进行推理，包括：确定目标活跃节点所属的挂起推理分支，并从挂起推理分支中提取结论性知识片段；对结论性知识片段进行兼容性评估和信息增益评估，其中，兼容性评估用于判断结论性知识片段与新的分支节点的上下文是否存在冲突；在评估结果满足预设条件的情况下，将结论性知识片段追加写入新的分支节点的上下文快照中以进行推理，并创建蒸馏边以记录知识来源。

12、可选地，周期性从历史会话对应的思维流图谱中提取信息增益高于第四预设阈值的知识片段，并将去重后的所有知识片段存储至全局知识库；在封装初始上下文时，从全局知识库中确定与初始意图语义向量和初始任务参数匹配的目标知识片段，将初始意图语义向量、初始任务参数和目标知识片段封装为初始上下文。

13、可选地，周期性生成思维流图谱的版本快照及快照标识，其中，快照标识中包括以下信息至少之一：版本号、时间戳、节点数量、活跃分支标识；在思维流图谱中的节点数量超过第五预设阈值的情况下，基于最近最少使用策略将最久未访问的挂起节点压缩归档至目标存储区域，仅保留对应节点的元数据。

14、根据本技术实施例的另一方面，还提供了一种多智能体推理中的用户意图偏转处理装置，包括：获取模块，用于获取目标任务对应的思维流图谱，其中，目标任务被解析为多个子任务，思维流图谱中包括：用于反映子任务推理状态的节点、以及用于反映子任务间推理依赖关系的有向边；节点确定模块，用于响应于用户的意图偏转指令，确定思维流图谱中当前活跃的目标活跃节点与意图偏转指令对应的公共祖先节点，并将目标活跃节点调整为保留推理中间态的挂起状态；语义计算模块，用于确定意图偏转指令与思维流图谱中多个历史挂起节点之间的语义相似度；第一处理模块，用于在存在语义相似度高于第一预设阈值的目标历史挂起节点的情况下，建立公共祖先节点至目标历史挂起节点的有向边，基于目标历史挂起节点继续进行推理；第二处理模块，用于在不存在语义相似度高于第一预设阈值的目标历史挂起节点的情况下，基于意图偏转指令在公共祖先节点处创建新的分支节点，基于新的分支节点继续进行推理。

15、根据本技术实施例的另一方面，还提供了一种计算机程序产品，该计算机程序产品包括：计算机程序，其中，计算机程序被处理器执行时实现上述的多智能体推理中的用户意图偏转处理方法。

16、根据本技术实施例的另一方面，还提供了一种电子设备，该电子设备包括：存储器和处理器，其中，存储器中存储有计算机程序，处理器被配置为通过计算机程序执行上述的多智能体推理中的用户意图偏转处理方法。

17、在本技术实施例中，通过引入思维流图谱数据结构，可以将多智能体的推理过程从线性管道升级为动态生长的有向无环图，图谱中各节点表示推理状态，有向边表示推理依赖关系；当用户发起新交互时，系统不会销毁旧节点，通过以节点软挂起代替硬中断，可以将显存中的推理中间态序列化为快照存入节点，实现推理状态的原子级保留；通过执行最近公共祖先定位，可以创建嫁接边，将新思维流连接至已有挂起节点，也可以在图谱中创建分叉节点，使新思维流从旧图谱的最近公共祖先节点处分叉生长，整个过程尽可能实现已完成推理的复用，避免了完全重启导致的计算资源浪费；配合底层双缓冲消息队列，可以实现推理生产流与前端输出消费流的解耦，使前端在句末边界处完成无感热切换，提升用户体验。本技术有效解决了传统多智能体推理方案中遇到用户意图偏转只能从头重新推理，浪费计算资源的技术问题。