分布式智能代理协同处理方法、装置、主服务器及介质与流程
本技术涉及计算机,尤其涉及一种分布式智能代理协同处理方法、装置、主服务器及介质。
背景技术:
1、现有面向多数据源的智能问答服务,多采用集中式单体架构与孤岛式独立节点架构。集中式单体架构将智能问答服务的所有功能全部集中于中心服务节点,用户会话上下文长期占用中心节点内存资源,系统并发承载能力受中心硬件资源约束难以弹性扩容。孤岛式独立节点架构为各业务单元单独部署问答推理服务,节点间无统一调度中枢与通信链路,无法进行跨节点知识协同调度。
技术实现思路
1、本技术实施例提供一种分布式智能代理协同处理方法、装置、主服务器及介质,用以解决现有问答架构单点资源过载、并发性能不足、多节点间无法进行跨节点知识协同调度的技术问题。
2、本技术实施例第一方面提供一种分布式智能代理协同处理方法,应用于主服务器,所述主服务器与终端设备和多个从服务器分别通信连接,每个从服务器部署于不同的公共服务机构,所述主服务器中部署有主智能体,每个从服务器独立部署有子智能体;所述方法包括:
3、接收到终端设备发送的服务请求信息时,通过所述主智能体对所述服务请求信息进行语义解析与意图识别,得到业务实体;
4、根据所述业务实体及主智能体存储的子智能体功能台账匹配出从所述多个从服务器中匹配出至少一个从服务器作为目标从服务器;
5、向所述目标从服务器对应的目标子智能体发送咨询请求,同时将所述服务请求信息对应的会话session暂存至redis缓存,并释放所述主智能体的计算资源;
6、接收所述目标子智能体基于多模态记忆数据库与检索增强生成技术检索分析后返回的针对所述咨询请求的答复信息;
7、侦测到任务处理完成信号后触发所述主智能体重载对应的会话session,并从会话session读取缓存中的所有答复信息,对所有答复信息进行内容整合,得到请求处理结果;
8、将所述请求处理结果发送至所述终端设备。
9、在一个可选的实施例中,所述主智能体与所述子智能体采用分层独立记忆架构,所述主智能体管理短期会话记忆,所述子智能体独立隔离管理用户长期业务记忆。
10、在一个可选的实施例中,所述分层独立记忆架构的实施方式包括:
11、所述主智能体负责短期会话调度记忆管理,存储单次任务的会话session与请求分发记录,任务结束后自动清空对应短期记忆,不留存用户长期业务数据;
12、所述子智能体分别配置专属独立记忆数据库,隔离存储对应业务场景下的用户历史交互记录、业务办理数据与个性化记忆信息,各子智能体记忆数据互不连通、互不干扰。
13、在一个可选的实施例中,所述子智能体支持自主上线注册、业务动态更新与健康状态上报,所述主智能体配合周期性巡检实现系统高可用自愈。
14、在一个可选的实施例中,所述对所有答复信息进行内容整合,得到请求处理结果包括:
15、利用预定义的置信度权重对所有答复信息进行标准化处理,生成请求处理结果。
16、在一个可选的实施例中,所述利用预定义的置信度权重对所有答复信息进行标准化处理,生成请求处理结果包括:
17、采用预训练语言模型将答复信息编码为初始空间向量;
18、通过对比学习损失函数对所述初始空间向量进行优化得到目标空间向量;
19、对所述目标空间向量做标准化处理;
20、对标准化处理后的目标空间向量进行无监督聚类并滤除偏离主题的空间向量;
21、将剩余有效的目标空间向量按预定义的置信度权重进行加权融合并还原,得到请求处理结果。
22、在一个可选的实施例中,所述目标子智能体在接收到所述咨询请求后,从数据库中检索与所述服务请求信息相匹配的业务数据,得到检索结果;基于所述检索结果生成所述答复信息,其中,若所述检索结果为无匹配内容或所述服务请求信息超出所述目标子智能体对应的业务范围,生成超出业务范围标识作为所述答复信息。
23、本技术实施例第二方面提供一种分布式智能代理协同处理装置,应用于主服务器,所述主服务器与终端设备和多个从服务器分别通信连接,每个从服务器部署于不同的公共服务机构,所述主服务器中部署有主智能体,每个从服务器独立部署有子智能体;所述装置包括:
24、识别模块,用于接收到终端设备发送的服务请求信息时,通过所述主智能体对所述服务请求信息进行语义解析与意图识别,得到业务实体;
25、匹配模块,用于根据所述业务实体及主智能体存储的子智能体功能台账匹配出从所述多个从服务器中匹配出至少一个从服务器作为目标从服务器;
26、处理模块,用于向所述目标从服务器对应的目标子智能体发送咨询请求,同时将所述服务请求信息对应的会话session暂存至redis缓存,并释放所述主智能体的计算资源;
27、接收模块,还用于接收所述目标子智能体基于多模态记忆数据库与检索增强生成技术检索分析后返回的针对所述咨询请求的答复信息;
28、重载模块,用于侦测到任务处理完成信号后触发所述主智能体重载对应的会话session,并从会话session读取缓存中的所有答复信息,对所有答复信息进行内容整合,得到请求处理结果;
29、发送模块,用于将所述请求处理结果发送至所述终端设备。
30、本技术实施例第三方面提供一种主服务器,包括处理器和存储器,所述存储器存储有能够被所述处理器执行的计算机可执行指令,所述处理器执行所述计算机可执行指令以实现如上所述的分布式智能代理协同处理方法。
31、本技术实施例第四方面提供一种计算机可读存储介质,所述计算机可读存储介质存储有至少一个指令,所述至少一个指令被处理器执行时实现如上所述的分布式智能代理协同处理方法。
32、本技术应用于主服务器,所述主服务器与终端设备和多个从服务器分别通信连接,每个从服务器部署于不同的公共服务机构,所述主服务器中部署有主智能体,每个从服务器独立部署有子智能体;主服务器接收到终端设备发送的服务请求信息时,通过所述主智能体对所述服务请求信息进行语义解析与意图识别,得到业务实体;根据所述业务实体及主智能体存储的子智能体功能台账匹配出从所述多个从服务器中匹配出至少一个从服务器作为目标从服务器,构建了覆盖全部从服务器的统一调度中枢与主从通信链路,打破各从服务器子智能体的部署孤岛;向所述目标从服务器对应的目标子智能体发送咨询请求,同时将所述服务请求信息对应的会话session暂存至redis缓存,并释放所述主智能体的计算资源,将会话上下文从主服务器内存剥离,避免会话长期占用主服务器的硬件资源,缓解主服务器的算力压力,有效提升系统并发承载能力与弹性扩展能力;接收所述目标子智能体基于多模态记忆数据库与检索增强生成技术检索分析后返回的针对所述咨询请求的答复信息,实现了配合主节点的任务调度实现跨节点知识协同调用;侦测到任务处理完成信号后触发所述主智能体重载对应的会话session,并从会话session读取缓存中的所有答复信息,对所有答复信息进行内容整合,得到请求处理结果,依托全局会话保障多节点协同答复逻辑连贯,整体解决了集中式架构并发扩容困难、孤岛式节点无法实现跨节点知识协同调度的技术问题。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com