实现目标业务的对话方法、系统、电子设备及存储介质与流程
本发明涉及人工智能,特别地涉及一种实现目标业务的对话方法、系统、电子设备及存储介质。
背景技术:
1、随着人工智能大模型技术的快速发展,ai(artificial intelligence)对话系统已广泛应用于各类互联网服务平台。其中,招聘服务平台的ai对话系统已成为连接平台、求职者与企业用户的重要交互载体,能够智能化地解答用户咨询、辅助简历筛选、职位匹配、业务查询、职位发布等各类招聘场景业务,极大提升了招聘服务的自动化和智能化水平,降低了平台人工服务成本。目前,基于传统大模型交互架构搭建的ai对话系统主要存在以下的技术痛点:
2、第一,多用户会话隔离难度大,系统资源利用率低。现有ai对话系统普遍采用服务实例共享的运行模式,全体平台用户共用同一套对话服务实例与上下文存储体系。在大规模用户同时在线交互的场景下,不同用户的对话历史、交互上下文、业务偏好等数据极易发生混淆、串扰,导致ai对话应答错乱、业务匹配出错等问题,影响用户使用体验与业务处理准确性。为解决会话串扰问题,部分方案尝试为每一位用户独立部署专属服务实例,但该方式会造成服务器算力、内存、存储资源的大量冗余,用户规模越大,资源损耗越严重,同时大幅提升了系统部署、日常运维的人力与硬件成本。
3、第二,业务能力扩展性薄弱,功能迭代灵活性差。招聘业务具备筛选维度多、更新频次高的特点,除常规的学历、工作经验、薪资待遇等筛选维度外,常需要根据需新增个性化的简历/职位筛选维度维度,例如证书资质、从业年限、户籍所在地等。而传统ai对话系统的业务规则、筛选逻辑与后端代码深度耦合。每当需要新增、修改或删减业务筛选维度与相应的功能模块时,需要研发人员修改大量的后端核心代码,在完成代码调试和整体测试后,再部署上线。操作繁琐、迭代周期长。
4、第三,大模型与业务工具集成难度高、适配性差。通用大模型仅具备语义理解、智能问答、文本生成等基础认知能力,不具备独立执行业务操作、数据处理的能力,为了完成招聘场景下的简历精准检索、地区代码标准化转换、职位信息规整、数据校验等实操类业务,需要为大模型集成各种各样的业务工具。然而,由于各类招聘业务工具的输入参数格式、接口调用方式、数据返回规范各不相同,大模型与不同业务工具对接时需要单独开发适配代码,存在集成流程繁琐、代码冗余度高、对接兼容性差的问题,新增业务工具、改造现有工具的集成成本高。
技术实现思路
1、针对现有技术中存在的技术问题,本发明提出了一种实现目标业务的对话方法、系统、电子设备及存储介质,能够隔离用户会话,提高系统的扩展性、工具集成的灵活性以及稳定性。
2、为了解决上述技术问题,根据本发明的一个方面,本发明提供了一种实现目标业务的对话方法,其应用于招聘服务平台,所述方法包括:
3、解析用户在招聘服务平台前端应用层对目标业务发起的对话请求以得到用户标识;
4、基于用户标识获取agent接口;其中,所述agent配置有用于完成目标业务的工具描述以及一个或多个独立技能文件;
5、通过所述agent接口将所述用户的对话请求发送到serverless平台;
6、serverless平台将所述用户的对话请求路由到所述用户的专属agent服务实例;
7、所述用户的专属agent服务实例处理所述对话请求并生成对话响应信息;以及
8、serverless平台将所述对话响应信息返回给招聘服务平台,并返回到前面应用层以显示给所述用户;
9、其中,所述用户的专属agent服务实例处理所述对话请求并生成对话响应信息的步骤包括:
10、调用大语言模型基于工具描述和技能文件理解对话请求中的用户输入信息,确定完成目标任务的任务流以及任务流中每个阶段任务所需的工具;以及
11、执行所述任务流,并基于任务流的执行结果生成所述对话请求的响应信息。
12、可选地,基于用户标识获取agent接口时,从预置的fc函数绑定表中查询为所述用户实现目标业务的专属agent函数及其接口,其中,所述fc函数绑定表中记载了与用户标识绑定的实现目标业务的专属agent函数及其接口信息。
13、可选地,响应于从预置的fc函数绑定表中没有查询为所述用户实现目标业务的agent的函数及其接口,所述方法进一步包括:
14、调用serverless平台的函数创建接口创建用于为所述用户实现目标业务的agent的函数; 创建调用所述函数的接口;以及
15、将所述函数及其调用接口持久化到所述fc函数绑定表中,并建立与所述用户的绑定关系。
16、可选地,调用serverless平台的函数创建接口创建用于为所述用户实现目标业务的agent的函数时,至少配置以下信息:
17、至少以目标业务信息和用户标识设置函数名称;
18、将函数运行环境配置为运行时,并指定运行时为agent容器镜像;
19、设置会话亲和性,并在会话亲和性信息中包括会话字段和用户标识;以及
20、设置挂载的文件系统信息。
21、可选地,创建调用所述函数的接口的步骤进一步包括:
22、调用serverless平台的函数触发器创建接口为所述函数创建触发器,并配置触发器名称、类型、对应的函数名称以及触发规则;以及
23、接收serverless平台返回的触发器url,所述触发器url为调用所述函数的agent接口。
24、可选地,serverless平台基于agent接口携带的会话亲和信息将所述用户的对话请求路由到所述用户对应的专属agent服务实例。
25、可选地,serverless平台接收到通过所述agent接口传送的对话请求信息后进一步包括:
26、查询serverless平台中是否存在预热的所述用户的专属agent服务实例;以及
27、响应于serverless平台中存在预热的所述用户的专属agent服务实例,复用所述预热的专属agent服务实例。
28、可选地,响应于serverless平台中不存在预热的所述用户的专属agent服务实例,进一步包括创建所述用户的专属agent服务实例的步骤,包括:
29、基于与所述用户对应的函数配置信息拉取agent容器镜像以启动agent容器;
30、agent容器创建会话,并加载已配置的用于目标业务的工具列表以及技能文件;以及
31、与工具列表中的工具建立调用连接。
32、可选地,创建所述用户的专属agent服务实例的步骤进一步包括:
33、serverless平台向招聘服务平台返回所述用户的专属agent服务实例的创建通知信息;以及
34、招聘服务平台基于所述用户的专属agent服务实例的创建通知信息,生成加载动画并在前端显示给所述用户。
35、可选地,在基于与所述用户对应的函数配置信息拉取agent容器镜像时,基于agent容器镜像别名确定拉取的agent容器镜像版本,和/或基于优化配置信息在拉取agent容器镜像时优化agent容器镜像。
36、可选地,在调用serverless平台的函数创建接口创建用于为所述用户实现目标业务的agent的函数时,还配置实例的空闲超时阈值信息,对应地,在所述用户的专属agent服务实例创建后,所述serverless平台监测所述用户的专属agent服务实例的空闲时间,在达到空闲超时阈值时,回收所述用户的专属agent服务实例。
37、可选地,在所述用户的专属agent服务实例创建后,在工作时间段维持所述用户的专属agent服务实例的常驻状态。
38、可选地,招聘服务平台在工作时间段内定时向serverless平台发送心跳请求,所述serverless平台响应所述心跳请求维持所述用户的专属agent服务实例的常驻状态,其中,发送心跳请求的定时周期小于所述空闲超时阈值。
39、可选地,进一步包括,调用serverless平台的函数别名创建接口创建实现目标业务的agent的函数别名,并配置指向的agent容器镜像版本信息及其流量权重;以及 将实现目标业务的agent的函数别名及其配置信息持久化到fc函数绑定表中,并建立与对应用户的绑定关系。
40、可选地,serverless平台在将所述用户的对话请求路由到所述用户的专属agent服务实例时,基于agent接口中携带的函数别名及流量权重确定对应版本的专属agent服务实例。
41、可选地,所述方法进一步包括:创建实现所述目标业务的agent的公共函数及其接口,并持久化到存储至fc函数绑定表中,对应地,serverless平台在工作时间段内创建所述公共函数实例作为预留公共实例。
42、可选地,响应于从预置的fc函数绑定表中没有查询到为所述用户实现目标业务的agent的函数及其接口,获取公共函数接口作为agent接口;对应地,serverless平台将所述用户的对话请求路由到预留公共实例。
43、可选地,所述用户的专属agent服务实例处理所述对话请求并生成对话响应信息的步骤还包括:
44、从文件系统中加载所述用户的目标业务的历史会话信息,并将所述历史会话信息发送给大语言模型,使大语言模型基于历史会话信息、工具描述和技能文件理解对话请求中的用户输入信息;以及
45、将本轮会话信息存储到文件系统中的所述用户的会话信息集合中,并以目标业务标识隔离会话信息,本轮会话信息包括用户请求中的用户输入信息及对应的响应信息。
46、可选地,在从文件系统中加载所述用户的目标业务的历史会话信息时,加载最近预置轮次的完整会话信息;当历史会话信息的轮次大于预置轮次,获取大于预置轮次的完整会话信息的摘要,并加载所述摘要。
47、可选地,所述目标业务为对应于目标职位的简历筛选业务,完成目标业务的技能文件为多个,每个技能文件对应于一个筛选维度;对应的工具包括搜索引擎客户端、标准化客户端以及大语言模型。
48、可选地,执行所述任务流得到所述对话请求的响应信息的步骤包括:
49、采用搜索引擎客户端获取目标职位的职位信息;
50、采用大语言模型基于与筛选维度对应的技能文件从目标职位的职位信息中提取出对应维度的筛选条件;
51、采用标准化客户端对提取出的筛选条件进行标准化处理以得到标准化的筛选条件;
52、采用大语言模型基于用户输入信息和职位信息中提取出的筛选条件生成搜索条件;
53、采用搜索引擎客户端基于搜索条件搜索预置数量的简历;
54、采用大语言模型分析所述预置数量的简历以得到每份简历的分析结果;以及
55、采用搜索引擎客户端或标准化客户端输出预置格式的简历搜索结果,所述简历搜索结果包括简历信息以及简历分析结果;其中,所述简历搜索结果作为所述对话请求的响应信息。
56、可选地,所述简历的分析结果包括简历评分说明和/或亮点描述。
57、可选地,在采用大语言模型基于用户输入信息和职位信息中提取出的筛选条件生成搜索条件后,向用户返回所述搜索条件;在得到用户对所述搜索条件的确认信息后,调用搜索引擎客户端,使搜索引擎客户端基于搜索条件搜索预置数量的简历。
58、可选地,所述搜索条件包括多个搜索选项,所述多个搜索选项至少对应于两个或两个以上的不同优先级。
59、根据本发明的另一个方面,本发明还提供了一种实现目标业务的对话系统,其应用于招聘服务平台,其包括:
60、前端接口层,经配置在接收并解析用户在招聘服务平台的前端应用层对目标业务发起的对话请求以得到用户标识,并将对话响应信息返回给招聘服务平台前端应用层以显示给所述用户;
61、ai服务层,经配置基于用户标识获取agent接口;
62、通过所述agent接口将所述用户的对话请求发送到由serverless平台承载的函数计算层,其中,所述agent配置有用于完成目标业务的工具描述以及一个或多个技能文件;
63、函数计算层,经配置将所述用户的对话请求路由到所述用户的专属agent服务实例;所述用户的专属agent服务实例处理所述对话请求并生成对话响应信息,将所述对话响应信息返回给ai服务层;
64、大语言模型层,经配置以提供大语言模型,用于响应于agent服务实例的调用,基于工具描述和技能文件理解对话请求中的用户输入信息,并确定完成目标任务的任务流以及任务流中每个阶段任务所需的工具,并基于任务流的执行结果生成对话响应信息;以及
65、工具层,经配置以响应agent服务实例在执行阶段任务时的工具调用,提供相应的工具以完成所述阶段任务。
66、根据本发明的另一个方面,本发明还提供了一种电子设备,其包括处理器和存储器,所述存储器上存储有计算机程序指令集,在所述处理器执行存储器上的计算机程序指令集时实现前述实现目标业务的对话方法。
67、根据本发明的另一个方面,本发明还提供了一种计算机可读存储介质,其中,所述计算机可读存储介质上存储有计算机程序指令集,所述计算机程序指令集被处理器执行时执行前述的实现目标业务的对话方法。
68、根据本发明的另一个方面,本发明还提供了一种计算机程序产品,其包括计算机程序指令集,所述计算机程序指令集被处理器执行时实现前述实现目标业务的对话方法。
69、本发明有效地隔离了用户会话,且可以根据需要方便地增加、删除或修改agent的技能文件,因而提高了系统的扩展性和灵活性,本发明中的agent集成有多种工具,工具与大语言模型之间采用mcp协议,因而本发明的工具集成度好,适配性强。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com