一种基于双模检索与大语言模型的智能客服辅助应答方法、系统及终端与流程
本发明涉及人工智能,特别涉及一种基于双模检索与大语言模型的智能客服辅助应答方法、系统及终端。
背景技术:
1、近年来,随着人工智能技术的快速发展,智能客服系统已广泛应用于金融、电商、电信等客户服务领域。传统以人工坐席为主导的客服模式存在响应滞后、知识检索繁琐、回复标准不一、人员培训成本高等固有缺陷,难以满足日益增长的海量用户咨询需求。
2、在此背景下,基于自然语言处理(natural language processing,nlp)技术的智能问答系统应运而生,成为提升客服效率与服务质量的重要手段,但仍存在不足之处,包括:1、非结构化数据转化能力受限:现有技术多侧重于语义匹配与判别,缺乏深度生成能力。面对非结构化的长文本或对话记录,无法直接自动生成逻辑通顺、语义完整的标准问答对,导致知识库构建过程仍需大量人工重写,数据处理自动化程度低。2、口语化文本的特征提取精度低:现有技术在处理客服聊天记录时,难以有效克服口语表达中的冗余、倒装及指代不明等噪声干扰。这导致关键业务特征识别不准,信息抽取的准确率和召回率较低。3、模型泛化与迭代成本高:现有技术依赖大量特定场景的标注数据进行监督训练。当业务变更时,需重新标注数据并微调模型,算法模型的迁移效率低,系统维护的计算资源与时间成本高,难以应对多变的业务场景。这些不足之处导致现有的智能客服辅助应答模式数据处理自动化程度低、响应效率低、准确率低和运营成本高。
3、因此,现有技术还有待于改进和发展。
技术实现思路
1、本发明的主要目的在于提供一种基于双模检索与大语言模型的智能客服辅助应答方法、系统及终端,旨在解决现有的智能客服辅助应答方法数据处理自动化程度低、响应效率低、准确率低和运营成本高的问题。
2、为实现上述发明目的,本发明提供一种基于双模检索与大语言模型的智能客服辅助应答方法,所述基于双模检索与大语言模型的智能客服辅助应答方法包括:
3、获取客服勾选的对话记录和当前问题,将所述对话记录与所述当前问题输入第一大语言模型中进行上下文理解,得到综合理解结果;
4、根据所述综合理解结果,采用双模检索机制在内部知识库或外部搜索引擎中进行检索,得到检索结果;
5、采用检索增强生成技术,将所述对话记录与所述检索结果输入第二大语言模型中进行知识深度生成,得到标准答案。
6、可选地,所述获取客服勾选的对话记录和当前问题,将所述对话记录与所述当前问题输入第一大语言模型中进行上下文理解,得到综合理解结果,具体包括:
7、获取客服勾选的一条或多条对话记录和当前问题,将每条所述对话记录按时间顺序进行拼接,得到拼接后的对话记录;
8、按照所述第一大语言模型对应的提示词模板,对拼接后的对话记录和当前问题进行格式化,得到格式化后的完整上下文;
9、将所述完整上下文输入所述第一大语言模型中,所述第一大语言模型采用注意力机制对所述完整上下文进行上下文理解,得到综合理解结果。
10、可选地,所述将所述完整上下文输入所述第一大语言模型中,所述第一大语言模型采用注意力机制对所述完整上下文进行上下文理解,得到综合理解结果,具体包括:
11、将所述完整上下文输入所述第一大语言模型中,其中,所述完整上下文包括格式化对话记录和格式化当前问题,所述格式化对话记录包括第一词元,所述格式化当前问题包括第二词元;
12、所述第一大语言模型将所述格式化对话记录编码为第一向量序列,将所述格式化当前问题编码为第二向量序列;
13、通过第一线性变换矩阵,对所述第二向量序列中与所述第二词元对应的第二向量进行线性投影,获得查询向量;
14、通过第二线性变换矩阵,对所述第一向量序列中与所述第一词元对应的第一向量进行线性投影,获得键向量;
15、通过第三线性变换矩阵,对所述第一向量序列中与所述第一词元对应的第一向量进行线性投影,获得值向量;
16、计算所述查询向量与所述键向量之间的语义相似度,根据所述语义相似度得到针对各个所述第一词元的注意力权重分布;
17、根据所述注意力权重分布,对所述第一词元对应的所述值向量进行加权求和处理,得到综合理解结果。
18、可选地,所述将所述完整上下文输入所述第一大语言模型中,之后还包括:
19、利用所述第一大语言模型的上下文理解能力,对所述格式化对话记录和所述格式化当前问题中的指代不明词汇进行消解,得到消解版对话记录和消解版当前问题;
20、利用所述第一大语言模型的结构化提取能力,定义预设的json模式,按照所述json模式,对所述消解版对话记录和所述消解版当前问题进行关键实体和意图标签提取,得到关键实体和意图标签。
21、可选地,所述根据所述综合理解结果,采用双模检索机制在内部知识库或外部搜索引擎中进行检索,得到检索结果,具体包括:
22、判断外部搜索引擎开关的状态,若所述外部搜索引擎开关的状态为关闭,则根据所述综合理解结果,在内部知识库中执行top-k相似度检索,得到第一初始知识片段;
23、若所述外部搜索引擎开关的状态为开启,则根据所述综合理解结果,分别在内部知识库和外部搜索引擎中执行top-k相似度检索,得到第二初始知识片段;
24、对所述第一初始知识片段或所述第二初始知识片段进行长度裁剪,得到中间知识片段,其中,所述中间知识片段的检索相似度得分与所述中间知识片段对应的所述第一初始知识片段或所述第二初始知识片段的检索相似度得分一致;
25、按照检索相似度得分从高到低的顺序,对所述中间知识片段进行排序,得到检索结果。
26、可选地,所述采用检索增强生成技术,将所述对话记录与所述检索结果输入第二大语言模型中进行知识深度生成,得到标准答案,具体包括:
27、按照第二大语言模型对应的提示词模板,对所述对话记录与所述检索结果进行格式化,得到格式化后的输入数据;
28、采用检索增强生成技术,将所述输入数据输入所述第二大语言模型中,所述第二大语言模型采用动态语义对齐机制,根据所述对话记录对应的查询意图向量与所述检索结果对应的知识片段向量之间的余弦相似度,对所述检索结果进行多层级筛选,得到高置信度知识子集;
29、所述第二大语言模型基于预设的领域知识图谱模板,对所述高置信度知识子集进行结构化重构,将所述高置信度知识子集中的离散知识点映射为逻辑关联的语义网络,并对所述语义网络中的各节点及各边进行序列化处理,生成中间表示;
30、所述第二大语言模型采用自适应润色策略,根据所述意图标签,动态调整所述中间表示的语言风格与信息密度,得到标准答案。
31、可选地,所述采用检索增强生成技术,将所述对话记录与所述检索结果输入第二大语言模型中进行知识深度生成,得到标准答案,之后还包括:
32、根据所述标准答案,采用对比解码技术生成所述标准答案对应的多个候选回复;
33、构建奖励模型,将多个所述候选回复输入所述奖励模型中进行评分,得到各个所述候选回复的分数;
34、根据各个所述候选回复的所述分数,将分数最高的候选回复作为最终的标准答案。
35、可选地,所述基于双模检索与大语言模型的智能客服辅助应答方法,还包括:
36、采用反馈闭环机制,根据用户对所述标准答案的隐式反馈与显式评价,生成用于训练所述第二大语言模型的强化学习训练数据,以持续优化所述第二大语言模型的筛选权重与重构策略。
37、为实现上述发明目的,本发明还提供一种基于双模检索与大语言模型的智能客服辅助应答系统,所述基于双模检索与大语言模型的智能客服辅助应答系统包括:
38、上下文理解模块,用于获取客服勾选的对话记录和当前问题,将所述对话记录与所述当前问题输入第一大语言模型中进行上下文理解,得到综合理解结果;
39、双模检索模块,用于根据所述综合理解结果,采用双模检索机制在内部知识库或外部搜索引擎中进行检索,得到检索结果;
40、知识深度生成模块,用于采用检索增强生成技术,将所述对话记录与所述检索结果输入第二大语言模型中进行知识深度生成,得到标准答案。
41、为实现上述发明目的,本发明还提供一种终端,所述终端包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的基于双模检索与大语言模型的智能客服辅助应答程序,所述基于双模检索与大语言模型的智能客服辅助应答程序被所述处理器执行时实现如上所述的基于双模检索与大语言模型的智能客服辅助应答方法的步骤。
42、本发明中,获取客服勾选的对话记录和当前问题,将所述对话记录与所述当前问题输入第一大语言模型中进行上下文理解,得到综合理解结果;根据所述综合理解结果,采用双模检索机制在内部知识库或外部搜索引擎中进行检索,得到检索结果;采用检索增强生成技术,将所述对话记录与所述检索结果输入第二大语言模型中进行知识深度生成,得到标准答案。本发明实现毫秒级生成标准答案,替代了人工手动检索知识库的过程,有效提升了响应效率;通过检索增强生成技术和大语言模型的语义理解与句式整理,生成逻辑通顺、语义完整的标准问答对,回答更符合人类表达习惯,提高了数据处理的自动化程度;通过双模检索保证了信息的全面性与时效性,显著提高了应答的准确率,且无需针对新业务重新训练模型即可通过外部搜索获取最新信息,解决了传统模型难以适应多变业务场景的问题,提高模型的泛化能力;通过人在回路的交互设计,有效过滤了噪声干扰,提高了关键业务特征识别的准确率和召回率;实现了客户服务的标准化和智能化,降低了运营成本,减少了对坐席个人经验的依赖,加速新员工上手速度。本发明有效解决了复杂语境下的语义理解难题,通过人机协同显著提升了服务效率与质量,代表了智能客服向高精度、实时化方向发展的技术趋势。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com