一种问答对生成方法、装置、电子设备及存储介质与流程
本技术涉及人工智能,尤其涉及一种问答对生成方法、装置、电子设备及存储介质。
背景技术:
1、随着大模型技术在金融领域的快速推进,智能知识问答成为提升业务效率的重要工具。为构建金融知识的智能问答能力,需要将存量知识文档转换为可用于大模型微调或检索增强生成(retrieval-augmented generation,rag)优化的大规模知识问答对。
2、目前行业的知识问答对生成方案主要分为两类。其一为基于规则模板的抽取式方法,通过正则表达式匹配、路径提取及命名实体识别(named entity recognition,ner)技术,从结构化文档中匹配预设模板,抽取问答内容,无需大模型推理。其二为通用大模型生成式方法,采用“文档切片+大模型生成+规则筛选”流程,通过提示词生成问答对,再经去重、长度过滤等方式优化样本,适配非结构化文档场景。
3、但是,上述技术方案存在如下缺陷:一是缺乏对金融业务场景的感知能力,无法主动生成与业务场景匹配的问题类型,导致产出的问答对与金融实际应用场景脱节,难以满足金融业务需求。二是输出的答案无法附上有效引用,导致“黑盒”问题,业务人员无法确认答案来源的权威性和时效性,缺乏可追溯性,无法满足金融监管要求。
技术实现思路
1、本技术提供了一种问答对生成方法、装置、电子设备及存储介质,可以提高知识问答对与业务场景的适配度,可以具备可追溯能力,可以满足金融业务需求和金融监管要求。
2、第一方面,本技术提供了一种问答对生成方法,该方法包括:
3、对目标业务的知识文档进行解析,得到多个知识单元;
4、从预先构建的场景问答模板集中,确定与所述目标业务相匹配的目标场景问答模板,所述场景问答模板集中每个场景问答模板至少包括场景约束规则;
5、基于所述多个知识单元和所述目标场景问答模板,生成符合所述场景约束规则且绑定有证据链的多个候选问答对;
6、对所述候选问答对进行质量筛选,得到所述目标业务的问答对集合。
7、进一步的,所述从预先构建的场景问答模板集中,确定与所述目标业务相匹配的目标场景问答模板,包括如下方式中的至少一种:基于所述知识单元中的文档元数据,根据各所述场景问答模板对应的适用文档类型,确定与所述文档元数据的文档类型相匹配的所述目标场景问答模板;基于所述知识单元中的文档题录信息,根据各所述场景问答模板对应的描述文本的向量化数据,确定与所述文档题录信息的向量化数据相匹配的所述目标场景问答模板;根据各所述场景问答模板对应的场景类别,确定与所述目标业务的场景类别相匹配的所述目标场景问答模板;接收针对场景问答模板的选择操作,从各所述场景问答模板中确定出所述目标场景问答模板。
8、进一步的,所述基于所述多个知识单元和所述目标场景问答模板,生成符合所述场景约束规则且绑定有证据链的多个候选问答对,包括如下方式中的至少一种:将所述多个知识单元与所述目标场景问答模板通过提示词输入大语言模型,限定输出为包括证据链的结构化格式,由所述大语言模型生成所述候选问答对;从所述多个知识单元中抽取多个备选问答对,通过大语言模型对各所述备选问答对进行证据链补充,生成所述候选问答对;从所述多个知识单元中抽取实体和关系,基于所述实体和所述关系构建知识图谱,根据所述目标场景问答模板将所述知识图谱中的三元组填充至模板,生成所述候选问答对。
9、进一步的,所述对所述候选问答对进行质量筛选,得到所述目标业务的问答对集合,包括如下方式中的至少一种:从所述候选问答对中筛选出符合预设筛选标准的问答对,得到所述问答对集合,所述预设筛选标准至少包括合规标准、事实一致性标准和逻辑一致性标准;通过预先训练好的问答对筛选模型对所述候选问答进行筛选,得到所述问答对集合,所述问答对筛选模型是采用第一样本中质量审核通过的第二样本训练得到,所述第一样本是对所述候选问答对抽样得到。
10、进一步的,在所述得到所述问答对集合之后,还包括:确定所述问答对集合在每个问答对的置信度;若所述置信度小于预设置信度阈值,则获取相应所述问答对的人工复核结果;若所述人工复核结果为通过,将相应所述问答对添加至所述问答对集合。
11、进一步的,所述方法还包括:在所述知识文档发生更新的情况下,获取发生更新的更新内容;对所述更新内容执行对目标业务的知识文档进行解析,得到多个知识单元;从预先构建的场景问答模板集中,确定与所述目标业务相匹配的目标场景问答模板;基于所述多个知识单元和所述目标场景问答模板,生成符合所述场景约束规则且绑定有证据链的多个候选问答对;对所述候选问答对进行质量筛选,得到所述目标业务的问答对集合的步骤,得到所述更新内容对应的第一候选问答对;将所述第一候选问答对与所述问答对集合进行合并,得到新的问答对集合。
12、进一步的,所述问答对集合中每个问答对包括如下至少之一字段:问题、答案、证据链列表、场景标签、问题类型、生成时间、有效期字段。
13、第二方面,本技术提供了一种问答对生成装置,该装置包括:
14、信息解析模块,用于对目标业务的知识文档进行解析,得到多个知识单元;
15、模版匹配模块,用于从预先构建的场景问答模板集中,确定与所述目标业务相匹配的目标场景问答模板,所述场景问答模板集中每个场景问答模板至少包括场景约束规则;
16、问答对生成模块,用于基于所述多个知识单元和所述目标场景问答模板,生成符合所述场景约束规则且绑定有证据链的多个候选问答对;
17、问答对筛选模块,用于对所述候选问答对进行质量筛选,得到所述目标业务的问答对集合。
18、第三方面,本技术提供了一种电子设备,该电子设备包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本技术任意实施例所述的问答对生成方法。
19、第四方面,本技术提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本技术任意实施例所述的问答对生成方法。
20、为了解决背景技术中现有技术的缺陷,本技术实施例提供了一种问答对生成方法,执行该方法能够带来以下有益效果:本技术方案通过引入场景问答模板集,可根据目标业务匹配专属的目标场景问答模板,并依托模板内置的场景约束规则生成问答对,强化了对业务场景的精准感知能力,避免问答内容与实际业务脱节的问题,大幅提升问答样本的场景适配度与实用性。同时,本技术方案在生成候选问答对的过程中,为所有问答对强制绑定原始的知识单元对应的证据链,打破了大模型生成的黑盒问题,实现问答内容来源可溯源、可核验。既保证了问答内容的权威性与时效性,满足行业严格的监管合规要求,又有效提升了知识问答数据集的整体质量,为智能问答业务的高效、合规落地提供可靠支撑。
21、需要说明的是,上述计算机指令可以全部或者部分存储在计算机可读存储介质上。其中,计算机可读存储介质可以与问答对生成装置的处理器封装在一起,也可以与问答对生成装置的处理器单独封装,本技术对此不做限定。
22、本技术中第二方面、第三方面以及第四方面的描述,可以参考第一方面的详细描述;并且,第二方面、第三方面以及第四方面的描述的有益效果,可以参考第一方面的有益效果分析,此处不再赘述。
23、应当理解,本部分所描述的内容并非旨在标识本技术的实施例的关键或重要特征,也不用于限制本技术的范围。本技术的其他特征将通过以下的说明书而变得容易理解。
24、可以理解的是,在使用本技术各实施例公开的技术方案之前,均应当依据相关法律法规通过恰当的方式对本技术所涉及个人信息的类型、使用范围以及使用场景等告知用户并获得用户的授权。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com