一种模型训练方法、自然语言转换方法及存储介质与流程
本发明实施例涉及自然语言处理,尤其涉及一种模型训练方法、自然语言转换方法及存储介质。
背景技术:
1、自然语言到结构化查询语言转换(natural language to structured querylanguage conversion,nl2sql)技术旨在将用户使用自然语言表述的数据库查询语句,自动转换为可在数据库中执行的结构化查询语言(structured query language,sql)语句。该技术作为人机交互的重要桥梁,可以极大地降低非专业用户访问和分析数据库中的数据的门槛,从而在众多领域具有广泛的应用前景。
2、目前,可通过训练模型并利用训练出的模型进行nl2sql。但是,相关的模型训练方案无法充分利用数据库在执行sql语句之后反馈的错误信息,这会直接影响到模型性能,进而影响到nl2sql的准确率,亟待解决。
技术实现思路
1、本发明实施例提供了一种模型训练方法、自然语言转换方法及存储介质,可以提高nl2sql的准确率。
2、根据本发明的一方面,提供了一种模型训练方法,可以包括:
3、获取数据库在执行历史结构化查询语言语句后反馈的错误信息,其中,历史结构化查询语言语句由历史自然语言转换模型根据用于查询数据库的历史自然语言语句转换出;
4、根据历史结构化查询语言语句生成第一抽象语法树,在第一抽象语法树中定位出与错误信息对应的错误节点,并根据错误节点生成目标语义向量;
5、针对根据数据库的数据库模式生成的语义向量集合,基于目标语义向量在语义向量集合中检索,以从数据库模式中召回与错误节点语义相似的目标元数据;
6、根据目标元数据修正历史结构化查询语言语句,以将修正后的历史结构化查询语言语句及历史自然语言语句作为一组训练样本,并基于得到的多组训练样本调整历史自然语言转换模型中的参数,得到目标自然语言转换模型。
7、根据本发明的另一方面,提供了一种自然语言转换方法,可以包括:
8、获取用于查询数据库的目标自然语言语句,以按照本发明任意实施例所阐述的模型训练方法训练得到的目标自然语言转换模型;
9、将目标自然语言语句输入到目标自然语言转换模型中,并根据目标自然语言转换模型的输出结果,得到目标结构化查询语言语句。
10、根据本发明的另一方面,提供了一种模型训练装置,可以包括:
11、错误信息获取模块,用于获取数据库在执行历史结构化查询语言语句后反馈的错误信息,其中,历史结构化查询语言语句是由历史自然语言转换模型根据用于查询数据库的历史自然语言语句转换出;
12、目标语义向量生成模块,可用于根据历史结构化查询语言语句生成第一抽象语法树,在第一抽象语法树中定位出与错误信息对应的错误节点,并根据错误节点生成目标语义向量;
13、目标元数据召回模块,可用于针对根据数据库的数据库模式生成的语义向量集合,基于目标语义向量在语义向量集合中检索,以从数据库模式中召回与错误节点语义相似的目标元数据;
14、模型训练模块,可用于根据目标元数据修正历史结构化查询语言语句,以将修正后的历史结构化查询语言语句及历史自然语言语句作为一组训练样本,并基于得到的多组训练样本调整历史自然语言转换模型中的参数,得到目标自然语言转换模型。
15、根据本发明的另一方面,提供了一种自然语言转换装置,可以包括:
16、模型获取模块,可用于获取用于查询数据库的目标自然语言语句,以及按照本发明任意实施例所阐述的模型训练方法训练得到的目标自然语言转换模型;
17、自然语言转换模块,可用于将目标自然语言语句输入到目标自然语言转换模型中,根据目标自然语言转换模型的输出结果,得到目标结构化查询语言语句。
18、根据本发明的另一方面,提供了一种电子设备,可以包括:
19、至少一个处理器;以及
20、与至少一个处理器通信连接的存储器;其中,
21、存储器存储有可被至少一个处理器执行的计算机程序,该计算机程序被至少一个处理器执行,以使至少一个处理器执行时实现本发明任意实施例所提供的模型训练方法或自然语言转换方法。
22、根据本发明的另一方面,提供了一种计算机可读存储介质,其上存储有计算机指令,该计算机指令用于使处理器执行时实现本发明任意实施例所提供的模型训练方法或是自然语言转换方法。
23、根据本发明的另一方面,提供了一种计算机程序产品,其上存储有计算机程序,该计算机程序被处理器执行时实现本发明任意实施例所提供的模型训练方法或自然语言转换方法。
24、本发明实施例的技术方案,通过解析历史结构化查询语言语句以生成第一抽象语法树,然后根据反馈信息(即数据库反馈的错误信息)在第一抽象语法树中定位出错误节点,进而根据错误节点生成目标语义向量,从而可基于目标语义向量在与数据库模式对应的语义向量集合中进行检索,以从数据库模式中召回与错误节点语义相似的目标元数据,并根据目标元数据修正历史结构化查询语言语句以得到训练样本,并基于此进行模型训练。上述技术方案,通过利用反馈信息进行语法-语义联合的结构化查询语言语句的错误定位与修正,这使得模型对自身生成的结构化查询语言语句的准确性和合理性具有有效的自我评估和改进,从而使得模型可更精准地理解自然语言语句并生成正确的结构化查询语言语句,由此提高了自然语言到结构化查询语言转换的准确率,进而降低了用户修正频率,提升了用户体验。
25、应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或是重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
1.一种模型训练方法,其特征在于,包括:
2.根据权利要求1所述的模型训练方法,其特征在于,所述基于得到的多组所述训练样本调整所述历史自然语言转换模型中的参数,得到目标自然语言转换模型,包括:
3.根据权利要求2所述的模型训练方法,其特征在于,所述根据所述错误信息确定所述训练样本的权重,包括:
4.根据权利要求2所述的模型训练方法,其特征在于,在所述确定所述训练样本的权重之后,所述模型训练方法还包括:
5.根据权利要求2所述的模型训练方法,其特征在于,所述基于多组所述训练样本分别对应的权重,对多组所述训练样本进行采样,包括:
6.根据权利要求1所述的方法,其特征在于,还包括:
7.根据权利要求1所述的模型训练方法,其特征在于,还包括:
8.根据权利要求1所述的模型训练方法,其特征在于,所述根据所述错误节点生成目标语义向量,包括:
9.一种自然语言转换方法,其特征在于,包括:
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现如权利要求1-8中任一所述的模型训练方法,或是如权利要求9所述的自然语言转换方法。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com