一种软硬混合提示知识注入方法、装置及介质
本发明涉及软硬混合提示知识注入,具体而言,涉及一种软硬混合提示知识注入方法、装置及介质。
背景技术:
1、在复杂多表关系型数据库的文本转sql任务中,现有大语言模型方法通常依赖将数据库信息直接全局拼接为文本提示,或者做语义及结构相关性检索后将局部数据库信息拼接为文本提示。前者将全部数据库结构信息直接拼接进硬提示文本,容易导致提示文本过长、无关表列信息干扰、局部关键结构信息被淹没等问题;后者仅依赖普通文本片段检索,缺少对表、列、主外键、连接路径和值样例等数据库结构知识的统一建模,即使能够检索相关文本,也难以区分语义相关知识和结构相关知识,容易将无关表列或不可靠连接路径加入提示造成噪声干扰,难以同时兼顾全局数据库结构完整性和局部相关知识突出性,导致相关表列识别不稳定、连接路径选择错误、长提示噪声干扰以及大语言模型微调成本较高的问题。
2、针对上述的问题,目前尚未提出有效的解决方案。
技术实现思路
1、本发明实施例提供了一种软硬混合提示知识注入方法、装置及介质,以至少解决现有方法难以兼顾全局数据库结构完整性和局部相关知识突出性、相关表列识别不稳定以及连接路径选择错误的技术问题。
2、根据本发明实施例的一个方面,为了实现上述目的,根据本发明的一个方面,提供了一种软硬混合提示知识注入方法,包括:
3、响应于获取到的自然语言问题,确定目标数据库对应的数据库知识中间表示,其中,数据库知识中间表示包括表列知识层、结构关系层和检索知识单元层;
4、基于自然语言问题,确定局部知识视图,局部知识视图用于将目标数据库中与自然语言问题相关的知识单元压缩为语义知识单元集合和结构知识单元集合;
5、响应于局部知识视图,生成混合提示输入,混合提示输入用于将局部知识视图对应的软提示向量序列插入硬提示嵌入序列的预设位置,以输入大语言模型生成sql查询语句。
6、进一步地,包括:
7、获取目标数据库的数据库结构信息,其中,数据库结构信息至少包括:表名、列名、列数据类型、主键信息、外键信息、表与列的从属关系、列语义说明和列样例值;
8、基于数据库结构信息,确定数据库知识中间表示。
9、进一步地,基于数据库结构信息,确定数据库知识中间表示,包括:
10、基于数据库结构信息,构建元信息层、表列知识层、结构关系层、检索知识单元层和提示文本片段层,其中,元信息层用于记录目标数据库的整体统计信息,表列知识层包括表知识单元和列知识单元,结构关系层采用节点和边表示数据库结构,检索知识单元层包括表检索知识单元、列检索知识单元和连接路径检索知识单元,提示文本片段层包括全局模式提示文本和表级模式提示文本;
11、基于元信息层、表列知识层、结构关系层、检索知识单元层和提示文本片段层,确定数据库知识中间表示。
12、进一步地,基于自然语言问题,确定局部知识视图,包括:
13、将自然语言问题和可选证据文本合并为查询文本;
14、基于查询文本和数据库知识中间表示,确定检索骨干视图,其中,检索骨干视图包括候选表集合、候选列集合和候选连接路径集合;
15、对检索骨干视图进行压缩,得到局部知识视图。
16、进一步地,基于查询文本和数据库知识中间表示,确定检索骨干视图,包括:
17、基于查询文本,对数据库知识中间表示中的表知识单元进行检索,得到第一表候选集合;
18、基于查询文本和第一表候选集合,对列知识单元进行检索,得到第一列候选集合;
19、基于第一列候选集合中的列候选分数,对第一表候选集合进行列投票增强,得到第二表候选集合;
20、基于查询文本和第二表候选集合,对列知识单元进行再次检索,得到第二列候选集合;
21、基于查询文本、第二表候选集合和第二列候选集合,对连接路径知识单元进行检索,得到候选连接路径集合;
22、基于第二表候选集合、第二列候选集合和候选连接路径集合,确定检索骨干视图。
23、进一步地,基于查询文本,对数据库知识中间表示中的表知识单元进行检索,得到第一表候选集合,包括:
24、基于查询文本与表知识单元的匹配程度,确定表知识单元的基础匹配分数;
25、将查询文本和表知识单元分别输入稠密向量检索模型,确定表知识单元的稠密向量相似度分数;
26、将查询文本和表知识单元组成文本对输入交叉编码器重排序模型,确定表知识单元的重排序分数;
27、基于基础匹配分数、稠密向量相似度分数、重排序分数和表连接先验分数,确定表候选分数;
28、基于表候选分数,确定第一表候选集合。
29、进一步地,基于查询文本和第一表候选集合,对列知识单元进行检索,得到第一列候选集合,包括:
30、基于查询文本与列知识单元的匹配程度,确定列知识单元的基础匹配分数;
31、将查询文本和列知识单元分别输入稠密向量检索模型,确定列知识单元的稠密向量相似度分数;
32、将查询文本和列知识单元组成文本对输入交叉编码器重排序模型,确定列知识单元的重排序分数;
33、基于基础匹配分数、稠密向量相似度分数、重排序分数、列知识单元所属表的候选分数和列知识单元的结构属性分数,确定列候选分数;
34、基于列候选分数,确定第一列候选集合。
35、进一步地,响应于局部知识视图,生成混合提示输入,包括:
36、基于自然语言问题和数据库知识中间表示,构建硬提示文本;
37、将硬提示文本输入大语言模型对应的分词器和词嵌入层,得到硬提示嵌入序列;
38、将局部知识视图输入知识适配器,生成软提示向量序列,其中,知识适配器用于将语义知识单元集合编码为语义软提示基向量序列,将结构知识单元集合编码为结构残差向量序列,并根据语义软提示基向量序列和结构残差向量序列确定软提示向量序列;
39、将软提示向量序列插入硬提示嵌入序列的预设位置,得到混合提示输入。
40、根据本发明其中一实施例,还提供了一种软硬混合提示知识注入装置,包括:
41、获取模块,用于响应于获取到的自然语言问题,确定目标数据库对应的数据库知识中间表示,其中,数据库知识中间表示包括表列知识层、结构关系层和检索知识单元层;
42、确定模块,用于基于自然语言问题,确定局部知识视图,局部知识视图用于将目标数据库中与自然语言问题相关的知识单元压缩为语义知识单元集合和结构知识单元集合;
43、生成模块,用于响应于局部知识视图,生成混合提示输入,混合提示输入用于将局部知识视图对应的软提示向量序列插入硬提示嵌入序列的预设位置,以输入大语言模型生成sql查询语句。
44、根据本发明实施例的另一方面,还提供了一种计算机可读存储介质,计算机可读存储介质包括存储的可执行程序,其中,在可执行程序运行时控制计算机可读存储介质所在设备执行本发明各个实施例中的方法。
45、在本发明实施例中,通过数据库知识中间表示将表、列、主外键、连接路径和值证据统一组织为可检索、可编码的结构化知识载体,减少了直接拼接完整数据库文本造成的冗余和噪声干扰;通过局部知识视图区分语义知识单元和结构知识单元,使大语言模型不仅能够获得表列名称和列含义,还能够获得连接路径、主外键关系等结构化知识,避免了普通文本检索方法只关注语义相似而忽略数据库连接结构的问题;通过将软提示向量序列插入硬提示嵌入序列构建混合提示输入,使大语言模型在保留全局数据库结构信息的同时重点关注与当前问题相关的表、列和连接路径,提高了复杂多表查询场景下sql查询语句生成的执行准确率,且在冻结大语言模型主体参数的情况下仅训练轻量级知识适配器即可实现数据库知识注入,显著降低了针对不同数据库进行模型适配的计算成本,进而解决了现有方法难以兼顾全局数据库结构完整性和局部相关知识突出性、相关表列识别不稳定以及连接路径选择错误的技术问题。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com