一种基于向量增强的检索问答方法、存储介质及设备与流程
本发明涉及ai问答,尤其涉及一种基于向量增强的检索问答方法、存储介质及设备。
背景技术:
1、现有的大语言模型问答技术,如检索增强生成(rag),在处理复杂查询和多样化数据时面临瓶颈。传统方法通常对非结构化文本进行单一维度的向量化处理,这导致其难以深刻理解用户的真实意图,在面对语义相似但意图不同的问题时,向量搜索检索准确率低。
2、此外,现有方法通常直接将文本块编码为固定维度向量,难以在有限向量容量内同时保留概括信息、关键词、专业实体、关键参数和语义标签。现有向量压缩方法通常对整体向量采用统一压缩率,未针对不同文档语义维度的信息结构分别确定压缩比例,若直接为多个维度分别生成完整向量,又会增加向量库容量和相似度计算开销。因此,亟需一种能够深刻理解语义、并具备自适应进化能力的智能问答方法。
技术实现思路
1、本发明要解决的技术问题在于,提供一种基于向量增强的检索问答方法、存储介质及设备。
2、本发明解决其技术问题所采用的技术方案是:一种基于向量增强的检索问答方法,包括以下步骤:
3、s10,对源文档进行分块,生成原始文本块集合,分别提取原始文本块的摘要、关键词、实体、参数和语义标签五类语义维度对应的五类文档侧增强元素;利用五类语义压缩单元根据预设总压缩维数将所述五类文档侧增强元素分别转换为五类压缩语义码;将所述五类压缩语义码按照固定顺序拼接,通过恢复映射模块生成与所述原始文本块的基础向量维数相同的语义增量,将所述五类压缩语义码对应的语义增量融合为统一文档增强向量,并建立向量数据库;
4、s20,获取业务请求,基于所述向量数据库对所述业务请求进行检索,获取所述业务请求对应的原始文本块并生成上下文;
5、s30,将所述上下文输入预设大语言模型生成最终答案;
6、s40,获取用户对所述最终答案的反馈数据;
7、s50,根据所述反馈数据确定导致错误召回的待调整语义维度,并构造包含所述业务请求、正样本文本块和负样本文本块的增量训练样本;利用所述增量训练样本更新所述待调整语义维度对应的语义压缩单元参数以及恢复映射参数中的至少一种,并重新生成所述反馈数据对应的原始文本块的统一文档增强向量,以更新向量数据库。
8、可选地,所述步骤s10,包括:
9、s11,利用所述预设大语言模型从所述原始文本块中提取所述五类文档侧增强元素;
10、s12,将所述原始文本块输入基础向量模型,得到所述基础向量;利用五类语义压缩单元根据预设总压缩维数分别对所述五类文档侧增强元素进行压缩编码,并将各语义压缩单元的输出按照所述五类语义维度的预设顺序拼接,得到联合压缩语义码;通过所述恢复映射模块将所述联合压缩语义码转换为与所述基础向量维数相同的语义增量;将所述语义增量与所述基础向量融合,得到所述统一文档增强向量;
11、s13,将所述统一文档增强向量存储至所述向量数据库。
12、可选地,所述步骤s20,包括:
13、s21,利用基础向量模型将所述业务请求转换为查询向量;
14、s22,根据所述查询向量在所述向量数据库中进行检索,获取所述业务请求对应的原始文本块;根据所述业务请求对应的原始文本块得到所述上下文。
15、可选地,所述s22,包括:
16、根据所述查询向量在所述向量数据库中进行相似度检索,得到预设数量的统一文档增强向量;
17、依据所述预设数量的统一文档增强向量,回溯获得对应的原始文本块;
18、对所述回溯获得对应的原始文本块进行合并去重,并按照所述相似度检索的检索得分进行排序整合,得到所述上下文。
19、可选地,所述步骤s30,包括:
20、s31,将所述业务请求和所述上下文进行组合,得到提示词;
21、s32,将所述提示词输入所述预设大语言模型,得到所述最终答案。
22、可选地,所述步骤s40,包括:
23、s41,收集用户针对所述最终答案的满意度评价及使用反馈,得到所述反馈数据。
24、可选地,所述步骤s50,包括:
25、s51,根据所述反馈数据获取对应的原始文本块;将对应的原始文本块分为正样本文本块和负样本文本块;根据所述业务请求、所述正样本文本块和所述负样本文本块构建所述增量训练样本;根据所述反馈数据中的错误内容确定待调整语义维度;
26、s52,利用所述增量训练样本计算所述业务请求与所述正样本文本块、所述负样本文本块之间的检索损失,并根据所述检索损失更新所述待调整语义维度对应的语义压缩单元参数以及恢复映射参数中的至少一种;
27、s53,利用更新后的语义压缩单元和恢复映射模块,重新生成所述反馈数据对应的原始文本块的统一增强向量,利用重新生成的统一增强向量更新向量数据库。
28、本发明还提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序适于处理器进行加载,以执行如前所述任一项所述的基于向量增强的检索问答方法的步骤。
29、本发明还一种计算机设备,包括存储器和处理器;
30、所述存储器中存储有计算机程序;
31、所述处理器通过调用所述存储器中存储的所述计算机程序,执行如前所述任一项所述的基于向量增强的检索问答方法的步骤。
32、实施本发明具有以下有益效果:
33、本发明针对摘要、关键词、实体、参数和语义标签五类文档侧语义分别设置动态压缩过程,在固定总压缩维数预算下,训练各语义压缩单元适应对应压缩率;通过维度保持损失减少关键语义丢失,通过维度解耦损失降低五类压缩语义码之间的信息重复。最终仅形成一个统一文档增强向量,能够降低向量库存储开销和相似度计算量,并提高检索准确率。
1.一种基于向量增强的检索问答方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的基于向量增强的检索问答方法,其特征在于,所述步骤s10,包括:
3.根据权利要求1所述的基于向量增强的检索问答方法,其特征在于,所述步骤s20,包括:
4.根据权利要求3所述的基于向量增强的检索问答方法,其特征在于,所述s22,包括:
5.根据权利要求1所述的基于向量增强的检索问答方法,其特征在于,所述步骤s30,包括:
6.根据权利要求1所述的基于向量增强的检索问答方法,其特征在于,所述步骤s40,包括:
7.根据权利要求1所述的基于向量增强的检索问答方法,其特征在于,所述步骤s50,包括:
8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序适于处理器进行加载,以执行如权利要求1至7任一项所述的基于向量增强的检索问答方法的步骤。
9.一种计算机设备,其特征在于,包括存储器和处理器;
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com