一种大语言模型问答生成方法、系统、设备及介质

摘要: 本发明属于数据处理,涉及一种基于有效知识选择的大语言模型问答生成方法、系统、设备及介质。背景技术:1、现有知识检索通常采用关键词匹配、向量嵌入相似度或两者组合。...
一种大语言模型问答生成方法、系统、设备及介质

本发明属于数据处理,涉及一种基于有效知识选择的大语言模型问答生成方法、系统、设备及介质。

背景技术:

1、现有知识检索通常采用关键词匹配、向量嵌入相似度或两者组合。此类检索方法适合从大规模知识库中快速召回主题相关内容,但其优化目标主要是问题与知识之间的表面匹配程度或语义接近程度。问题与知识语义相似,并不意味着所述知识包含形成正确回答所需的关键事实,也不意味着所述知识不会干扰语言模型的生成过程。

2、在实际应用中,候选知识集合经常包含仅复述问题背景的内容、适用于其他对象或其他时间条件的内容、多个重复表达同一事实的内容,以及与可信结论冲突或能够诱导错误回答的内容。当此类候选知识被直接写入有限的上下文窗口时,会挤占有效知识的输入空间,并可能增加生成不确定性、改变模型的答案分布或使模型基于错误条件形成结论。

3、已有的检索后处理方案通常依据初始检索分数、人工规则或文本相似度再次排序,仍然难以直接判断候选知识对语言模型回答生成的实际作用。另一类方案通过扩大模型规模或重新训练语言模型提高抗干扰能力,但训练和部署成本较高,并且不能保证模型在面对多个语义相似但作用不同的知识片段时稳定选择真正有效的知识。

4、因此,需要一种能够把初始召回能力与最终知识采用决策分离的技术方案:初始检索器负责获得可能相关的候选范围,后续选择模块直接围绕回答生成效用判断候选知识是否值得占用上下文。还需要将计算开销较高的生成效用判断转化为可在线快速执行的选择模型,以兼顾知识选择质量和回答生成效率。

技术实现思路

1、本发明旨在提供一种适用于通用知识问答、专业领域问答、企业文档问答、智能体任务求解、事实核验辅助生成以及其他需要利用外部知识形成自然语言回答的计算处理场景的基于有效知识选择的语言模型回答生成方法、系统、设备及介质。

2、本发明提供了一种大语言模型问答生成方法,包括以下步骤:

3、获取待回答问题,并构建候选知识集合;

4、对候选知识集合中的每个待回答问题构建候选知识的最终生成效用得分、正向训练样本和干扰样本;

5、采用正向训练样本、干扰样本以及候选知识的最终生成效用得分,构建知识选择器的训练数据,并利用训练数据对知识选择器进行训练,得到训练后的知识选择器;

6、调用初始检索器形成候选知识集合,再利用训练后的知识选择器对每个候选知识输出预测效用分数;按照预测效用分数对候选知识排序,按照排序结果依次选取候选知识加入选择知识集合,当所选择候选知识的数量达到预设最大知识数量,或者所选择候选知识占用的上下文长度达到预设上下文长度预算时,停止继续加入候选知识,得到最终的选择知识集合;

7、将待回答问题、最终得到的选择知识集合以及预设回答要求按照提示模板进行组合,形成语言模型的输入内容,并将输入内容输入语言模型,由语言模型基于选择知识集合生成当前待回答问题对应的最终回答。

8、进一步的,构建候选知识集合的具体过程如下:

9、获取待回答问题,并确定待回答问题与当前业务场景对应的知识源;知识源包括个知识单元;

10、对每个知识单元进行预处理,得到可检索的知识片段;

11、调用初始检索器,根据待回答问题从与知识源中召回个知识单元,形成候选知识集合。

12、进一步的,得到知识源的过程如下:

13、根据业务入口、任务类型、用户或租户标识以及访问权限,选择对应的企业文档库、数据库、知识图谱、工具结果或对话记忆;再过滤无权限、已失效或版本不适用的数据,得到当前待回答问题的知识源。

14、进一步的,对单个知识单元进行预处理的具体方式为:将文档按标题和段落切分,将数据库记录、知识图谱结果和工具返回值转换为文本,并为每个片段记录来源、版本、时间和权限信息。

15、进一步的,候选知识集合的表达式如下:

16、;

17、;

18、其中,表示问题对应的候选知识集合,表示知识源,表示候选知识数量,表示第个候选知识,表示初始检索器,用于根据问题从知识源中检索候选知识。

19、进一步的,根据待回答问题从与知识源中召回个知识单元后,对每个候选知识进行基础预处理;

20、对候选知识进行基础预处理的方式包括去除无法解析内容、统一编码、按语义边界切分、记录来源及版本信息、计算知识长度以及生成候选标识;

21、知识长度使用目标语言模型的分词器计算,即统计知识片段占用的词元数量;

22、候选标识由知识源标识、文档或对象标识、版本号、片段位置和规范化文本计算哈希值得到,用于去重和追踪知识来源。

23、进一步的,构建候选知识的生成效用的具体过程如下:

24、步骤2.1、对于每一待回答问题,取得与该训练问题对应的目标答案;

25、步骤2.2、保持待回答问题和目标答案不变,对每个候选知识进行比较,得到加入该候选知识或不加入该候选知识语言模型的回答生成状态、生成不确定性干扰代价以及输出分布偏移干扰代价;

26、步骤2.3、针对加入该候选知识或不加入该候选知识语言模型的回答生成状态计算知识增益;

27、步骤2.4、将生成不确定性干扰代价和输出分布偏移干扰代价组合,得到候选知识的综合干扰代价;

28、步骤2.5、将候选知识的知识增益与综合干扰代价按照对应权重进行组合,得到候选知识的最终生成效用得分;

29、步骤2.6、对候选知识集合中的各候选知识重复步骤2.1至步骤2.5,即得到与候选知识集合对应的生成效用得分集合。

30、进一步的,生成不确定性干扰代价的具体过程如下:

31、在目标答案的每一生成位置,取得语言模型针对候选词元输出的概率分布,并根据所述概率分布计算当前位置的生成熵;

32、分别计算加入候选知识和不加入候选知识时各生成位置对应的生成熵,再对目标答案全部生成位置的生成熵变化进行平均;

33、对于加入候选知识后熵降低或者保持不变的生成位置,其熵增加量记为零;

34、对于熵增加的生成位置,保留对应增加量,并根据各位置的增加量得到生成不确定性干扰代价;若候选知识使输出分布更加分散,则该候选知识的干扰代价增加。

35、进一步的,输出分布偏移干扰代价的具体过程如下:

36、在目标答案的第个生成位置,分别取得加入候选知识和不加入候选知识时语言模型对下一词元输出的概率分布,并计算两概率分布之间的kl散度;

37、按照目标答案的生成顺序依次计算各生成位置对应的kl散度,并对各位置的kl散度进行累加或者平均,得到候选知识引起的输出分布偏移干扰代价。

38、进一步的,计算知识增益的具体过程如下:

39、在相同问题和目标答案条件下,分别取得语言模型在加入候选知识时生成目标答案的条件概率,以及不加入候选知识时生成目标答案的条件概率,并计算目标答案和目标答案二者之间的对数概率之差,得到知识增益。

40、进一步的,构建正向训练样本和干扰样本的具体过程如下:

41、对于候选知识集合,分别取得各候选知识对应的最终生成效用得分,并按照由高到低进行排序,将最终生成效用得分最高的候选知识确定为当前训练问题对应的正向训练样本;

42、将候选知识集合中最终生成效用得分低于最高得分的其余候选知识作为与该正向训练样本相对应的干扰样本。

43、进一步的,知识选择器选用采用交叉编码器、双编码器、轻量级语言模型、分类网络模型和排序网络模型中的任意一种。

44、进一步的,利用训练数据对知识选择器进行训练的具体方式为:

45、将训练问题与对应候选知识按照预设输入格式进行组合,并输入知识选择器进行特征提取,得到问题与候选知识之间的联合特征表示;

46、基于联合特征表示得到候选知识对应的预测生成效用分数;

47、设置训练损失函数;

48、知识选择器根据预测生成效用分数对训练问题进行划分训练批次,并基于训练损失函数对不同批次的训练问题进行周期性训练,当知识库内容、语言模型版本、业务任务分布或回答策略发生变化时,重新采集训练样本并更新生成效用监督,从而使知识选择器适应新的生成环境;训练完成的选择器参数通过模型文件、参数服务或版本化接口部署到在线推理模块。

49、作为本发明的进一步方案,本发明还提供了一种大语言模型问答生成系统,用于实现如上述所述的大语言模型问答生成方法,包括问题接收模块、候选知识检索模块、生成效用监督构建模块、知识选择器训练模块、在线知识选择模块、提示构建模块和回答生成模块;

50、问题接收模块取得自然语言问题及可选任务要求;

51、候选知识检索模块访问一个或多个知识源并形成候选知识集合;

52、生成效用监督构建模块在训练阶段计算知识增益和干扰代价;

53、知识选择器训练模块根据生成效用监督更新选择器参数;

54、在线知识选择模块加载训练完成的知识选择器参数,对新问题对应的候选知识进行评分和筛选;

55、提示构建模块将问题、选择知识集合、知识来源标识及回答要求组织为模型输入;

56、回答生成模块调用语言模型形成最终回答。

57、作为本发明的进一步方案,本发明还提供了一种电子设备,包括存储器、一个或多个处理器以及被存储在存储器中的一个或多个程序,所述一个或多个程序包括用于执行如上述所述的大语言模型问答生成方法的指令。

58、作为本发明的进一步方案,本发明还提供了一种存储介质,包括供电子设备的一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行如上述所述的大语言模型问答生成方法的指令。

59、与现有技术相比,本发明具有以下有益效果:

60、本发明提供的所述方法以计算机设备为执行主体,在初始知识检索模块与语言模型回答生成模块之间设置知识选择器,将候选知识是否有助于形成目标回答作为选择依据,从而避免仅根据问题与知识之间的语义相似程度直接确定输入上下文。

61、除了上面所描述的目的、特征和优点之外,本发明还有其它的目的、特征和优点。下面将参照图,对本发明作进一步详细的说明。