模型训练方法、信息处理方法以及相关设备与流程

摘要: 本技术涉及计算机,具体涉及一种模型训练方法、信息处理方法以及相关设备。背景技术:1、在基于问答信息的神经网络模型的应用中,常常会遇到多个答案针对同一个问题的情况...
模型训练方法、信息处理方法以及相关设备与流程

本技术涉及计算机,具体涉及一种模型训练方法、信息处理方法以及相关设备。

背景技术:

1、在基于问答信息的神经网络模型的应用中,常常会遇到多个答案针对同一个问题的情况。现有技术中,为了帮助神经网络模型识别多个答案的质量,通常会在模型训练过程中引入偏好学习。通过偏好学习,能让神经网络模型能够分析这些答案的质量,从而判断哪些答案更合适、更准确。

2、然而,在模型训练过程中,偏好学习通常依赖于对不同答案之间的评分差异或偏好排序来使神经网络模型学习识别答案的优劣。由于评分差异或偏好排序所包含的信息较为简单,这导致神经网络模型在分析答案优劣时,无法准确捕捉到答案之间的关系。从而使训练后模型的难以准确地判断答案的优劣,以使得训练后模型生成结果的准确性低。

技术实现思路

1、本技术实施例提供一种模型训练方法、信息处理方法以及相关设备,可以使得训练后信息处理模型能更准确地判断答案的质量,以提高训练后信息处理模型预测答案优劣信息的准确性。

2、本技术实施例提供一种模型训练方法,包括:获取待训练信息处理模型以及训练样本集,所述训练样本集包括样本问题、所述样本问题的多个样本答案、优劣信息标签和论证信息标签,所述优劣信息标签包括用于表示所述样本答案之间优劣关系的关系标签,所述论证信息标签为论证所述优劣关系的信息标签;通过所述待训练信息处理模型,对所述样本问题和所述样本答案进行处理,得到预测优劣信息和预测论证信息,所述预测优劣信息包括所述关系标签对应的预测优劣关系;基于所述预测优劣信息与所述优劣信息标签之间的差异,以及所述预测论证信息与所述论证信息标签之间的差异,确定预测损失;利用所述预测损失训练所述待训练信息处理模型,得到训练后信息处理模型。

3、本技术实施例提供一种信息处理方法,包括:获取训练后信息处理模型、待处理问题和所述待处理问题的多个待处理答案,所述训练后信息处理模型是通过本技术实施例所提供的任一种模型训练方法得到;通过所述训练后信息处理模型,对所述待处理问题和所述待处理答案进行处理,得到目标优劣信息,所述目标优劣信息包括用于表示所述待处理答案之间优劣关系的目标优劣关系。

4、本技术实施例还提供一种模型训练装置,包括:训练获取单元,用于获取待训练信息处理模型以及训练样本集,所述训练样本集包括样本问题、所述样本问题的多个样本答案、优劣信息标签和论证信息标签,所述优劣信息标签包括用于表示所述样本答案之间优劣关系的关系标签,所述论证信息标签为论证所述优劣关系的信息标签;样本处理单元,用于通过所述待训练信息处理模型,对所述样本问题和所述样本答案进行处理,得到预测优劣信息和预测论证信息,所述预测优劣信息包括所述关系标签对应的预测优劣关系;损失确定单元,用于基于所述预测优劣信息与所述优劣信息标签之间的差异,以及所述预测论证信息与所述论证信息标签之间的差异,确定预测损失;训练单元,用于利用所述预测损失训练所述待训练信息处理模型,得到训练后信息处理模型。

5、在一些实施方式中,所述样本处理单元包括第一特征处理子单元和第二特征处理子单元,包括:所述第一特征处理子单元,用于通过所述待训练信息处理模型,对待处理样本进行第一特征处理,得到所述待处理样本的第一原始得分,所述待处理样本包括所述样本问题和所述样本答案,每个所述待处理样本对应一个所述样本答案;通过比较所述第一原始得分,得到所述待处理样本中所述样本答案之间的所述预测优劣关系;所述第二特征处理子单元,用于通过所述待训练信息处理模型,对所述待处理样本进行第二特征处理,得到所述待处理样本的第二原始得分;由所述第二原始得分确定所述预测论证信息。

6、在一些实施方式中,所述通过比较所述第一原始得分,得到所述待处理样本中所述样本答案之间的所述预测优劣关系,包括:针对任意两个所述待处理样本,基于所述关系标签,从所述任意两个所述待处理样本确定正向样本和负向样本;对所述正向样本的所述第一原始得分与所述负向样本的所述第一原始得分进行差值计算,得到所述任意两个所述待处理样本中所述样本答案之间的所述预测优劣关系。

7、在一些实施方式中,所述优劣信息标签还包括优劣类别标签,所述预测优劣信息还包括所述优劣类别标签对应的类别预测概率,所述第一特征处理子单元,还用于:对所述第一原始得分进行概率转换处理,得到所述类别预测概率。

8、在一些实施方式中,所述预测损失包括优劣信息损失和论证信息损失,所述损失确定单元包括第一损失确定子单元、第二损失确定子单元和第三损失确定子单元,包括:所述第一损失确定子单元,用于基于所述预测优劣信息与所述优劣信息标签之间的差异,确定所述优劣信息损失;所述第二损失确定子单元,用于基于所述预测论证信息与所述论证信息标签之间的差异,确定所述论证信息损失;所述第三损失确定子单元,用于结合所述优劣信息损失和所述论证信息损失,得到所述预测损失。

9、在一些实施方式中,所述预测论证信息和所述论证信息标签为文本信息,所述第二损失确定子单元具体用于:确定所述预测论证信息中预测词与目标词的词差异,所述目标词为所述预测词在所述论证信息标签中对应的词;由所述词差异确定所述论证信息损失。

10、在一些实施方式中,所述模型训练装置还包括阈值确定单元,所述阈值确定单元用于:利用所述第一原始得分计算得到所述待处理样本的标准差;基于所述标准差,确定所述待处理样本对应的目标参数值,所述目标参数值用于调整相应所述待处理样本对应的所述预测优劣信息,以将调整后预测优劣信息用于确定所述预测损失。

11、在一些实施方式中,所述模型训练装置还包括反转单元,所述反转单元用于:确定所述样本答案对应的累计偏差数量,所述累计偏差数量表示所述样本答案对应的所述预测优劣信息与相应所述优劣信息标签满足预设偏差的累计数量;当所述样本答案对应的所述累计偏差数量超过预设数量时,对所述样本答案对应的所述优劣信息标签进行反转处理,得到反转后标签,所述反转后标签用于确定所述预测损失。

12、在一些实施方式中,所述模型训练装置还包括测试单元,所述测试单元用于:获取测试样本集,所述测试样本集包括测试用问题、所述测试用问题的多个测试用答案和测试用优劣信息标签,所述测试用优劣信息标签包括用于表示所述测试用答案之间优劣关系的测试用关系标签;通过所述训练后信息处理模型,对所述测试用问题和所述测试用答案进行处理,得到测试用预测优劣信息,所述测试用预测优劣信息包括所述测试用关系标签对应的测试用预测优劣关系;基于所述测试用预测优劣信息与所述测试用优劣信息标签之间的差异,确定所述训练后信息处理模型的评价指标分值,所述评价指标分值用于评价所述训练后信息处理模型的性能。

13、本技术实施例还提供一种信息处理装置,包括:获取训练后信息处理模型、待处理问题和所述待处理问题的多个待处理答案,所述训练后信息处理模型是通过本技术实施例所提供的任一种模型训练方法得到;通过所述训练后信息处理模型,对所述待处理问题和所述待处理答案进行处理,得到目标优劣信息,所述目标优劣信息包括用于表示所述待处理答案之间优劣关系的目标优劣关系。

14、本技术实施例还提供一种电子设备,包括处理器和存储器,所述存储器存储有多条指令;所述处理器从所述存储器中加载指令,以执行本技术实施例所提供的任一种模型训练方法或信息处理方法中的步骤。

15、本技术实施例还提供一种计算机可读存储介质,所述计算机可读存储介质存储有多条指令,所述指令适于处理器进行加载,以执行本技术实施例所提供的任一种模型训练方法或信息处理方法中的步骤。

16、本技术实施例还提供一种计算机程序产品,包括计算机程序或指令,所述计算机程序或指令被处理器执行时实现本技术实施例所提供的任一种模型训练方法或信息处理方法中的步骤。

17、本技术实施例可以获取待训练信息处理模型以及训练样本集,所述训练样本集包括样本问题、所述样本问题的多个样本答案、优劣信息标签和论证信息标签,所述优劣信息标签包括用于表示所述样本答案之间优劣关系的关系标签,所述论证信息标签为论证所述优劣关系的信息标签;通过所述待训练信息处理模型,对所述样本问题和所述样本答案进行处理,得到预测优劣信息和预测论证信息,所述预测优劣信息包括所述关系标签对应的预测优劣关系;基于所述预测优劣信息与所述优劣信息标签之间的差异,以及所述预测论证信息与所述论证信息标签之间的差异,确定预测损失;利用所述预测损失训练所述待训练信息处理模型,得到训练后信息处理模型。

18、在本技术中,结合预测优劣信息与标签之间的差异以及预测论证信息与标签之间的差异构建待训练信息处理模型的预测损失,以此使得训练过程不局限于仅关注最终答案的优劣信息如优劣关系等,还基于论证信息考虑了答案的优劣信息的论证逻辑。其中,利用该论证信息为模型提供额外特征信息辅助,使模型可以更精准地捕捉到在比较答案优劣时需要重点关注的关键要素,从而优化模型对于答案质量的理解与处理,让模型能够更高效地学习并提升其整体性能表现,以提升模型的训练效果和泛化能力。由此,使得训练后信息处理模型能更准确地判断答案的优劣,以提高训练后信息处理模型预测答案优劣信息的准确性。