任务处理模型训练方法、模型训练样本确定方法及任务处理方法与流程
本说明书实施例涉及人工智能,特别涉及任务处理模型训练方法、模型训练样本确定方法及任务处理方法。
背景技术:
1、随着大模型在人工智能领域的快速发展,其强大的表示能力和泛化性能使其在各种任务中表现出色。然而,这些大模型通常需要大量的高质量标注数据进行训练或对齐,以确保其输出符合人类预期并满足具体应用场景的需求。然而,获取如此规模的高质量标注数据不仅成本高昂,而且耗时耗力。因此,如何利用少量标注数据通过弱监督的方式对大模型进行对齐成为了一个重要的研究方向。
2、目前,通常基于人类提供的弱监督数据训练一个弱标注器(即模拟人类判断过程),然后利用该弱标注器对齐(align)大模型。然而,人类提供的弱监督含有噪音,会影响对齐大模型的准确性,因此,亟需一种准确性高的模型训练方案。
技术实现思路
1、有鉴于此,本说明书实施例提供了一种任务处理模型训练方法。本说明书一个或者多个实施例同时涉及一种模型训练样本确定方法,一种任务处理方法,一种对话处理方法,一种基于任务处理模型的信息处理方法,一种任务平台,一种任务处理模型训练装置,一种模型训练样本确定装置,一种任务处理装置,一种对话处理装置,一种基于任务处理模型的信息处理装置,一种计算设备,一种电子设备,一种计算机可读存储介质以及一种计算机程序产品,以解决现有技术中存在的技术缺陷。
2、根据本说明书实施例的第一方面,提供了一种任务处理模型训练方法,包括:
3、获取第一样本集,其中,第一样本集包括第一样本数据,以及第一样本数据的噪音答案和模型答案,模型答案是任务处理模型对第一样本数据进行答案预测得到的,噪音答案为包括错误信息的答案;
4、将第一样本数据输入任务处理模型进行答案知识预测,获得第一样本数据的第一答案知识,其中,第一答案知识表征任务处理模型能否输出第一样本数据的参考答案;
5、根据第一答案知识、噪音答案以及模型答案,确定第一样本数据的第一答案标签;
6、根据第一样本数据和第一答案标签,对任务处理模型进行参数调整,获得训练完成的任务处理模型。
7、根据本说明书实施例的第二方面,提供了一种模型训练样本确定方法,包括:
8、获取第一样本集,其中,第一样本集包括第一样本数据,以及第一样本数据的噪音答案和模型答案,模型答案是任务处理模型对第一样本数据进行答案预测得到的,噪音答案为包括错误信息的答案;
9、将第一样本数据输入任务处理模型进行答案知识预测,获得第一样本数据的第一答案知识,其中,第一答案知识表征任务处理模型能否输出第一样本数据的参考答案;
10、根据第一答案知识、噪音答案以及模型答案,确定第一样本数据的第一答案标签;
11、根据第一样本数据和第一答案标签,确定模型训练样本,其中,模型训练样本用于训练任务处理模型。
12、根据本说明书实施例的第三方面,提供了一种任务处理方法,包括:
13、获取目标任务的任务数据;
14、将任务数据输入任务处理模型,获得目标任务的任务处理结果,其中,任务处理模型基于任务处理模型训练方法训练得到。
15、根据本说明书实施例的第四方面,提供了一种对话处理方法,包括:
16、获取目标对话任务的待处理对话数据;
17、将待处理对话数据输入任务处理模型,获得待处理对话数据的答复结果,其中,任务处理模型基于任务处理模型训练方法训练得到。
18、根据本说明书实施例的第五方面,提供了一种基于任务处理模型的信息处理方法,应用于任务平台,包括:
19、接收终端设备发送的模型请求;
20、基于模型请求,从至少一个任务处理模型中,确定出目标任务处理模型,其中,至少一个任务处理模型基于任务处理模型训练方法训练得到。
21、根据本说明书实施例的第六方面,提供了一种任务平台,包括请求接口和响应单元;
22、请求接口,用于接收终端设备发送的模型请求,其中,模型请求包括目标场景的场景标识、目标场景的场景输入数据,以及模型规格参数中至少一项;
23、响应单元,用于基于模型请求,从至少一个任务处理模型中,确定出目标任务处理模型,其中,至少一个任务处理模型基于任务处理模型训练方法训练得到。
24、根据本说明书实施例的第七方面,提供了一种任务处理模型训练装置,包括:
25、第一获取模块,被配置为获取第一样本集,其中,第一样本集包括第一样本数据,以及第一样本数据的噪音答案和模型答案,模型答案是任务处理模型对第一样本数据进行答案预测得到的,噪音答案为包括错误信息的答案;
26、第一输入模块,被配置为将第一样本数据输入任务处理模型进行答案知识预测,获得第一样本数据的第一答案知识,其中,第一答案知识表征任务处理模型能否输出第一样本数据的参考答案;
27、第一确定模块,被配置为根据第一答案知识、噪音答案以及模型答案,确定第一样本数据的第一答案标签;
28、第一调整模块,被配置为根据第一样本数据和第一答案标签,对任务处理模型进行参数调整,获得训练完成的任务处理模型。
29、根据本说明书实施例的第八方面,提供了一种模型训练样本确定装置,包括:
30、第二获取模块,被配置为获取第一样本集,其中,第一样本集包括第一样本数据,以及第一样本数据的噪音答案和模型答案,模型答案是任务处理模型对第一样本数据进行答案预测得到的,噪音答案为包括错误信息的答案;
31、第二输入模块,被配置为将第一样本数据输入任务处理模型进行答案知识预测,获得第一样本数据的第一答案知识,其中,第一答案知识表征任务处理模型能否输出第一样本数据的参考答案;
32、第二确定模块,被配置为根据第一答案知识、噪音答案以及模型答案,确定第一样本数据的第一答案标签;
33、第三确定模块,被配置为根据第一样本数据和第一答案标签,确定模型训练样本,其中,模型训练样本用于训练任务处理模型。
34、根据本说明书实施例的第九方面,提供了一种任务处理装置,包括:
35、第三获取模块,被配置为获取目标任务的任务数据;
36、第三输入模块,被配置为将任务数据输入任务处理模型,获得目标任务的任务处理结果,其中,任务处理模型基于任务处理模型训练方法训练得到。
37、根据本说明书实施例的第十方面,提供了一种对话处理装置,包括:
38、第四获取模块,被配置为获取目标对话任务的待处理对话数据;
39、第四输入模块,被配置为将待处理对话数据输入任务处理模型,获得待处理对话数据的答复结果,其中,任务处理模型基于任务处理模型训练方法训练得到。
40、根据本说明书实施例的第十一方面,提供了一种基于任务处理模型的信息处理装置,应用于任务平台,包括:
41、接收模块,被配置为接收终端设备发送的模型请求;
42、第四确定模块,被配置为基于模型请求,从至少一个任务处理模型中,确定出目标任务处理模型,其中,至少一个任务处理模型基于任务处理模型训练方法训练得到。
43、根据本说明书实施例的第十二方面,提供了一种计算设备,包括:
44、存储器和处理器;
45、所述存储器用于存储计算机程序/指令,所述处理器用于执行所述计算机程序/指令,该计算机程序/指令被处理器执行时实现上述第一方面或者第二方面或者第三方面或者第四方面或者第五方面所提供方法的步骤。
46、根据本说明书实施例的第十三方面,提供了一种电子设备,包括:
47、存储器和处理器,存储器和处理器通过总线连接;
48、存储器用于存储计算机程序/指令,处理器用于执行计算机程序/指令,该计算机程序/指令被处理器执行时实现上述第一方面或者第二方面或者第三方面或者第四方面或者第五方面所提供方法的步骤。
49、根据本说明书实施例的第十四方面,提供了一种计算机可读存储介质,其存储有计算机程序/指令,该计算机程序/指令被处理器执行时实现上述第一方面或者第二方面或者第三方面或者第四方面或者第五方面所提供方法的步骤。
50、根据本说明书实施例的第十五方面,提供了一种计算机程序产品,包括计算机程序/指令,该计算机程序/指令被处理器执行时实现上述第一方面或者第二方面或者第三方面或者第四方面或者第五方面所提供方法的步骤。
51、本说明书一个实施例提供的任务处理模型训练方法,包括:获取第一样本集,其中,第一样本集包括第一样本数据,以及第一样本数据的噪音答案和模型答案,模型答案是任务处理模型对第一样本数据进行答案预测得到的,噪音答案为包括错误信息的答案;将第一样本数据输入任务处理模型进行答案知识预测,获得第一样本数据的第一答案知识,其中,第一答案知识表征任务处理模型能否输出第一样本数据的参考答案;根据第一答案知识、噪音答案以及模型答案,确定第一样本数据的第一答案标签;根据第一样本数据和第一答案标签,对任务处理模型进行参数调整,获得训练完成的任务处理模型。由于第一答案知识表征了任务处理模型本身是否知道第一样本数据的参考答案,因此可以利用第一答案知识从噪音答案和模型答案中自适应选择生成第一答案标签,充分利用了任务处理模型已有的知识积累,避免完全依赖噪音答案可能带来的偏差,提高了第一答案标签的准确性和可靠性。利用第一答案标签对任务处理模型进行参数调整,为任务处理模型提供了更明确的学习信号,减少因标签不准确导致的梯度更新偏差,加快了任务处理模型的收敛速度,还提高了训练完成的任务处理模型的准确性。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com