数据的更新方法及装置、电子设备、存储介质和程序产品

摘要: 本技术涉及计算机,并且更具体地,涉及一种数据的更新方法及装置、电子设备、存储介质和程序产品。背景技术:1、随着人工智能和自然语言处理(naturallangua...
数据的更新方法及装置、电子设备、存储介质和程序产品

本技术涉及计算机,并且更具体地,涉及一种数据的更新方法及装置、电子设备、存储介质和程序产品。

背景技术:

1、随着人工智能和自然语言处理(natural language processing,nlp)技术的迅猛发展,大型语言模型在各类nlp任务上取得了性能突破。这些模型参数规模巨大,具备了强大的语言理解和生成能力。

2、相关技术中,可以通过设计特定的提示词和标签,来引导大型语言模型生成与任务相关的预期输出,提示词和标签可以将一个分类任务转换为模型擅长的语言生成任务或补全任务。但是,提示词和标签通常需要人工设定,在设定的提示词和标签不准确的前提下,会导致模型的数据的处理过程受到影响,进一步导致输出的结果偏离期望,存在灵活度差、输出结果准确度低等问题。

3、因此,如何在不需要人工设定的前提下准确地生成提示词和标签成为亟需解决的问题。

技术实现思路

1、本技术提供一种数据的更新方法及装置、电子设备、存储介质和程序产品,该方法能够在不需要人工设定的前提下准确地生成提示词和标签,技术方案如下:

2、第一方面,提供了数据的更新方法,方法包括:

3、获取训练样本集合和初始概率分布矩阵,训练样本集合包括多个训练样本,每个训练样本包括输入样本和输入样本对应的样本结果;

4、对初始概率分布矩阵进行采样处理,得到初始采样序列,初始采样序列包括提示词序列和标签序列;

5、采用目标模型对初始采样序列和输入样本进行处理,得到预测结果;

6、基于预测结果和样本结果,对初始概率分布矩阵进行更新。

7、在这种实施方式下,对获取的初始概率分布矩阵进行采样处理,得到包括提示词序列和标签序列的初始采样序列,进而采用目标模型,对初始采样序列和训练样本集合中的输入样本进行处理,得到预测结果,以基于预测结果和样本结果对初始概率分布矩阵进行更新,能够将标签的学习与提示词的学习统一为离散令牌联合优化的问题,实现了在不访问模型内部、无需预设标签词汇的黑盒环境下,自动对初始概率分布矩阵进行更新,进而自动生成高性能的提示词和标签,显著提升了目标模型的实用性和性能。

8、结合第一方面,在某些可能的实现方式中,初始概率分布矩阵包括初始提示概率矩阵和初始标签概率矩阵,基于初始概率分布矩阵和采样次数对目标采样表进行采样处理,得到初始采样序列,包括:基于初始提示概率矩阵对目标词汇表进行采样处理,得到提示词序列;基于初始标签概率矩阵对目标标签表进行采样处理,得到标签序列。

9、在这种实施方式下,通过初始提示概率矩阵对目标词汇表进行采样处理得到提示词序列,通过初始标签概率矩阵对目标标签表进行采样处理得到标签序列,将提示词序列和标签序列的生成过程各自独立,减小了数据处理过程中的干扰。

10、结合第一方面和上述实现方式,在某些可能的实现方式中,对初始概率分布矩阵进行采样处理,得到初始采样序列,包括:针对训练样本集合中的每个训练样本,对初始概率分布矩阵进行多次采样处理,得到多个初始采样序列;相应的,采用目标模型对初始采样序列和输入样本进行处理,得到预测结果,包括:采用目标模型分别对每个初始采样序列及其对应的输入样本进行处理,得到每个初始采样序列对应的预测结果。

11、在这种实施方式下,针对训练样本集合中的每个训练样本,对初始概率分布矩阵进行多次采样处理得到多个初始采样序列,进而采用目标模型分别对每个初始采样序列及其对应的输入样本进行处理,得到每个初始采样序列对应的预测结果,能够对一个输入样本进行多次采样,抵消了单次采样带来的方向抖动,显著降低了随机梯度的方差,使得损失的收敛过程更稳定,需要的迭代次数更少。

12、结合第一方面和上述实现方式,在某些可能的实现方式中,基于预测结果和样本结果,对初始概率分布矩阵进行更新,包括:基于每个采样序列对应的预测结果和每个采样序列对应的样本结果,确定每个采样序列对应的样本损失;基于平均损失、初始概率分布矩阵中的第i个目标列向量对应的梯度对数以及所有采样序列对应的样本损失,确定第i个目标列向量对应的目标梯度,i为大于1的整数;基于第i个目标列向量对应的目标梯度,对第i个目标列向量进行更新。

13、在这种实施方式下,通过平均损失、第i个目标列向量对应的梯度对数以及所有采样序列对应的样本损失,确定第i个目标列向量对应的目标梯度以对第i个目标列向量进行更新,能够设计出针对黑盒离散优化的无偏策略梯度估计器,实现了数据高效且稳定的更新。

14、结合第一方面和上述实现方式,在某些可能的实现方式中,方法还包括:对所有采样序列对应的样本损失进行求和,得到损失和值;基于损失和值、样本数量和采样次数,确定平均损失,样本数量为训练样本集合中的训练样本的数量,采样次数为对初始概率分布矩阵进行采样处理时的采样次数。

15、在这种实施方式下,将所有采样序列对应的样本损失进行求和得到损失和值,进而通过损失和值、样本数量和采样次数,确定平均损失,能够确定出一个稳定目标梯度的基准损失,降低了数据的更新过程中出现抖动的可能性。

16、结合第一方面和上述实现方式,在某些可能的实现方式中,基于平均损失、初始概率分布矩阵中的第i个目标列向量对应的梯度对数以及所有采样序列对应的样本损失,确定第i个目标列向量对应的目标梯度,包括:基于平均损失、第i个目标列向量对应的梯度对数以及所有采样序列对应的样本损失,确定第i个目标列向量对应的第一中间损失;基于第i个目标列向量对应的第一中间损失和采样次数,确定第i个目标列向量对应的第二中间损失,采样次数为对初始概率分布矩阵进行采样处理时的采样次数;基于平均损失和第i个目标列向量对应的第二中间损失,确定第i个目标列向量对应的目标梯度。

17、在这种实施方式下,通过平均损失梯度对数以及样本损失,确定第i个目标列向量对应的第一中间损失,进而通过第一中间损失和采样次数,确定第i个目标列向量对应的第二中间损失,最终基于平均损失和第二中间损失,确定第i个目标列向量对应的目标梯度,能够将目标梯度的计算过程拆解为多个步骤,在保证了目标梯度离散的同时,提高了目标梯度的准确度。

18、结合第一方面和上述实现方式,在某些可能的实现方式中,基于平均损失、第i个目标列向量对应的梯度对数以及所有采样序列对应的样本损失,确定第i个目标列向量对应的第一中间损失,包括:基于第一类采样序列对应的样本损失、样本数量和平均损失,确定第一类采样序列对应的第三中间损失,第一类采样序列是对所有训练样本进行第k次采样处理得到的采样序列,k为大于1的整数;基于第一类采样序列对应的第三中间损失和第i个目标列向量对应的梯度对数,得到第一类采样序列对应的第四中间损失;对所有的第一类采样序列对应的第四中间损失进行求和,得到第i个目标列向量对应的第一中间损失。

19、在这种实施方式下,通过第一类采样序列对应的样本损失、样本数量和平均损失,确定第一类采样序列对应的第三中间损失,然后,通过第三中间损失和第i个目标列向量对应的梯度对数确定第四中间损失,进而对所有的第四中间损失进行求和,得到第i个目标列向量对应的第一中间损失,能够通过样本数量和平均损失,将多次采样得到的所有第一类采样序列对应的样本损失进行处理,提高了第一中间损失的稳定性和准确度。

20、结合第一方面和上述实现方式,在某些可能的实现方式中,在基于预测结果和样本结果,对初始概率分布矩阵进行更新之后,方法还包括:对更新后的初始概率分布矩阵进行投影处理,得到投影概率分布矩阵;在投影概率分布矩阵位于预设约束区间的情况下,将投影概率分布矩阵重新作为初始概率分布矩阵,并再次执行对初始概率分布矩阵进行采样处理,得到初始采样序列以及之后的步骤;在投影概率分布矩阵不位于预设约束区间的情况下,基于预设约束区间对更新后的初始概率分布矩阵进行处理,得到约束概率分布矩阵,将约束概率分布矩阵重新作为初始概率分布矩阵,并再次执行对初始概率分布矩阵进行采样处理,得到初始采样序列以及之后的步骤。

21、在这种实施方式下,对更新后的初始概率分布矩阵进行投影处理,进而根据投影概率分布矩阵与预设约束区间的关系,采用不同的方式确定初始概率分布矩阵,并再次执行数据的更新流程,确保多次迭代过程中的所有数据都能够满足约束条件,维持了数据的合理性,使得数据在约束区间内稳定收敛,平衡了数据的收敛速度与复杂度。

22、结合第一方面和上述实现方式,在某些可能的实现方式中,采用目标模型对初始采样序列和输入样本进行处理,得到预测结果,包括:对输入样本和提示词序列进行拼接处理,得到第一拼接结果;采用目标模型对第一拼接结果进行处理,得到中间输出结果;对中间输出结果和标签序列进行拼接处理,得到第二拼接结果;采用目标模型对第二拼接结果进行处理,得到预测结果。

23、在这种实施方式下,采用目标模型对输入样本和提示词序列进行拼接处理得到的第一拼接结果进行处理,得到中间输出结果,进一步再次采用目标模型对中间输出结果和标签序列进行拼接处理得到的第二拼接结果进行处理,得到预测结果,利用了目标模型自身的推理能力,在生成预测结果前使用标签和提示词先后干预了预测结果,同时,目标模型能够通过中间输出结果校正推理中的错误,提升了预测结果的准确性。

24、第二方面,提供了一种数据的更新装置,该装置包括:

25、获取模块,用于获取训练样本集合和初始概率分布矩阵,训练样本集合包括多个训练样本,每个训练样本包括输入样本和输入样本对应的样本结果;

26、处理模块,用于对初始概率分布矩阵进行采样处理,得到初始采样序列,初始采样序列包括提示词序列和标签序列,采用目标模型对初始采样序列和输入样本进行处理,得到预测结果;

27、更新模块,用于基于预测结果和样本结果,对初始概率分布矩阵进行更新。

28、结合第二方面,在某些可能的实现方式中,处理模块,用于基于初始提示概率矩阵对目标词汇表进行采样处理,得到提示词序列;基于初始标签概率矩阵对目标标签表进行采样处理,得到标签序列。

29、结合第二方面和上述实现方式,在某些可能的实现方式中,处理模块,用于针对训练样本集合中的每个训练样本,对初始概率分布矩阵进行多次采样处理,得到多个初始采样序列;采用目标模型分别对每个初始采样序列及其对应的输入样本进行处理,得到每个初始采样序列对应的预测结果。

30、结合第二方面和上述实现方式,在某些可能的实现方式中,处理模块,用于基于每个采样序列对应的预测结果和每个采样序列对应的样本结果,确定每个采样序列对应的样本损失;基于平均损失、初始概率分布矩阵中的第i个目标列向量对应的梯度对数以及所有采样序列对应的样本损失,确定第i个目标列向量对应的目标梯度,i为大于1的整数;更新模块,用于基于第i个目标列向量对应的目标梯度,对第i个目标列向量进行更新。

31、结合第二方面和上述实现方式,在某些可能的实现方式中,处理模块,用于对所有采样序列对应的样本损失进行求和,得到损失和值;基于损失和值、样本数量和采样次数,确定平均损失,样本数量为训练样本集合中的训练样本的数量,采样次数为对初始概率分布矩阵进行采样处理时的采样次数。

32、结合第二方面和上述实现方式,在某些可能的实现方式中,处理模块,用于基于平均损失、第i个目标列向量对应的梯度对数以及所有采样序列对应的样本损失,确定第i个目标列向量对应的第一中间损失;基于第i个目标列向量对应的第一中间损失和采样次数,确定第i个目标列向量对应的第二中间损失,采样次数为对初始概率分布矩阵进行采样处理时的采样次数;基于平均损失和第i个目标列向量对应的第二中间损失,确定第i个目标列向量对应的目标梯度。

33、结合第二方面和上述实现方式,在某些可能的实现方式中,处理模块,用于基于第一类采样序列对应的样本损失、样本数量和平均损失,确定第一类采样序列对应的第三中间损失,第一类采样序列是对所有训练样本进行第k次采样处理得到的采样序列,k为大于1的整数;基于第一类采样序列对应的第三中间损失和第i个目标列向量对应的梯度对数,得到第一类采样序列对应的第四中间损失;对所有的第一类采样序列对应的第四中间损失进行求和,得到第i个目标列向量对应的第一中间损失。

34、结合第二方面和上述实现方式,在某些可能的实现方式中,处理模块,用于对更新后的初始概率分布矩阵进行投影处理,得到投影概率分布矩阵;在投影概率分布矩阵位于预设约束区间的情况下,将投影概率分布矩阵重新作为初始概率分布矩阵,并再次执行对初始概率分布矩阵进行采样处理,得到初始采样序列以及之后的步骤;在投影概率分布矩阵不位于预设约束区间的情况下,基于预设约束区间对更新后的初始概率分布矩阵进行处理,得到约束概率分布矩阵,将约束概率分布矩阵重新作为初始概率分布矩阵,并再次执行对初始概率分布矩阵进行采样处理,得到初始采样序列以及之后的步骤。

35、结合第二方面和上述实现方式,在某些可能的实现方式中,处理模块,用于对输入样本和提示词序列进行拼接处理,得到第一拼接结果;采用目标模型对第一拼接结果进行处理,得到中间输出结果;对中间输出结果和标签序列进行拼接处理,得到第二拼接结果;采用目标模型对第二拼接结果进行处理,得到预测结果。

36、第三方面,提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一条程序代码,所述程序代码由处理器加载并执行以实现所述数据的更新方法所执行的操作。

37、第四方面,提供了一种电子设备,包括存储器和处理器,存储器用于存储可执行程序代码;处理器用于从存储器中调用并运行可执行程序代码,使得电子设备执行上述第一方面或第一方面任意一种可能的实现方式中的数据的更新方法。

38、第五方面,提供了一种计算机程序产品,该计算机程序产品包括:计算机程序代码,当该计算机程序代码在计算机上运行时,使得该计算机执行上述第一方面或第一方面任意一种可能的实现方式中的数据的更新方法。

39、采用本技术实施例提供的技术方案,对获取的初始概率分布矩阵进行采样处理,得到包括提示词序列和标签序列的初始采样序列,进而采用目标模型,对初始采样序列和训练样本集合中的输入样本进行处理,得到预测结果,以基于预测结果和样本结果对初始概率分布矩阵进行更新,能够将标签的学习与提示词的学习统一为离散令牌联合优化的问题,实现了在不访问模型内部、无需预设标签词汇的黑盒环境下,自动对初始概率分布矩阵进行更新,进而自动生成高性能的提示词和标签,显著提升了目标模型的实用性和性能。