提示词优化方法及装置、可读介质、电子设备及程序产品

本申请涉及提示词优化，具体而言，涉及一种提示词优化方法及装置、可读介质、电子设备及程序产品。

背景技术：

1、大语言模型（large language model，llm）通过海量文本预训练获得了强大的语境理解能力，在自然语言处理任务中取得突破性成果，但在不平衡数据处理方面仍存在短板。多数 llms 以云 api 形式提供服务，用户无法访问模型内部参数，形成黑盒场景，进一步增加了适配不平衡数据的难度。也即是说，大语言模型虽具备出色语义理解能力，但在黑盒调用场景下难以处理不平衡数据。因此，在黑盒调用模式下，依托提示词驱动大语言模型处理不平衡数据时，如何通过提示词优化提升模型预测结果的准确性与可靠性，是当前亟待解决的难题。

技术实现思路

1、本申请的实施例提供了一种提示词优化方法及装置、可读介质、电子设备及程序产品，一方面利用预设损失函数来解决类别不平衡问题，另一方面利用目标梯度和动量向量有效降低提示采样与样本对采样带来的双重方差，实现稳定且高效的优化过程，有效缓解类别不平衡问题，提升预设模型在不平衡文本分类任务中的泛化性能，从而确保预设模型在黑盒调用场景下的预测结果精准可靠。

2、本申请的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本申请的实践而习得。

3、根据本申请实施例的一个方面，提供了一种提示词优化方法，包括：获取当前批次的训练样本集，其中所述训练样本集中的一个训练样本由正-负样本对构成；根据当前轮次的提示词分布获取训练提示词；将所述训练提示词和所述训练样本集输入至预设模型中，以获取预测结果；根据所述预测结果和预设损失函数确定目标梯度，所述目标梯度基于损失值平均基线和当前轮次损失值构成，所述预设损失函数基于所述训练样本中的正-负样本对进行损失计算；若当前轮次属于首轮，动量向量根据首个批次的首轮对应的目标梯度确定，若当前轮次不属于首轮，根据当前轮次的所述目标梯度和上一轮次的所述目标梯度计算动量向量，以根据所述动量向量更新所述提示词分布；在达到预设终止条件的情况下，确定所述当前轮次的提示词分布为目标提示词分布，并输出所述目标提示词分布。

4、根据本申请实施例的一个方面，提供了一种提示词优化装置，所述提示词优化装置包括第一获取模块、第二获取模块、第三获取模块、梯度计算模块、更新模块和输出模块。所述第一获取模块用于获取当前批次的训练样本集，其中所述训练样本集中的一个训练样本由正-负样本对构成。所述第二获取模块用于根据当前轮次的提示词分布获取训练提示词。所述第三获取模块用于将所述训练提示词和所述训练样本集输入至预设模型中，以获取预测结果。所述梯度计算模块用于根据所述预测结果和预设损失函数确定目标梯度，所述目标梯度基于损失值平均基线和当前轮次损失值构成，所述预设损失函数基于所述训练样本中的正-负样本对进行损失计算。所述更新模块用于若当前轮次属于首轮，动量向量根据首个批次的首轮对应的目标梯度确定，若当前轮次不属于首轮，根据当前轮次的所述目标梯度和上一轮次的所述目标梯度计算动量向量，以根据所述动量向量更新所述提示词分布。所述输出模块用于在达到预设终止条件的情况下，确定所述当前轮次的提示词分布为目标提示词分布，并输出所述目标提示词分布。

5、根据本申请实施例的一个方面，提供了一种计算机程序产品，包括一个或多个计算机程序，该一个或多个计算机程序被一个或多个处理器执行时实现如上述实施例中所述的提示词优化方法的步骤。

6、根据本申请实施例的一个方面，提供了一种计算机可读介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上述实施例中所述的提示词优化方法。

7、根据本申请实施例的一个方面，提供了一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如上述实施例中所述的提示词优化方法。

8、在本申请的一些实施例所提供的技术方案中，可根据当前轮次的提示词分布获取训练提示词，同时获取当前批次的训练样本集，其中一个训练样本集由正样本和负样本构成。接着，将训练提示词和训练样本集输入至预设模型中，以得到预测结果。然后根据预测结果和预设损失函数确定目标梯度。其中，预设损失函数基于训练样本中的正-负样本对进行损失计算，以此解决类别不平衡数据适配问题，实现多数类与少数类学习效果的平衡。同时，目标梯度基于损失值平均基线和当前轮次损失值构成，从而修正预设损失函数基于训练样本中的正-负样本对进行损失计算时带来的提示采样的方差。然后，再根据当前轮次的目标梯度和上一轮次的目标梯度计算动量向量，并根据该动量向量更新提示词分布，以通过历史梯度累积，使得方差项随迭代次数系统性衰减，从而修正预设损失函数基于训练样本中的正-负样本对进行损失计算时带来的数据采样方差。在达到预设终止条件的情况下，输出当前轮次的提示词分布，否则再次进入训练。

9、如此，本申请融合基于训练样本集中的正-负样本对进行损失计算的预设损失函数、基于损失值平均基线和当前轮次损失值构成的目标梯度，以及基于当前轮次的目标梯度和上一轮次的目标梯度确定的动量向量，以一方面利用预设损失函数来解决类别不平衡问题，另一方面利用目标梯度和动量向量有效降低提示采样与样本对采样带来的双重方差，实现稳定且高效的优化过程，有效缓解类别不平衡问题，提升预设模型在不平衡文本分类任务中的泛化性能，从而确保预设模型在黑盒调用场景下的预测结果精准可靠。

10、应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本申请。

1.一种提示词优化方法，其特征在于，包括：

2.如权利要求1所述的提示词优化方法，其特征在于，所述根据所述预测结果和预设损失函数确定目标梯度，包括：

3.如权利要求2所述的提示词优化方法，其特征在于，所述根据所述预测结果和预设损失函数确定目标梯度，还包括：

4.如权利要求1所述的提示词优化方法，其特征在于，所述若当前轮次属于首轮，动量向量根据首个批次的首轮对应的目标梯度确定，若当前轮次不属于首轮，根据当前轮次的所述目标梯度和上一轮次的所述目标梯度计算动量向量，以根据所述动量向量更新所述提示词分布，包括：

5.如权利要求1所述的提示词优化方法，其特征在于，还包括：

6.如权利要求1所述的提示词优化方法，其特征在于，所述将所述训练提示词和所述训练样本集输入至预设模型中，以获取预测结果，包括：

7.如权利要求1所述的提示词优化方法，其特征在于，还包括：

8.如权利要求1所述的提示词优化方法，其特征在于，还包括：

9.一种提示词优化装置，其特征在于，所述提示词优化装置包括：

10.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至8中任一项所述的提示词优化方法。

11.一种电子设备，其特征在于，包括：

12.一种计算机程序产品，包括一个或多个计算机程序，该一个或多个计算机程序被一个或多个处理器执行时实现权利要求1至8中任一项所述的提示词优化方法的步骤。