文本生成方法、装置、电子设备、存储介质和芯片与流程

本公开涉及自然语言处理、人工智能，尤其涉及一种文本生成方法、电子设备、装置、芯片和存储介质。

背景技术：

1、目前，随着人工智能技术的不断发展，大语言模型具有泛化性好等优点，在人机对话、文本总结、机器翻译等领域中得到了广泛应用。比如，在人机对话领域中，可通过大语言模型生成对话文本。然而，相关技术中大语言模型在生成文本时，存在准确性低和效率低的问题。

技术实现思路

1、本公开提供一种文本生成方法、装置、电子设备、芯片和存储介质，以至少解决相关技术中大语言模型在生成文本时，存在准确性低和效率低的问题。本公开的技术方案如下：

2、根据本公开实施例的第一方面，提供一种文本生成方法，包括：确定目标文本生成任务的提示文本对应的提示词元序列；基于所述提示词元序列中的提示词元以及所述提示词元的出现频率，确定n元语法模型；通过所述n元语法模型预测大语言模型基于所述提示词元序列生成的多个词元，以确定多个预测词元；通过所述大语言模型验证多个所述预测词元，以采纳通过验证的预测词元生成目标文本。

3、根据本公开实施例的第二方面，提供一种文本生成装置，包括：第一确定模块，被配置为确定目标文本生成任务的提示文本对应的提示词元序列；第二确定模块，被配置为基于所述提示词元序列中的提示词元以及所述提示词元的出现频率，确定n元语法模型；预测模块，被配置为通过所述n元语法模型预测大语言模型基于所述提示词元序列生成的多个词元，以确定多个预测词元；验证模块，被配置为通过所述大语言模型验证多个所述预测词元，以采纳通过验证的预测词元生成目标文本。

4、根据本公开实施例的第三方面，提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时，实现本公开实施例第一方面所述文本生成方法的步骤。

5、根据本公开实施例的第四方面，提供一种计算机可读存储介质，其上存储有计算机程序指令，该程序指令被处理器执行时实现本公开实施例第一方面所述文本生成方法的步骤。

6、根据本公开实施例的第五方面，提供一种芯片，该芯片包括相互耦合的接口电路和处理电路，所述接口电路用于输入或输出信号，所述处理电路被配置为实现本公开实施例第一方面所述文本生成方法的步骤。

7、根据本公开实施例的第六方面，提供一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时，实现本公开实施例第一方面所述文本生成方法的步骤。

8、本公开的实施例提供的技术方案至少带来以下有益效果：确定目标文本生成任务的提示文本对应的提示词元序列，基于提示词元序列中的提示词元以及提示词元的出现频率，确定n元语法模型，通过n元语法模型预测大语言模型基于提示词元序列生成的多个词元，以确定多个预测词元，通过大语言模型验证多个预测词元，以采纳通过验证的预测词元生成目标文本。由此，可分析提示词元序列中的提示词元以及提示词元的出现频率，自适应地确定n元语法模型，即无需训练n元语法模型，且n元语法模型与提示文本的语言风格、句式结构、词汇分布等高度适配，比如，n元语法模型可以反映当前问题的语言模式与关键信息，而非泛化的通用语料统计，可以为当前问题的解答提供更聚焦的信息，提高了n元语法模型的准确性和适应性，有助于提高n元语法模型预测的预测词元的准确性，进而提高大语言模型生成文本的准确性和效率，适用于不同场景下的目标文本生成任务。

9、比如，本方案尤其适用于提示文本信息丰富或长度较长的应用场景，例如当用户提供包含详细背景、专业术语或多轮上下文的提示文本时，n元语法模型能够精准捕捉其中的高频词组、固定搭配和语义结构，从而为后续的词元预测提供高度相关的先验知识，有助于提升n元语法模型预测的预测词元的准确性，进而提高整体推理效率。

10、应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

1.一种文本生成方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

3.根据权利要求1所述的方法，其特征在于，多个所述预测词元的总长度与所述n元语法模型的预测正确率相关联。

4.根据权利要求3所述的方法，其特征在于，所述方法还包括：

5.根据权利要求4所述的方法，其特征在于，所述基于更新后的预测正确率，对所述总长度进行调整，包括：

6.根据权利要求4所述的方法，其特征在于，所述基于更新后的预测正确率，对所述总长度进行调整，包括：

7.根据权利要求4所述的方法，其特征在于，所述对所述总长度进行调整之前，还包括：

8.根据权利要求1所述的方法，其特征在于，所述通过所述n元语法模型预测大语言模型基于所述提示词元序列生成的多个词元，以确定多个预测词元，包括：

9.根据权利要求8所述的方法，其特征在于，所述确定所述目标文本中的第一文本片段对应的第一词元序列，包括下列操作中的至少一项：

10.根据权利要求8所述的方法，其特征在于，所述通过所述大语言模型基于所述第一词元序列和所述预测词元序列，确定参考词元序列，包括：

11.根据权利要求8所述的方法，其特征在于，所述基于所述预测词元序列与所述参考词元序列之间的差异信息，验证多个所述预测词元，以采纳通过验证的预测词元生成所述目标文本中的第二词元序列，包括：

12.根据权利要求1-11中任一项所述的方法，其特征在于，所述目标文本包括下列文本中的至少一项：

13.一种文本生成装置，其特征在于，包括：

14.根据权利要求13所述的装置，其特征在于，所述第二确定模块，还被配置为：

15.根据权利要求13所述的装置，其特征在于，多个所述预测词元的总长度与所述n元语法模型的预测正确率相关联。

16.一种电子设备，其特征在于，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时，实现权利要求1-12中任一项所述方法的步骤。

17.一种计算机可读存储介质，其上存储有计算机程序指令，其特征在于，该程序指令被处理器执行时实现权利要求1-12中任一项所述方法的步骤。

18.一种芯片，其特征在于，所述芯片包括相互耦合的接口电路和处理电路，所述接口电路用于输入或输出信号，所述处理电路被配置为实现权利要求1-12中任一项所述方法的步骤。

19.一种计算机程序产品，其特征在于，包括计算机程序，所述计算机程序被处理器执行时，实现权利要求1-12中任一项所述方法的步骤。