大语言模型提示词自进化方法、系统及终端与流程

本技术涉及人工智能及自然语言处理，尤其是涉及一种大语言模型提示词自进化方法、系统及终端。

背景技术：

1、大语言模型在自然语言处理领域已取得显著进展，广泛应用于代码静态分析、设备故障诊断、日志告警归因等工业级场景，能有效提高工作效率和决策准确性。其性能高度依赖输入提示词的质量，优质提示词可引导模型生成高质量输出，推动相关领域的智能化发展。然而，实际应用中提示词质量不稳定的问题较为突出，严重影响了大语言模型的应用效果。

2、当前，提示词优化主要采用以下几种方式：一是人工试错法，由专业人员凭借个人经验不断尝试不同的提示词，以找到最合适的表述。这种方法依赖人工，效率较低，且结果受限于个人能力和经验。二是基于梯度的连续提示向量优化，通过对模型内部参数进行梯度计算来优化提示词。但此方法要求访问模型内部参数，对于闭源模型的api并不适用。三是基于启发式搜索的方法，通过预设规则和策略搜索可能的提示词组合。不过，该方法缺乏系统化的质量评估手段，容易陷入局部最优，难以找到全局最优解。

3、现有提示词优化方法存在诸多缺陷。一方面，这些方法缺乏无需标注数据的自动化质量评估指标，无法在推理服务的自动化流水线中实时计算，导致评估过程繁琐且不及时。另一方面，进化搜索过程中缺乏提前终止机制，即使提示词已达到较好的效果，仍会继续进行迭代，使得评估阶段的大语言模型推理调用次数过多，浪费了大量的计算资源和api调用配额。此外，提示词质量不稳定会导致模型输出语义分散，服务端需要进行多次重试推理才能获得可用结果，进一步增加了计算成本和时间开销。

技术实现思路

1、第一方面，本技术提供了一种大语言模型提示词自进化方法，采用如下的技术方案：

2、一种大语言模型提示词自进化方法，包括如下步骤：

3、基于接收的用户任务构建提示词种群，所述提示词种群中各个体为包含多个基因功能段的结构化基因序列；

4、将所述结构化基因序列解码为候选提示词，并将所述候选提示词输入大语言模型执行独立推理，对推理得到的输出结果进行语义聚类计算各所述候选提示词的语义熵值，基于所述语义熵值确定各所述候选提示词的适应度；

5、基于所述适应度对当前所述提示词种群执行选择，在所述基因功能段的边界处执行交叉和变异操作，生成新一代结构化基因序列；

6、基于所述适应度确定最优候选提示词，所述最优候选提示词的所述语义熵值小于收敛阈值时终止迭代并作为目标提示词输出，否则继续迭代进化直至满足收敛条件或达到最大迭代次数。

7、通过采用上述技术方案，将提示词结构化编码为包含多个功能段的基因序列，可在保持提示词整体结构完整性的同时实现细粒度组合优化；引入语义熵作为提示词质量的核心量化评估指标，可量化提示词引导模型输出的确定性程度，且该指标无需标注数据和人工评判，可在自动化流水线中实时计算；以语义熵为核心构建多目标适应度函数，驱动基因选择、交叉和变异操作实现提示词种群的迭代进化，还引入自适应阈值衰减策略，当语义熵收敛时提前终止进化，避免后续无效迭代的推理调用开销。

8、优选地，所述基于接收的用户任务构建提示词种群，具体包括如下步骤：

9、接收包含任务描述文本和输出约束条件的用户任务，对所述用户任务进行上下文特征提取，生成上下文特征向量；

10、从提示词基因库中检索与所述上下文特征向量相匹配的基因模板，依据所述基因模板和随机初始化的基因片段，构建提示词基因种群，所述提示词基因种群中每个个体为一条结构化基因序列，所述结构化基因序列至少包含两个基因功能段；

11、基于每个所述个体在所述提示词基因库中进行检索，若所述个体在所述提示词基因库中存在历史适应度记录，复用对应的所述历史适应度记录；

12、若所述个体在所述提示词基因库中不存在历史适应度记录，将所述个体标记为待评估个体，后续计算所述语义熵值和所述适应度。

13、通过采用上述技术方案，接收用户任务并进行上下文特征提取生成特征向量，可精准检索匹配的基因模板，结合随机初始化基因片段构建提示词基因种群，使种群更贴合用户任务需求；对种群个体检索历史适应度记录，复用已有记录可减少重复计算，提高效率，标记待评估个体后续计算语义熵值和适应度，能全面评估种群个体，为后续进化操作提供准确依据。

14、优选地，所述将所述结构化基因序列解码为候选提示词，并将所述候选提示词输入大语言模型执行独立推理，对推理得到的输出结果进行语义聚类计算各所述候选提示词的语义熵值，具体包括如下步骤：

15、将所述候选提示词分别输入大语言模型，每个所述候选提示词执行多次独立推理，得到多组输出结果；

16、利用语义嵌入模型将所述多组输出结果映射为语义向量集合；

17、对所述语义向量集合执行聚类算法划分为多个语义等价类；

18、统计各所述语义等价类中包含的输出结果数量，并基于所述输出结果数量计算各所述语义等价类的概率分布；

19、依据所述概率分布计算得到所述候选提示词的语义熵值。

20、通过采用上述技术方案，将候选提示词输入大语言模型进行多次独立推理，利用语义嵌入和聚类算法对输出结果进行处理，能有效量化候选提示词引导模型输出的确定性程度，语义熵值越低表明提示词表达越清晰、模型输出越稳定，可减少服务端重试推理次数；同时该过程无需标注数据和人工评判，可在自动化流水线中实时计算。

21、优选地，所述基于所述语义熵值确定各所述候选提示词的适应度，具体包括如下步骤：

22、采用多目标适应度函数和所述语义熵值计算适应度，所述多目标适应度函数为，；

23、其中、、为权重系数；

24、为归一化基准值，，为当前种群语义熵的最大值，为防止除零的正常数；

25、为任务完成度评分；为长度效率因子。

26、通过采用上述技术方案，利用多目标适应度函数结合语义熵值、任务完成度评分和长度效率因子计算候选提示词的适应度，能综合考虑提示词引导模型输出的确定性、任务完成情况以及提示词长度等因素，更全面、准确地评估提示词质量，为提示词种群的迭代进化提供更合理的依据，有助于筛选出更优的提示词，进而提高大语言模型的输出质量和稳定性，减少服务端的重试推理次数和计算资源开销。

27、优选地，所述结构化基因序列的所述功能段包含角色定义段、任务指令段、约束条件段、输出格式段以及示例引导段。

28、通过采用上述技术方案，结构化基因序列包含角色定义段、任务指令段、约束条件段、输出格式段以及示例引导段，可实现细粒度的结构化交叉变异，避免随机搜索的盲目性，使得提示词的整体结构更清晰完整，能更精准引导大语言模型，提升输出稳定性和质量，降低服务端重试推理率。

29、优选地，所述基于所述适应度对当前所述提示词种群执行选择，在所述基因功能段的边界处执行交叉和变异操作，生成新一代结构化基因序列，具体包括如下步骤：

30、对各所述个体的所述适应度执行降序排列，选取所述适应度排名前预设数量的所述个体，并对剩余的所述个体采用概率选择产生亲本对；

31、对所述亲本对在所述基因功能段的边界处执行交叉操作，生成子代；

32、对所述子代执行受控变异操作，生成新一代结构化基因序列。

33、通过采用上述技术方案，对各个体的适应度执行降序排列并选取排名前预设数量的个体，可保留适应度高的个体；对剩余个体采用概率选择产生亲本对，能增加种群多样性；在基因功能段的边界处执行交叉操作生成子代，可在保持功能段内部完整性的同时实现细粒度组合优化；对执行交叉操作得到的子代执行受控变异操作，能进一步优化基因序列，从而生成更优的新一代结构化基因序列，有助于提高提示词质量，降低服务端推理开销。

34、优选地，所述对所述子代执行受控变异操作，具体包括如下步骤：

35、计算各所述基因功能段对所述适应度的边际贡献值，删除所述边际贡献值低于预设贡献阈值的所述基因功能段。

36、通过采用上述技术方案，能够对结构化基因序列子代进行受控变异，删除对适应度边际贡献值低于预设贡献阈值的基因功能段，有助于去除对提示词质量提升作用较小的部分，使提示词更精炼，提高提示词质量，进而提高大语言模型输出的稳定性，减少服务端重试推理次数，降低推理计算资源的浪费。

37、优选地，所述基于所述适应度确定最优候选提示词，所述最优候选提示词的所述语义熵值小于收敛阈值时终止迭代并作为目标提示词输出，具体包括如下步骤：

38、采用自适应衰减策略计算收敛阈值，所述收敛阈值为，；

39、其中为初始阈值，为衰减系数，t当前迭代次数，为最大迭代次数，

40、当所述最优候选提示词的所述语义熵值小于经所述收敛阈值时，切断后续迭代对大语言模型推理接口的网络调用，提前终止迭代。

41、通过采用上述技术方案，利用自适应衰减策略计算收敛阈值，能使进化前期允许较高熵值以保持种群多样性，进化后期逐步收紧阈值以聚焦最优解；当最优候选提示词语义熵值小于收敛阈值时，切断后续迭代对大语言模型推理接口的网络调用，可提前终止无效迭代，减少大语言模型推理调用次数，降低服务端的重试推理率，释放服务端的gpu显存和网络带宽资源，减少无效的token生成量，从而节约计算资源。

42、第二方面，本技术提供了一种大语言模型提示词自进化系统，采用如下的技术方案：

43、一种大语言模型提示词自进化系统，包括如下模块：

44、种群构建模块，用于基于接收的用户任务构建提示词种群，所述提示词种群中各个体为包含多个基因功能段的结构化基因序列；

45、语义熵评估模块，用于将所述结构化基因序列解码为候选提示词，并将所述候选提示词输入大语言模型执行独立推理，对推理得到的输出结果进行语义聚类计算各所述候选提示词的语义熵值，基于所述语义熵值确定各所述候选提示词的适应度；

46、进化模块，用于基于所述适应度对当前所述提示词种群执行选择，在所述基因功能段的边界处执行交叉和变异操作，生成新一代结构化基因序列作为新一代候选提示词；

47、收敛判定模块，用于基于所述适应度确定最优候选提示词，所述最优候选提示词的所述语义熵值小于收敛阈值时终止迭代并作为目标提示词输出，否则继续迭代进化直至满足收敛条件或达到最大迭代次数。

48、通过采用上述技术方案，通过采用上述技术方案，该系统模块可基于用户任务构建提示词种群，将基因序列解码为候选提示词并输入大语言模型推理，经语义聚类计算语义熵和适应度，执行选择、交叉和变异操作生成新一代候选提示词，根据适应度确定最优候选提示词，当语义熵小于收敛阈值时终止迭代输出目标提示词，否则继续迭代，实现提示词的自动优化，提高了提示词质量，降低了服务端推理开销，且整个过程无需标注数据和人工干预。

49、第三方面，本技术提供了一种智能终端，采用如下的技术方案：

50、一种智能终端，包括存储器和处理器，所述存储器中存储有至少一条指令、至少一段程序、代码集或指令集，所述至少一条指令、至少一段程序、代码集或指令集由所述处理器加载并执行以实现如前文所述的大语言模型提示词自进化方法。

51、综上所述，本技术包括以下至少一种有益技术效果：

52、（1）本技术通过语义熵收敛判定提前终止无效迭代，减少大语言模型推理调用次数，降低服务端的重试推理率；

53、（2）本技术的语义熵指标无需标注数据和人工参与，可在推理服务流水线中实时计算；

54、（3）本技术的基因编码结构支持细粒度的结构化交叉变异，避免随机搜索的盲目性；

55、（4）本技术的基因库动态更新和基因老化机制使同类任务的后续优化可复用历史经验，降低计算开销。