模型任务中断恢复方法、装置、电子设备及存储介质与流程

摘要: 本技术涉及人工智能,特别涉及一种模型任务中断恢复方法、装置、电子设备及存储介质。背景技术:1、大模型知识语料批量生成是知识库运营的核心环节,通过批量调用大语言模...
模型任务中断恢复方法、装置、电子设备及存储介质与流程

本技术涉及人工智能,特别涉及一种模型任务中断恢复方法、装置、电子设备及存储介质。

背景技术:

1、大模型知识语料批量生成是知识库运营的核心环节,通过批量调用大语言模型,为知识库中的每条标准问生成语义一致的相似问和标准答案,形成可检索的知识语料。一次批量任务通常包含数百至数万条标准问,需要数千至上万次模型调用,任务执行时间可达数小时。

2、在当前的批量知识语料生成方案中,通常是任务创建时保存“使用默认模型”或“使用某个预设提示词/指令”等配置选择值,执行器运行时再读取全局配置并调用模型,任务表中只记录任务级的成功或失败状态。

3、然而,由于配置读取时点滞后于任务创建时点,任务排队或中途重试期间全局配置可能已被修改,导致同一任务中断前后的生成结果采用不同的模型参数和提示词,结果口径不一致,无法解释语料是按哪一版配置生成的。同时,由于任务表中仅保存任务级状态,没有按标准问保存检查点,任务中断后无法区分已完成输入、半成品输入和未处理输入,只能从头开始任务,产生大量重复模型调用,且执行器先插入结果项、后写入明细的写入顺序会在异常中断时留下“有主记录但明细为空”的半成品,恢复时若仅判断结果项是否存在,会将半成品误判为完成。可见,采用当前的批量知识语料生成方案,模型任务中断前后配置一致性差、恢复粒度过粗、进度识别不可靠。

技术实现思路

1、本技术的主要目的是提出一种模型任务中断恢复方法、装置、电子设备及存储介质,旨在优化模型任务中断前后配置一致性,细化恢复粒度,提高进度识别可靠性。

2、第一方面,本发明提供一种模型任务中断恢复方法,包括:

3、响应于批量生成任务的任务创建请求,根据所述任务创建请求中的配置选择信息,解析得到所述批量生成任务实际执行所需的执行配置,将所述执行配置作为任务配置快照写入所述批量生成任务的任务记录;

4、解析所述任务创建请求中的源文件,得到所述批量生成任务的完整输入清单,所述完整输入清单包括:多个输入单元,每个所述输入单元包括一条标准问和所述标准问对应的标准化标识,所述标准问和所述标准化标识用于生成主结果项,所述主结果项包括所述标准化标识和相似问数量;

5、分别根据每个所述输入单元和所述任务配置快照调用预设大语言模型,获取每个所述输入单元对应的相似问集合;

6、根据所述相似问集合生成相似问明细,将所述主结果项和所述相似问明细在同一数据库事务内提交,作为所述输入单元的检查点数据;

7、若所述批量生成任务发生中断,在恢复执行时,加载所述任务配置快照、所述完整输入清单和已提交的所述检查点数据,对各所述输入单元进行完成判定,将满足完成条件的所述输入单元划分为已完成集合,将不满足完成条件的所述输入单元划分为待处理集合,所述待处理集合中的所述输入单元用于在恢复执行时重新获取所述相似问集合和重新提交所述检查点数据。

8、在可选的实施方式中,所述任务配置快照为不可变更任务配置快照,所述任务配置快照包括:单条目标生成数量、补足轮数上限、最低可接受数量和答案生成策略,所述批量生成任务执行所需的所述执行配置均是从所述任务配置快照中读取的。

9、在可选的实施方式中,所述解析所述任务创建请求中的源文件,得到所述批量生成任务的完整输入清单,包括:

10、对所述标准问执行文本规范化处理,得到规范化文本,将所述规范化文本作为所述标准化标识;其中,所述文本规范化处理包括:字符标准化处理、去除首尾空白、压缩连续空白、英文字母大小写转换以及中英文标点符号映射中的至少一种。

11、在可选的实施方式中,所述分别根据每个所述输入单元和所述任务配置快照调用预设大语言模型,获取每个所述输入单元对应的相似问集合,包括:

12、根据所述单条目标生成数量和预设单批数量,确定所述输入单元的基础批次数,按所述基础批次数分批调用所述预设大语言模型,生成所述标准问对应的候选语料;

13、对所述候选语料进行数组截取和文本清洗处理,剔除不符合预设元素类型要求的候选语料;

14、将清洗后的所述候选语料加入所述输入单元对应的有序集合,所述有序集合在所述输入单元的各批次之间共用;其中,所述有序集合中保存的候选语料为清洗后的所述候选语料中与所述标准问的所述标准化标识不同的、且首次出现的候选语料;

15、若所述有序集合中的有效数量未达到所述单条目标生成数量,则根据剩余数量和所述补足轮数上限,追加补足批次,直至所述有效数量达到所述单条目标生成数量或达到所述补足轮数上限,得到所述输入单元对应的满足所述单条目标生成数量的所述相似问集合。

16、在可选的实施方式中,所述对各所述输入单元进行完成判定,将满足完成条件的所述输入单元划分为已完成集合,将不满足完成条件的所述输入单元划分为待处理集合,包括:

17、若所述输入单元的所述主结果项存在、所述主结果项中保存的标准化标识与所述输入单元的所述标准化标识一致、所述主结果项中保存的相似问数量与所述主结果项关联的所述相似问明细的实际计数一致、所述实际计数大于或等于所述最低可接受数量,且所述答案生成策略要求生成答案时所述主结果项中的答案字段非空,则将所述输入单元加入所述已完成集合;

18、若所述输入单元存在所述主结果项但不满足所述完成条件,则删除所述主结果项下的旧相似问明细,将所述主结果项中的相似问数量复位,将所述输入单元加入所述待处理集合;

19、若所述输入单元不存在所述主结果项,则创建相似问数量为零的所述主结果项,将所述输入单元加入所述待处理集合。

20、在可选的实施方式中,所述将所述主结果项和所述相似问明细在同一数据库事务内提交,作为所述输入单元的检查点数据,包括:

21、在同一数据库事务内锁定所述主结果项,删除所述主结果项下已存在的旧相似问明细,插入新相似问明细,将所述主结果项中的相似问数量更新为所述新相似问明细的实际插入数量;所述事务提交后,所述输入单元被计入成功。

22、在可选的实施方式中,所述方法还包括:

23、根据所述批量生成任务的任务标识查询所述批量生成任务的调度作业,所述调度作业包括作业状态;

24、对所述调度作业执行带原作业状态条件的更新操作,将所述调度作业的所述作业状态从待执行状态更新为执行中状态;

25、当所述更新操作的受影响记录数为一时,开始执行所述批量生成任务。

26、第二方面,本发明提供一种模型任务中断恢复装置,包括:

27、配置模块,用于响应于批量生成任务的任务创建请求,根据所述任务创建请求中的配置选择信息,解析得到所述批量生成任务实际执行所需的执行配置,将所述执行配置作为任务配置快照写入所述批量生成任务的任务记录;

28、解析模块,用于解析所述任务创建请求中的源文件,得到所述批量生成任务的完整输入清单,所述完整输入清单包括:多个输入单元,每个所述输入单元包括一条标准问和所述标准问对应的标准化标识,所述标准问和所述标准化标识用于生成主结果项,所述主结果项包括所述标准化标识和相似问数量;

29、生成模块,用于分别根据每个所述输入单元和所述任务配置快照调用预设大语言模型,获取每个所述输入单元对应的相似问集合;

30、提交模块,用于根据所述相似问集合生成相似问明细,将所述主结果项和所述相似问明细在同一数据库事务内提交,作为所述输入单元的检查点数据;

31、恢复模块,用于若所述批量生成任务发生中断,在恢复执行时,加载所述任务配置快照、所述完整输入清单和已提交的所述检查点数据,对各所述输入单元进行完成判定,将满足完成条件的所述输入单元划分为已完成集合,将不满足完成条件的所述输入单元划分为待处理集合,所述待处理集合中的所述输入单元用于在恢复执行时重新获取所述相似问集合和重新提交所述检查点数据。

32、第三方面,本发明提供一种电子设备,包括:处理器、存储介质和总线,所述存储介质存储有所述处理器可执行的机器可读指令,当所述电子设备运行时,所述处理器与所述存储介质之间通过总线通信,所述处理器执行所述机器可读指令,以执行如前述实施方式任一项所述方法的步骤。

33、第四方面,本发明提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行如前述实施方式任一项所述方法的步骤。

34、本技术的有益效果是:

35、本技术实施例提供的模型任务中断恢复方法,包括:响应于批量生成任务的任务创建请求,解析得到执行配置并将上述执行配置作为任务配置快照写入上述批量生成任务的任务记录,解析上述任务创建请求中的源文件得到上述批量生成任务的完整输入清单,分别根据每个上述输入单元和上述任务配置快照调用预设大语言模型获取每个上述输入单元对应的相似问集合,根据上述相似问集合生成相似问明细并将上述主结果项和上述相似问明细在同一数据库事务内提交作为上述输入单元的检查点数据,若上述批量生成任务发生中断,在恢复执行时加载上述任务配置快照、上述完整输入清单和已提交的上述检查点数据进行完成判定并划分已完成集合和待处理集合。该方法通过将任务创建时的执行配置固化为不可变更的任务配置快照、以输入单元为粒度建立由主结果项和相似问明细构成的可恢复检查点、并在恢复执行时对输入单元进行完成判定以划分已完成集合和待处理集合,实现了仅对待处理集合重新执行而跳过已完成的输入单元,从而优化了模型任务中断前后配置一致性,细化了恢复粒度,提高了进度识别可靠性。