基于答案支撑缺失的大语言模型推理资源调度方法、装置
本申请涉及人工智能,特别是涉及一种基于答案支撑缺失的大语言模型推理资源调度方法、装置。
背景技术:
1、随着大语言模型技术的快速发展,基于大语言模型的问答、推理、代码生成、智能体任务执行和检索增强生成系统得到了广泛应用。然而,大语言模型在实际部署中仍面临技术问题。
2、对于简单问题,现有系统常因固定深度推理或全局启用多轮检索、工具调用而产生大量冗余词元(token)和推理延迟,造成资源浪费;对于复杂问题,现有系统常因固定长度输出或单次调用,易出现中间推理步骤缺失、结论错误或任务未完成。同时,检索与工具调用缺乏动态控制,现有系统通常在推理前静态决定是否启用检索增强生成方法(rag)或工具调用,无法根据候选答案生成后的实际证据缺口或工具缺口自适应调整,易引入检索噪声或误调用。
3、然而,现有自适应推理方法也存在局限。例如,现有模型路由方法如best-route、route-to-reason)主要根据问题复杂度在推理前一次性选择模型或策略;现有自适应词元预算方法(如selfbudgeter)主要预测生成长度;现有动态检索增强生成方法(如dior、confrag)主要判断是否触发检索。上述方法均忽略了候选答案生成后的状态信息,无法判断当前答案究竟缺少证据、缺少推理步骤还是缺少工具执行结果。
4、并且,由于多类推理资源缺乏统一调度机制,推理步骤、外部检索、工具调用、等资源具有不同的成本与质量提升效益,因此现有方法难以在同一优化框架下比较并选择最优资源动作,导致资源利用效率低下。
5、针对上述的现有技术中存在的在大语言模型推理中,因固定资源分配导致的简单问题过度推理与复杂问题推理不足,且缺乏对资源的动态精准调度的技术问题,目前尚未提出有效的解决方案。
技术实现思路
1、本公开的实施例提供了一种基于答案支撑缺失的大语言模型推理资源调度方法、装置,以至少解决现有技术中存在的在大语言模型推理中,因固定资源分配导致的简单问题过度推理与复杂问题推理不足,且缺乏对资源的动态精准调度的技术问题。
2、根据本公开实施例的一个方面,提供了一种基于答案支撑缺失的大语言模型推理资源调度方法,包括:基于预设的资源配置,调用大语言模型,生成输入问题的初始候选答案以及对应的初始资源状态信息;对初始候选答案进行结构化拆解,并确定对应的支撑缺失向量。其中支撑缺失向量用于指示初始候选答案对应的支撑缺失类型;根据支撑缺失向量,确定候选推理动作集合,并确定候选推理动作集合中各个候选推理动作对应的单位资源质量增益。其中单位资源质量增益用于指示在消耗单位资源的情况下各个候选推理动作对答案质量的提升;利用单位资源质量增益最大的候选推理动作,更新初始候选答案和初始资源状态信息,并计算更新后的下一候选答案对应的答案质量分数;以及在单位资源质量增益、答案质量分数以及初始资源状态信息中的至少一个,满足停止条件的情况下,输出对应的最终候选答案,作为输入问题的答案。
3、根据本公开实施例的另一个方面,还提供了一种存储介质,存储介质包括存储的程序,其中,在程序运行时由处理器执行以上任意一项所述的方法。
4、根据本公开实施例的另一个方面,还提供了一种基于答案支撑缺失的大语言模型推理资源调度装置,包括:初始候选答案生成模块,用于基于预设的资源配置,调用大语言模型,生成输入问题的初始候选答案以及对应的初始资源状态信息;支撑缺失向量确定模块,用于对初始候选答案进行结构化拆解,并确定对应的支撑缺失向量。其中支撑缺失向量用于指示初始候选答案对应的支撑缺失类型;单位资源质量增益确定模块,用于根据支撑缺失向量,确定候选推理动作集合,并确定候选推理动作集合中各个候选推理动作对应的单位资源质量增益。其中单位资源质量增益用于指示在消耗单位资源的情况下各个候选推理动作对答案质量的提升;更新模块,用于利用单位资源质量增益最大的候选推理动作,更新初始候选答案和初始资源状态信息,并计算更新后的下一候选答案对应的答案质量分数;以及答案输出模块,用于在单位资源质量增益、答案质量分数以及初始资源状态信息中的至少一个,满足停止条件的情况下,输出对应的最终候选答案,作为输入问题的答案。
5、根据本公开实施例的另一个方面,还提供了一种基于答案支撑缺失的大语言模型推理资源调度装置,包括:处理器;以及存储器,与处理器连接,用于为处理器提供处理以下处理步骤的指令:基于预设的资源配置,调用大语言模型,生成输入问题的初始候选答案以及对应的初始资源状态信息;对初始候选答案进行结构化拆解,并确定对应的支撑缺失向量。其中支撑缺失向量用于指示初始候选答案对应的支撑缺失类型;根据支撑缺失向量,确定候选推理动作集合,并确定候选推理动作集合中各个候选推理动作对应的单位资源质量增益。其中单位资源质量增益用于指示在消耗单位资源的情况下各个候选推理动作对答案质量的提升;利用单位资源质量增益最大的候选推理动作,更新初始候选答案和初始资源状态信息,并计算更新后的下一候选答案对应的答案质量分数;以及在单位资源质量增益、答案质量分数以及初始资源状态信息中的至少一个,满足停止条件的情况下,输出对应的最终候选答案,作为输入问题的答案。
6、为了解决缺乏对资源的动态精准调度的问题,本申请提供了一种基于答案支撑缺失的大语言模型推理资源调度方法。首先,基于最小的资源配置,调用大语言模型生成初始候选答案。然后,对初始候选答案结构化拆解,并将初始候选答案对应的支撑缺失类型(即,初始候选答案需要优化的类型)量化为计算支撑缺失向量,并以此为依据确定候选推理动作集合。然后,选取单位资源质量增益最大的候选推理动作,迭代更新初始候选答案,提升答案质量,直至对应的数据满足停止条件,将更新后的最终候选答案作为输入问题的答案输出给用户。
7、从而,有效解决了因固定资源分配导致的简单问题过度推理与复杂问题推理不足的资源错配问题,并且在保障答案质量稳定提升的同时实现推理资源的精细化管控和调度。进而,解决了现有技术中存在的在大语言模型推理中,因固定资源分配导致的简单问题过度推理与复杂问题推理不足,且缺乏对资源的动态精准调度的技术问题。
1.一种基于答案支撑缺失的大语言模型推理资源调度方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述支撑缺失向量包括:证据缺失值、推理缺失值以及工具缺失值,并且对所述初始候选答案进行结构化拆解,并确定对应的支撑缺失向量的操作,包括:
3.根据权利要求2所述的方法,其特征在于,所述候选推理动作集合包括:追加推理步骤动作、追加外部检索动作以及调用外部工具动作中的至少一种,并且根据所述支撑缺失向量,确定候选推理动作集合的操作,包括:
4.根据权利要求2所述的方法,其特征在于,所述初始资源状态信息包括:初始资源成本,并且确定所述候选推理动作集合中各个候选推理动作对应的单位资源质量增益的操作,包括:
5.根据权利要求4所述的方法,其特征在于,确定所述初始候选答案对应的初始答案质量分数的操作,包括:
6.根据权利要求4所述的方法,其特征在于,所述初始资源状态信息还包括:初始词元数,并且利用所述单位资源质量增益最大的候选推理动作,更新所述初始候选答案和所述初始资源状态信息,并计算更新后的下一候选答案对应的答案质量分数的操作,包括:
7.根据权利要求6所述的方法,其特征在于,在基于预设的资源配置,调用大语言模型,生成输入问题的初始候选答案以及对应的初始资源状态信息之前的操作,包括:
8.根据权利要求7所述的方法,其特征在于,所述停止条件包括:所述答案质量分数大于等于预设质量阈值,所述累计成本大于等于所述成本预算,所述累计词元数大于等于所述词元数预算,以及所述最终候选答案的候选推理动作集合对应的单位资源质量增益小于预设增益阈值。
9.一种存储介质,其特征在于,所述存储介质包括存储的程序,其中,在所述程序运行时由处理器执行权利要求1至8中任意一项所述的方法。
10.一种基于答案支撑缺失的大语言模型推理资源调度装置,其特征在于,包括:
11.一种基于答案支撑缺失的大语言模型推理资源调度装置,其特征在于,包括:
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com